添加链接
link之家
链接快照平台
  • 输入网页链接,自动生成快照
  • 标签化管理网页链接
注册/登录

详细解读ASP.NET的异步

开发 后端
在前文中,介绍了.NET下的多种异步的形式,在WEB程序中,天生就是多线程的,因此使用异步应该更为谨慎。本文将着重展开ASP.NET中的异步。

在前文中,介绍了.NET下的多种异步的形式,在WEB程序中,天生就是多线程的,因此使用异步应该更为谨慎。本文将着重展开ASP.NET中的异步。

【注意】本文中提到的异步指的是服务器端异步,而非客户端异步(Ajax)。

对于HTTP的请求响应模型,服务器无法主动通知或回调客户端,当客户端发起一个请求后,必须保持连接等待服务器的返回结果,才能继续处理,因此,对于客户端来说,请求与响应是无法异步进行,也就是说无论服务器如何处理请求,对于客户端来说没有任何差别。

那么ASP.NET异步指的又是什么,解决了什么问题呢?

在解释ASP.NET异步前,先来考察下ASP.NET线程模型。

ASP.NET线程模型

我们知道,一个WEB服务可以同时服务器多个用户,我们可以想象一下,WEB程序应该运行于多线程环境中,对于运行WEB程序的线程,我们可以称之为WEB线程,那么,先来看看WEB线程长什么样子吧。

我们可以用一个HttpHandler输出一些内容。

  1. public class Handler : IHttpHandler  
  2. {  
  3.  
  4.     public void ProcessRequest(HttpContext context)  
  5.     {  
  6.         context.Response.ContentType = "text/plain";  
  7.         var thread = Thread.CurrentThread;  
  8.         context.Response.Write(  
  9.             string.Format("Name:{0}\r\nManagedThreadId:{1}\r\nIsBackground:{2}\r\nIsThreadPoolThread:{3}",   
  10.                 thread.Name,  
  11.                 thread.ManagedThreadId,  
  12.                 thread.IsBackground,  
  13.                 thread.IsThreadPoolThread)  
  14.             );  
  15.     }  
  16.  
  17.     public bool IsReusable  
  18.     {  
  19.         get {return true;}  
  20.     }  

你可以看到类似于这样的结果:

Name:

ManagedThreadId:57

IsBackground:True

IsThreadPoolThread:True

这里可以看到,WEB线程是一个没有名称的线程池中的线程,如果刷新这个页面,还有机会看到 ManagedThreadId 在不断变化,并且可能重复出现。说明WEB程序有机会运行于线程池中的不同线程。

为了模拟多用户并发访问的情况,我们需要对这个处理程序添加人为的延时,并输出线程相关信息与开始结束时间,再通过客户端程序同时发起多个请求,查看返回的内容,分析请求的处理情况。

  1. public void ProcessRequest(HttpContext context)  
  2. {  
  3.     DateTime begin = DateTime.Now;  
  4.     int t1, t2, t3;  
  5.     ThreadPool.GetAvailableThreads(out t1, out t3);  
  6.     ThreadPool.GetMaxThreads(out t2, out t3);  
  7.     Thread.Sleep(TimeSpan.FromSeconds(10));  
  8.     DateTime end = DateTime.Now;  
  9.     context.Response.ContentType = "text/plain";  
  10.     var thread = Thread.CurrentThread;  
  11.     context.Response.Write(  
  12.         string.Format("TId:{0}\tApp:{1}\tBegin:{2:mm:ss,ffff}\tEnd:{3:mm:ss,ffff}\tTPool:{4}",   
  13.             thread.ManagedThreadId,  
  14.             context.ApplicationInstance.GetHashCode(),  
  15.             begin,  
  16.             end,  
  17.             t2 - t1  
  18.             )  
  19.         );  

我们用一个命令行程序来发起请求,并显示结果。

  1. static void Main()  
  2. {  
  3.     var url = new Uri("http://localhost:8012/Handler.ashx");  
  4.     var num = 50;  
  5.     for (int i = 0; i < num; i++)  
  6.     {  
  7.         var request = WebRequest.Create(url);  
  8.         request.GetResponseAsync().ContinueWith(t =>  
  9.         {  
  10.             var stream = t.Result.GetResponseStream();  
  11.             using (TextReader tr = new StreamReader(stream))  
  12.             {  
  13.                 Console.WriteLine(tr.ReadToEnd());  
  14.             }  
  15.         });  
  16.     }  
  17.     Console.ReadLine();  

这里,我们同时发起了50个请求,然后观察响应的情况。

【注意】后面的结果会因为操作系统、IIS版本、管道模式、.NET版本、配置项 的不同而不同,以下结果为在Windows Server 2008 R2 + IIS7.5 + .NET 4.5 beta(.NET 4 runtime) + 默认配置 中测试的结果,在没有特别说明的情况下,均为重启IIS后第一次运行的情况。
这个程序在我的电脑运行结果是这样的:

  1. TId:6   App:35898671    Begin:55:30,3176        End:55:40,3182  TPool:2  
  2. TId:5   App:22288629    Begin:55:30,3176        End:55:40,3212  TPool:2  
  3. TId:7   App:12549444    Begin:55:31,0426        End:55:41,0432  TPool:3  
  4. TId:8   App:22008501    Begin:55:31,5747        End:55:41,5752  TPool:4  
  5. TId:9   App:37121646    Begin:55:32,1067        End:55:42,1073  TPool:5  
  6. TId:10  App:33156464    Begin:55:32,6387        End:55:42,6393  TPool:6  
  7. TId:11  App:7995840     Begin:55:33,1707        End:55:43,1713  TPool:7  
  8. TId:12  App:36610825    Begin:55:33,7028        End:55:43,7033  TPool:8  
  9. TId:13  App:20554616    Begin:55:34,2048        End:55:44,2054  TPool:9  
  10. TId:14  App:15510466    Begin:55:35,2069        End:55:45,2074  TPool:10  
  11. TId:15  App:23324256    Begin:55:36,2049        End:55:46,2055  TPool:11  
  12. TId:16  App:34250480    Begin:55:37,2050        End:55:47,2055  TPool:12  
  13. TId:17  App:58408916    Begin:55:38,2050        End:55:48,2056  TPool:13  
  14. TId:18  App:2348279     Begin:55:39,2051        End:55:49,2057  TPool:14  
  15. TId:19  App:61669314    Begin:55:40,2051        End:55:50,2057  TPool:15  
  16. TId:6   App:35898671    Begin:55:40,3212        End:55:50,3217  TPool:15  
  17. TId:5   App:22288629    Begin:55:40,3232        End:55:50,3237  TPool:15  
  18. TId:7   App:12549444    Begin:55:41,0432        End:55:51,0438  TPool:15  
  19. TId:8   App:22008501    Begin:55:41,5752        End:55:51,5758  TPool:15  
  20. TId:9   App:37121646    Begin:55:42,1073        End:55:52,1078  TPool:15  
  21. TId:10  App:33156464    Begin:55:42,6393        End:55:52,6399  TPool:15  
  22. TId:11  App:7995840     Begin:55:43,1713        End:55:53,1719  TPool:15  
  23. TId:12  App:36610825    Begin:55:43,7043        End:55:53,7049  TPool:15  
  24. TId:13  App:20554616    Begin:55:44,2054        End:55:54,2059  TPool:15  
  25. TId:20  App:36865354    Begin:55:45,2074        End:55:55,2080  TPool:16  
  26. TId:14  App:15510466    Begin:55:45,2084        End:55:55,2090  TPool:16  
  27. TId:21  App:3196068     Begin:55:46,2055        End:55:56,2061  TPool:17  
  28. TId:15  App:23324256    Begin:55:46,2065        End:55:56,2071  TPool:17  
  29. TId:22  App:4186222     Begin:55:47,2055        End:55:57,2061  TPool:18  
  30. TId:16  App:34250480    Begin:55:47,2065        End:55:57,2071  TPool:18  
  31. TId:23  App:764807      Begin:55:48,2046        End:55:58,2052  TPool:19  
  32. TId:17  App:58408916    Begin:55:48,2056        End:55:58,2062  TPool:19  
  33. TId:24  App:10479095    Begin:55:49,2047        End:55:59,2052  TPool:20  
  34. TId:18  App:2348279     Begin:55:49,2057        End:55:59,2062  TPool:20  
  35. TId:25  App:4684807     Begin:55:50,2047        End:56:00,2053  TPool:21  
  36. TId:19  App:61669314    Begin:55:50,2057        End:56:00,2063  TPool:21  
  37. TId:6   App:35898671    Begin:55:50,3227        End:56:00,3233  TPool:21  
  38. TId:5   App:22288629    Begin:55:50,3237        End:56:00,3243  TPool:21  
  39. TId:7   App:12549444    Begin:55:51,0438        End:56:01,0443  TPool:21  
  40. TId:8   App:22008501    Begin:55:51,5758        End:56:01,5764  TPool:21  
  41. TId:9   App:37121646    Begin:55:52,1078        End:56:02,1084  TPool:21  
  42. TId:10  App:33156464    Begin:55:52,6399        End:56:02,6404  TPool:21  
  43. TId:11  App:7995840     Begin:55:53,1719        End:56:03,1725  TPool:21  
  44. TId:26  App:41662089    Begin:55:53,7049        End:56:03,7055  TPool:22  
  45. TId:12  App:36610825    Begin:55:53,7059        End:56:03,7065  TPool:22  
  46. TId:13  App:20554616    Begin:55:54,2069        End:56:04,2075  TPool:22  
  47. TId:27  App:46338128    Begin:55:55,2070        End:56:05,2076  TPool:23  
  48. TId:14  App:15510466    Begin:55:55,2090        End:56:05,2096  TPool:23  
  49. TId:20  App:36865354    Begin:55:55,2090        End:56:05,2096  TPool:23  
  50. TId:28  App:28975576    Begin:55:56,2051        End:56:06,2056  TPool:24 

从这个结果大概可以看出,开始两个请求几乎同时开始处理,因为线程池最小线程数为2(可配置),紧接着后面的请求会每隔半秒钟开始一个,因为如果池中的线程都忙,会等待半秒(.NET版本不同而不同),如果还是没有线程释放则开启新的线程,直到达到最大线程数(可配置)。未能在线程池中处理的请求将被放入请求队列,当一个线程释放后,下一个请求紧接着开始在该线程处理。

最终50个请求共产生24个线程,总用时约35.9秒。

光看数据不够形象,用简单的代码把数据转换成图形吧,下面是100个请求的处理过程。

我们可以看到,当WEB线程长时间被占用时,请求会由于线程池而阻塞,同时产生大量的线程,最终响应时间变长。

作为对比,我们列出处理时间10毫秒的数据。

  1. TId:6   App:44665200    Begin:41:07,9932        End:41:08,0032  TPool:2  
  2. TId:5   App:37489757    Begin:41:07,9932        End:41:08,0032  TPool:2  
  3. TId:5   App:44665200    Begin:41:08,0042        End:41:08,0142  TPool:2  
  4. TId:6   App:37489757    Begin:41:08,0052        End:41:08,0152  TPool:2  
  5. TId:5   App:44665200    Begin:41:08,0142        End:41:08,0242  TPool:2  
  6. TId:6   App:37489757    Begin:41:08,0152        End:41:08,0252  TPool:2  
  7. TId:5   App:44665200    Begin:41:08,0242        End:41:08,0342  TPool:2  
  8. TId:6   App:37489757    Begin:41:08,0252        End:41:08,0352  TPool:2  
  9. TId:5   App:44665200    Begin:41:08,0342        End:41:08,0442  TPool:2  
  10. TId:6   App:37489757    Begin:41:08,0352        End:41:08,0452  TPool:2  
  11. TId:5   App:44665200    Begin:41:08,0442        End:41:08,0542  TPool:2  
  12. TId:6   App:37489757    Begin:41:08,0452        End:41:08,0552  TPool:2  
  13. TId:5   App:44665200    Begin:41:08,0542        End:41:08,0642  TPool:2  
  14. TId:6   App:37489757    Begin:41:08,0552        End:41:08,0652  TPool:2  
  15. TId:5   App:44665200    Begin:41:08,0642        End:41:08,0742  TPool:2  
  16. TId:6   App:37489757    Begin:41:08,0652        End:41:08,0752  TPool:2  
  17. TId:5   App:44665200    Begin:41:08,0742        End:41:08,0842  TPool:2  
  18. TId:6   App:37489757    Begin:41:08,0752        End:41:08,0852  TPool:2  
  19. TId:5   App:44665200    Begin:41:08,0842        End:41:08,0942  TPool:2  
  20. TId:6   App:37489757    Begin:41:08,0852        End:41:08,0952  TPool:2  
  21. TId:5   App:44665200    Begin:41:08,0942        End:41:08,1042  TPool:2  
  22. TId:6   App:37489757    Begin:41:08,0952        End:41:08,1052  TPool:2  
  23. TId:5   App:44665200    Begin:41:08,1042        End:41:08,1142  TPool:2  
  24. TId:6   App:37489757    Begin:41:08,1052        End:41:08,1152  TPool:2  
  25. TId:5   App:44665200    Begin:41:08,1142        End:41:08,1242  TPool:2  
  26. TId:6   App:37489757    Begin:41:08,1152        End:41:08,1252  TPool:2  
  27. TId:5   App:44665200    Begin:41:08,1242        End:41:08,1342  TPool:2  
  28. TId:6   App:37489757    Begin:41:08,1252        End:41:08,1352  TPool:2  
  29. TId:5   App:44665200    Begin:41:08,1342        End:41:08,1442  TPool:2  
  30. TId:6   App:37489757    Begin:41:08,1352        End:41:08,1452  TPool:2  
  31. TId:5   App:44665200    Begin:41:08,1442        End:41:08,1542  TPool:2  
  32. TId:6   App:37489757    Begin:41:08,1452        End:41:08,1552  TPool:2  
  33. TId:5   App:44665200    Begin:41:08,1542        End:41:08,1642  TPool:2  
  34. TId:6   App:37489757    Begin:41:08,1552        End:41:08,1652  TPool:2  
  35. TId:5   App:44665200    Begin:41:08,1642        End:41:08,1742  TPool:2  
  36. TId:6   App:37489757    Begin:41:08,1652        End:41:08,1752  TPool:2  
  37. TId:5   App:44665200    Begin:41:08,1742        End:41:08,1842  TPool:3  
  38. TId:7   App:12547953    Begin:41:08,1752        End:41:08,1852  TPool:3  
  39. TId:6   App:37489757    Begin:41:08,1762        End:41:08,1862  TPool:3  
  40. TId:5   App:44665200    Begin:41:08,1842        End:41:08,1942  TPool:3  
  41. TId:7   App:12547953    Begin:41:08,1852        End:41:08,1952  TPool:3  
  42. TId:6   App:37489757    Begin:41:08,1862        End:41:08,1962  TPool:3  
  43. TId:5   App:44665200    Begin:41:08,1942        End:41:08,2042  TPool:3  
  44. TId:7   App:12547953    Begin:41:08,1952        End:41:08,2092  TPool:3  
  45. TId:6   App:37489757    Begin:41:08,1962        End:41:08,2102  TPool:3  
  46. TId:5   App:44665200    Begin:41:08,2052        End:41:08,2152  TPool:3  
  47. TId:7   App:12547953    Begin:41:08,2092        End:41:08,2192  TPool:3  
  48. TId:6   App:37489757    Begin:41:08,2102        End:41:08,2202  TPool:3  
  49. TId:5   App:44665200    Begin:41:08,2152        End:41:08,2252  TPool:3  
  50. TId:7   App:12547953    Begin:41:08,2192        End:41:08,2292  TPool:3 

共产生线程3个,总用时0.236秒。

根据以上的数据,我们可以得出结论,要提高系统响应时间与并发处理数,应尽可能减少WEB线程的等待。

【略】请各位自行查验当一次并发全部处理完毕后再次测试的处理情况。

【略】请各位自行查验当处理程序中使用线程池处理等待任务的处理情况。

如何减少WEB线程的等待呢,那就应该尽早的结果ProcessRequest方法,前一篇中讲到,对于一些需要等待完成的任务,可以使用异步方法来做,于是我们可以在ProcessRequest中调用异步方法,但问题是当ProcessRequest结束后,请求处理也即将结束,一但请求结束,将没有办法在这一次请求中返回结果给客户端,但是此时,异步任务还没有完成,当异步任务完成时,也许再也没有办法将结果传给客户端了。(难道用轮询?囧)

我们需要的方案是,处理请求时可以暂停处理(不是暂停线程),并保持客户端连接,在需要时,向客户端输出结果,并结束请求。

在这个模型中,可以看到,对于WebServerRuntime来说,我们的请求处理程序就是一个异步方法,而对于客户端来说,却并不知道后面的处理情况。无论在WebServerRuntime或是我们的处理程序,都没有直接占用线程,一切由何时SetComplete决定。同时可以看到,这种模式需要WebServerRuntime的紧密配合,提供调用异步方法的接口。在ASP.NET中,这个接口就是IHttpAsyncHandler。

异步ASP.NET处理程序

首先,我们来实现第一个异步处理程序,在适当的时候触发结束,在开始和结束时输出一些信息。

  1. public class Handler : IHttpHandler, IHttpAsyncHandler  
  2. {  
  3.     public void ProcessRequest(HttpContext context)  
  4.     {  
  5.         //异步处理器不执行该方法  
  6.     }  
  7.  
  8.     public bool IsReusable  
  9.     {  
  10.         //设置允许重用对象  
  11.         get { return false; }  
  12.     }  
  13.       
  14.     //请求开始时由ASP.NET调用此方法  
  15.     public IAsyncResult BeginProcessRequest(HttpContext context, AsyncCallback cb, object extraData)  
  16.     {  
  17.         context.Response.ContentType = "text/xml";  
  18.         context.Response.Write("App:");  
  19.         context.Response.Write(context.ApplicationInstance.GetHashCode());  
  20.         context.Response.Write("\tBegin:");  
  21.         context.Response.Write(DateTime.Now.ToString("mm:ss,ffff"));  
  22.         //输出当前线程  
  23.         context.Response.Write("\tThreadId:");  
  24.         context.Response.Write(Thread.CurrentThread.ManagedThreadId);  
  25.         //构建异步结果并返回  
  26.         var result = new WebAsyncResult(cb, context);  
  27.         //用一个定时器来模拟异步触发完成  
  28.         Timer timer = null;  
  29.         timer = new Timer(o =>  
  30.         {  
  31.             result.SetComplete();  
  32.             timer.Dispose();  
  33.         }, null, TimeSpan.FromSeconds(5), TimeSpan.FromSeconds(5));  
  34.         return result;  
  35.     }  
  36.  
  37.     //异步结束时,由ASP.NET调用此方法  
  38.     public void EndProcessRequest(IAsyncResult result)  
  39.     {  
  40.         WebAsyncResult webresult = (WebAsyncResult)result;  
  41.         webresult.Context.Response.Write("\tEnd:");  
  42.         webresult.Context.Response.Write(DateTime.Now.ToString("mm:ss,ffff"));  
  43.         //输出当前线程  
  44.         webresult.Context.Response.Write("\tThreadId:");  
  45.         webresult.Context.Response.Write(Thread.CurrentThread.ManagedThreadId);  
  46.     }  
  47.  
  48.     //WEB异步方法结果  
  49.     class WebAsyncResult : IAsyncResult  
  50.     {  
  51.         private AsyncCallback _callback;  
  52.  
  53.         public WebAsyncResult(AsyncCallback cb, HttpContext context)  
  54.         {  
  55.             Context = context;  
  56.             _callback = cb;  
  57.         }  
  58.  
  59.         //当异步完成时调用该方法  
  60.         public void SetComplete()  
  61.         {  
  62.             IsCompleted = true;  
  63.             if (_callback != null)  
  64.             {  
  65.                 _callback(this);  
  66.             }  
  67.         }  
  68.  
  69.         public HttpContext Context  
  70.         {  
  71.             get;  
  72.             private set;  
  73.         }  
  74.  
  75.         public object AsyncState  
  76.         {  
  77.             get { return null; }  
  78.         }  
  79.  
  80.         //由于ASP.NET不会等待WEB异步方法,所以不使用此对象  
  81.         public WaitHandle AsyncWaitHandle  
  82.         {  
  83.             get { throw new NotImplementedException(); }  
  84.         }  
  85.  
  86.         public bool CompletedSynchronously  
  87.         {  
  88.             get { return false; }  
  89.         }  
  90.  
  91.         public bool IsCompleted  
  92.         {  
  93.             get;  
  94.             private set;  
  95.         }  
  96.     }  

在这里,我们实现了一个简单的AsyncResult,由于ASP.NET通过回调方法获取异步完成,不会等待异步,所以不需要WaitHandle。在开始请求时,建立一个AsyncResult后直接返回,当异步完成时,调用AsyncResult的SetComplete方法,调用回调方法,再由 ASP.NET调用异步结束。此时整个请求即完成。

当我们访问这个地址,可以得到类似于下面的结果:

App:11240144 Begin:37:24,2676 ThreadId:6 End:37:29,2619 ThreadId:6

可以看到开始和结束在同一个线程中运行。

当有多个并发请求时,线程池将忙碌起来,开始与结束处理也奖有机会运行于不同的线程上。50个请求并发时的处理数据:

  1. App:52307948    Begin:39:47,8128        ThreadId:6      End:39:52,8231  ThreadId:5  
  2. App:58766839    Begin:39:47,8358        ThreadId:5      End:39:52,8321  ThreadId:7  
  3. App:23825510    Begin:39:47,8348        ThreadId:5      End:39:52,8321  ThreadId:7  
  4. App:30480920    Begin:39:47,8348        ThreadId:5      End:39:52,8321  ThreadId:7  
  5. App:62301924    Begin:39:47,8348        ThreadId:6      End:39:52,8321  ThreadId:6  
  6. App:28062782    Begin:39:47,8338        ThreadId:5      End:39:52,8321  ThreadId:6  
  7. App:41488021    Begin:39:47,8338        ThreadId:6      End:39:52,8321  ThreadId:7  
  8. App:15315213    Begin:39:47,8338        ThreadId:6      End:39:52,8321  ThreadId:6  
  9. App:17228638    Begin:39:47,8328        ThreadId:5      End:39:52,8321  ThreadId:7  
  10. App:51438283    Begin:39:47,8328        ThreadId:6      End:39:52,8321  ThreadId:6  
  11. App:32901400    Begin:39:47,8328        ThreadId:5      End:39:52,8321  ThreadId:7  
  12. App:61925337    Begin:39:47,8358        ThreadId:6      End:39:52,8321  ThreadId:6  
  13. App:24914721    Begin:39:47,8318        ThreadId:6      End:39:52,8321  ThreadId:6  
  14. App:26314214    Begin:39:47,8318        ThreadId:6      End:39:52,8321  ThreadId:6  
  15. App:51004322    Begin:39:47,8358        ThreadId:6      End:39:52,8321  ThreadId:6  
  16. App:51484875    Begin:39:47,8308        ThreadId:5      End:39:52,8321  ThreadId:7  
  17. App:19420176    Begin:39:47,8308        ThreadId:6      End:39:52,8321  ThreadId:6  
  18. App:16868352    Begin:39:47,8298        ThreadId:6      End:39:52,8321  ThreadId:7  
  19. App:61115195    Begin:39:47,8298        ThreadId:5      End:39:52,8321  ThreadId:6  
  20. App:63062333    Begin:39:47,8288        ThreadId:6      End:39:52,8321  ThreadId:6  
  21. App:53447344    Begin:39:47,8298        ThreadId:5      End:39:52,8321  ThreadId:7  
  22. App:31665793    Begin:39:47,8288        ThreadId:5      End:39:52,8321  ThreadId:7  
  23. App:2174563     Begin:39:47,8288        ThreadId:6      End:39:52,8321  ThreadId:6  
  24. App:12053474    Begin:39:47,8318        ThreadId:5      End:39:52,8321  ThreadId:7  
  25. App:41728762    Begin:39:47,8278        ThreadId:6      End:39:52,8321  ThreadId:6  
  26. App:6385742     Begin:39:47,8278        ThreadId:5      End:39:52,8321  ThreadId:7  
  27. App:13009416    Begin:39:47,8268        ThreadId:6      End:39:52,8321  ThreadId:6  
  28. App:43205102    Begin:39:47,8268        ThreadId:5      End:39:52,8321  ThreadId:7  
  29. App:14333193    Begin:39:47,8268        ThreadId:6      End:39:52,8321  ThreadId:6  
  30. App:2808346     Begin:39:47,8258        ThreadId:6      End:39:52,8321  ThreadId:6  
  31. App:37489757    Begin:39:47,8128        ThreadId:5      End:39:52,8231  ThreadId:6  
  32. App:34106743    Begin:39:47,8258        ThreadId:5      End:39:52,8321  ThreadId:7  
  33. App:30180123    Begin:39:47,8248        ThreadId:6      End:39:52,8321  ThreadId:6  
  34. App:44313942    Begin:39:47,8248        ThreadId:5      End:39:52,8321  ThreadId:7  
  35. App:12611187    Begin:39:47,8248        ThreadId:6      End:39:52,8321  ThreadId:6  
  36. App:7141266     Begin:39:47,8238        ThreadId:5      End:39:52,8321  ThreadId:7  
  37. App:25425822    Begin:39:47,8278        ThreadId:5      End:39:52,8321  ThreadId:7  
  38. App:51288387    Begin:39:47,8238        ThreadId:5      End:39:52,8321  ThreadId:7  
  39. App:66166301    Begin:39:47,8228        ThreadId:6      End:39:52,8321  ThreadId:6  
  40. App:34678979    Begin:39:47,8228        ThreadId:6      End:39:52,8321  ThreadId:7  
  41. App:10104599    Begin:39:47,8218        ThreadId:5      End:39:52,8321  ThreadId:6  
  42. App:47362231    Begin:39:47,8258        ThreadId:5      End:39:52,8321  ThreadId:7  
  43. App:40535505    Begin:39:47,8218        ThreadId:6      End:39:52,8321  ThreadId:7  
  44. App:20726372    Begin:39:47,8368        ThreadId:5      End:39:52,8321  ThreadId:5  
  45. App:2730334     Begin:39:47,8368        ThreadId:6      End:39:52,8321  ThreadId:6  
  46. App:59884855    Begin:39:47,8368        ThreadId:5      End:39:52,8321  ThreadId:7  
  47. App:39774547    Begin:39:47,8238        ThreadId:6      End:39:52,8321  ThreadId:6  
  48. App:12070837    Begin:39:47,8378        ThreadId:6      End:39:52,8491  ThreadId:7  
  49. App:64828693    Begin:39:47,8218        ThreadId:5      End:39:52,8331  ThreadId:6  
  50. App:14509978    Begin:39:47,9308        ThreadId:6      End:39:52,9281  ThreadId:5 

可以看到,从始至终只由3个线程处理所有的请求,总共时间约5.12秒。

为简化分析,我们用下面的图来示意异步处理程序的并发处理过程。

这样,我们就可以通过异步的方式,将WEB线程撤底释放出来。由WEB线程进行请求的接收与结束处理,耗时的操作与等待都进行异步处理。这样少量的WEB线程就可以承受大量的并发请求,WEB线程将不再成为系统的瓶颈。

在大并发的异步模式下,和前面的数据相比较,可以看到HttpApplication的对象数量随并发处理数提高而提高,随之带来的一系列数据结构,如 HttpHandler缓存,是需要考虑的内存开销。同时,在异步模式下,请求的完成需要编程的方式来控制,在触发完成前,客户端连接、 HttpContext对象都保持活动状态,客户端也一直保持等待,直到超时。因此,异步模式下需要更细致的资源操作。

我们来看ASP.NET异步 的典型应用场景。

场景一:处理过程中有需要等待的任务,并且可以使用异步完成的。

  1. //同步方法  
  2. public void ProcessRequest(HttpContext context)  
  3. {  
  4.     FileStream fs = new FileStream("", FileMode.Open, FileAccess.Read, FileShare.ReadWrite, 4096, FileOptions.Asynchronous);  
  5.     fs.CopyTo(context.Response.OutputStream);  
  6. }  
  7.       
  8. //异步方法开始  
  9. public IAsyncResult BeginProcessRequest(HttpContext context, AsyncCallback cb, object extraData)  
  10. {  
  11.     FileStream fs = new FileStream("D:\\a.txt", FileMode.Open, FileAccess.Read, FileShare.ReadWrite, 4096, FileOptions.Asynchronous);  
  12.     var task = fs.CopyToAsync(context.Response.OutputStream);  
  13.     task.GetAwaiter().OnCompleted(() => cb(task));  
  14.     return task;  
  15. }  
  16.  
  17. //异步方法结束  
  18. public void EndProcessRequest(IAsyncResult result)  
  19. {  

这个处理程序读取服务器的文件并输出到客户端。

  1. //同步方法  
  2. public void ProcessRequest(HttpContext context)  
  3. {  
  4.     var url = context.Request.QueryString["url"];  
  5.     var request = (HttpWebRequest)WebRequest.Create(url);  
  6.     var response = request.GetResponse();  
  7.     var stream = response.GetResponseStream();  
  8.     stream.CopyTo(context.Response.OutputStream);  
  9. }  
  10.       
  11. //异步方法开始  
  12. public IAsyncResult BeginProcessRequest(HttpContext context, AsyncCallback cb, object extraData)  
  13. {  
  14.     //构建异步结果并返回  
  15.     var result = new WebAsyncResult(cb, context);  
  16.  
  17.     var url = context.Request.QueryString["url"];  
  18.     var request = (HttpWebRequest)WebRequest.Create(url);  
  19.     var responseTask = request.GetResponseAsync();  
  20.     responseTask.GetAwaiter().OnCompleted(() =>  
  21.     {  
  22.         var stream = responseTask.Result.GetResponseStream();  
  23.         stream.CopyToAsync(context.Response.OutputStream).GetAwaiter().OnCompleted(() =>  
  24.         {  
  25.             result.SetComplete();  
  26.         });  
  27.     });  
  28.  
  29.     return result;  
  30. }  
  31.  
  32. //异步方法结束  
  33. public void EndProcessRequest(IAsyncResult result)  
  34. {  

这是一个简单的代理,服务器获取WEB资源后写回。

在这类程序中,我们提供的异步处理程序调用了IOCP异步方法,使得大量节省了WEB线程的占用,相比同步处理程序来说,并发量会得到相当大的提升。

【注意】前面提到,由于WEB线程属于线程池线程,因此,如果在线程池中加入任务,将同样会影响并发处理数。而在异步处理程序中,由线程池来完成异步将得不到任何本质上的提升,因此在异步处理程序中禁止操作线程池(ThreadPool.QueueUserWorkItem、 delegate.BeginInvoke,Task.Run等)。如果确定需要使用多线程来处理大量的计算,需要自己开启线程或实现自己的线程池。

  1. public IAsyncResult BeginProcessRequest(HttpContext context, AsyncCallback cb, object extraData)  
  2. {  
  3.     return new Action(() =>  
  4.     {  
  5.         Thread.Sleep(1000);  
  6.         context.Response.Write("OK");  
  7.     }).BeginInvoke(cb, extraData);  

上面的代码将无法达到异步的效果。

虽然等待工作交由另一线程去操作,但是该线程与WEB线程性质相同,同样会导致其他请求阻塞。

【思考】如果我们的程序中的确需要有大量的计算,那么可以考虑将这些计算提取到独立的应用服务器中,然后通过网络IOCP异步调用,达到WEB服务器的高吞吐量与系统的平行扩展性。

典型应用场景二:长连接消息推送。

一般来说,在WEB中获取服务器消息,采用轮询的方式,这种方式不可避免会有延时,当我们需要即时消息的推送时(如WEBIM),需要用到长连接。

长连接方式,由客户端发起请求,服务器端接收后暂停处理并保持连接,当需要发送消息给客户端时,输出内容并结束处理,客户端得到消息或者超时后,再次发起连接。如此达到在HTTP协议上服务器消息即时推送到客户端的目的。

在这种情况下,我们希望服务器尽可能长时间保持连接,如果采用同步处理程序,则连接数受到服务器线程数的限制,而异步处理程序则可以很好的解决这个问题。异步处理程序开始时,收集相关信息,并放入集合后返回异步结果。当需要向这个客户端发送消息时,从客户端集合中找到需要发送的目标,发送完成即可。

首先,我们需要对客户端进行标识,这个标识往往采用sessionid来做,本例中简单起见,通过客户端传递参数获取。

  1. public class WebAsyncResult : IAsyncResult  
  2. {  
  3.     private AsyncCallback _callback;  
  4.  
  5.     public WebAsyncResult(AsyncCallback cb, HttpContext context, string clientID)  
  6.     {  
  7.         Context = context;  
  8.         ClientID = clientID;  
  9.         _callback = cb;  
  10.     }  
  11.  
  12.     //当异步完成时调用该方法  
  13.     public void SetComplete()  
  14.     {  
  15.         IsCompleted = true;  
  16.         if (_callback != null)  
  17.         {  
  18.             _callback(this);  
  19.         }  
  20.     } 

我们需要一个集合来保存连接中的客户端,提供一个向这些客户端发送消息的方法。

  1. public class WebAsyncResultCollection : List<WebAsyncResult>, ICollection<WebAsyncResult>  
  2. {  
  3.     private static WebAsyncResultCollection _instance = new WebAsyncResultCollection();  
  4.  
  5.     public static WebAsyncResultCollection Instance  
  6.     {  
  7.         get { return WebAsyncResultCollection._instance; }  
  8.     }  
  9.  
  10.     public bool SendMessage(string clientID, string message)  
  11.     {  
  12.         var result = this.FirstOrDefault(r => r.ClientID == clientID);  
  13.         if (result != null)  
  14.         {  
  15.             Remove(result);  
  16.             bool sendsuccess = false;  
  17.             if (result.Context.Response.IsClientConnected)  
  18.             {  
  19.                 sendsuccess = true;  
  20.                 result.Context.Response.Write(message);  
  21.             }  
  22.             result.SetComplete();  
  23.             return sendsuccess;  
  24.         }  
  25.         return false;  
  26.     }  

对于异步处理程序的开始方法,我们收集信息并放入集合。

  1. public IAsyncResult BeginProcessRequest(HttpContext context, AsyncCallback cb, object extraData)  
  2. {  
  3.     var clientID = context.Request.QueryString["id"];  
  4.     WebAsyncResultCollection.Instance.SendMessage(clientID, "ClearClientID");  
  5.     WebAsyncResult result = new WebAsyncResult(cb, context, clientID);  
  6.     WebAsyncResultCollection.Instance.Add(result);  
  7.     return result;  

【不完善】由于客户端收到一次消息后结束请求,由客户端再次发起请求,中间会有部分时间间隙,在这间隙中向该客户端发送的消息将丢失,解决方案是维护另一个用户是否在线的表,如果用户不在线,则处理离线消息,如果在线,并且正在连接中,则按上述处理,如果不在连接中,则缓存在服务器,当客户端再次连接时,首先检查缓存的消息,如果有未接消息,则获取消息并立即返回。

发送消息的处理程序。

  1. public class SendMessage : IHttpHandler  
  2. {  
  3.  
  4.     public void ProcessRequest(HttpContext context)  
  5.     {  
  6.         var clientID = context.Request.QueryString["clientID"];  
  7.         var message = context.Request.QueryString["message"];  
  8.         WebAsyncResultCollection.Instance.SendMessage(clientID, message);  
  9.     }  
  10.  
  11.     public bool IsReusable  
  12.     {  
  13.         get 
  14.         {  
  15.             return true;  
  16.         }  
  17.     }  

可以在任何需要的位置向客户端发送消息。

【不完善】我们需要定时刷新客户端集合,对于长时间未处理的客户端进行超时结束处理。

通过异步处理程序构建的长连接消息推送机制,单台服务器可以轻松支持上万个并发连接。

异步Action

在ASP.NET MVC 4中,添加了对异步Action的支持。

在ASP.NET MVC4中,整个处理过程都是异步的。

在图中可以看到,最右边的ActionDescriptor将决定如何调用我们的Action方法,而如何调用是由具体的Action方法形式决定,ASP.NET MVC会根据不同的方法形式创建不同的ActionDescriptor实例,从而调用不同的处理过程。对于传统的方法,则使用 ReflectedActionDescriptor,他实现Execute方法,调用我们的Action,并在 AsyncControllerActionInvoker包装成同步调用。而异步调用在ASP.NET MVC 4  中有两种模式。

异步Action模式一:AsyncController/XXXAsync/XXXCompleted

我们可以使一个Controller继承自AsyncController,按照约定同时提供两个方法,分别命名为 XXXAsync/XXXCompleted,ASP.NET MVC则会将他们包装成ReflectedAsyncActionDescriptor。

  1. public class DefaultController : AsyncController  
  2. {  
  3.     public void DoAsync()  
  4.     {  
  5.         //注册一次异步  
  6.         AsyncManager.OutstandingOperations.Increment();  
  7.         Timer timer = null;  
  8.         timer = new Timer(o =>  
  9.         {  
  10.             //一次异步完成  
  11.             AsyncManager.OutstandingOperations.Decrement();  
  12.             timer.Dispose();  
  13.         },null, 5000, 5000);  
  14.     }  
  15.  
  16.     public ActionResult DoCompleted()  
  17.     {  
  18.         return Content("OK");  
  19.     }  

由于没有IAsyncResult,我们需要通过AsyncManager来告诉ASP.NET MVC何时完成异步,我们可以在方法内部在启用异步时调用 AsyncManager.OutstandingOperations.Increment()告诉ASP.NET MVC开始了一次异步,完成异步时调用AsyncManager.OutstandingOperations.Decrement()告诉 ASP.NET MVC完成了一次异步,当所有异步完成,AsyncManager会自动触发异步完成事件,调用回调方法,最终调用我们的XXXComplete方法。我们也可以用AsyncManager.Finish()也触发所有异步完成。当不使用任何AsyncManager时,则不启用异步。

可以看到整个异步过程由ASP.NET完成,在适当的时候会调用我们的方法。异步的开始、结束动作与及如何触发完成都在我们的代码中体现。

异步Action模式二:Task Action

对于Action,如果返回的类型是 Task,ASP.NET MVC则会将他们包装成TaskAsyncActionDescriptor。

  1. public class DefaultController : Controller  
  2. {  
  3.     public async Task<FileResult> Download()  
  4.     {  
  5.         using (FileStream fs = new FileStream("D:\\a.txt", FileMode.Open, FileAccess.Read, FileShare.ReadWrite, 4096, FileOptions.Asynchronous))  
  6.         {  
  7.             byte[] data = new byte[fs.Length];  
  8.             await fs.ReadAsync(data, 0, data.Length);  
  9.             return new FileContentResult(data, "application/octet-stream");  
  10.         }  
  11.     }  

我只需要需提供一个返回类型为Task的方法即可,我里我们采用async/await语法构建一个异步方法,在方法内部调用其他的异步方法。

相比之前的模式,简单了一些,特别是我们的Controller中,只有一个方法,异步的操作都交由Task完成。对于可以返回Task的方法来说(如通过async/await包装多个异步方法),就显得十分方便。

原文链接: http://www.cnblogs.com/wisdomqq/archive/2012/03/29/2417723.html

【编辑推荐】

  • ASP.NET的路由系统:URL与物理文件的分离
  • ASP.NET MVC3 从零开始一步步构建Web
  • Node.js vs Opa: Web框架杀手
  • 设计好脾气的Web页面
  • Google Web App开发指南之构建优秀的Web Apps
  • 责任编辑:林师授 钧梓昊逑的博客
    点赞
    收藏