线程池中大量线程处于等待状态导致性能问题答案

【问题标题】：large number of threads is wait state in threadpool causing performance problems线程池中大量线程处于等待状态导致性能问题
【发布时间】：2014-06-20 11:39:15
【问题描述】：

我的应用程序通过 http 连接到大量客户端，从这些客户端下载数据并在收到这些结果时处理数据。每个请求都在一个单独的线程中发送，这样主线程就不会被占用。

我们已经开始遇到性能问题，似乎这些问题主要与 ThreadPool 中的大量线程有关，这些线程只是在等待从这些请求中取回数据。我知道使用 .NET 4.5 我们有 async 和 await 来解决相同类型的问题，但我们仍在使用 .NET 3.5。

关于在不同线程中发送这些请求的最佳方法是什么，而不是让该线程保持活动状态，而它所做的只是等待请求返回，有什么想法吗？

【问题讨论】：

标签： c# multithreading .net-3.5 threadpool scalability

【解决方案1】：

您可以在 .NET 3.5 中使用异步操作，只是不如在 .NET 4.5 中方便。大多数 IO 方法都有一个 BeginX/EndX 方法对，它是 X 方法的异步等效方法。这称为Asynchronous Programming Model (APM)。

例如，您可以使用Stream.BeginRead 和Stream.EndRead，而不是Stream.Read。

实际上，.NET 4.5 中的许多异步 IO 方法只是 Begin/End 方法的包装器。

【讨论】：

@PaulSnow，是的； BeginRead 方法是非阻塞的，当 IO 操作完成时，传递给它的回调将在 ThreadPool 线程上调用，不会浪费线程等待。
太棒了。正是我要找的:)
为了补充答案，BeginX/EndX 方法使用 IO 线程，这些线程在内部使用 IO 完成端口来进行非阻塞 IO 调用。此外，建议您将任务排入线程池并让它为您管理线程，而不是显式创建线程。仅当现有线程正在运行或等待时，线程池才会创建线程。使用 IOCP，您可以最大限度地减少等待时间 - 因此，如果线程池使用 n 个线程 (m >= n) 发送 m 个请求也就不足为奇了。

【解决方案2】：

如果您不能使用 .NET 4.x 和 async/await，您仍然可以使用 IEnumerator 和 yield 实现类似的行为。它允许使用带有Begin/End 样式回调的伪同步线性代码流，包括using、try/finally、while/for/foreach 等语句。不过，你cannot use try/catch。

有一些异步枚举器驱动程序的实现，例如Jeffrey Richter's AsyncEnumerator.

我过去用过类似下面的东西：

class AsyncIO
{
    void ReadFileAsync(string fileName)
    {
        AsyncOperationExt.Start(
            start => ReadFileAsyncHelper(fileName, start),
            result => Console.WriteLine("Result: " + result),
            error => Console.WriteLine("Error: " + error));
    }

    static IEnumerator<object> ReadFileAsyncHelper(string fileName, Action nextStep)
    {
        using (var stream = new FileStream(
            fileName, FileMode.Open, FileAccess.Read, FileShare.Read, bufferSize: 1024, useAsync: true))
        {
            IAsyncResult asyncResult = null;
            AsyncCallback asyncCallback = ar => { asyncResult = ar; nextStep(); };
            var buff = new byte[1024];
            while (true)
            {
                stream.BeginRead(buff, 0, buff.Length, asyncCallback, null);
                yield return Type.Missing;
                int readBytes = stream.EndRead(asyncResult);
                if (readBytes == 0)
                    break;
                // process the buff
            }
        }
        yield return true;
    }
}

// ...

// implement AsyncOperationExt.Start
public static class AsyncOperationExt
{
    public static void Start<TResult>(
        Func<Action, IEnumerator<TResult>> start,
        Action<TResult> oncomplete,
        Action<Exception> onerror)
    {
        IEnumerator<TResult> enumerator = null;

        Action nextStep = () =>
        {
            try
            {
                var current = enumerator.Current;
                if (!enumerator.MoveNext())
                    oncomplete(current);
            }
            catch (Exception ex)
            {
                onerror(ex);
            }
            enumerator.Dispose();
        };

        try
        {
            enumerator = start(nextStep);
        }
        catch (Exception ex)
        {
            onerror(ex);
            enumerator.Dispose();
        }
    }
}

【讨论】：