异步任务的有效速率限制（每个时间间隔执行 N 次）

Question

在使用 .Net 4.0/4.5 任务时，如何实现有效的速率限制算法（每个时间间隔执行 N 次特定操作）？例如，如果在一秒钟内发送的消息超过 N 条，我希望 SendMessageAsync 阻止（不发送另一条消息）。

        await Task.WhenAll(
                    Enumerable.Range(0, TOTAL_MESSAGES)
                    .Select(async x =>
                    {
                        await clientSession.SendMessageAsync(CreateMessage());
                    }));

我尝试在SendMessageAsync 中使用Task.Delay，但由于等待Task.Delay 立即返回，所以下一条消息将在没有任何阻塞的情况下发送。

public async Task<ResponseMessage> SendMessageAsync(RequestMessage message)
{

    int sleepTime;
    if (throttler.ShouldThrottle(out sleepTime))
    {
        await Task.Delay(sleepTime);
    }

    return await InternalMessageWithoutWaitingAsync(message);
}

我可以将 await Task.Delay(sleepTime) 更改为 Thread.Sleep(sleepTime) 从而在异步之前等待，但我想知道在使用任务时这是否是一个好习惯。

Answer 1

在async 代码中使用Thread.Sleep 不是一个好习惯。

你可能会像这样得到你需要的东西：

private SemaphoreSlim _semaphore = new SemaphoreSlim(N);
public async Task<ResponseMessage> SendMessageAsync(RequestMessage message)
{
  await _semaphore.WaitAsync();
  try
  {
    return await InternalMessageWithoutWaitingAsync(message);
  }
  finally
  {
    ReleaseSemaphoreAfterDelayAsync();
  }
}

private async Task ReleaseSemaphoreAfterDelayAsync()
{
  await Task.Delay(TimeInterval);
  _semaphore.Release();
}