【发布时间】:2018-08-08 11:06:39
【问题描述】:
在使用 C# 时是否可以在 gRPC 中控制响应消息压缩?
This question 收到评论但没有回复。评论指向gRPC issue #10902,上面写着:
功能已经存在,但您需要通过设置适当的通道选项或在 RPC 中设置元数据条目来[启用?]。
那里链接的test class 显示了一些可能性:
new WriteOptions(WriteFlags.NoCompress)
但这对我没有影响:无论此设置如何,通过 WAN 进行的呼叫都需要相同的时间。
var compressionMetadata = new Metadata
{
{ new Metadata.Entry(Metadata.CompressionRequestAlgorithmMetadataKey, "gzip") }
};
同样,测试显示更改此设置后通话时间没有变化。 (CompressionRequestAlgorithmMetadataKey常量是内部的,我反编译得到字符串值)。
有一个诱人的 CompressionLevel 枚举 in the C# github repo 但我找不到它的任何用法。
gRPC issue #4170(在 C# 中实现压缩支持)已关闭,但显示
可以用C#完成,但绝对不友好
有没有人能帮我举个例子来说明如何做到这一点?我不介意它是否对用户不友好,我只想能够做到!我正在通过网络发送一些大的(~8Mb)响应,我想对它们进行一些控制。虽然我可以在发送之前压缩数据,但最好让客户端对所使用的压缩方法/级别进行一些控制。
(我会发布一些代码,但我只是使用来自C# sample code 的测试代码和一个大的硬编码字符串)
tl;dr 我不知道如何使用 C# gRPC 控制压缩设置。所有看起来可能的设置都不会影响通过网络发送响应所花费的时间。
编辑
在 Jon Skeet 关于查看有线流量的评论之后,我运行了一个新测试,其中响应是字符串 The quick brown fox jumps over the lazy dog 重复 5000 次。我通过
Environment.SetEnvironmentVariable("GRPC_TRACE", "compression");
Environment.SetEnvironmentVariable("GRPC_VERBOSITY", "DEBUG");
GrpcEnvironment.SetLogger(new ConsoleLogger());
... 在客户端和服务器上。我使用 Wireshark 捕获网络流量,在我的 gRPC 服务器端口上解码 HTTP2 流量。
测试#1:没有控制压缩的特定代码
- 可以看到流量没有被压缩。
测试#2:服务器关闭压缩
- 在返回响应之前在服务器端设置
context.WriteOptions = new WriteOptions(WriteFlags.NoCompress);。 - 可以看到流量没有被压缩。
测试#3:服务器启用压缩
- 在返回响应之前在服务器端设置
context.ResponseTrailers.Add(new Metadata.Entry("grpc-internal-encoding-request", "gzip"));。 - 可以看到流量没有被压缩。
测试#4:客户端启用压缩
- 调用服务器时设置元数据头:
var headers = new Metadata {{new Metadata.Entry("grpc-internal-encoding-request", "gzip")}}; - 客户端 gRPC 跟踪记录以下内容
D0228 16:53:21.566026 0 C:\jenkins\workspace\gRPC_build_artifacts\platform\windows\workspace_csharp_ext_windows_x64\src\core\ext\filters\http\message_compress\message_compress_filter.cc:262:算法“gzip”已启用但已决定不要压缩。输入大小:0
- 我认为这是试图压缩 request 而不是 response?
- 可以看到流量没有被压缩。
编辑#2
Jan Tattermusch 做到了。在我的服务器端方法中添加此代码
var headers = new Metadata{new Metadata.Entry("grpc-internal-encoding-request", "gzip")};
await context.WriteResponseHeadersAsync(headers);
...成功了! Wireshark 显示响应被压缩并显示 gRPC 日志
压缩 [gzip] 225002 字节与 742 字节(节省 99.67%)
太棒了!可悲的是,这导致了我的下一个问题:压缩的开销导致此方法调用比未压缩的数据慢!
更多的谷歌搜索让我找到了更好的选择:创建Server 对象时,您可以传递ChannelOptions 的集合。我设置如下:
var options = new[] {new ChannelOption("grpc.default_compression_level", (int) CompressionLevel.Low)};
这会将压缩设置到更好的级别(对于我在此处发送的数据),并且具有启用 gzip 压缩作为所有调用的默认值的副作用。现在每个方法都必须显式关闭压缩(通过我的测试#2 中的WriteOptions)。
有趣的是,尝试通过 grpc-internal-encoding-request 覆盖默认压缩现在非常慢,我猜是由于引发了异常:
src\core\lib\surface\call.cc:1018: prepare_application_metadata: {"created":"@1520008670.738000000","description":"不允许重复的元数据","file":"C:\jenkins\workspace \gRPC_build_artifacts\platform\windows\workspace_csharp_ext_windows_x64\src\core\lib\transport\metadata_batch.cc","file_line":111,"key":"grpc-internal-encoding-request","value":"gzip"}
这意味着我不能在每次调用的基础上更改和更改压缩算法或级别,但鉴于仅打开压缩带来的性能优势,我是一个快乐的人。
【问题讨论】:
-
您是否查看过网络上实际传输的数据?这样做,您应该能够看到 NoCompress 真的 是否没有效果。我的猜测是确实如此,而瓶颈并不在您认为的位置。
-
我使用 Wireshark 检查了各种场景下的 HTTP2 流量(详情在编辑中)。它表明无论我使用何种设置,流量都没有压缩。
-
谢谢 - 现在这是一个更有说服力的问题 :)
标签: c# compression grpc