GCS 从 Kubernetes GKE 中的 pod 缓慢上传

Question

从 GKE 内的 pod 上传到 GCE 需要很长时间。我希望升级到 kubernetes 1.1 会有所帮助，但它没有。它更快，但没有达到应有的速度。我做了一些基准测试，上传了一个 100MiB 的文件：

• docker 1.7.2 本地

  花了 {20m51s240ms}，大约是 ~{0.07993605115907274}MB/s

• docker 1.8.3 本地

  花了 {3m51s193ms}，大约是 ~{0.4329004329004329}MB/s

• docker 1.9.0 本地

  花了 {3m51s424ms}，大约是 ~{0.4329004329004329}MB/s

• kubernetes 1.0

  花费了 {1h10s952ms}，大约是 ~{0.027700831024930747}MB/s

• kubernetes 1.1.2 (docker 1.8.3)

  花了 {32m11s359ms}，大约是 ~{0.05178663904712584}MB/s

正如您所见，kubernetes 1.1.2 的吞吐量翻了一番，但仍然很慢。如果我想上传 1GB，我必须等待大约 5 个小时，这不是预期的行为。 GKE 在 Google 基础架构中运行，因此我希望它应该更快，或者至少与从本地上传一样快。

我还注意到上传时 CPU 负载非常高 (70%)。它使用n1-highmem-4 机器类型和一个在上传后什么都不做的单个 RC/pod 进行了测试。

我正在使用带有 GAV 坐标 com.google.appengine.tools:appengine-gcs-client:0.5 的 java 客户端

相关代码如下：

InputStream inputStream = ...; // 100MB RandomData from RAM
StorageObject so = new StorageObject().setContentType("text/plain").setName(objectName);
AbstractInputStreamContent content = new InputStreamContent("text/plain", inputStream);
Stopwatch watch = Stopwatch.createStarted();
storage.objects().insert(bucket.getName(), so, content).execute();
watch.stop();

使用手动安装的 gcloud 和 gsutil cp 复制一个 100MB 的文件几乎不需要任何时间（3 秒）。所以这可能是java库的问题？问题依然存在，如何使用 java-library 提高上传时间？

Answer 1

解决方案是启用“DirectUpload”，所以不要写

storage.objects().insert(bucket.getName(), so, content).execute();

你必须写：

    Storage.Objects.Insert insert = storage.objects().insert(bucket.getName(), so, content);
    insert.getMediaHttpUploader().setDirectUploadEnabled(true);
    insert.execute();

我使用此解决方案获得的性能：

• 花了 {13s515ms}，大约是 ~{7.6923076923076925}MB/s

setDirectUploadEnabled 的 JavaDoc：

设置是启用还是禁用直接媒体上传。

如果 value 设置为 true，那么将直接上传 整个媒体内容在一个请求中上传。如果设置了值 为 false 则上传使用可恢复媒体上传协议 以数据块的形式上传。

如果内容大小低于某个特定值，建议直接上传 最低限度。这是因为有最小块写入大小 一些 Google API，因此如果可恢复请求在 第一个块，客户端将不得不从头开始 无论如何。

默认为假。

Answer 2

您看到高 CPU 负载并且缓慢仅影响 Java 而不是 Python gsutil 这一事实与 slow AES GCM issue in Java 8 一致。该问题已在 Java 9 using appropriate specialized CPU instructions 中得到修复。

如果您可以控制它，那么使用 Java 7 或将 jdk.tls.disabledAlgorithms=SSLv3,GCM 添加到传递给 java -Djava.security.properties 的文件应该可以解决慢速问题，如 this answer 中对一般慢速 AES GCM 问题的解释。