distcp：将文件从 hdfs 复制到 s3（如何在 scala 或 java 中使用）

Question

我正在尝试通过 distcp 通过以下代码将大文件从 hdfs 复制到 s3：

val files:Array[String] = new Array[String](2)
files(0) = "/****/in.zip"

val in =  new Path(new URI("/**/in.zip"))
val out = new Path(new URI("***/out.zip"))
var distcpOpt = new DistCpOptions(in,out)
ToolRunner.run(new DistCp(new Configuration(),distcpOpt), files)

我尝试做类似于this link 的事情。

以前有人这样做过，请帮忙。

Answer 1

我找到了解决办法：

1- files 数组应该有两个值：第一个用于输入，第二个用于输出。

2- distcpOpt 不需要有任何值（空字符串即可）

3- 确保来自 s3 路径