【发布时间】:2019-07-14 02:56:12
【问题描述】:
我是 Hadoop 新手。我有一个源 Excel 文件或任何平面文件,我希望将同一个文件从本地文件系统移动到 hdfs。迁移后,我想比较两个文件以检查数据是否已正确迁移(文件比较程序)以获取报告(对帐数据不匹配) EX:想象一下我在 Excel 文件中有一些名字之后。
如果有人帮助我,那就太好了。
谢谢
【问题讨论】:
我是 Hadoop 新手。我有一个源 Excel 文件或任何平面文件,我希望将同一个文件从本地文件系统移动到 hdfs。迁移后,我想比较两个文件以检查数据是否已正确迁移(文件比较程序)以获取报告(对帐数据不匹配) EX:想象一下我在 Excel 文件中有一些名字之后。
如果有人帮助我,那就太好了。
谢谢
【问题讨论】:
我也有类似的用例。 您可以对源和目标进行字节计数,如下所示:
对于本地文件系统:
du -h <source-file-path>
对于hadoop位置:
Hadoop fs -du -h <hadoop-target-path>
如果数据加载正确,那么字节大小将匹配。 希望这可以帮助。
【讨论】:
为什么不安装像Hue 这样的hdfs 文件浏览器。使用此工具,您应该能够从 GUI 中查看 hdfs 中的所有文件。
【讨论】: