【问题标题】:Does hbase Import/Export command do bulk uploads?hbase 导入/导出命令是否进行批量上传?
【发布时间】:2015-07-24 20:07:27
【问题描述】:

我无法确定与 hbase 一起打包的 Import/Export hbase org.apache.hadoop.hbase.mapreduce.Import/hbase org.apache.hadoop.hbase.mapreduce.Export 工具是否进行批量上传?

【问题讨论】:

    标签: mapreduce hbase


    【解决方案1】:

    导出用于将 HBase 文件的内容转储到序列文件中。 Import 使用上述文件将数据加载回 HBase。两者都是 Map reduce 工作。我认为这些过程涉及要生成的 WAL 文件(中间生成的文件),作为整体读/写步骤的一部分。您可以获取更多信息here

    BulkLoad 是一个单独的用例。它用于批量加载数据。减少批量加载时间的主要原因是因为它们直接处理 HFiles 并避免在常规写入步骤之间生成的 WAL 文件。我们使用 mapreduce 生成 HFile,然后将这些文件添加到集群中。如您所见,这是一个两步过程,并且在第 1 步中使用了 mapreduce。您可以获取更多信息here

    【讨论】:

      猜你喜欢
      • 2014-08-15
      • 2014-03-31
      • 1970-01-01
      • 2021-03-29
      • 2018-01-11
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2021-08-04
      相关资源
      最近更新 更多