【问题标题】:Extract HDFS folder or file details提取 HDFS 文件夹或文件详细信息
【发布时间】:2019-12-16 10:16:10
【问题描述】:

为了使用 hive 在任何时间点查找 HDFS 目录中存在的文件数,我创建了一个 hive 外部表。谁能帮我提取HDFS 中存在的目录的文件详细信息,因为INPUT__FILE__NAMEhdfs dfs -stat 不符合我的目的,我希望将所有-ls 放入csv 文件中。

【问题讨论】:

    标签: hadoop hdfs hiveql


    【解决方案1】:

    不建议使用 ls 的输出,它不是为此而设计的。话虽如此,这不是正常的 ls ,所以也许别无选择。

    你可以像这样把它的输出放到一个文件中:

    hadoop fs -ls /path > output.txt
    

    【讨论】:

      【解决方案2】:

      还可以使用hdfs在所有数据库中查找表:

      hive数据库的路径是:

      /apps/hive/仓库/ 所以,通过使用 hdfs :

      hdfs dfs -find /apps/hive/warehouse/ -name t*

      hadoop fs -ls /路径

      【讨论】:

        猜你喜欢
        • 2019-03-22
        • 2019-01-21
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 2015-08-22
        • 2021-01-12
        • 1970-01-01
        相关资源
        最近更新 更多