【问题标题】:Is there way to insert into Hive table while preserving the order from another Hive table有没有办法在保留另一个 Hive 表的顺序的同时插入 Hive 表
【发布时间】:2020-10-02 08:38:04
【问题描述】:

我有一个包含两列的 Hive 表 (A),两者都按顺序排序,但有重复项。只需将表 A 中的唯一值插入到表 B 中,但应保留顺序。随着排序顺序发生变化,无法使用 distinct 执行此操作。

【问题讨论】:

    标签: hive


    【解决方案1】:

    如果问题是关于排序的分桶表,请阅读以下答案:https://stackoverflow.com/a/41249147/2700344您应该在插入数据时添加cluster by/distribute by + sort by

    如果您选择这样的排序表并期望返回的数据集没有 order by 子句排序,请阅读此答案:https://stackoverflow.com/a/47416027/2700344

    我短:选择没有order by不保证顺序。

    【讨论】:

    • 感谢@leftjoin,集群或排序工作以在插入配置单元表时保留顺序。你知道是否有任何类似的方法可以在 Impala 中实现这一点,以及在 hive 中有效的相同查询在 Impala 中无效
    • @SriniJayaram 不,不幸的是,我不知道如何在 Impala 中做到这一点
    猜你喜欢
    • 1970-01-01
    • 2017-12-01
    • 1970-01-01
    • 1970-01-01
    • 2020-06-02
    • 2012-12-10
    • 1970-01-01
    • 1970-01-01
    • 2023-03-25
    相关资源
    最近更新 更多