【问题标题】:Sort transformation is taking huge time in SSIS. Is there a way to remove duplicates without using the Sort Transformations?在 SSIS 中,排序转换需要花费大量时间。有没有办法在不使用排序转换的情况下删除重复项?
【发布时间】:2018-01-10 13:59:17
【问题描述】:

我的 SSIS 包需要大量时间。当我检查排序需要时间。从网络上的一些文章中,我也了解到排序确实是一项昂贵的操作。是否有任何其他选项可以删除重复项。

提前致谢。

【问题讨论】:

  • 你的来源是什么?如果您可以从源中删除重复或排序,那将是最佳选择。
  • 我的来源是 SQL 服务器。如果我使用条件拆分来删除重复的行,那会好吗?
  • SQL server 有几种方法。 1. 直接使用 group by 或 distinct。 2. 使用row_number对数据进行分区,然后使用条件拆分保持rn = 1
  • 这是两个不同的选项。 1. 如果您不需要所有源数据来做其他事情。 2. 源数据是您向 2 条不同路径发送的聚合的一部分。即 100 美元的商品销售记录为 5 倍。您可能想知道您曾经售出的商品列表,或者您可能还想知道总销售额。

标签: sql-server database ssis etl sql-server-data-tools


【解决方案1】:

将数据导入临时表,然后使用 TSQL 删除重复项,同时将其移至最终目标表。

或者,如果您的数据源是 SQL 查询,请修改查询以删除重复项。

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2017-08-20
    • 1970-01-01
    • 2012-02-19
    • 1970-01-01
    • 1970-01-01
    • 2018-12-24
    相关资源
    最近更新 更多