Spark - sortWithInPartitions 超过排序

Question

以下是代表员工 in_date 和 out_date 的示例数据集。 我必须获得所有员工的最后 in_time。

Spark 在 4 节点独立集群上运行。

初始数据集：

EmployeeID-----in_date-----out_date

1111111     2017-04-20  2017-09-14 
1111111     2017-11-02  null 
2222222     2017-09-26  2017-09-26 
2222222     2017-11-28  null 
3333333     2016-01-07  2016-01-20 
3333333     2017-10-25  null 

df.sort(col(in_date).desc())之后的数据集：

EmployeeID--in_date-----out_date

1111111   2017-11-02   null 
1111111   2017-04-20   2017-09-14 
2222222   2017-09-26   2017-09-26 
2222222   2017-11-28   null 
3333333   2017-10-25   null 
3333333   2016-01-07   2016-01-20 

df.dropDup(EmployeeID):  

输出：

EmployeeID-----in_date-----out_date

1111111    2017-11-02    null 
2222222    2017-09-26    2017-09-26 
3333333    2016-01-07    2016-01-20 

预期数据集：

EmployeeID-----in_date-----out_date

1111111    2017-11-02   null 
2222222    2017-11-28   null 
3333333    2017-10-25   null 

但是当我使用sortWithInPartitions 对初始数据集进行排序并进行重复数据删除时，我得到了预期的数据集。 我在这里遗漏了什么大的或小的东西吗？任何帮助表示赞赏。

附加信息： 在本地模式下使用 Spark 执行 df.sort 时，实现了上述预期输出。
我没有做过任何类型的分区，重新分区。 初始数据集来自底层 Cassandra 数据库。

Answer 1

TL;DR 除非明确保证，否则永远不要假设 Spark 中的操作将以任何特定顺序执行，尤其是在使用 Spark SQL 时。

您在这里缺少的是随机播放。 dropDuplicates 的实现相当于：

df.groupBy(idCols).agg(first(c) for c in nonIdCols)

将被执行为：

• 部分（“地图端”）聚合。
• 随机播放。
• 最终（“reduce-side”）聚合。

中间 shuffle 引入了非确定性，无法保证最终聚合将以任何特定顺序应用。

在本地模式下使用 Spark 执行 df.sort 时，实现了上述预期输出。

local 模式相当简单。您永远不应该使用它来得出关于 Spark 内部在完全分布式模式下的行为的结论。

当我使用 sortWithInPartitions 对初始数据集进行排序并进行重复数据删除时，我得到了预期的数据集。

如果数据先前由EmployeeID 分区，这将是有意义的。在这种情况下，Spark 不需要额外的随机播放。

根据描述，您应该使用How to select the first row of each group? 中显示的解决方案之一。