什么是好的（半）异步算法？

Question

我正在寻找一些关于数据结构的数据并行算法，例如不使用同步但使用关键部分以保持状态一致的列表或图表。

到目前为止，我只遇到过两种算法

• 同步：他们处理他们更改的数据的本地副本，并在某些时隙交换他们的当前状态以进行下一步（例如单步并行本地搜索），或者是

• 无竞争条件：它们细分数据结构，以便每个部分都可以通过共享内存单独安全地处理（例如并行快速排序）

你知道任何可理解的（半）异步算法

1. 细分必须由多个处理器单独处理的数据，
2. 交换处理器在每个步骤中通过共享内存（例如通过使用临界区）生成的一些数据，因此，
3. 仅松散同步，但不依赖心跳方案或其他重量级同步措施？

编辑：我使用 H. T. Kung 的技术报告 Synchronized and asynchronous parallel algorithms for multiprocessors 中的术语。

EDIT2：为了澄清术语，本文区分了不同种类的算法：

• 同步（例如生命游戏的心跳方法）
• 异步：每个处理器主要可以独立工作，并且可以随时通过共享内存将其结果传达给其他处理器。然后，通信可能会影响其他处理器中的下一步计算（例如，通过并行二进制搜索在单调收敛区间中找到函数的零）
• 半异步/同步：同步发生，但比同步算法中更少。

Answer 1

我不确定这是否符合“在列表或图表等数据结构上”的条件，但并行遗传算法维护了一个共享的有前途的基因库。一个免费的处理器获取一个并执行一代进化，将优越的结果（可能是随机选择的遗传多样性较差的结果）放回池中。

Answer 2

异步：有迭代算法的并行版本，例如 belief propagation 和 successive over-relaxation，与 Life 不同，它们容忍过时的数据，因此不需要心跳。 （不过，在非顺序一致的系统上的实际实现可能需要写屏障。）

半异步：几乎每个数据结构都具有细粒度锁定。通常的想法是只锁定正在处理的部分（例如，对于二叉搜索树，锁定从根开始的路径，可能使用读写器锁）。