【问题标题】:Is Ruby Array#[]= threadsafe for a preallocated array? Can this be made lockless?Ruby Array#[]= 预分配数组的线程安全吗?这可以无锁吗?
【发布时间】:2014-10-28 15:17:00
【问题描述】:

我已经用 ruby​​ 编写了一些代码来通过线程池处理数组中的项目。在这个过程中,我预先分配了一个与传入数组大小相同的结果数组。在线程池中,我在预分配数组中分配项目,但这些项目的索引保证是唯一的。考虑到这一点,我是否需要在作业周围加上 Mutex#synchronize

例子:

SIZE = 1000000000
def collect_via_threadpool(items, pool_count = 10)
  processed_items = Array.new(items.count, nil)
  index = -1
  length = items.length
  mutex = Mutex.new
  items_mutex = Mutex.new
  [pool_count, length, 50].min.times.collect do
    Thread.start do
        while (i = mutex.synchronize{index = index + 1}) < length do


          processed_items[i] = yield(items[i])
          # ^ do I need to synchronize around this? `processed_items` is preallocated

        end
    end
  end.each(&:join)
  processed_items
end

items = collect_via_threadpool(SIZE.times.to_a, 100) do |item|
  item.to_s
end

raise unless items.size == SIZE

items.each_with_index do |item, index|
  raise unless item.to_i == index
end

puts 'success'

(此测试代码需要很长时间才能运行,但似乎每次都打印“成功”。)

为了安全起见,我似乎想用Mutex#synchronize 包围Array#[]=,但我的问题是:

在 Ruby 的规范中这段代码是否被定义为安全的?

【问题讨论】:

  • 这取决于您要使用的 Ruby 实现。 MRI Ruby(经典之一)具有全局解释器锁。我不认为 Ruby 本身对此有任何保证,尽管我不能给出一个好的报价(这就是为什么它不是一个答案)。

标签: ruby arrays thread-safety assignment-operator lockless


【解决方案1】:

除了Mutex(以及由此派生的任何东西)之外,Ruby 中没有指定是线程安全的。如果您想知道您的特定代码是否是线程安全的,您需要查看您的实现如何处理线程和数组。

对于 MRI,调用 Array.new(n, nil) 实际上会为整个数组分配内存,因此如果您的线程保证不共享索引,您的代码将正常工作。这就像让多个线程在没有互斥锁的情况下对不同的变量进行操作一样安全。

但是对于其他实现,Array.new(n, nil) 可能不会分配整个数组,并且稍后分配给索引可能涉及重新分配和内存复制,这可能会造成灾难性的破坏。

因此,虽然您的代码可能有效(至少在 MRI 中),但不要依赖它。当我们讨论这个话题时,甚至没有指定 Ruby 的线程实际上是并行运行。因此,如果您试图避免互斥锁,因为您认为您可能会看到一些性能提升,也许您应该重新考虑您的方法。

【讨论】:

  • 我真的很想知道#collect_via_threadpool 中的代码以及传递给它的块可能正在执行 IO,在这种情况下线程池有好处。
  • 我的观点是,如果线程池有好处,它应该来自线程正在做的工作,而不是来自写入没有互斥锁的共享数组。听起来在您的情况下,您可以添加一个互斥锁来获得 保证 线程安全,同时 negligible 性能损失。为什么不这样做?
  • 不,我绝对认为你是对的,只是问题不在于“在这种情况下最好的做法是什么?”。 Ruby 是否支持这一点是一个更普遍的问题。听起来像“不”。
猜你喜欢
  • 1970-01-01
  • 2012-02-14
  • 1970-01-01
  • 2010-12-10
  • 1970-01-01
  • 1970-01-01
  • 2011-10-08
  • 2013-05-30
  • 1970-01-01
相关资源
最近更新 更多