【发布时间】:2018-05-15 12:33:21
【问题描述】:
结构类似于
find . -type f -name '*log' \
| parallel grep 'somestuff'
| moreComplexLineRearrangementScript
| sort
我想知道 moreComplexLineRearrangementScript 是否有看到乱码的风险,因为多个 grep 实例写入同一个管道而没有任何缓冲区同步。
- 这对于上述 grep 的幼稚使用可能是一个问题,还是我可以依赖 grep 的实现总是使用 flush() 写入行的事实?
- 如果不是 grep,
parallel中是否有一些魔法可以执行 flush()? - 有没有办法使用
parallel来保证行保持完整——除了将每个并行进程的输出重定向到一个单独的文件然后从那里开始?
【问题讨论】:
标签: parallel-processing scripting io-redirection