【问题标题】:Parallel export of ASCII file on distributed file system在分布式文件系统上并行导出 ASCII 文件
【发布时间】:2018-08-25 15:38:44
【问题描述】:

我需要在分布式文件系统上导出 ASCII 文件。目前我在每个节点上以附加模式打开文件流到同一个文件。然后我按节点顺序导出所有数据。该解决方案能否在分布式文件系统上正常工作,还是必须使用 MPI-I/O? 看来我不是很了解并行文件系统的概念。

附:该文件必须为 ASCII。

【问题讨论】:

    标签: c++ parallel-processing mpi distributed mpi-io


    【解决方案1】:

    使用 MPI-I/O,您不能在文件末尾并行追加数据。您可以将数据并行写入文件的特定位置(每个 MPI 进程的不同位置),因此您需要知道每个进程的偏移量。这对于 ASCII 文件可能不可行。

    另一种选择是由每个 MPI 进程(并行)编写一个单独的文件,然后将这些文件合并为一个超出并行程序范围的文件。

    【讨论】:

      猜你喜欢
      • 2015-06-18
      • 2016-07-19
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2019-02-28
      • 2012-06-23
      • 2013-01-20
      • 1970-01-01
      相关资源
      最近更新 更多