如何并行映射以加快文件读取速度？

Question

我正在通过this code 工作，现在mmap 工作，但我想知道我是否可以并行使用mmap，如果可以，如何完成它。假设我在并行文件系统（GPFS、RAID0 等）上有我的数据，并且我想使用n 进程读取它。

例如，我如何让每个处理器将1/nth 的连续数据块读入内存？或者，或者，将每个 nth 内存块（1 B、1 MB、100 MB、1 GB，无论我选择什么进行优化）读入内存？

我在这里假设一个posix 文件系统。

Answer 1

这是我的mpi 并行阅读功能。它根据pagesize 将文件分割成n 连续片段，并让每个进程通过mmap 读取单独的片段。最后需要完成一些额外的技巧，因为进程i 将（可能）获得一行的前半部分，因为它是最后一行，而进程i+1 将获得与第一行相同的行的后半部分。

ikind nchars_orig; // how many characters were in the original file
int pagesize = getpagesize();
off_t offset;
struct stat file_stat;
int finp = open(inpfile, O_RDONLY);
int status = fstat(finp, &file_stat);
nchars_orig = file_stat.st_size;

// find out hwich pieces of the file each process should read
ikind nchars_per_proc[nprocs];
for(int ii = 0; ii < nprocs; ii++) {
    nchars_per_proc[ii] = 0;
}   
// start at the second to last proc, so the last proc will get hit first
// we will decrement him at the end, so this will distribute the work more evenly
int jproc = nprocs-2;
ikind nchars_tot = 0;
ikind nchardiff = 0;
for(ikind ic = 0; ic < nchars_orig; ic+= pagesize) {
    jproc += 1;
    nchars_tot += pagesize;
    if(jproc == nprocs) jproc = 0;
    if(nchars_tot > nchars_orig) nchardiff = nchars_tot - nchars_orig;
    nchars_per_proc[jproc] += pagesize;
}   
nchars = nchars_per_proc[iproc];
if( iproc == nprocs-1 ) nchars = nchars - nchardiff;
offset = 0;
for(int ii = 0; ii < nprocs; ii++) {
    if( ii < iproc ) offset += nchars_per_proc[ii];
} 
cs = (char*)mmap(0, nchars, PROT_READ, MAP_PRIVATE, finp, offset);