【问题标题】:Is there a convenient way to fill a sparse array with random values in Chapel?有没有一种方便的方法可以在 Chapel 中用随机值填充稀疏数组?
【发布时间】:2020-08-06 19:27:57
【问题描述】:

我正在比较使用和不使用语言环境的矩阵乘法,并且我正在尝试使用稀疏矩阵来处理线性代数模块。我计划使用 blockdist 并使用循环手动将其分解,但我希望能够看看我现在是否可以使用更简单的东西来获得加速。如果有一种简单的方法可以使用我忽略的 blockdist,我将不胜感激。无论如何,当我只用一个值填充稀疏数组时,我能够让代码工作并看到加速,但是用随机值填充它似乎不起作用:

use LayoutCS;
use Time;
use LinearAlgebra, Norm;
use LinearAlgebra.Sparse;
use Random;
use IO;

writeln("Please type the filename with your matrix dimensions. One matrix on each line. The rows in the second need to match the columns in the first");
var filename: string;
filename = stdin.read(string);

// Open an input file with the specified filename in read mode.
var infile = open(filename, iomode.r);
var reader = infile.reader();

// Read the number of rows and columns in the array in from the file.
var r = reader.read(int), c = reader.read(int);

const parentDom = {1..r, 1..c};
var csrDom: sparse subdomain(parentDom) dmapped CS();
var A: [csrDom] real; 
A = 2; //instead of this I would like to do something like fillRandom(A) but it seems to not work

var X: [1..r, 1..c] real; 
fillRandom(X);

//read in the other matrix
var r1 = reader.read(int), c1 = reader.read(int);

const parentDom1 = {1..r1, 1..c1};
var csrDom1: sparse subdomain(parentDom1) dmapped CS();
var B: [csrDom1] real;
B = 3; //same thing as with matrix A

var Y: [1..r1, 1..c1] real; 
fillRandom(Y);

// Close the file.
reader.close();
infile.close();

var t: Timer; //sets up timer
t.start();

var result: [1..r, 1..c1] real; //sets up matrix for results
  
forall i in 1..r do //goes through rows in 1st
  for j in 1..c1 do //goes through 2nd matrix columns
    for k in 1..c do { //goes through columns in 1st
      result[i, j] += X[i, k] * Y[k, j]; //adds the multiplications to the new slot in results
    }

t.stop();
writeln("multiplication took ", t.elapsed()," seconds");
t.clear();


t.start();
var res = A * B;
t.stop();

writeln("loc multiplication took ", t.elapsed()," seconds");
t.clear();

fillRandom 不适用于稀疏数组还是我做错了?我是否需要通过循环手动分配数组中的每个值?当然,我也有可能走错了路,应该更多地关注 blockdist在 blockdist 创建的正确语言环境部分上。

提前谢谢你!

【问题讨论】:

  • 关于你更广泛的问题 - 你能澄清你在比较什么吗?分块分布式CSR矩阵-矩阵乘法是局部CSR矩阵-矩阵乘法吗?
  • 我比较的是在一个语言环境上运行矩阵乘法与在多语言环境系统上运行它。我正在寻找实现该问题的多语言环境部分的最佳方法,无论是 blockdist 还是其他。

标签: matrix sparse-matrix chapel


【解决方案1】:

fillRandom 不适用于稀疏数组还是我做错了?

Random.fillRandom() 在今天的 Chapel (1.22.0) 中不支持稀疏数组。但是,如果您有兴趣在其上提交 GitHub 问题,我认为这将是一个合理的功能请求。

即使fillRandom 支持稀疏数组,用户仍然需要在用随机值填充这些非零元素之前指定哪些元素是非零的。这是通过将索引作为(int, int) 元组(或(int, int) 元组的数组)添加到稀疏域来完成的。

下面是一个生成 100x100 压缩稀疏行 (CSR) 数组的小示例,其中包含 10 个非零随机元素:

/* Example tested with Chapel 1.22 */
import LayoutCS.{CS, isCSType};
import Random;

/* Parent domain dimensions: NxN */
config const N = 100;
/* Number of non-zero elements */
config const nnz = 10;

const parentDom = {1..N, 1..N};
var csrDom: sparse subdomain(parentDom) dmapped CS();
var A: [csrDom] real;

populate(A, csrDom, nnz);

// Print non-zero elements
for (i,j) in csrDom do
  writeln((i,j), ':', A[i, j]);


/* Populate sparse matrix with `nnz` random values */
proc populate(ref A, ref ADom, nnz: int) where isCSType(ADom.dist.type) && isCSType(A.domain.dist.type) {

  // Generate array of random non-zero indices
  var indices: [1..nnz] 2*int;
  var randomIndices = Random.createRandomStream(eltType=int);

  // Replace any duplicate indices with a new random index
  for idx in indices {
    var newIdx = idx;
    while indices.find(newIdx)(1) {
      newIdx = (randomIndices.getNext(ADom.dim(0).low, ADom.dim(0).high),
                randomIndices.getNext(ADom.dim(1).low, ADom.dim(1).high));
    }
    idx = newIdx;
  }

  // Add the non-zero indices to the CSR domain
  ADom += indices;

  // Generate random elements - maybe fillRandom(A) could do this for us some day
  var randomElements = Random.createRandomStream(eltType=A.eltType);
  for idx in ADom {
    A[idx] = randomElements.getNext();
  }
}

【讨论】:

  • 我之前好像没有完全理解稀疏矩阵。我猜如果我想真正做我所说的并获得一个完整的值矩阵,我将不得不为矩阵中的每个索引添加非零索引?这似乎是对稀疏数组的浪费,所以我很确定这不是我应该使用的,除非我遗漏了其他东西。感谢您的帮助!
  • 是的,如果您打算使稀疏数组的每个元素都非零,那么使用稀疏数组的任何好处都将丢失。您可以使用默认的矩形数组,还是有其他使用稀疏的动机?
  • 我使用 sparse 是因为它似乎是唯一一个与线性代数模块一起工作的模块,尽管我可能误解了这一点。我可能会回到使用 blockdist 的工作,因为使用 lin alg 似乎无法利用语言环境。
  • LinearAlgebra 模块支持默认矩形数组,而LinearAlgebra.Sparse 子模块支持 CSR(稀疏)数组。 BlockDist 支持正在进行中,但它应该在 1.22 中与矩阵-矩阵乘法一起使用(现在在 master 分支上进行了改进)。
猜你喜欢
  • 2013-11-10
  • 2020-12-10
  • 2018-08-22
  • 1970-01-01
  • 1970-01-01
  • 2020-12-18
  • 1970-01-01
  • 2014-12-08
  • 2010-09-13
相关资源
最近更新 更多