【问题标题】:Node.js Streaming/Piping Error Handling (Change Response Status on Error)Node.js 流/管道错误处理(错误时更改响应状态)
【发布时间】:2017-08-30 05:18:22
【问题描述】:

我的 Cassandra 数据库中有数百万行我想以 zip 文件的形式流式传输到客户端(不希望内存中可能存在巨大的 zip 文件)。我正在使用 Cassandra-Node 驱动程序中的 stream() 函数,通过管道连接到转换器,该转换器从我关心的每一行中提取一个字段并附加一个换行符,并通过管道将哪些管道归档到 Express Response 对象。这似乎工作正常,但我无法弄清楚如何在流式传输期间正确处理错误。我必须在为客户端流式传输之前设置适当的标头/状态,但是如果流式传输期间出现错误,例如在 dbStream 上,我想清理所有管道并将响应状态重置为类似于 404 . 但是如果我在设置标题并开始流式传输后尝试重置状态,我会得到Can't set headers after they are sent。当管道/流式传输到 Response 对象时,我已经查看了所有内容,但找不到如何正确处理 Node 中的错误。如果我无法在错误时发送正确的响应代码,客户端如何判断是否实际传输了有效数据?有人可以帮忙吗?

function streamNamesToWriteStream(query, res, options) {
  return new Promise((resolve, reject) => {

    let success = true;

    const dbStream = db.client.stream(query);
    const rowTransformer = new Transform({
      objectMode: true,
      transform(row, encoding, callback) {
        try {
          const vote = row.name + '\n';
          callback(null, vote);
        } catch (err) {
          callback(null, err.message  + '\n');
        }
      }
    });

    // Handle res events
    res.on('error', (err) => {
      logger.error(`res ${res} error`);
      return reject(err);
    });

    dbStream.on('error', function(err) {
      res.status(404).send() // Can't set headers after they are sent.
      logger.debug(`dbStream error: ${err}`);
      success = false;
      //res.end();
      //return reject(err);
    });

    res.writeHead(200, {
      'Content-Type': 'application/zip',
      'Content-disposition': 'attachment; filename=myFile.zip'
    });

    const archive = archiver.create('zip');
    archive.on('error', function(err) { throw err; });
    archive.on('end', function(err) {
      logger.debug(`Archive done`);
      //res.status(404).end()
    });

    archive.pipe(res, {
      //end:false
    });
    archive.append(dbStream.pipe(rowTransformer), { name: 'file1.txt' });
    archive.append(dbStream.pipe(rowTransformer), { name: 'file1.txt' });
    archive.finalize();
  });
}

【问题讨论】:

  • 这是一个有趣的问题。损坏的下载在某种程度上是 HTTP/TCP 工作方式所固有的(因此在下载后使哈希可用以进行验证很受欢迎)。期待其他人的建议。

标签: node.js cassandra pipe node-streams cassandra-node-driver


【解决方案1】:

显然,更改标头为时已晚,因此必须有应用程序逻辑来检测问题。以下是我的一些想法:

  1. 当发生错误时,在流的末尾写入某种明确的标记。然后,zip 文件的使用者需要查找该值来检查问题。

  2. 也许更简单,让消费者对 zip 存档的完整性进行验证。据推测,如果流失败,zip 将被损坏。

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2014-08-28
    • 2014-03-13
    • 2016-04-29
    • 2015-10-28
    • 1970-01-01
    相关资源
    最近更新 更多