【问题标题】:How to use unordered bulk inserting with Mongoskin?如何在 Mongoskin 中使用无序批量插入?
【发布时间】:2014-09-02 20:24:13
【问题描述】:

我在使用 Mongoskin 在 Node 上执行批量插入 (MongoDB 2.6+) 时遇到问题。

var dbURI = urigoeshere;
var db = mongo.db(dbURI, {safe:true});
var bulk = db.collection('collection').initializeUnorderedBulkOp();

for (var i = 0; i < 200000; i++) {
    bulk.insert({number: i}, function() {
        console.log('bulk inserting: ', i);
    });
}

bulk.execute(function(err, result) {
    res.json('send response statement');
}); 

上面的代码给出了以下警告/错误:

(node) warning: possible EventEmitter memory leak detected. 51 listeners added. Use emitter.setMaxListeners() to increase limit.
TypeError: Object #<SkinClass> has no method 'execute'
(node) warning: possible EventEmitter memory leak detected. 51 listeners added. Use emitter.setMaxListeners() to increase limit.
TypeError: Object #<SkinClass> has no method 'execute'

是否可以使用 Mongoskin 执行无序批量操作?如果是这样,我做错了什么?

【问题讨论】:

    标签: javascript node.js mongodb mongodb-query mongoskin


    【解决方案1】:

    您可以这样做,但您需要更改调用约定以执行此操作,因为只有“回调”表单实际上会返回一个集合对象,可以从中调用 .initializeUnorderedBulkOp() 方法。您认为它的工作方式也存在一些用法差异:

    var dbURI = urigoeshere;
    var db = mongo.db(dbURI, {safe:true});
    db.collection('collection',function(err,collection) {
        var bulk = collection.initializeUnorderedBulkOp();
        count = 0;
    
        for (var i = 0; i < 200000; i++) {
            bulk.insert({number: i});
            count++;
    
            if ( count % 1000 == 0 )
                bulk.execute(function(err,result) {
                   // maybe do something with results
                   bulk = collection.initializeUnorderedBulkOp(); // reset after execute
                });      
    
        });
    
        // If your loop was not a round divisor of 1000
        if ( count % 1000 != 0 )
            bulk.execute(function(err,result) {
              // maybe do something here
            });
    });
    

    因此,实际的“批量”方法本身不需要回调并且完全按照the documentation 中所示的方式工作。异常是.execute(),它实际上将语句发送到服务器。

    虽然驱动程序会在某种程度上为您解决这个问题,但在调用 execute 之前排队太多操作可能不是一个好主意。这基本上是在内存中建立的,虽然驱动程序一次只能发送 1000 个批次(这是服务器限制,并且整个批次都在 16MB 以下),但您可能需要在这里进行更多控制,至少限制内存使用。

    这是模测试的重点,但如果用于构建操作的内存和可能非常大的响应对象对您来说不是问题,那么您可以继续排队操作并调用.execute()一次。

    “响应”的格式与BulkWriteResult 的文档中给出的格式相同。

    【讨论】:

    • 批量分页将无法按预期工作,因为您将在稍后执行的回调中替换对批量变量的引用,因此您的循环将超过第一个1000 次迭代,仍然保留对第一个批量操作的引用
    • 我看到 mongodb 3.x 和 mongoskin 2.2.0 的问题,使用 Neil Lunn 建议的方法,我不知道我是否应该单独重新提出这个问题,所以我创建了一个stackoverflow.com/questions/38810387/… 的新 SO 问题
    • 只是为了澄清 Neil Lunn 的回答,mongoskin 目前根本不支持实现批量操作所需的抽象。但是,如果您不想重新编码,有一种简单的方法可以绕过事物并直接进入本机 mongojs 界面。它利用了 mongoskin 内部的私有数据,因此并不理想,但它/确实/工作...请参阅stackoverflow.com/questions/38810387/… 中的答案,但简短的答案是,从 mongoskin db 对象中,您可以从 db 获取本机对象。 _native
    猜你喜欢
    • 2014-04-13
    • 1970-01-01
    • 1970-01-01
    • 2015-09-12
    • 2012-09-28
    • 2012-10-23
    • 1970-01-01
    • 2016-01-17
    • 2011-06-11
    相关资源
    最近更新 更多