【发布时间】:2013-09-17 19:54:09
【问题描述】:
我正在从流式 API 收集数据,我想创建一个实时分析仪表板。此仪表板将显示一个简单的时间序列,绘制每小时的文档数量。我想知道我目前的方法是否最佳。
在以下示例中,为流中的每个新文档触发 on_data。
# Mongo collections.
records = db.records
stats = db.records.statistics
on_data(self, data):
# Create a json document from data.
document = simplejson.loads(data)
# Insert the new document into records.
records.insert(document)
# Update a counter in records.statistics for the hour this document belongs to.
stats.update({ 'hour': document['hour'] }, { '$inc': { document['hour']: 1 } }, upsert=True)
以上工作。我得到了一个漂亮的图表,它绘制了每小时的文档数量。我的问题是这种方法是否最佳。我对每个文档提出两个 Mongo 请求。第一个插入文档,第二个更新计数器。流每秒发送大约 10 个新文档。
是否有例如告诉 Mongo 将 db.records.statistics 保留在 RAM 中?我想这会大大减少我服务器上的磁盘访问。
【问题讨论】:
-
您多久刷新一次图表?您可以非规范化和聚合(对于图表)。您有 2 次写入和 1 次读取,您可以将其进行一次写入和一次聚合。再说一次,由于小时数相当小(24 个值),您可以将聚合替换为索引小时字段上的计数。
标签: mongodb