【发布时间】:2020-08-14 06:55:35
【问题描述】:
背景
我目前正在尝试根据我拥有的数据库设计找出在 lambda 函数中计算某些统计数据的最佳方法。假设我有来自中国的用户记录,其中有 23 个省份,我存储在一个数组中,我想确定女性和男性的总数,以及每个省份的用户数。
给定一个包含 200,000 个项目的 GSI 表,每个项目的总大小为 100 字节,如下所示,省属性是分区键。
{
"createdAt": {
"S": "2020-08-05T19:21:07.532Z"
},
"gender": {
"S": "Male"
},
"updatedAt": {
"S": "2020-08-05T19:21:07.532Z"
},
"province": {
"S": "Heilongjiang"
}
}
我正在考虑使用两种方法进行此计算:
1.查询方法
我计划循环遍历省数组,并在每个循环上为查询方法提供一个分区键,这最终会发出过多的请求(准确地说是 23,也就是说,如果返回的每个请求都没有超过1MB 这可能会导致我不断重复,直到当前查询不再有 lastEvaluationKey)。
2.扫描方法
在这种方法中,我会反复向数据库发出请求,直到没有 lastEvaluationKey。
了解扫描和查询方法都只能返回 1mb 的数据,哪种方法最适合在这个特定用例中使用?
我正在考虑使用扫描方法,因为我需要读取表中的所有数据才能计算统计数据;但是,我担心随着表的增长,操作会变得多么缓慢。
PS:对于不同的 keySchema 以更好地访问的建议也将不胜感激。
【问题讨论】:
标签: optimization aws-lambda amazon-dynamodb query-optimization