【发布时间】:2019-11-20 14:06:37
【问题描述】:
我在 Athena 中查询一个给出错误的表:GENERIC_INTERNAL_ERROR: Number of partition values does not match number of filters
我之前能够查询它,但添加了另一个分区(AWS 粘合作业)来尝试优化我稍后将在查询中执行的连接。我确实重新运行了爬虫来更新表以反映分区。
我想知道这个错误究竟意味着什么。
我尝试重新抓取数据,但没有成功。接下来,我将清除底层 S3 数据并从头开始重新处理整个数据集,然后重新抓取它。
SELECT *
FROM mydb.mytable
LIMIT 10
我想了解错误的含义,以及除了重新处理整个原始数据集并重新抓取之外,是否有其他解决方法。
【问题讨论】:
-
分区键的值在分区名称(逗号分隔的字符串)中的 Hive 元存储中编码。您需要更新这些分区名称。如果重新抓取数据没有帮助,我认为除了重新创建表定义之外没有其他选择。注意:重新抓取时,请确保您的数据布局实际上与您的新分区方案匹配。
标签: amazon-web-services aws-glue presto amazon-athena