【问题标题】:Which one is faster for querying Athena: pyathena or boto3?查询 Athena 哪个更快:pyathena 还是 boto3?
【发布时间】:2020-10-10 08:32:46
【问题描述】:

pyathenaboto3 使用 python 脚本查询 AWS Athena 架构哪个更快?

目前我正在使用 pyathena 查询 Athena 架构,但速度很慢,而且我知道 boto3 还有另一种选择,但在开始之前需要一些专家建议。

【问题讨论】:

  • 您有什么要求?你想从哪里运行查询?您是只想发出查询还是希望将结果返回给客户端?
  • 查询实际上是在 Athena 计算中运行,而不是在您这边。您唯一需要时间的是从 S3 加载结果数据,以及 Athena 查询的轮询间隔结束。结果输出的大小是多少?您正在运行的查询是什么?

标签: python amazon-web-services boto3 amazon-athena pyathena


【解决方案1】:

查看dependencies for PyAthena可以看到它实际上有一个boto3的依赖。

除非 PyAthena 为其库增加了很多开销(这不太可能),否则您可能会看到的最佳性能改进将取决于您如何使用 Athena 本身。

您可以进行许多性能改进,亚马逊发布了一个名为 Top 10 Performance Tuning Tips for Amazon Athena 的博客,这将有助于提高您的查询性能。

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2021-01-18
    • 1970-01-01
    • 1970-01-01
    • 2019-11-23
    • 2014-05-16
    • 2011-03-26
    • 2012-06-12
    相关资源
    最近更新 更多