【问题标题】:MySQL performance for version 5.7 vs. 5.6MySQL 5.7 与 5.6 的性能对比
【发布时间】:2017-09-19 06:34:03
【问题描述】:

我注意到一个特定的性能问题,我不确定如何处理。

我正在将 Web 应用程序从一个服务器迁移到另一个具有非常相似规范的服务器。新服务器的性能通常优于旧服务器。

旧服务器运行 MySQL 5.6.35
新服务器正在运行 MySQL 5.7.17

新旧服务器的 MySQL 配置几乎相同。 新旧服务器都运行完全相同的数据库,完全复制。

有问题的网络应用程序是 Magento 1.9.3.2。

在 Magento 中,以下函数 Mage_Catalog_Model_Category::getChildrenCategories() 旨在列出给定某个类别的所有直接子类别。

在我的例子中,这个函数最终会冒泡到这个查询:

SELECT    `main_table`.`entity_id`
        , main_table.`name`
        , main_table.`path`
        , `main_table`.`is_active`
        , `main_table`.`is_anchor`
        , `url_rewrite`.`request_path`

FROM `catalog_category_flat_store_1` AS `main_table`

LEFT JOIN `core_url_rewrite` AS `url_rewrite`
ON url_rewrite.category_id=main_table.entity_id
AND url_rewrite.is_system=1
AND url_rewrite.store_id = 1
AND url_rewrite.id_path LIKE 'category/%'

WHERE (main_table.include_in_menu = '1')
AND (main_table.is_active = '1')
AND (main_table.path LIKE '1/494/%')
AND (`level` <= 2)
ORDER BY `main_table`.`position` ASC;

虽然此查询的结构对于任何 Magento 安装都是相同的,但 Magento 安装到 Magento 安装之间的值以及函数正在查看的类别之间显然存在细微差异。

我的catalog_category_flat_store_1 表有 214 行。
我的url_rewrite 表有 1,734,316 行。

这个查询,当它自己直接执行到 MySQL 中时,在 MySQL 版本之间的执行非常不同。

我正在使用 SQLyog 来分析这个查询。

在 MySQL 5.6 中,上述查询在 0.04 秒内执行。此查询的配置文件如下所示:https://codepen.io/Petce/full/JNKEpy/

在 MySQL 5.7 中,上述查询在 1.952 秒内执行。此查询的配置文件如下所示:https://codepen.io/Petce/full/gWMgKZ/

如您所见,在几乎完全相同的设置上执行相同的查询几乎慢了 2 秒,我不确定为什么。

由于某种原因,MySQL 5.7 不想使用表索引来帮助生成结果集。

任何有更多经验/知识的人都可以解释这里发生了什么以及如何解决它?

我认为这个问题与 MYSQL 5.7 优化器的工作方式有关。出于某种原因,似乎认为全表扫描是可行的方法。我可以通过将 max_seeks_for_key 设置得非常低(比如 100)或将 range_optimizer_max_mem_size 降到非常低以强制它发出警告来显着提高查询性能。

执行其中任何一个都可以将查询速度提高近 10 倍,降至 0.2 秒,但是,这仍然比 0.04 秒内执行的 MYSQL 5.6 慢很多,我认为这两个都不是一个好主意,因为我'不确定是否会有其他影响。

修改查询也非常困难,因为它是由 Magento 框架生成的,并且需要定制我想避免的 Magento 代码库。我什至不确定它是否是唯一有效的查询。

我已经为我的 MySQL 安装包含了次要版本。我现在正在尝试将 MySQL 5.7.17 更新到 5.7.18(最新版本)以查看性能是否有任何更新。

升级到 MySQL 5.7.18 后,我没有看到任何改进。为了使系统恢复到稳定的高性能状态,我们决定降级回 MySQL 5.6.30。降级后,我们看到了立竿见影的改善。

上述查询在 MySQL 5.6.30 中在 NEW 服务器上执行,耗时 0.036 秒。

【问题讨论】:

  • 具体有哪些版本? 5.7.12:“对于具有许多 OR 条件的查询,优化器现在内存效率更高,并且不太可能超过 range_optimizer_max_mem_size 系统变量施加的内存限制。此外,该变量的默认值已从 1536000 提高到8388608。(错误#79450,错误#22283790)“
  • 和 5.7.9:“对于具有许多范围条件的查询,优化器会估计范围扫描需要太多内存并回退到不太理想的计划,例如完全表扫描。新的 range_optimizer_max_mem_size 系统变量现在控制范围优化器的内存消耗限制。值 0 表示“无限制”。如果执行...(查看更新日志)
  • 对使用“妨碍”的第 3 方软件表示哀悼。这是 5.7 中的“查询重写”功能:mysql.rjweb.org/doc.php/queryrewrite
  • 为了了解优化器在 5.6 和 5.7 中的想法有何不同,我想我需要查看两个版本的优化器跟踪。但是,正如 Rick 所写,您似乎没有最佳索引,因为 MySQL 无法在任何版本中使用索引嵌套循环连接。 (category_id, is_system, store_id, id_path) 上的索引,按照这个顺序,应该可以加快您在两个版本中的查询。
  • 您是否为此提交了错误?请问它是在 5.7.19 或更高版本中修复的吗?

标签: mysql performance magento-1.9 mysql-5.6 mysql-5.7


【解决方案1】:

这不是只为@Nigel Ren 发表评论的答案

这里可以看到 LIKE 也使用了索引。

mysql> SELECT *
    -> FROM testdb
    -> WHERE
    -> vals LIKE 'text%';
+----+---------------------------------------+
| id | vals                                  |
+----+---------------------------------------+
|  3 | text for line number 3                |
|  1 | textline 1 we rqwe rq wer qwer q wer  |
|  2 | textline 2 asdf asd fas f asf  wer 3  |
+----+---------------------------------------+
3 rows in set (0,00 sec)

mysql> EXPLAIN
    -> SELECT *
    -> FROM testdb
    -> WHERE
    -> vals LIKE 'text%';
+----+-------------+--------+------------+-------+---------------+------+---------+------+------+----------+--------------------------+
| id | select_type | table  | partitions | type  | possible_keys | key  | key_len | ref  | rows | filtered | Extra                    |
+----+-------------+--------+------------+-------+---------------+------+---------+------+------+----------+--------------------------+
|  1 | SIMPLE      | testdb | NULL       | range | vals          | vals | 515     | NULL |    3 |   100.00 | Using where; Using index |
+----+-------------+--------+------------+-------+---------------+------+---------+------+------+----------+--------------------------+
1 row in set, 1 warning (0,01 sec)

mysql>

用 LEFT() 采样

mysql> SELECT *
    -> FROM testdb
    -> WHERE
    -> LEFT(vals,4) = 'text';
+----+---------------------------------------+
| id | vals                                  |
+----+---------------------------------------+
|  3 | text for line number 3                |
|  1 | textline 1 we rqwe rq wer qwer q wer  |
|  2 | textline 2 asdf asd fas f asf  wer 3  |
+----+---------------------------------------+
3 rows in set (0,01 sec)

mysql> EXPLAIN
    -> SELECT *
    -> FROM testdb
    -> WHERE
    -> LEFT(vals,4) = 'text';
+----+-------------+--------+------------+-------+---------------+------+---------+------+------+----------+--------------------------+
| id | select_type | table  | partitions | type  | possible_keys | key  | key_len | ref  | rows | filtered | Extra                    |
+----+-------------+--------+------------+-------+---------------+------+---------+------+------+----------+--------------------------+
|  1 | SIMPLE      | testdb | NULL       | index | NULL          | vals | 515     | NULL |    5 |   100.00 | Using where; Using index |
+----+-------------+--------+------------+-------+---------------+------+---------+------+------+----------+--------------------------+
1 row in set, 1 warning (0,01 sec)

mysql>

【讨论】:

  • 误导性示例。由于该表只有 2 列,* 仅引用 id, valsINDEX(vals) 隐含包含PK,即id。因此,该指数是“覆盖”的,因此具有误导性的“使用指数”。这 WHERE 是否使用索引进行过滤。相反,“possible_keys”表示“vals”以指示使用索引进行过滤。 “NULL”表示它需要对某些内容(在本例中为覆盖索引)进行全面扫描。
  • Bernd -- 建议您在testdb 示例中添加另一列;它将包含在* 中,但它会导致LEFT 案例丢失“使用索引”。
【解决方案2】:

哇!这是我第一次从 Profiling 中看到有用的东西。动态创建索引是 Oracle 的一项新优化功能。但看起来这不是这个案子的最佳方案。

首先,我建议您在http://bugs.mysql.com 提交一个错误——他们不喜欢回归,尤其是这种令人震惊的。如果可能,请提供EXPLAIN FORMAT=JSON SELECT... 和“优化器跟踪”。 (我不接受调整晦涩的可调参数作为可接受的答案,但感谢您发现它们。)

回到帮助你...

  • 如果您不需要LEFT,请不要使用它。当“右”表中没有匹配的行时,它返回NULLs;你的情况会发生这种情况吗?
  • 请提供SHOW CREATE TABLE。同时,我猜你没有INDEX(include_in_menu, is_active, path)。前两个可以按任意顺序; path 必须放在最后。
  • 最后是INDEX(category_id, is_system, store_id, id_path)id_path
  • 您的查询似乎有一种模式可以很好地转换为子查询:

(注意:这甚至保留了LEFT 的语义。)

SELECT  `main_table`.`entity_id` , main_table.`name` , main_table.`path` ,
        `main_table`.`is_active` , `main_table`.`is_anchor` ,
        ( SELECT  `request_path`
            FROM  url_rewrite
            WHERE  url_rewrite.category_id=main_table.entity_id
              AND  url_rewrite.is_system = 1
              AND  url_rewrite.store_id  = 1
              AND  url_rewrite.id_path LIKE 'category/%' 
        ) as request_path
    FROM  `catalog_category_flat_store_1` AS `main_table`
    WHERE  (main_table.include_in_menu = '1')
      AND  (main_table.is_active = '1')
      AND  (main_table.path like '1/494/%')
      AND  (`level` <= 2)
    ORDER BY  `main_table`.`position` ASC
    LIMIT  0, 1000 

(建议的索引也适用于此。)

【讨论】:

  • 我接受这个作为正确答案。我也同意你的观点,即调整晦涩的可调参数不是解决这个特定问题的方法。调整这些值违背了新优化器算法的目的。
  • 大家好,我一直在 RDS 5.6 和 5.7 上测试同样的东西。我不完全了解内部结构,但肯定会看到影响。这个错误报告是一样的吗? bugs.mysql.com/bug.php?id=80580 - RDS 还没有 5.7.18 但我要在本地设置,看看是否有帮助。
猜你喜欢
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2016-11-24
  • 2015-10-11
  • 2016-02-21
  • 2010-10-18
  • 1970-01-01
  • 1970-01-01
相关资源
最近更新 更多