有什么方法可以优化这个 MySQL 查询？ （资源密集）

Question

我的应用需要经常运行此查询，它会获取用户数据列表以供应用显示。问题是关于user_quiz 的子查询占用大量资源，并且计算排名也非常占用CPU。 基准测试：每次运行约 0.5 秒 什么时候运行：

• 当用户想要查看他们的排名时
• 当用户想查看其他人的排名时
• 获取用户好友列表

.5 秒，考虑到这个查询会经常运行，这是一个很长的时间。我可以做些什么来优化这个查询吗？

user 的表格：

CREATE TABLE `user` (
 `id` int(11) NOT NULL AUTO_INCREMENT,
 `firstname` varchar(100) DEFAULT NULL,
 `lastname` varchar(100) DEFAULT NULL,
 `password` varchar(20) NOT NULL,
 `email` varchar(300) NOT NULL,
 `verified` tinyint(10) DEFAULT NULL,
 `avatar` varchar(300) DEFAULT NULL,
 `points_total` int(11) unsigned NOT NULL DEFAULT '0',
 `points_today` int(11) unsigned NOT NULL DEFAULT '0',
 `number_correctanswer` int(11) unsigned NOT NULL DEFAULT '0',
 `number_watchedvideo` int(11) unsigned NOT NULL DEFAULT '0',
 `create_time` datetime NOT NULL,
 `type` tinyint(1) unsigned NOT NULL DEFAULT '1',
 `number_win` int(11) unsigned NOT NULL DEFAULT '0',
 `number_lost` int(11) unsigned NOT NULL DEFAULT '0',
 `number_tie` int(11) unsigned NOT NULL DEFAULT '0',
 `level` int(1) unsigned NOT NULL DEFAULT '0',
 `islogined` tinyint(1) unsigned NOT NULL DEFAULT '0',
 PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=230 DEFAULT CHARSET=utf8;

user_quiz 的表格：

CREATE TABLE `user_quiz` (
 `id` int(11) unsigned NOT NULL AUTO_INCREMENT,
 `user_id` int(11) NOT NULL,
 `question_id` int(11) NOT NULL,
 `is_answercorrect` int(11) unsigned NOT NULL DEFAULT '0',
 `question_answer_datetime` datetime NOT NULL,
 `score` int(1) DEFAULT NULL,
 `quarter` int(1) DEFAULT NULL,
 `game_type` int(1) DEFAULT NULL,
 PRIMARY KEY (`id`),
 KEY `user_id` (`user_id`)
) ENGINE=InnoDB AUTO_INCREMENT=9816 DEFAULT CHARSET=utf8;

user_starter 的表格：

CREATE TABLE `user_starter` (
 `id` int(11) NOT NULL AUTO_INCREMENT,
 `user_id` int(11) DEFAULT NULL,
 `result` int(1) DEFAULT NULL,
 `created_date` date DEFAULT NULL,
 PRIMARY KEY (`id`),
 KEY `user_id` (`user_id`)
) ENGINE=InnoDB AUTO_INCREMENT=456 DEFAULT CHARSET=utf8mb4;

我的索引：

Table: user
Table    Non_unique    Key_name    Seq_in_index    Column_name    Collation    Cardinality    Sub_part    Packed    Null    Index_type    Comment    Index_comment
user    0    PRIMARY    1    id    A    32                BTREE

Table: user_quiz
Table    Non_unique    Key_name    Seq_in_index    Column_name    Collation    Cardinality    Sub_part    Packed    Null    Index_type    Comment    Index_comment
user_quiz    0    PRIMARY    1    id    A    9462                BTREE
user_quiz    1    user_id    1    user_id    A    270                BTREE

Table: user_starter
Table    Non_unique    Key_name    Seq_in_index    Column_name    Collation    Cardinality    Sub_part    Packed    Null    Index_type    Comment    Index_comment
user_starter    0    PRIMARY    1    id    A    454                BTREE
user_starter    1    user_id    1    user_id    A    227            YES    BTREE

查询：

SET @curRank = 0;
SET @lastPlayerPoints = 0;
SELECT
  sub.*,
  @curRank := IF(@lastPlayerPoints!=points_week, @curRank + 1, @curRank) AS rank,
    @lastPlayerPoints := points_week AS db_PPW
FROM (
  SELECT u.id,u.firstname,u.lastname,u.email,u.avatar,u.type,u.points_total,u.number_win,u.number_lost,u.number_tie,u.verified,
    COALESCE(SUM(uq.score),0) as points_week,
    COALESCE(us.number_lost,0) as number_week_lost,
    COALESCE(us.number_win,0) as number_week_win,
    (select MAX(question_answer_datetime) from user_quiz WHERE user_id = u.id and game_type = 1) as lastFrdFight,
    (select MAX(question_answer_datetime) from user_quiz WHERE user_id = u.id and game_type = 2) as lastBotFight
  FROM `user` u
  LEFT JOIN (SELECT user_id,
    count(case when result=1 then 1 else null end) as number_win,
    count(case when result=-1 then 1 else null end) as number_lost
    from user_starter where created_date BETWEEN '2016-01-11 00:00:00' AND '2016-05-12 05:10:27' ) us ON u.id = us.user_id
  LEFT JOIN (SELECT * FROM user_quiz WHERE question_answer_datetime BETWEEN '2016-01-11 00:00:00' AND '2016-05-12 00:00:00') uq on u.id = uq.user_id
  GROUP BY u.id ORDER BY points_week DESC, u.lastname ASC, u.firstname ASC
) as sub

解释：

id    select_type    table    type    possible_keys    key    key_len    ref    rows    filtered    Extra
1    PRIMARY    <derived2>    ALL                    3027    100    
2    DERIVED    u    ALL    PRIMARY                32    100    Using temporary; Using filesort
2    DERIVED    <derived5>    ALL                    1    100    Using where; Using join buffer (Block Nested Loop)
2    DERIVED    <derived6>    ref    <auto_key0>    <auto_key0>    4    fancard.u.id    94    100    
6    DERIVED    user_quiz    ALL                    9461    100    Using where
5    DERIVED    user_starter    ALL                    454    100    Using where
4    DEPENDENT SUBQUERY    user_quiz    ref    user_id    user_id    4    func    35    100    Using where
3    DEPENDENT SUBQUERY    user_quiz    ref    user_id    user_id    4    func    35    100    Using where

示例输出和预期输出：

基准：大约 0.5 秒

Answer 1

以下索引应该使到user_quiz 的子查询超快。

ALTER TABLE user_quiz
ADD INDEX (`user_id`,`game_type`,`question_answer_datetime`)

请为所有表提供SHOW CREATE TABLE tablename 语句，因为这将有助于进一步优化。

更新 #1

好的，我有时间查看了一下，幸运的是，在优化方面似乎有很多相对较低的成果。

这里是所有要添加的索引：

ALTER TABLE user_quiz
ADD INDEX `userGametypeAnswerDatetimes` (`user_id`,`game_type`,`question_answer_datetime`)

ALTER TABLE user_quiz
ADD INDEX `userAnswerScores` (`user_id`,`question_answer_datetime`,`score`)

ALTER TABLE user_starter
ADD INDEX `userResultDates` (`user_id`,`result`,`created_date`)

请注意，名称（例如userGametypeAnswerDatetimes）是可选的，您可以将它们命名为对您最有意义的任何名称。但是，一般来说，最好在自定义索引上加上特定的名称（仅出于组织目的。）

现在，您的查询应该适用于这些新索引：

SET @curRank = 0;
SET @lastPlayerPoints = 0;
SELECT
sub.*,
@curRank := IF(@lastPlayerPoints!=points_week, @curRank + 1, @curRank) AS rank,
@lastPlayerPoints := points_week AS db_PPW
FROM (
    SELECT u.id,
    u.firstname,
    u.lastname,
    u.email,
    u.avatar,
    u.type,
    u.points_total,
    u.number_win,
    u.number_lost,
    u.number_tie,
    u.verified,
    COALESCE(user_scores.score,0) as points_week,
    COALESCE(user_losses.number_lost,0) as number_week_lost,
    COALESCE(user_wins.number_win,0) as number_week_win,
    (
        select MAX(question_answer_datetime) 
        from user_quiz 
        WHERE user_id = u.id and game_type = 1
    ) as lastFrdFight,
    (
        select MAX(question_answer_datetime) 
        from user_quiz 
        WHERE user_id = u.id 
        and game_type = 2
    ) as lastBotFight
    FROM `user` u
    LEFT OUTER JOIN (
        SELECT user_id,
        COUNT(*) AS number_won
        from user_starter 
        WHERE created_date BETWEEN '2016-01-11 00:00:00' AND '2016-05-12 05:10:27'
        AND result = 1
        GROUP BY user_id
    ) user_wins
    ON user_wins.user_id = u.user_id
    LEFT OUTER JOIN (
        SELECT user_id,
        COUNT(*) AS number_lost
        from user_starter 
        WHERE created_date BETWEEN '2016-01-11 00:00:00' AND '2016-05-12 05:10:27'
        AND result = -1
        GROUP BY user_id
    ) user_losses
    ON user_losses.user_id = u.user_id
    LEFT OUTER JOIN (
        SELECT SUM(score)
        FROM user_quiz 
        WHERE question_answer_datetime 
        BETWEEN '2016-01-11 00:00:00' AND '2016-05-12 00:00:00'
        GROUP BY user_id
    ) user_scores
    ON u.id = user_scores.user_id
    ORDER BY points_week DESC, u.lastname ASC, u.firstname ASC
) as sub

注意：这不一定是最好的结果。这在很大程度上取决于您的数据集，这是否一定是最好的，有时您需要进行一些试验和错误。

关于您可以使用试错法的提示是我们如何查询lastFrdFight 和lastBotFight 的结构以及我们如何查询points_week、number_week_lost、number_week_win。所有这些都可以在 select 语句中完成（就像前两个在我的查询中一样），也可以通过加入子查询结果来完成（就像最后三个在我的查询中一样。）

混合搭配，看看哪种效果最好。一般来说，当外部查询中有大量行时，我发现加入子查询最快（在这种情况下，查询user 表。）这是因为它只需要获取结果一次，然后可以逐个用户匹配它们。其他时候，最好只在 SELECT 子句中进行查询 - 这将运行得更快，因为有更多常量（user_id 已知），但必须为每一行运行。所以这是一种权衡，也是为什么有时需要反复试验的原因。

索引为什么起作用？

所以，您可能想知道我为什么要像以前那样制作索引。如果您熟悉电话簿（在这个智能手机时代，这不再是我可以做出的有效假设），那么我们可以将其用作类比：

如果您的用户表上有phonebookIndex (lastname,firstname,email) 的复合索引（此处的示例！您实际上不需要添加该索引！）您将得到一个结果类似于电话簿提供的功能。 （使用电子邮件而不是电话号码。）

每个索引都是整个表中数据的内部副本。有了这个phonebookIndex，内部将存储所有用户的列表，其中包含姓氏、名字、电子邮件，每个用户都将被排序，就像电话簿一样。

为什么有用？考虑一下您何时知道某人的名字和姓氏。您可以快速跳转到他们的姓氏所在的位置，然后快速浏览该姓氏的每个人的列表，找到您想要的名字，从而获取电子邮件。

就数据库如何看待它们而言，索引的工作方式完全相同。

考虑我在上面定义的userGametypeAnswerDatetimes 索引，以及我们如何在lastFrdFight SELECT 子查询中查询该索引。

(
    select MAX(question_answer_datetime) 
    from user_quiz 
    WHERE user_id = u.id and game_type = 1
) as lastFrdFight

注意我们如何将 user_id（来自外部查询）和 game_type 作为常量。这与我们之前的示例完全相同，具有名字和姓氏，并且想要查找电子邮件/电话号码。在这种情况下，我们正在寻找索引中第三个值的 MAX。仍然很简单：所有值都是有序的，所以如果这个索引在我们面前，我们可以翻转到特定的 user_id，然后查看所有 game_type=1 的部分，然后选择最后一个值以找到最大值.非常非常快。数据库也一样。它可以非常快速地找到这个值，这就是为什么您看到整体查询时间减少了 80% 以上。

这就是索引的工作原理，也是我选择这些索引的原因。

请注意，您拥有的索引越多，您在执行插入和更新时就会发现越慢。但是，如果您从表格中读取的内容比写入的内容多得多，这通常是一个可以接受的折衷方案。

所以，试一试这些更改，让我知道它的表现如何。如果您需要进一步的优化帮助，请提供新的 EXPLAIN 计划。此外，这应该为您提供相当多的工具来使用反复试验来查看哪些有效，哪些无效。我所做的所有更改都是相互独立的，因此您可以将它们与原始查询片段进行交换，以了解每个更改的工作原理。