MySQL中IN子查询会导致无法使用索引

185次阅读

共计 2749 个字符，预计需要花费 7 分钟才能阅读完成。

今天看到一篇关于 MySQL 的 IN 子查询优化的案例，一开始感觉有点半信半疑（如果是换做在 SQL Server 中，这种情况是绝对不可能的，后面会做一个简单的测试。）

随后动手按照他说的做了一个表来测试验证，发现 MySQL 的 IN 子查询做的不好，确实会导致无法使用索引的情况（IN 子查询无法使用所以，场景是 MySQL，截止的版本是 5.7.18）

MySQL 的测试环境

MySQL 中 IN 子查询会导致无法使用索引

测试表如下

create table test_table2
(id int auto_increment primary key,
    pay_id int,
    pay_time datetime,
    other_col varchar(100)
)

建一个存储过程插入测试数据，测试数据的特点是 pay_id 可重复，这里在存储过程处理成，循环插入 300W 条数据的过程中，每隔 100 条数据插入一条重复的 pay_id，时间字段在一定范围内随机

CREATE DEFINER=`root`@`%` PROCEDURE `test_insert`(IN `loopcount` INT)
    LANGUAGE SQL
    NOT DETERMINISTIC
    CONTAINS SQL
    SQL SECURITY DEFINER
    COMMENT ''
BEGIN

    declare cnt int;
    set  cnt = 0;
    while cnt< loopcount do
        insert into test_table2 (pay_id,pay_time,other_col) values  (cnt,date_add(now(), interval floor(300*rand()) day),uuid());
        if (cnt mod 100 = 0) then
            insert into test_table2 (pay_id,pay_time,other_col) values  (cnt,date_add(now(), interval floor(300*rand()) day),uuid());
        end if;
        set cnt = cnt + 1;    
    end while;
END

执行 call test_insert(3000000); 插入 303000 行数据

MySQL 中 IN 子查询会导致无法使用索引

两种子查询的写法

查询大概的意思是查询某个时间段之内的业务 Id 大于 1 的数据，于是就出现两种写法。

第一种写法如下：IN 子查询中是某段时间内业务统计行数大于 1 的业务 Id，外层按照 IN 子查询的结果进行查询，业务 Id 的列 pay_id 上有索引，逻辑也比较简单，
这种写法，在数据量大的时候确实效率比较低，用不到索引

select * from test_table2 force index(idx_pay_id)
where pay_id in (  select pay_id from test_table2 
  where pay_time>="2016-06-01 00:00:00" 
    AND pay_time<="2017-07-03 12:59:59" 
  group by pay_id 
  having count(pay_id) > 1
);

执行结果：2.23 秒

MySQL 中 IN 子查询会导致无法使用索引

第二种写法，与子查询进行 join 关联，这种写法相当于上面的 IN 子查询写法，下面测试发现，效率确实有不少的提高

select tpp1.* from test_table2 tpp1, 
(select pay_id 
     from test_table2 
      WHERE pay_time>="2016-07-01 00:00:00" 
     AND pay_time<="2017-07-03 12:59:59" 
     group by pay_id 
     having count(pay_id) > 1
) tpp2 
where tpp1.pay_id=tpp2.pay_id

执行结果：0.48 秒

MySQL 中 IN 子查询会导致无法使用索引

In 子查询的执行计划，发现外层查询是一个全表扫描的方式，没有用到 pay_id 上的索引

MySQL 中 IN 子查询会导致无法使用索引

join 自查的执行计划，外层（tpp1 别名的查询）是用到 pay_id 上的索引的。

MySQL 中 IN 子查询会导致无法使用索引

后面想对第一种查询方式使用强制索引，虽然是不报错的，但是发现根本没用

MySQL 中 IN 子查询会导致无法使用索引

如果子查询是直接的值，则是可以正常使用索引的。

MySQL 中 IN 子查询会导致无法使用索引

可见 MySQL 对 IN 子查询的支持，做的确实不怎么样。

另外：加一个使用临时表的情况，虽然比不少 join 方式查询的，但是也比直接使用 IN 子查询效率要高，这种情况下，也是可以使用到索引的，不过这种简单的情况，是没有必要使用临时表的。

MySQL 中 IN 子查询会导致无法使用索引

下面是类似案例在 sqlserver 2014 中的测试，几万完全一样的测试表结构和数量，可见这种情况下，两种写法，在 SQL Server 中可以认为是完全一样的（执行计划 + 效率），这一点 SQL Server 要��MySQL 强不少

MySQL 中 IN 子查询会导致无法使用索引

下面是 sqlserver 中的测试环境脚本。

create table test_table2
(id int identity(1,1) primary key,
    pay_id int,
    pay_time datetime,
    other_col varchar(100)
)

begin  tran
declare @i int = 0
while @i<300000
begin
    insert into test_table2 values (@i,getdate()-rand()*300,newid());
    if(@i%1000=0)
    begin
        insert into test_table2 values (@i,getdate()-rand()*300,newid());
    end
    set @i = @i + 1
end
COMMIT
GO


create index idx_pay_id on test_table2(pay_id);
create index idx_time on test_table2(pay_time);
GO




select * from test_table2 
where pay_id in (select pay_id from test_table2 
                    where pay_time>='2017-01-21 00:00:00' 
                    AND pay_time<='2017-07-03 12:59:59' 
                    group by pay_id 
                    having count(pay_id) > 1
                );

select tpp1.* from test_table2 tpp1, 
(select pay_id 
     from test_table2 
      WHERE pay_time>='2017-01-21 00:00:00'
     AND pay_time<='2017-07-30 12:59:59' 
     group by pay_id having 
     count(pay_id) > 1
) tpp2 
where tpp1.pay_id=tpp2.pay_id