阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

MySQL大事务导致的Insert慢的案例分析

191次阅读
没有评论

共计 953 个字符,预计需要花费 3 分钟才能阅读完成。

【问题】

有台 MySQL 服务器不定时的会出现并发线程的告警,从记录信息来看,有大量 insert 的慢查询,执行几十秒,等待 flushing log,状态 query end

MySQL 大事务导致的 Insert 慢的案例分析

【初步分析】

从等待资源来看,大部分时间消耗在了 innodb_log_file 阶段,怀疑可能是磁盘问题导致,经过排查没有发现服务器本身存在硬件问题

 MySQL 大事务导致的 Insert 慢的案例分析

后面开启线程上升时 pstack 的自动采集,定位 MySQL 线程等待的位置。

【分析过程】

部署了 pstack 的自动抓取后,出现过 6 次 thread concurrency >=50 的告警(每次告警时会有大量的慢查询产生),有 3 次抓到了现场。

并发线程升高时,有 50 多个线程卡在 Stage_manager::enroll_for 函数,处于 group commit 阶段

MySQL 大事务导致的 Insert 慢的案例分析

MySQL 大事务导致的 Insert 慢的案例分析

线程 0x519c5940 对应的 SQL 语句如下,已经执行 18 秒

MySQL 大事务导致的 Insert 慢的案例分析

Stage_manager::enroll_for 函数的作用实现了多个线程在 flush_stage 阶段的排队。简单来说,对于一个分组的事务,是被 leader 线程去提交的,其他线程处于排队等待状态,等待 leader 线程将该线程的事务提交完成。

如果第一个线程执行慢,后面的线程都处于等待状态,整组事务无法提交。

MySQL 大事务导致的 Insert 慢的案例分析

流程也可以理解如下,

Session A COMMIT–> 拿到锁 –> 进行 binlog 写 –>commit 完成

Session B COMMIT–> 等待锁 —————————> 拿到锁 –> 进行 binlog 写 –>commit 完成  

 

第一个线程为什么执行很慢,分析了发生告警时间段的日志文件,发现日志中存在 2 个 15M 和 20M 的大事务

MySQL 大事务导致的 Insert 慢的案例分析

查看日志明细,存在 delete from 的大事务删除语句,约包含 23W 条记录,ROW 模式下删除 23W 条记录,会产生大约 20M 的日志文件,刷盘时间较长,阻塞了同一个分组下其他事务的提交。

MySQL 大事务导致的 Insert 慢的案例分析

事务的开始时间与告警时间吻合

积压的分组下事务集中刷盘,反应到磁盘指标上可以看到在问题时间段的 disk_write_kbytes 指标出现明显的上升

MySQL 大事务导致的 Insert 慢的案例分析

【优化方案】

1、建议开发避免使用 delete from 整表的大事务删除语句

【其他变通方案】

2、Binlog 记录的 ROW 模式下会产生大量的日志,改为 MIXED 模式,理论上也可以解决问题

3、更换性能好的磁盘

正文完
星哥玩云-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-22发表,共计953字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中