TiDB 查询优化及调优系列（五）调优案例实践

link之家

链接快照平台

输入网页链接，自动生成快照
标签化管理网页链接

相关文章推荐

谦和的猕猴桃 · 巢小良大使接受中央广播电视总台 ...· 3 月前 ·

害羞的海龟 · 痛心！国家一级演员林永健，挚爱离世留下一生遗 ...· 4 月前 ·

爱热闹的松鼠 · 《爸爸去哪儿3》:该如何延续综艺大IP_手机新浪网· 1 年前 ·

听话的小刀 · 偷窥第2话-夜半诡谈-漫画牛· 1 年前 ·

有胆有识的铁链 · 日前，我们从比亚迪官方获悉，比亚迪宋PL_车 ...· 1 年前 ·

</noscript><nav class="navbar index-module--header--+tJQO" role="navigation" aria-label="main navigation"><div class="navbar-brand index-module--mobileNavBar--shD-Y"><a class="navbar-item index-module--logo--nlzXC" href="/"><img src="data:image/svg+xml;base64,PHN2ZyB4bWxucz0iaHR0cDovL3d3dy53My5vcmcvMjAwMC9zdmciIHZpZXdCb3g9IjAgMCA2MTcuMzYgMTYwIj48ZGVmcz48c3R5bGU+LmNscy0xe2ZpbGw6I2ZmZjt9LmNscy0ye2ZpbGw6bm9uZTt9LmNscy0ze2ZpbGw6IzE3MmQ3Mjt9LmNscy00e2ZpbGw6IzAwYWVlZjt9LmNscy01e2ZpbGw6IzNkM2ZlYTt9PC9zdHlsZT48L2RlZnM+PGcgaWQ9IuWbvuWxgl8yIiBkYXRhLW5hbWU9IuWbvuWxgiAyIj48ZyBpZD0iTGF5ZXJfMSIgZGF0YS1uYW1lPSJMYXllciAxIj48cGF0aCBjbGFzcz0iY2xzLTEiIGQ9Ik00NzEuOCw5OC4zM2gwbC0uMTcuMjdhMzAuMjYsMzAuMjYsMCwwLDEtMTAuMzEsOS44NCwyNy42MSwyNy42MSwwLDAsMS0xNC4xLDQuMDhjLTguMjIsMC0xNS40MS0zLjI4LTIxLjM1LTkuNzRhMzIuOSwzMi45LDAsMCwxLTguNTQtMjMuMjcsMzIuMzYsMzIuMzYsMCwwLDEsOC44Mi0yMi4wN2M1LjczLTYuMTQsMTIuNjItOS4yNSwyMC41MS05LjI1LDEwLjc4LS4wOSwxOC45Miw0LjM2LDI0Ljg3LDEzLjYybC4xOC4yN2guMTZsNy00LjM0YTM5LDM5LDAsMCwwLTExLjU5LTEyLjMxLDM2LjEyLDM2LjEyLDAsMCwwLTIwLjA4LTYuMDgsMzUuMjIsMzUuMjIsMCwwLDAtMjYuOCwxMS40MmMtNy40Nyw3LjY5LTExLjI1LDE3LjQ5LTExLjI1LDI5LjEzYTQyLjEsNDIuMSwwLDAsMCwxMS4xNCwyOS4yMWM3LjM3LDgsMTYuMjksMTIsMjYuNTQsMTJoLjM4YzEzLjQ2LS4yOCwyNC41Ni02LjgsMzEuNjMtMTguNDdaIi8+PHBvbHlnb24gY2xhc3M9ImNscy0xIiBwb2ludHM9IjUyNC4xOCA0MC4zNyA1MTQuNjYgNDAuMzcgNDc5LjI0IDExOS42MyA0OTAuNTUgMTE5LjYzIDUwMS40OSA5My4yOSA1MDEuNTEgOTMuMjkgNTA1LjM3IDg1LjA1IDUwNS4zNiA4NS4wNSA1MTkuNjEgNTEuNiA1MzMuNTggODUuMDUgNTEzLjUzIDg1LjA1IDUwOS44NyA5My4yOSA1MzYuODQgOTMuMjkgNTQ3Ljg4IDExOS42MyA1NTcuODUgMTE5LjYzIDUyNC4xOCA0MC4zNyIvPjxwYXRoIGNsYXNzPSJjbHMtMSIgZD0iTTYwOS42NSw0Ny42MmMtNS4yNi00Ljc1LTExLjg4LTcuMTUtMTkuNjctNy4xNUg1NjQuMzN2NzkuMTZoOS4zNXYtMzFoMFY4MC4yOWgwVjQ5aDE2LjcxYTE4LjU0LDE4LjU0LDAsMCwxLDEyLjE4LDQuMjMsMTMuNjQsMTMuNjQsMCwwLDEsNS41NCwxMC40OSwxMy45MiwxMy45MiwwLDAsMS01LDEyLjA3LDE3LjU0LDE3LjU0LDAsMCwxLTEyLjI1LDQuNWgtOS42OHY4LjM0aDExLjJBMjUuMDUsMjUuMDUsMCwwLDAsNjA5Ljg1LDgyYTIxLjc0LDIxLjc0LDAsMCwwLDcuNS0xNi40NkEyMi40MSwyMi40MSwwLDAsMCw2MDkuNjUsNDcuNjJaIi8+PHJlY3QgY2xhc3M9ImNscy0xIiB4PSIyNjEuNjEiIHk9IjQxLjkzIiB3aWR0aD0iOS4zNCIgaGVpZ2h0PSI5LjM0Ii8+PHJlY3QgY2xhc3M9ImNscy0xIiB4PSIyNjEuNjEiIHk9IjYyLjg2IiB3aWR0aD0iOS4zNCIgaGVpZ2h0PSI1Ni44OSIvPjxwYXRoIGNsYXNzPSJjbHMtMSIgZD0iTTQwMi4zNSwxMTQuMDZWODkuNjNhMjksMjksMCwwLDAtOS4yLTIxLjkyLDI5LjYyLDI5LjYyLDAsMCwwLTQyLjk0LjQxLDMwLjE2LDMwLjE2LDAsMCwwLTguNDgsMjEuNDEsMzAuNzQsMzAuNzQsMCwwLDAsOS4yLDIyLjIyLDI4LjU4LDI4LjU4LDAsMCwwLDIxLjk0LDguOCwyOS4xNiwyOS4xNiwwLDAsMCwyMC42NC05LjI2djMuODdtMCwwYTE3LjgxLDE3LjgxLDAsMCwxLTYuMDksMTMuNDQsMjAuMzgsMjAuMzgsMCwwLDEtMTQuMjcsNS44LDIwLjg2LDIwLjg2LDAsMCwxLTEyLjcxLTQuMjQsMTkuNDEsMTkuNDEsMCwwLDEtNi43My03LjkxbC03LjE2LDQuMTNhMjcuNTIsMjcuNTIsMCwwLDAsNy40Nyw5LDMwLjcxLDMwLjcxLDAsMCwwLDE4LjIsNi40MWMuNDQsMCwuODksMCwxLjMzLDBhMzAuNywzMC43LDAsMCwwLDE5LjU1LTYuOTVjNi4xNC00Ljg5LDkuMjUtMTEuMTYsOS4yNS0xOC42MnYtMi4yMm0tOS0yMy44NEEyMS45MywyMS45MywwLDAsMSwzODcsMTA1LjQxYTE5LjMsMTkuMywwLDAsMS0xNC42NSw2LjMsMjAuNSwyMC41LDAsMCwxLTE1LjE2LTYuMzEsMjEuMTksMjEuMTksMCwwLDEtNi41MS0xNS4yOCwyMS41MywyMS41MywwLDAsMSw1LjkyLTE1LjQ4LDIwLjQ0LDIwLjQ0LDAsMCwxLDE0LjY3LTcuMDljLjM4LDAsLjc1LDAsMS4xMywwQTE5LjE3LDE5LjE3LDAsMCwxLDM4Nyw3NCwyMS40NCwyMS40NCwwLDAsMSwzOTMuMzEsOTAuMjJaIi8+PHBhdGggY2xhc3M9ImNscy0xIiBkPSJNMjQ1LDQ3LjYyYy01LjI2LTQuNzUtMTEuODgtNy4xNS0xOS42Ny03LjE1SDE5OS42NnY3OS4xNkgyMDl2LTMxaDBWODAuMjloMFY0OWgxNi43MWExOC41NCwxOC41NCwwLDAsMSwxMi4xOCw0LjIzLDEzLjY0LDEzLjY0LDAsMCwxLDUuNTQsMTAuNDksMTMuOTIsMTMuOTIsMCwwLDEtNSwxMi4wNywxNy41NCwxNy41NCwwLDAsMS0xMi4yNSw0LjVoLTkuNjh2OC4zNGgxMS4yQTI1LDI1LDAsMCwwLDI0NS4xOCw4MmEyMS43NCwyMS43NCwwLDAsMCw3LjUtMTYuNDZBMjIuNDEsMjIuNDEsMCwwLDAsMjQ1LDQ3LjYyWiIvPjxwYXRoIGNsYXNzPSJjbHMtMSIgZD0iTTMwNy42NSw1OS4zOEEyNS4yNywyNS4yNywwLDAsMCwyODguOTIsNjdhMjYuMjQsMjYuMjQsMCwwLDAtNy40NSwxOXYzMy40NWg5Vjg1LjI2YTE2LjMzLDE2LjMzLDAsMCwxLDUuMDgtMTIuMDksMTYuNTQsMTYuNTQsMCwwLDEsMTIuMDktNS4wNywxNi4xLDE2LjEsMCwwLDEsMTEuODgsNS4wNywxNi40MiwxNi40MiwwLDAsMSw1LjE4LDEyLjA5djM0LjI2aDlWODYuMDdhMjYuMjQsMjYuMjQsMCwwLDAtNy40NS0xOUEyNS4xNSwyNS4xNSwwLDAsMCwzMDcuNjUsNTkuMzhaIi8+PHJlY3QgY2xhc3M9ImNscy0xIiB3aWR0aD0iMTYwIiBoZWlnaHQ9IjE2MCIgcng9IjE2LjY3Ii8+PHJlY3QgY2xhc3M9ImNscy0yIiB4PSIyMCIgeT0iMjAiIHdpZHRoPSIxMjAiIGhlaWdodD0iMTIwIi8+PHBhdGggY2xhc3M9ImNscy0zIiBkPSJNOTIsNDgsMzkuMjYsMzMuMTRhNS43Miw1LjcyLDAsMCwwLTUsLjkyQTUuNTYsNS41NiwwLDAsMCwzMiwzOC41NHY5NS44NGE1LjU1LDUuNTUsMCwwLDAsMi4xNyw0LjQxQTUuNyw1LjcsMCwwLDAsMzcuNjgsMTQwYTUuNSw1LjUsMCwwLDAsMS4zMy0uMTZsNTIuNzUtMTIuMzloMEE1LjYxLDUuNjEsMCwwLDAsOTYuMTMsMTIyVjUzLjM3QTUuNjYsNS42NiwwLDAsMCw5Miw0OFoiLz48cGF0aCBjbGFzcz0iY2xzLTQiIGQ9Ik0xMjcuOTIsNDQuNTdhNS42NCw1LjY0LDAsMCwwLTQuMTItNS4zOWwtNjcuMTMtMTlhNS43Miw1LjcyLDAsMCwwLTUsLjkxLDUuNTUsNS41NSwwLDAsMC0yLjI2LDQuNDlWOTguMzRhNS41NSw1LjU1LDAsMCwwLDIuMTcsNC40MUE1LjcsNS43LDAsMCwwLDU1LjA5LDEwNGE1LjU4LDUuNTgsMCwwLDAsMS4zNC0uMTZsNjcuMjEtMTZBNS42MSw1LjYxLDAsMCwwLDEyOCw4Mi4zOFoiLz48cGF0aCBjbGFzcz0iY2xzLTUiIGQ9Ik05Miw0OCw0OS40MSwzNlY5OC4zNGE1LjU1LDUuNTUsMCwwLDAsMi4xNyw0LjQxQTUuNyw1LjcsMCwwLDAsNTUuMDksMTA0YTUuNTgsNS41OCwwLDAsMCwxLjM0LS4xNmwzOS43LTkuNDJ2LTQxQTUuNjYsNS42NiwwLDAsMCw5Miw0OFoiLz48L2c+PC9nPjwvc3ZnPg==" style="width:100px" alt="PingCAP logo"/></a><a class="navbar-burger index-module--burger--JHKki" href="https://github.com/pingcap" target="_blank"></a><a role="button" class="navbar-burger index-module--burger--JHKki" aria-label="menu" aria-expanded="false"></a></div><div class="navbar-menu index-module--desktopMenu--FioJ8"><div class="navbar-start"><div class="navbar-item px-5 index-module--menu--N9jNb"><a>产品</a></div><div class="navbar-item px-5 index-module--menu--N9jNb"><a>解决方案</a></div><div class="navbar-item px-5 index-module--menu--N9jNb"><a>文档</a></div><div class="navbar-item px-5 index-module--menu--N9jNb"><a>客户案例</a></div><div class="navbar-item px-5 index-module--menu--N9jNb"><a>合作伙伴</a></div><div class="navbar-item px-5 index-module--menu--N9jNb"><a>服务与支持</a></div><div class="navbar-item px-5 index-module--menu--N9jNb"><a>学习与社区</a></div></div><div class="navbar-end index-module--navbarEndContent--HqBKU"><div class="index-module--navbarEndItem--rYRre index-module--searchWrapper--JvFXI">搜索<div class="index-module--searchPanel--yTlLW"/></div><div class="navbar-item index-module--navItem--ou3c9 index-module--navbarEndItem--rYRre"><div class="dropdown is-center index-module--langSelector--mPyrj"><div class="dropdown-trigger"><div aria-haspopup="true" aria-controls="lang-menu" class="index-module--trigger--8EEgs">语言</div></div><div class="dropdown-menu index-module--menu--QgjOl" id="lang-menu" role="menu"><div class="dropdown-content index-module--dropdownContent--l+MWk"><a target="_blank" rel="noopener" href="https://www.pingcap.com/?from=en" class="dropdown-item index-module--item--Q3TbR">English</a><a target="_blank" rel="noopener" href="https://pingcap.co.jp/" class="dropdown-item index-module--item--Q3TbR">日本語</a></div></div></div></div><div class="navbar-item index-module--navbarEndItem--rYRre"><a class="index-module--icon--HqAmx index-module--navItem--ou3c9" href="https://github.com/pingcap" target="_blank"></a></div><div class="navbar-item"><a class="button is-white index-module--useFree--DEvR+" href="/product#SelectProduct">免费试用</a></div></div></div></nav><div class="index-module--layout--pDdDW"><main><div class="blog-header-module--container--EsMbA"><div class="container px-4 blog-header-module--fixedContainer--7ndgE"><div class="blog-detail-module--wrapper--esMKp"><h1 class="blog-detail-module--h1--Q3T+9">TiDB 查询优化及调优系列（五）调优案例实践</h1><a class="index-module--blogReturnBtn--igugB"><label>返回全部</label></a></div></div></div><div class="blog-detail-module--container--88yCh"><div class="container px-4 "><div class="blog-detail-module--row--BOEUq">Yu Dong<a href="/blog/categories/产品技术解读">产品技术解读</a>2022-05-24</div><div class="columns"><div class="column is-8 px-4"><div class="index-module--markdown--RI+u5">本篇文章为 TiDB 查询优化及调优系列的最终篇，主要汇集了一些用户常见的 SQL 优化案例，从背景、分析、影响、建议、实操几个角度进行解析。关于 SQL 调优原理的介绍见前面章节。 相关阅读： TiDB 查询优化及调优系列（一）TiDB 优化器简介 TiDB 查询优化及调优系列（二）TiDB 查询计划简介 TiDB 查询优化及调优系列（三）慢查询诊断监控及排查 TiDB 查询优化及调优系列（四）查询执行计划的调整及优化原理 注：以下语句及结果基本为当时实际环境所记录的情况，因为版本更新原因，可能和现有格式略有差别，如 count 等价于现在的 estRows. <h2 id="案例1:-delete-涉及数据量过大导致-oom">案例1: Delete 涉及数据量过大导致 OOM</h2><pre><code>MySQL [db_stat]&gt; explain delete from t_stat where imp_date&lt;='20200202'; +---------------------+--------------+------+------------------------------------------------------+ | id | count | task | operator info | +---------------------+--------------+------+------------------------------------------------------+ | TableReader_6 | 220895815.00 | root | data:Selection_5 | | └─Selection_5 | 220895815.00 | cop | le(db_stat.t_stat.imp_date, "20200202") | | └─TableScan_4 | 220895815.00 | cop | table:t_stat, range:[-inf,+inf], keep order:false | +---------------------+--------------+------+------------------------------------------------------+ 3 rows in set (0.00 sec) MySQL [db_stat]&gt; select count(*) from t_stat where imp_date&lt;='20200202'; +-----------+ | count(*) | +-----------+ | 184340473 | +-----------+ 1 row in set (17.88 sec) <h3 id="背景">背景</h3>大批量清理数据时系统资源消耗高，在 TiDB 节点内存不足时可能导致 OOM <h3 id="分析">分析</h3><code>imp_date</code> 字段上虽然有索引，但是扫描的时间范围过大，无论优化器选择 IndexScan 还是 Table Scan，TiDB 都要向 TiKV Coprocessor 请求读取大量的数据 <li>TiKV 节点 Coprocessor CPU 使用率快速上涨</li> <li>执行 Delete 操作的 TiDB 节点内存占用快速上涨，因为要将大批量数据加载到 TiDB 内存</li> <li>删除数据时，缩小数据筛选范围，或者加上 limit N 每次删除一批数据</li> <li>建议使用 Range 分区表，按照分区快速删除</li> <h2 id="案例2-执行计划不稳定导致查询延迟增加">案例2 执行计划不稳定导致查询延迟增加</h2><pre><code>MySQL [db_stat]&gt; explain SELECT * FROM `tbl_article_check_result` `t` WHERE (articleid = '20190925A0PYT800') ORDER BY checkTime desc LIMIT 100 ; +--------------------------+----------+------+-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ | id | count | task | operator info | +--------------------------+----------+------+-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ | Projection_7 | 100.00 | root | db_stat.t.type, db_stat.t.articleid, db_stat.t.docid, db_stat.t.version, db_stat.t.checkid, db_stat.t.checkstatus, db_stat.t.seclevel, db_stat.t.t1checkstatus, db_stat.t.t2checkstatus, db_stat.t.mdaichannel, db_stat.t.mdaisubchannel, db_stat.t.checkuser, db_stat.t.checktime, db_stat.t.addtime, db_stat.t.havegot, db_stat.t.checkcode | | └─Limit_12 | 100.00 | root | offset:0, count:100 | | └─IndexLookUp_34 | 100.00 | root | | | ├─IndexScan_31 | 30755.49 | cop | table:t, index:checkTime, range:[NULL,+inf], keep order:true, desc | | └─Selection_33 | 100.00 | cop | eq(db_dayu_1.t.articleid, "20190925A0PYT800") | | └─TableScan_32 | 30755.49 | cop | table:tbl_article_check_result, keep order:false | +--------------------------+----------+------+-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ 6 rows in set (0.00 sec) <h3 id="背景">背景</h3><code>articleid</code> 和 <code>checkTime</code> 字段上分别建有单列索引，正常情况下走 <code>articleid</code> 上的索引比较快，偶尔执行计划不稳定时走 <code>checkTime</code> 上的索引，导致查询延迟达到分钟级别 <h3 id="分析">分析</h3><code>LIMIT 100</code> 限定了获取 100 条记录，如果 <code>checkTime</code> 和 <code>articleid</code> 列之间的相关度不高，在独立性假设失效时，优化器估算走 <code>checkTime</code> 上的索引并满足 <code>articleid</code> 条件时扫描的行数，可能比走 <code>articleid</code> 上的索引扫描的行数更少 <h3 id="影响">影响</h3>业务响应延迟不稳定，监控 Duration 偶尔出现抖动 <li>手动 analyze table，配合 crontab 定期 analyze，维持统计信息准确度</li> <li>自动 auto analyze，调低 analyze ratio 阈值，提高收集频次，并设置运行时间窗<ul> <li>set global tidb_auto_analyze_ratio=0.2;</li> <li>set global tidb_auto_analyze_start_time='00:00 +0800';</li> <li>set global tidb_auto_analyze_end_time='06:00 +0800';</li> <li>业务修改 SQL ，使用 force index 固定使用 articleid 列上的索引</li> <li>业务可以不用修改 SQL，使用 SPM （见上述章节）的 create binding 创建 force index 的绑定 SQL，可以避免执行计划不稳定导致的性能下降</li> <h2 id="案例3-查询字段与值的数据类型不匹配">案例3 查询字段与值的数据类型不匹配</h2><pre><code>MySQL [db_stat]&gt; explain select * from t_like_list where person_id=1535538061143263; +---------------------+------------+------+-----------------------------------------------------------------------------------+ | id | count | task | operator info | +---------------------+------------+------+-----------------------------------------------------------------------------------+ | Selection_5 | 1430690.40 | root | eq(cast(db_stat.t_like_list.person_id), 1.535538061143263e+15) | | └─TableReader_7 | 1788363.00 | root | data:TableScan_6 | | └─TableScan_6 | 1788363.00 | cop | table:t_like_list, range:[-inf,+inf], keep order:false | +---------------------+------------+------+-----------------------------------------------------------------------------------+ 3 rows in set (0.00 sec) <h3 id="背景">背景</h3><code>person_id</code> 列上建有索引且选择性较好，但执行计划没有按预期走 <code>IndexScan</code> <h3 id="分析">分析</h3><code>person_id</code> 是字符串类型，但是存储的值都是数字，业务认为可以直接赋值；而优化器需要在字段上做 <code>cast</code> 类型转换，导致无法使用索引 <h3 id="建议">建议</h3><code>where</code> 条件的值加上引号，之后执行计划使用了索引： <pre><code>MySQL [db_stat]&gt; explain select * from table:t_like_list where person_id='1535538061143263'; +-------------------+-------+------+----------------------------------------------------------------------------------------------------------+ | id | count | task | operator info | +-------------------+-------+------+----------------------------------------------------------------------------------------------------------+ | IndexLookUp_10 | 0.00 | root | | | ├─IndexScan_8 | 0.00 | cop | table:t_like_list, index:person_id, range:["1535538061143263","1535538061143263"], keep order:false | | └─TableScan_9 | 0.00 | cop | table:t_like_list, keep order:false | +-------------------+-------+------+----------------------------------------------------------------------------------------------------------+ 3 rows in set (0.00 sec) <h2 id="案例4-读热点导致-sql-延迟增加">案例4 读热点导致 SQL 延迟增加</h2><h3 id="背景">背景</h3>某个数据量 600G 左右、读多写少的 TiDB 集群，某段时间发现 TiDB 监控的 Query Summary - Duration 指标显著增加，p99 如下图。 查看 TiDB 监控下的 KV Duration 明显升高，其中 KV Request Duration 999 by store 监控看到多个 TiKV 节点 Duration 均有上涨。 查看 TiKV 监控 Coprocessor Overview： 查看监控 Coprocessor CPU： 发现 Coprocessor CPU 线程池几乎打满。下面开始分析日志，调查 Duration 和 Coprocessor CPU 升高的原因。 <h3 id="慢查询日志分析">慢查询日志分析</h3>使用 <code>pt-query-digest</code> 工具分析 TiDB 慢查询日志： <pre><code>./pt-query-digest tidb_slow_query.log &gt; result 分析慢日志解析出来的 TopSQL 发现 <code>Process keys</code> 和 <code>Process time</code> 并不是线性相关，<code>Process keys</code> 数量多的 SQL 的 <code>Process time</code> 处理时间不一定更长，如下面 SQL 的 <code>Process keys</code> 为 22.09M，<code>Process time</code> 为 51s。 下面 SQL 的 <code>Process keys</code> 为 12.68M，但是 <code>Process time</code> 高达 142353s。 过滤 <code>Process time</code> 较多的 SQL，发现 3 个典型的 <code>slow query</code>，分析具体的执行计划。 <pre><code>select a.a_id, a.b_id,uqm.p_id from a join hsq on a.b_id=hsq.id join uqm on a.a_id=uqm.id; <pre><code>select distinct g.abc, g.def, g.ghi, h.abcd, hi.jq from ggg g left join ggg_host gh on g.id = gh.ggg_id left join host h on gh.a_id = h.id left join a_jq hi on h.id = hi.hid where h.abcd is not null and h.abcd &lt;&gt; '' and hi.jq is not null and hi.jq &lt;&gt; ''; <pre><code>select tb1.mt, tb2.name from tb2 left join tb1 on tb2.mtId=tb1.id where tb2.type=0 and (tb1.mt is not null and tb1.mt != '') and (tb2.name is not null or tb2.name != ''); 分析执行计划未发现异常，查看相关表的统计信息也都没有过期，继续分析 TiDB 和 TiKV 日志。 <h3 id="常规日志分析">常规日志分析</h3>查看 TiKV 日志中标记为 [slow-query] 的日志行中的 region 分布情况。 <pre><code>more tikv.log.2019-10-16-06\:28\:13 |grep slow-query |awk -F ']' '{print $1}' | awk '{print $6}' | sort | uniq -c | sort –n 找到访问频率最大的 3 个 region： <pre><code>73 29452 140 33324 757 66625 这些 region 的访问次数远远高于其它 region，之后定位这些 region 所属的表名。首先查看 [slow-query] 所在行记录的 table_id 和 start_ts，然后查询 TiDB 日志获取表名，比如 table_id 为 1318，start_ts 为 411837294180565013，使用如下命令过滤，发现是上述慢查询 SQL 涉及的表。 <pre><code>more tidb-2019-10-14T16-40-51.728.log | grep '"/[1318/]"' |grep 411837294180565013 <h3 id="解决">解决</h3>对这些 region 做 split 操作，以 region 66625 为例，命令如下（需要将 x.x.x.x 替换为实际的 pd 地址）。 <pre><code>pd-ctl –u http://x.x.x.x:2379 operator add split-region 66625 操作后查看 PD 日志 <pre><code>[2019/10/16 18:22:56.223 +08:00] [INFO] [operator_controller.go:99] ["operator finish"] [region-id=30796] [operator="\"admin-split-region (kind:admin, region:66625(1668,3), createAt:2019-10-16 18:22:55.888064898 +0800 CST m=+110918.823762963, startAt:2019-10-16 18:22:55.888223469 +0800 CST m=+110918.823921524, currentStep:1, steps:[split region with policy SCAN]) finished\""] 日志显示 region 已经分裂完成，之后查看该 region 相关的 slow-query： <pre><code>more tikv.log.2019-10-16-06\:28\:13 |grep slow-query | grep 66625 观察一段时间后确认 66625 不再是热点 region，继续处理其它热点 region。所有热点 region 处理完成后，监控 Query Summary - Duration 显著降低。 Duration 稳定了保持一段时间，18:55 之后仍然有较高的 Duration 出现： 观察压力较重的 tikv，移走热点 region 的 leader： <pre><code>pd-ctl –u http://x.x.x.x:2379 operator add transfer-leader 1 2 //把 region1 的 leader 调度到 store2 leader 迁走之后，原 TiKV 节点的 Duration 立刻下降，但是迁移到新 TiKV 节点的 Duration 随之上升。 之后多次对热点 region 进行 split 操作，最终 Duration 明显下降并恢复稳定。 <h3 id="案例总结">案例总结</h3>对于分布式数据库的读热点问题，有时难以通过优化 SQL 的方式解决，需要分析整个 TiDB 集群的监控和日志来定位原因。严重的读热点可能导致部分 TiKV 达到资源瓶颈，这种短板效应限制了整个集群性能的充分发挥，通过分裂 region 的方式可以将热点 region 分散到更多的 TiKV 节点上，让每个 TiKV 的负载尽可能达到均衡，缓解读热点对 SQL 查询性能的影响。更多热点问题的处理思路可以参考 <a href="https://pingcap.com/zh/blog/tidb-query-optimization-and-tuning-4"> TiDB 查询优化及调优系列（四）查询执行计划的调整及优化原理 <h2 id="案例5-sql-执行计划不准">案例5 SQL 执行计划不准</h2><h3 id="背景">背景</h3>SQL 执行时间突然变长 <li>SQL 语句</li> <pre><code>select count(*) from tods.bus_jijin_trade_record a, tods.bus_jijin_info b where a.fund_code=b.fund_code and a.type in ('PURCHASE','APPLY') and a.status='CANCEL_SUCCESS' and a.pay_confirm_status = 1 and a.cancel_app_no is not null and a.id &gt;= 177045000 and a.updated_at &gt; date_sub(now(), interval 48 hour) ; 执行结果，需要 1 分 3.7s： <pre><code>mysql&gt; select count(*) -&gt; from tods.bus_jijin_trade_record a, tods.bus_jijin_info b -&gt; where a.fund_code=b.fund_code and a.type in ('PURCHASE','APPLY') -&gt; and a.status='CANCEL_SUCCESS' and a.pay_confirm_status = 1 -&gt; and a.cancel_app_no is not null and a.id &gt;= 177045000 -&gt; and a.updated_at &gt; date_sub(now(), interval 48 hour) ; +----------+ | count(*) | +----------+ | 708 | +----------+ 1 row in set (1 min 3.77 sec) <li>查看执行计划</li> <pre><code>mysql&gt; explain -&gt; select count(*) -&gt; from tods.bus_jijin_trade_record a, tods.bus_jijin_info b -&gt; where a.fund_code=b.fund_code and a.type in ('PURCHASE','APPLY') -&gt; and a.status='CANCEL_SUCCESS' and a.pay_confirm_status = 1 -&gt; and a.cancel_app_no is not null and a.id &gt;= 177045000 -&gt; and a.updated_at &gt; date_sub(now(), interval 48 hour) ; +----------------------------+--------------+------+-------------------------------------------------------------------------------------------------------------------------------------------------------------------+ | id | count | task | operator info | +----------------------------+--------------+------+-------------------------------------------------------------------------------------------------------------------------------------------------------------------+ | StreamAgg_13 | 1.00 | root | funcs:count(1) | | └─HashRightJoin_27 | 421.12 | root | inner join, inner:TableReader_18, equal:[eq(a.fund_code, b.fund_code)] | | ├─TableReader_18 | 421.12 | root | data:Selection_17 | | │ └─Selection_17 | 421.12 | cop | eq(a.pay_confirm_status, 1), eq(a.status, "CANCEL_SUCCESS"), gt(a.updated_at, 2020-03-03 22:31:08), in(a.type, "PURCHASE", "APPLY"), not(isnull(a.cancel_app_no)) | | │ └─TableScan_16 | 145920790.55 | cop | table:a, range:[177045000,+inf], keep order:false | | └─TableReader_37 | 6442.00 | root | data:TableScan_36 | | └─TableScan_36 | 6442.00 | cop | table:b, range:[-inf,+inf], keep order:false | +----------------------------+--------------+------+-------------------------------------------------------------------------------------------------------------------------------------------------------------------+ TableScan_16，TableScan_36：表示在 TiKV 端分别对表 a 和 b 的数据进行扫描，其中 TableScan_16 扫描了 1.46 亿的行数； Selection_17：表示满足表 a 后面 where 条件的数据； TableReader_37：由于表 b 没有独立的附加条件，所以直接将这部分数据返回给 TiDB； TableReader_18：将各个 coprocessor 满足 a 表条件的结果返回给 TiDB； HashRightJoin_27：将 TableReader_37 和 TableReader_18 上的结果进行 hash join； StreamAgg_13：进一步统计所有行数，将数据返回给客户端； 可以看到语句中 a 表(bus_jijin_trade_record)的条件 id &gt;= 177045000，和 updated_at &gt; date_sub(now(), interval 48 hour)上，这两个列分别都有索引，但是 TiDB 还是选择了全表扫描。 按照上面两个条件分别查询数据分区情况 <pre><code>mysql&gt; SELECT COUNT(*) FROM tods.bus_jijin_trade_record WHERE id &gt;= 177045000 ; +-----------+ | COUNT(*) | +-----------+ | 145917327 | +-----------+ 1 row in set (16.86 sec) mysql&gt; SELECT COUNT(*) FROM tods.bus_jijin_trade_record WHERE updated_at &gt; date_sub(now(), interval 48 hour) ; +-----------+ | COUNT(*) | +-----------+ | 713682 | +-----------+ 可以看到，表 bus_jijin_trade_record 有 1.7 亿的数据量，应该走 updated_at 字段上的索引。使用强制 hint 进行执行，6.27 秒就执行完成了，速度从之前 63s 到现在的 6.3s，提升了 10 倍。 <pre><code>mysql&gt; select count(*) -&gt; from tods.bus_jijin_trade_record a use index(idx_bus_jijin_trade_record_upt), tods.bus_jijin_info b -&gt; where a.fund_code=b.fund_code and a.type in ('PURCHASE','APPLY') -&gt; and a.status='CANCEL_SUCCESS' and a.pay_confirm_status = 1 -&gt; and a.cancel_app_no is not null and a.id &gt;= 177045000 -&gt; and a.updated_at &gt; date_sub(now(), interval 48 hour) ; +----------+ | count(*) | +----------+ | 709 | +----------+ 1 row in set (6.27 sec) 强制 hint 后的执行计划： <pre><code>mysql&gt; explain -&gt; select count(*) -&gt; from tods.bus_jijin_trade_record a use index(idx_bus_jijin_trade_record_upt), tods.bus_jijin_info b -&gt; where a.fund_code=b.fund_code and a.type in ('PURCHASE','APPLY') -&gt; and a.status='CANCEL_SUCCESS' and a.pay_confirm_status = 1 -&gt; and a.cancel_app_no is not null and a.id &gt;= 177045000 -&gt; and a.updated_at &gt; date_sub(now(), interval 48 hour) ; +------------------------------+--------------+------+----------------------------------------------------------------------------------------------------------------------------+ | id | count | task | operator info | +------------------------------+--------------+------+----------------------------------------------------------------------------------------------------------------------------+ | StreamAgg_13 | 1.00 | root | funcs:count(1) | | └─HashRightJoin_24 | 421.12 | root | inner join, inner:IndexLookUp_20, equal:[eq(a.fund_code, b.fund_code)] | | ├─IndexLookUp_20 | 421.12 | root | | | │ ├─Selection_18 | 146027634.83 | cop | ge(a.id, 177045000) | | │ │ └─IndexScan_16 | 176388219.00 | cop | table:a, index:UPDATED_AT, range:(2020-03-03 23:05:30,+inf], keep order:false | | │ └─Selection_19 | 421.12 | cop | eq(a.pay_confirm_status, 1), eq(a.status, "CANCEL_SUCCESS"), in(a.type, "PURCHASE", "APPLY"), not(isnull(a.cancel_app_no)) | | │ └─TableScan_17 | 146027634.83 | cop | table:bus_jijin_trade_record, keep order:false | | └─TableReader_31 | 6442.00 | root | data:TableScan_30 | | └─TableScan_30 | 6442.00 | cop | table:b, range:[-inf,+inf], keep order:false | +------------------------------+--------------+------+----------------------------------------------------------------------------------------------------------------------------+ 使用 hint 后的执行计划，预估 updated_at 上的索引会扫描 176388219，没有选择索引而选择了全表扫描，可以判定是由于错误的统计信息导致执行计划有问题。 查看表 <code>bus_jijin_trade_record</code> 上的统计信息。 <pre><code>mysql&gt; show stats_meta where table_name like 'bus_jijin_trade_record' and db_name like 'tods'; +---------+------------------------+---------------------+--------------+-----------+ | Db_name | Table_name | Update_time | Modify_count | Row_count | +---------+------------------------+---------------------+--------------+-----------+ | tods | bus_jijin_trade_record | 2020-03-05 22:04:21 | 10652939 | 176381997 | +---------+------------------------+---------------------+--------------+-----------+ mysql&gt; show stats_healthy where table_name like 'bus_jijin_trade_record' and db_name like 'tods'; +---------+------------------------+---------+ | Db_name | Table_name | Healthy | +---------+------------------------+---------+ | tods | bus_jijin_trade_record | 93 | +---------+------------------------+---------+ 根据统计信息，表 <code>bus_jijin_trade_record</code> 有 176381997，修改的行数有 10652939，该表的健康度为：(176381997-10652939)/176381997 *100=93。 <h3 id="解决">解决</h3>重新收集统计信息 <pre><code>mysql&gt; set tidb_build_stats_concurrency=10; Query OK, 0 rows affected (0.00 sec) #调整收集统计信息的并发度，以便快速对统计信息进行收集 mysql&gt; analyze table tods.bus_jijin_trade_record; Query OK, 0 rows affected (3 min 48.74 sec) 查看没有使用 hint 语句的执行计划 <pre><code>mysql&gt; explain select count(*) -&gt; from tods.bus_jijin_trade_record a, tods.bus_jijin_info b -&gt; where a.fund_code=b.fund_code and a.type in ('PURCHASE','APPLY') -&gt; and a.status='CANCEL_SUCCESS' and a.pay_confirm_status = 1 -&gt; and a.cancel_app_no is not null and a.id &gt;= 177045000 -&gt; and a.updated_at &gt; date_sub(now(), interval 48 hour) ;; +------------------------------+-----------+------+----------------------------------------------------------------------------------------------------------------------------+ | id | count | task | operator info | +------------------------------+-----------+------+----------------------------------------------------------------------------------------------------------------------------+ | StreamAgg_13 | 1.00 | root | funcs:count(1) | | └─HashRightJoin_27 | 1.99 | root | inner join, inner:IndexLookUp_23, equal:[eq(a.fund_code, b.fund_code)] | | ├─IndexLookUp_23 | 1.99 | root | | | │ ├─Selection_21 | 626859.65 | cop | ge(a.id, 177045000) | | │ │ └─IndexScan_19 | 757743.08 | cop | table:a, index:UPDATED_AT, range:(2020-03-03 23:28:14,+inf], keep order:false | | │ └─Selection_22 | 1.99 | cop | eq(a.pay_confirm_status, 1), eq(a.status, "CANCEL_SUCCESS"), in(a.type, "PURCHASE", "APPLY"), not(isnull(a.cancel_app_no)) | | │ └─TableScan_20 | 626859.65 | cop | table:bus_jijin_trade_record, keep order:false | | └─TableReader_37 | 6442.00 | root | data:TableScan_36 | | └─TableScan_36 | 6442.00 | cop | table:b, range:[-inf,+inf], keep order:false | +------------------------------+-----------+------+----------------------------------------------------------------------------------------------------------------------------+ 9 rows in set (0.00 sec) 可以看到，收集完统计信息后，现在的执行计划走了索引扫描，与手动添加 hint 的行为一致，且扫描的行数 757743 符合预期。 此时执行时间变为 1.69s ，在执行计划没变的情况下，应该是由于缓存命中率上升带来的提升。 <pre><code>mysql&gt; select count(*) -&gt; from tods.bus_jijin_trade_record a, tods.bus_jijin_info b -&gt; where a.fund_code=b.fund_code and a.type in ('PURCHASE','APPLY') -&gt; and a.status='CANCEL_SUCCESS' and a.pay_confirm_status = 1 -&gt; and a.cancel_app_no is not null and a.id &gt;= 177045000 -&gt; and a.updated_at &gt; date_sub(now(), interval 48 hour) ; +----------+ | count(*) | +----------+ | 712 | +----------+ 1 row in set (1.69 sec) <h3 id="案例总结">案例总结</h3>可以看出该 SQL 执行效率变差是由于统计信息不准确造成的，在通过收集统计信息之后得到了正确的执行计划。 从最终结果 712 行记录来看，创建联合索引可以更大的降低扫描数据的量，更进一步提升性能。在性能已经满足业务要求情况下，联合索引会有额外的成本，留待以后尝试。 本文为「TiDB 查询优化及调优」系列文章的第五篇，也是最终篇。通过这个系列文章，我们详细介绍了 TiDB 优化器、查询计划、慢查询以及调优的理论知识，并在本章节中进行了实战的分享。希望通过这个系列文章，大家能够更加深入地理解 TiDB 优化器，并通过这些调优技巧更好地提升系统性能。 如果您对 TiDB 的产品有任何建议，欢迎来到 <a href="https://internals.tidb.io/"> internals.tidb.io </a> 与我们交流。