MySQL源码解析之执行计划

  • MySQL执行计划介绍
  • MySQL执行计划代码概览
  • MySQL执行计划总结

一、MySQL执行计划介绍

在MySQL中,执行计划的实现是基于 JOINQEP_TAB这两个对象。其中JOIN类表示一个查询语句块的优化和执行,每个select查询语句(即Query_block对象)在处理的时候,都会被当做JOIN对象,其定义在 sql/sql_optimizer.h

QEP_TABQuery Execution Plan Table的缩写,这里的表Table对象主要包含物化表、临时表、派生表、常量表等。 JOIN::optimize()是优化执行器的统一入口,在这里会把一个查询语句块 Query_block最终优化成 QEP_TAB

MySQL-8.0.22版本之后,又引入访问方式 AccessPath和执行迭代器 Iterator对象,再结合JOIN和QEP_TAB对象,最终得到整个解析计划的执行路径。

二、MySQL执行计划代码概览

本文主要 基于MySQL-8.0.25版本,进行说明。

优化器的入口函数: bool JOIN::optimize(),对应代码文件 sql/sql_optimizer.cc

// 主要功能是把一个查询块Query_block优化成一个QEP_TAB,得到AccessPath
bool JOIN::optimize() {
    ...
    // 下面主要是为了可以借助INFORMATION_SCHEMA.OPTIMIZER_TRACE表,跟踪优化器的执行状态和执行步骤
    Opt_trace_context *const trace = &thd->opt_trace;
    Opt_trace_object trace_wrapper(trace);
    Opt_trace_object trace_optimize(trace, "join_optimization");
    trace_optimize.add_select_number(Query_block->select_number);
    Opt_trace_array trace_steps(trace, "steps");
    ...
    // 窗口函数装配优化
    if (has_windows && Window::setup_windows2(thd, m_windows))
    ...
    // 拷贝Query_block上的条件副本到JOIN结构关联的成员对象,为后续优化做准备
    if (Query_block->get_optimizable_conditions(thd, &where_cond, &having_cond))
    ...
    // 统计抽象语法树中的叶节点表,其中leaf_tables是在Query_block::setup_tables中进行装配
    tables_list = Query_block->leaf_tables;
    ...
    // 分区裁剪
    if (Query_block->partitioned_table_count && prune_table_partitions()) {
    ...
    // 尝试把聚合函数COUNT()、MIN()、MAX()对应的值,替换成常量
    if (optimize_aggregated_query(thd, Query_block, *fields, where_cond,
                                                                &outcome)) {
    ...
    // 采用超图算法生成执行计划,注意超图算法通过set optimizer_switch="hypergraph_optimizer=on"方式启用
    if (thd->lex->using_hypergraph_optimizer) {
        FindBestQueryPlan(thd, Query_block, /*trace=*/nullptr);
        // 如果Join优化器是超图算法,处理结束直接返回
        return false;
    }
    ...

下面代码主要涉及Join优化器连接方式为 左深树的情况,主要用到 join_tab数组来进行组织关联

根据代价计算表的连接方式,核心函数 make_join_plan(),实现非常复杂。比较关键的函数是 bool Optimize_table_order::choose_table_order()

其主要思想是通过贪婪搜索 Optimize_table_order::greedy_search,根据最小的连接代价,进行有限的穷举搜索(细节参考Optimize_table_order::best_extension_by_limited_search)

最后,找出了近似最优解的联系、排列和组合。

[En]

Finally, the connection, permutation and combination of the approximate optimal solution are found.

    if (make_join_plan()) {
    ...
    // 语句块谓词条件下推,提升过滤性能
    if (make_join_Query_block(this, where_cond)) {
    ...
    // 优化order by/distinct语句
    if (optimize_distinct_group_order()) return true;
    ...
    // 分配QEP_TAB数组
    if (alloc_qep(tables)) return (error = 1); /* purecov: inspected */
    ...
    // 执行计划细化,优化子查询和半连接的情况,具体策略可以参考mariadb的文档:
    // https:// mariadb.com/kb/en/optimization-strategies/
    // 关键代码是setup_semijoin_dups_elimination,主要对半连接关联的策略进行装配
    if (make_join_readinfo(this, no_jbuf_after))
    ...
    // 为处理group by/order by创建开辟临时表空间
    if (make_tmp_tables_info()) return true;
    ...
    // 生成访问方式AccessPath,供后续迭代器Iterator访问使用
    create_access_paths();
    ...
    return false;
}

三、MySQL执行计划总结

MySQL的执行计划是整个数据库最核心的模块,其代码也在不断地迭代更新过程中。执行计划中优化器的好坏和背后的搜索策略、数学模型紧密相关。MySQL支持的搜索策略有穷举搜索、贪婪搜索,对应的Join优化器有左深树算法和超图算法,整个优化过程主要是基于CBO策略进行优化。

执行计划运行的过程, 实际上就是一个动态规划的过程。这个过程的优劣,快慢决定了MySQL和主流商业数据库的差距。只有深入地理解MySQL优化器的运行原理,才能帮助我们积极有效地探索更高性能优化的可能。
最后,由于笔者知识水平有限,有遗漏之处,也希望更正。

[En]

Finally, due to the author’s limited level of knowledge, omissions, but also hope to correct.

Enjoy GreatSQL 😃

文章推荐:

关于 GreatSQL

GreatSQL是由万里数据库维护的MySQL分支,专注于提升MGR可靠性及性能,支持InnoDB并行查询特性,是适用于金融级应用的MySQL分支版本。

微信&QQ群:

QQ群: 533341697

微信群:可搜索添加 GreatSQL社区助手微信好友,发送验证信息”加群”加入GreatSQL/MGR交流微信群

GreatSQL社区助手: wanlidbc

Original: https://www.cnblogs.com/greatsql/p/16560603.html
Author: GreatSQL
Title: MySQL源码解析之执行计划

原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/505077/

转载文章受原作者版权保护。转载请注明原作者出处!

(0)

大家都在看

  • 银河麒麟V10安装MySQL8028

    记一次成功安装MySQL8028到银河麒麟V10,并实现远程访问的方法 工具/原料 数据库下载地址(实验版如图): [En] Download address of the dat…

    数据库 2023年5月24日
    082
  • Guava中这些Map的骚操作,让我的代码量减少了50%

    Guava是google公司开发的一款Java类库扩展工具包,内含了丰富的API,涵盖了集合、缓存、并发、I/O等多个方面。使用这些API一方面可以简化我们代码,使代码更为优雅,另…

    数据库 2023年6月14日
    075
  • 省去跨表联查与注释查询的存储过程

    1 — 打印query存储过程的帮助信…

    数据库 2023年5月24日
    058
  • etcd和Zookeeper孰优孰劣对比

    背景 最近在看到Pachyderm的介绍时,看到作者拿YARN和Kubernetes做类比,拿Zookeeper和etcd做对比。YARN和Kubernetes的类比还相对比较好理…

    数据库 2023年6月11日
    082
  • [SWPU2019] Android1

    给出一个apk文件,用jadx打开简单看看源代码 发现调用了一个库文件,后面的函数只做了登录,是否成功都不会有有用的信息出来了,那么就把库文件解压出来放入ida中看看 char *…

    数据库 2023年6月11日
    077
  • 事务的ACID特性

    技术是为了解决问题而生的,通过事务我们可以解决以下问题: 多个操作不是一个整体操作,出现了部分执行成功的情况,导致数据的状态不一致问题(原子性) 一组操作只有部分完成,没有全部完成…

    数据库 2023年6月11日
    081
  • 工具 | 常用 PostgreSQL 预防数据丢失方案

    作者:张连壮 PostgreSQL 研发负责人从事多年 PostgreSQL 数据库内核开发,对 Citus 有非常深入的研究。 PostgreSQL 本身不具备数据闪回和数据误删…

    数据库 2023年5月24日
    068
  • Docker安装和配置

    sudo yum install -y docker-ce docker-ce-cli containerd.io 配置加速(可以理解为类似于Maven的阿里仓库,用于加速镜像的下…

    数据库 2023年6月6日
    067
  • 学习笔记——Django项目中新增数据、修改数据

    2022-09-30 新增数据 方式一: 进入虚拟环境,进入shell工具环境中(”python manage.py shell”),插入数据。在插入数据之…

    数据库 2023年6月14日
    096
  • MySQL面试整理

    索引的目的在于提高查询效率,以及添加约束; 常用的索引有: 普通索引,唯一索引,联合索引,全文索引,空间索引… 唯一索引 有两个分类 分别是:主键索引和唯一索引 联合索…

    数据库 2023年6月9日
    0167
  • MAC MySQL安装配置

    1. 下载 注意选择对应的版本,M系列芯片对应ARM 2. 安装 一直点击继续即可, 注意要记住root用户端密码 3. 配置 在 ~/.bash_profile 增加 4. 服务…

    数据库 2023年6月14日
    089
  • StoneDB 读、写操作的执行过程

    背景介绍 StoneDB 是一款兼容 MySQL 的开源 HTAP 数据库。StoneDB 的整体架构分为三层,分别是应用层、服务层和存储引擎层。应用层主要负责客户端的连接管理和权…

    数据库 2023年5月24日
    075
  • 不同分层中的对象的使用

    在项目中,控制层,业务层,数据层,视图层(返回值)。中分别使用了的对象,暂时不太理解这样做的好处,先记录下来。 如下: 控制层:也可以叫做入参对象, UserQuery userQ…

    数据库 2023年6月11日
    057
  • MySQL 数据库中的数据类型

    整数类型 标准 SQL 中支持 INTEGER 和 SMALLINT 这两种类型,MySQL 数据库除了支持这两种类型以外,还扩展支持了 TINYINT、MEDIUMINT 和 B…

    数据库 2023年5月24日
    056
  • 新建vue项目

    1、CMD中输入命令行 vue ui 打开一个创建项目的窗口 2、安装插件element ui 3、Idea 打开这个项目即可 4、Idea 运行vue项目 npm run ser…

    数据库 2023年6月9日
    092
  • 简析XDP的重定向机制

    GreatSQL社区原创内容未经授权不得随意使用,转载请联系小编并注明来源。 GreatSQL是MySQL的国产分支版本,使用上与MySQL一致。 一. XDP Socket示例解…

    数据库 2023年6月11日
    071
亲爱的 Coder【最近整理,可免费获取】👉 最新必读书单  | 👏 面试题下载  | 🌎 免费的AI知识星球