字节一面:事务还没提交的时候,redolog 能不能被持久化到磁盘呢?

又是被自己菜醒的一天,总结面经看到这题目听都没听过,打开百度就像吃饭一样自然

老规矩,背诵版在文末。点击阅读原文可以直达我收录整理的各大厂面试真题

首先,咱需要明白的是,啥是持久化?

听起来高大上,换句简单的话来说,就是把数据写到磁盘上,也成为 落盘

那为啥要做持久化到磁盘?

目的就是可以在数据丢失后进行恢复,保证数据不丢失。

那么对于 MySQL 来说,只要 binlog 和 redolog 都能正确持久化到磁盘上,就可以保证数据不丢失了

由此引出文题,不过在讲 redolog 之前,我们还是有必要先来说一下 binlog 的持久化操作。

binlog 持久化

这里引入了一个新的概念:binlog cache

从名字就能看出来,binlog cache 其实就是一片内存区域,充当缓存的作用。

每个线程都有自己 binlog cache 区域, 在事务运行的过程中,MySQL 会先把日志写到 binlog cache 中,等到事务真正提交的时候,再统一把 binlog cache 中的数据写到 binlog 文件中。(binlog cache 有很多个,binlog 文件只有一个!)

事实上,这个从 binlog cache 写到 binlog 文件中的操作,并 就是落盘操作了,这里仅仅是把 binlog 写到了文件系统的 page cache 上(这一步对应下图中的 write 操作)。

简单解释下文件系统的 page cache:
CPU 如果要访问外部磁盘上的文件,需要首先将这些文件的内容拷贝到内存中,由于硬件的限制,从磁盘到内存的数据传输速度是很慢的,如果现在物理内存有空余,干嘛不用这些空闲内存来缓存一些磁盘的文件内容呢, 这部分用作缓存磁盘文件的内存就叫做 page cache
很多同学看到这里可能觉得特别特别熟悉,是的,和 CPU 里的高速缓存是不是很像?两者其实都是利用的局部性原理,只不过 高速缓存是 CPU 缓存内存的数据,而 page cache 是内存缓存磁盘的数据,这也体现了操作系统内存层次结构分级的思想。

所以,最后需要把 page cache 中的数据同步到磁盘上,才算真正完成了 binlog 的持久化(这一步对应下图中的 fsync 操作)。一般情况下,我们认为 fsync 才占磁盘的 IOPS (Input/Output Operations Per Second)

字节一面:事务还没提交的时候,redolog 能不能被持久化到磁盘呢?

write 和 fsync 的时机,是由参数 sync_binlog 控制的:

  • sync_binlog = 0,每次提交事务的时候,只进行 write,不进行 fsync
  • sync_binlog = 1候,每次提交事务的时候,执行 write 和 fsync
  • sync_binlog = N(N>1),每次提交事务的时候,执行 write,累积 N 个事务后再执行 fsync

可以看出来,如果业务场景涉及到的 IO 操作很多的话,可以适当增大 sync_binlog 的值,提高性能。但是也存在一定的风险,比如你设置成 100,万一在第 80 个事务提交的时候数据库宕机了,那这些事务的 binlog 日志由于没有执行 fsync,也就丢失了。

redolog 持久化

类比 binlog,在事务执行过程中,binlog 都是存在 binlog cache 中,redolog 也有这样一块内存区域,叫作 redolog buffer

在事务运行的过程中,MySQL 会先把日志写到 redolog buffer 中,等到事务真正提交的时候,再统一把 redolog buffer 中的数据写到 redolog 文件中。和 binlog 的落盘操作一样,这个从 redolog buffer 写到 redolog 文件中的操作,并 就是落盘操作了,这里仅仅是把 redolog 写到了文件系统的 page cache 上,最后还需要执行 fsync 才能够实现真正的落盘。

字节一面:事务还没提交的时候,redolog 能不能被持久化到磁盘呢?

解释下 redo log buffer?

在一个事务的更新过程中,日志是要写多次的。比如下面这个事务:

 begin;
    insert into table1 ...

    insert into table2 ...

 commit;

这个事务要往两个表 table1 和 table2 中插入记录,为了确保这个事务不被拆开,一次性的完整写入日志文件中,在插入数据的过程中,我们需要把生成的日志都先保存起来。redolog buffer 就是这么一个用来先存 redo 日志的地方。

也就是说,在执行第一条 insert 语句的时候,redolog buffer 也就写入了这条记录的日志。

不同于 binlog cache 每个线程都有一个,redolog buffer 只有那么一个。

事实上,日志写到 redolog buffer 是很快的,wirte 到 page cache 也差不多,但是 fsync 持久化到磁盘的速度就慢多了,为了控制 redo log 的写入策略,InnoDB 提供了 innodb_flush_log_at_trx_commit 参数,它有三种可能取值:

  • innodb_flush_log_at_trx_commit = 0,每次事务提交的时候,都只是把 redolog 留在 redolog buffer 中
  • innodb_flush_log_at_trx_commit = 1,每次事务提交的时候,都执行 fsync 将 redolog 直接持久化到磁盘
  • innodb_flush_log_at_trx_commit = 2,每次事务提交的时候,都只执行 write 将 redolog 写到文件系统的 page cache 中

说了这么多,各位小伙伴们对 binlog 和 redolog 的持久化机制想必都有所了解了,我们来看文题: 事务还没提交的时候,redolog 能不能被持久化到磁盘呢

先说答案,答案就是 有可能

分析下 redolog 可能存在的三种状态(binlog 也差不多):

  • 事务执行过程中,存在 MySQL 的进程内存中的 redolog buffer 中
  • 事务提交,执行 write 操作存在文件系统的 page cache 中,但是没有执行 fsync 操作持久化到磁盘
  • 事务提交,执行 fsync 操作持久化到磁盘

至于为什么说事务还没提交的时候,redolog 也有可能被持久化到磁盘呢?

InnoDB 有一个后台线程,每隔 1 秒轮询一次,具体的操作是这样的:调用 write 将 redolog buffer 中的日志写到文件系统的 page cache,然后调用 fsync 持久化到磁盘。而在事务执行中间过程的 redolog 都是直接写在 redolog buffer 中的,也就是说,一个没有提交的事务的 redolog,也是有可能会被后台线程一起持久化到磁盘的。

另外,除了后台线程每秒一次的轮询操作外,还有两种场景会让一个没有提交的事务的 redolog 写盘:

  1. innodb_flush_log_at_trx_commit 设置是 1,这样并行的某个事务提交的时候,就会顺带将这个事务的 redolog buffer 持久化到磁盘 举个例子,假设事务 A 执行到一半,已经写了一些 redolog 到 redolog buffer 中,这时候有另外一个事务 B 提交,按照 innodb_flush_log_at_trx_commit = 1 的逻辑,事务 B 要把 redolog buffer 里的日志全部持久化到磁盘,这时候,就会带上事务 A 在 redolog buffer 里的日志一起持久化到磁盘
  2. redo log buffer 占用的空间达到 redolo buffer 大小(由参数 innodb_log_buffer_size 控制,默认是 8MB)一半的时候,后台线程会主动写盘。不过由于这个事务并没有提交,所以这个写盘动作只是 write 到了文件系统的 page cache,仍然是在内存中,并没有调用 fsync 真正落盘

最后放上这道题的背诵版:

🥸 面试官

  • 问题:事务还没提交的时候,redo log 能不能被持久化到磁盘呢?
  • 相关问题:MySQL 是如何保证数据不丢失的呢?

😎 小牛肉:事务还没有提交的时候,redo log 是有可能被持久化到磁盘的。
redolog 的具体落盘操作是这样的:在事务运行的过程中,MySQL 会先把日志写到 redolog buffer 中,等到事务真正提交的时候,再统一把 redolog buffer 中的数据写到 redolog 文件中。不过这个从 redolog buffer 写到 redolog 文件中的操作也就是 write 并不就是落盘操作了,这里仅仅是把 redolog 写到了文件系统的 page cache 上,最后还需要执行 fsync 才能够实现真正的落盘。
也就是说,redolog 其实存在三种状态:

  • 事务执行过程中,存在 MySQL 的进程内存中的 redolog buffer 中
  • 事务提交,执行 write 操作存在文件系统的 page cache 中,但是没有执行 fsync 操作持久化到磁盘
  • 事务提交,执行 fsync 操作持久化到磁盘

额为什么说事务还没提交的时候,redolog 也有可能被持久化到磁盘呢?
主要有三种可能的原因:

  1. 第一种情况:InnoDB 有一个后台线程,每隔 1 秒轮询一次,具体的操作是这样的:调用 write 将 redolog buffer 中的日志写到文件系统的 page cache,然后调用 fsync 持久化到磁盘。而在事务执行中间过程的 redolog 都是直接写在 redolog buffer 中的,也就是说,一个没有提交的事务的 redolog,也是有可能会被后台线程一起持久化到磁盘的。
  2. 第二种情况:innodb_flush_log_at_trx_commit 设置是 1,这个参数的意思就是,每次事务提交的时候,都执行 fsync 将 redolog 直接持久化到磁盘(还有 0 和 2 的选择,0 表示每次事务提交的时候,都只是把 redolog 留在 redolog buffer 中;2 表示每次事务提交的时候,都只执行 write 将 redolog 写到文件系统的 page cache 中)。举个例子,假设事务 A 执行到一半,已经写了一些 redolog 到 redolog buffer 中,这时候有另外一个事务 B 提交,按照 innodb_flush_log_at_trx_commit = 1 的逻辑,事务 B 要把 redolog buffer 里的日志全部持久化到磁盘,这时候,就会带上事务 A 在 redolog buffer 里的日志一起持久化到磁盘
  3. 第二种情况:redo log buffer 占用的空间达到 redolog buffer 大小(由参数 innodb_log_buffer_size 控制,默认是 8MB)一半的时候,后台线程会主动写盘。不过由于这个事务并没有提交,所以这个写盘动作只是 write 到了文件系统的 page cache,仍然是在内存中,并没有调用 fsync 真正落盘

大厂面试火箭计划

准备面试的小伙伴可以参考我的 Notion 笔记呀:https://flying-veal.notion.site/,总结了很多大厂面试题,提供背诵版和详解版,应该对小伙伴们有所帮助~

字节一面:事务还没提交的时候,redolog 能不能被持久化到磁盘呢?

Original: https://www.cnblogs.com/cswiki/p/15816371.html
Author: 飞天小牛肉
Title: 字节一面:事务还没提交的时候,redolog 能不能被持久化到磁盘呢?

原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/715349/

转载文章受原作者版权保护。转载请注明原作者出处!

(0)

大家都在看

  • vue.js中vue.config.js的配置说明

    如果你的项目没有vue.config.js,请在根目录新建一个。 vue.config.js里面的代码如下: module.exports = { /** 区分打包环境与开发环境 …

    技术杂谈 2023年6月1日
    0109
  • ThreadLocal源码学习笔记

    系列文章目录和关于我 一丶ThreadLocal结构 每一个Thread对象都有一个名为 threadLocals类型为 ThreadLocal.ThreadLocalMap的属性…

    技术杂谈 2023年7月25日
    091
  • [转帖]crontab里面的date时间格式化设置没生效

    404. 抱歉,您访问的资源不存在。 可能是网址有误,或者对应的内容被删除,或者处于私有状态。 代码改变世界,联系邮箱 contact@cnblogs.com 园子的商业化努力-困…

    技术杂谈 2023年5月30日
    0101
  • 8086汇编 寻址方式

    8086汇编 寻址方式 不同的寻址方式的灵活应用 posted @2020-03-12 13:06 kevin.Xiang 阅读(398 ) 评论() 编辑 Original: h…

    技术杂谈 2023年6月1日
    0115
  • 分享一个基于 netty 的 java 开源项目

    1、简介 中微子代理(neutrino-proxy)是一个基于 netty 的、开源的 java 内网穿透项目。遵循 MIT 许可,因此您可以对它进行复制、修改、传播并用于任何个人…

    技术杂谈 2023年6月21日
    094
  • kube-scheduler的调度上下文

    404. 抱歉,您访问的资源不存在。 可能是网址有误,或者对应的内容被删除,或者处于私有状态。 代码改变世界,联系邮箱 contact@cnblogs.com 园子的商业化努力-困…

    技术杂谈 2023年7月24日
    097
  • Linux下的SELINUX

    理解Linux下的SELinux 长久以来,每当遇到授权问题或者新安装的主机,我的第一反应是通过 setenforce 0命令禁用SELinux,来减少产生的权限问题,但是这并不是…

    技术杂谈 2023年7月24日
    090
  • WinDbg符号配置

    符号文件介绍 它包含了应用程序二进制文件(比如:EXE、DLL等)调试信息,专门用来作调试之用,最终生成的可执行文件在运行时并不需要这个符号文件,但你的程序中所有的变量信息都记录在…

    技术杂谈 2023年7月11日
    085
  • Java8 函数式【1】:一文读懂逆变

    Java8 函数式【1】:一文读懂逆变 禁止转载 pure function 协变 逆变 Java8 引入了函数式接口,从此方法传参可以传递函数了,有人说:不就是传一个方法吗,语法…

    技术杂谈 2023年7月24日
    087
  • Maven配置私有仓库

    前言 当公司或个人具有自己独有的jar时,不想公开,一般就会放在自己的私有Maven仓库中,在项目中需要引用,此时就需要将公司私有仓库配置到maven当中,一般我们的maven配置…

    技术杂谈 2023年6月21日
    0111
  • Go的隐秘世界:Go程序的启动和runtime初始化 asm_amd64.s

    啥语言到了底层都是会编【汇编】再不行就Debug【仿真】。 Go的隐秘世界:Go程序的启动和runtime初始化 – 知乎https://zhuanlan.zhihu….

    技术杂谈 2023年6月1日
    0116
  • DAX:跟关系相关的函数

    在表格数据模型中,用户可以创建关系,并可以沿着关系的方向自动进行交叉过滤。但是在 计算列中,必须通过RELATED 和 RELATEDTABLE函数来检索相关联的表。当使用CALC…

    技术杂谈 2023年5月31日
    0111
  • BlazorVSVue

    Vue——​​两分钟概述 Vue 是一个JavaScript 框架。 在其最简单的模式中,您可以简单地将核心 Vue 脚本包含在您的应用程序中,然后开始构建您的组件。 除此之外,对…

    技术杂谈 2023年7月24日
    097
  • Random,ThreadLocalRandom,SecureRandom的几点思考

    Random,ThreadLocalRandom,SecureRandom是Java中的随机数生成器,其中ThreadLocalRandom是jdk7才出现的,是Random的增强…

    技术杂谈 2023年5月31日
    0113
  • 读配置、讲原理、看面试真题,我只能帮你到这了。。。

    当我在写一上来就主从、集群、哨兵,这谁受得了的时候,好多小伙伴就迫不及待的留言想看这些模式了,今天我们就从配置文件、设计原理、面试真题三个方面来聊一聊 Redis 的主从复制。 在…

    技术杂谈 2023年7月11日
    082
  • 在工作中学习看问题的角度

    向架构师学习 修改 A 导致 B 出了问题。 我们: 这里是个坑,下次要小心点 也许我应该写文档记录下这件事 也许我应该告诉下其他同事 …… 架构师:从框架…

    技术杂谈 2023年7月11日
    088
亲爱的 Coder【最近整理,可免费获取】👉 最新必读书单  | 👏 面试题下载  | 🌎 免费的AI知识星球