此文章为《MySQL 实战 45 讲》的学习笔记,其课程链接可参见:MySQL实战45讲_MySQL_数据库-极客时间
目录
一、日志系统
1、重做日志:redo log(引擎层)
2、归档日记:binlog(Server层)
3、redo log 与 binlog 的区别
4、执行器和InnoDB引擎执行update语句时的内部流程
5、两阶段提交
6、小结
7、思考题
根据上一讲所讲的内容,我们可以知道一条查询语句的执行过程一般是经过连接器、分析器、优化器、执行器等功能模块,最后到达存储引擎。
问题:那么,一条更新语句的执行流程又是怎样的呢? Ⅰ、首先,可以确定的是,查询语句的那一套流程,更新语句也是同样会走一遍; Ⅱ、但是与查询流程不一样的是,除了查询流程之外,更新流程还涉及到了两个重要的日志模块【redo log(重做日志)】以及【 binlog(归档日志)】。 |
以酒店记账为例,酒店常有两个账本,一个用于快速记录当天账目的粉板,一个用于记录所有账目的账簿。而粉板和账本配合的这个过程,其实就是MySQL中经常说到的WAL技术。
具体来说就是,当有一条记录需要更新的时候,InnoDB引擎就会先把记录写到redo log(粉板)里面,并更新内存,这个时候更新就算完成了。同时,InnoDB引擎会在适当的时候,将这个操作记录更新到磁盘里面,而这个更新往往是在系统比较空闲的时候做,这就像打烊以后掌柜做的事。
那么这样的话,又会出现另外一种情况,即某天赊账的特别多,粉板写满了,又该怎么办呢?
这个时候掌柜只好放下手中的活儿,把粉板中的一部分赊账记录更新到账本中,然后把这些记录从粉板上擦掉,为记新账腾出空间。
在MySQL中,也是如此,InnoDB的redo log是固定大小的,数据库将头开始写入数据,写到末尾就又回到开头循环写,其过程如下图所示:
write pos:是指当前记录的位置,一边写一边后移,写到末尾就会重新回到开头。
checkpoint:是指当前要擦除的位置,也是往后推移并且循环的,擦除记录前要把记录更新到数据文件。
有了redo log,InnoDB就可以保证即使数据库发生异常重启,之前提交的记录都不会丢失,这种能力被称为crash-safe。
【补充说明】: WAL技术:WAL的全称是Write-Ahead Logging,「预写式日志」,是数据库系统中常见的一种手段,用于保证数据操作的原子性和持久性;它的关键点就是先写日志,再写磁盘,也就是先写粉板,等不忙的时候再写账本。 crash-safe:崩溃安全,crash-safe功能是 MySQL 5.6 关于复制的一个重大改进,可以解决之前版本中系统异常断电可能导致的 SQL thread 信息不准确的问题。 |
详细内容可参考:[1] MySQL 的 crash-safe 原理解析 [2] mysql的crash-safe
从MySQL的整体架构来看,一共只有两块内容:一块是Server层,它主要做的是MySQL功能层面的事情;还有一块是引擎层,负责存储相关的具体事宜。redo log是InnoDB引擎特有的日志,而Server层也有自己的日志,称为binlog。
问题:为什么会有两份日志,这不是多次一举吗? |
不然,这其实是历史遗留问题!最开始MySQL里并没有InnoDB引擎。而MySQL自带的引擎是MyISAM,但是MyISAM没有crash-safe的能力,binlog日志也只能用于归档。InnoDB则是另一个公司以插件形式引入到MySQL当中的,所以InnoDB只能是使用另外一套日志系统(redo log)来实现crash-safe能力。 |
Ⅰ、redo log是InnoDB引擎特有的;binlog是MySQL的Server层实现的,所有引擎都可以使用。
Ⅱ、redo log是物理日志,记录的是“在某个数据页上做了什么修改”;binlog是逻辑日志,记录的是这个语句的原始逻辑,比如“给ID=2这一行的c字段加1 ”。
Ⅲ、redo log是循环写的,空间固定会用完;binlog是可以追加写入的。“追加写”是指binlog文件写到一定大小后会切换到下一个,并不会覆盖以前的日志。
更新语句如下所示:
// 表的创建语句,一个主键ID和一个整型字段c mysql> create table T(ID int primary key, c int); // 将ID=2这一行的值加1 mysql> update T set c=c+1 where ID=2; |
如上图所示,浅色框表示是在InnoDB内部执行的,深色框表示是在执行器中执行的
步骤如下:
Ⅰ、执行器先找引擎取ID=2这一行。ID是主键,引擎直接用树搜索找到这一行。如果ID=2这一行所在的数据页本来就在内存中,就直接返回给执行器;否则,需要先从磁盘读入内存,然后再返回;
Ⅱ、执行器拿到引擎给的行数据,把这个值加上1,比如原来是N,现在就是N+1,得到新的一行数据,再调用引擎接口写入这行新数据;
Ⅲ、引擎将这行新数据更新到内存中,同时将这个更新操作记录到redo log里面,此时redo log处于prepare状态。然后告知执行器执行完成了,随时可以提交事务;
Ⅳ、执行器生成这个操作的binlog,并把binlog写入磁盘;
Ⅴ、执行器调用引擎的提交事务接口,引擎把刚刚写入的redo log改成提交(commit)状态,更新完成。
"两阶段提交"其实就是将 redo log 的写入拆成了两个步骤:prepare和commit。
问题来了,为什么日志需要“两阶段提交”呢? 这是为了让两份日志之间的逻辑一致。 如果没有两阶段提交,那么假设执行update语句过程中在写完第一个日志后,第二个日志还没有写完期间发生了crash,会出现什么情况呢? Ⅰ、先写redo log后写binlog。由于binlog没写完就crash了,这时候binlog里面就没有记录这个语句。由于这个语句的binlog丢失,这个临时库就会少了这一次更新,恢复出来的这一行c的值就是0,与原库的值不同。 Ⅱ、先写binlog后写redo log。如果在binlog写完之后crash,由于redo log还没写,崩溃恢复以后这个事务无效,所以这一行c的值是0。所以,在之后用binlog来恢复的时候就多了一个事务出来,恢复出来的这一行c的值就是1,与原库的值不同。 总结:如果不使用“两阶段提交”,那么数据库的状态就有可能和用它的日志恢复出来的库的状态不一致。简单说,redo log和binlog都可以用于表示事务的提交状态,而两阶段提交就是让这两个状态保持逻辑上的一致。 |
物理日志(redo log)用于保证crash-safe能力。innodb_flush_log_at_trx_commit这个参数设置成1的时候,表示每次事务的redo log都直接持久化到磁盘。这个参数建议设置成1,这样可以保证MySQL异常重启之后数据不丢失。
逻辑日志(binlog),sync_binlog这个参数设置成1的时候,表示每次事务的binlog都持久化到磁盘。这个参数也建议设置成1,这样可以保证MySQL异常重启之后binlog不丢失。
详细内容可参考:[1] MySQL实战 | 02-MySQL 如何恢复到半个月内任意一秒的状态?
问题:定期全量备份的周期“取决于系统重要性,有的是一天一备,有的是一周一备”。那么在什么场景下,一天一备会比一周一备更有优势呢?或者说,它影响了这个数据库系统的哪个指标?
答案:一天一备跟一周一备的比,它的好处在于“最长恢复时间”更短。在一天一备的模式里,最坏情况下需要应用一天的binlog。比如,你每天0点做一次全量备份,而要恢复出一个到昨天晚上23点的备份。一周一备最坏情况就要应用一周的binlog了。
系统的对应指标指的是:RTO(恢复目标时间),因为更频繁全量备份需要消耗更多存储空间,所以这个RTO是成本换来的,这就需要你根据业务重要性来进行取舍与评估。