InnoDB存储引擎中,undo在完成事务回滚和MVCC之后,就可以purge掉了,但undo在事务执行过程中,进行的空间分配如何回收,就变成了一个问题。 我们亲历用户的小实例,因为一个大事务,导致ibdata file到800G大小。

我们先大致看下InnoDB的undo在不同的版本上的一些演进:

MySQL 5.5的版本上
InnoDB undo是放在系统表空间即ibdata file文件中,这样如果有比较大的事务(即需要生成大量undo的),会撑大ibdata数据文件, 虽然空间可以重用, 但文件大小不能更改。
关于回滚段的,只有这个主要的参数,用来设置多少个rollback segment。

MySQL 5.6的版本上
InnoDB undo支持独立表空间, 增加如下参数:

  1. | Variable_name | Value |
  2. +-------------------------+-------+
  3. | innodb_undo_directory | . |
  4. | innodb_undo_logs | 128 |
  5. | innodb_undo_tablespaces | 1 |
  6. +-------------------------+-------+

这样,在install的时候,就会在data目录下增加undo数据文件,来组成undo独立表空间,但文件变大之后的空间回收还是成为问题。

MySQL 5.7的版本上
InnoDB undo在支持独立表空间的基础上,支持表空间的truncate功能,增加了如下参数:

  1. mysql> show global variables like '%undo%'; +--------------------------+------------+
  2. | Variable_name | Value |
  3. +--------------------------+------------+
  4. | innodb_max_undo_log_size | 1073741824 |
  5. | innodb_undo_directory | ./ |
  6. | innodb_undo_log_truncate | OFF |
  7. | innodb_undo_logs | 128 |
  8. | innodb_undo_tablespaces | 3 |
  9. +--------------------------+------------+
  10. mysql> show global variables like '%truncate%';
  11. +--------------------------------------+-------+
  12. | Variable_name | Value |
  13. +--------------------------------------+-------+
  14. | innodb_purge_rseg_truncate_frequency | 128 |
  15. | innodb_undo_log_truncate | OFF |
  16. +--------------------------------------+-------+

InnoDB的purge线程,会根据innodb_undo_log_truncate开关的设置,和innodb_max_undo_log_size设置的文件大小阈值,以及truncate的频率来进行空间回收和rollback segment的重新初始化。

接下来我们详细看下5.7的InnoDB undo的管理:

设置innodb_undo_tablespaces的个数, 在mysql install的时候,创建指定数量的表空间。
InnoDB支持128个undo logs,这里特别说明下,从5.7开始,innodb_rollback_segments的名字改成了innodb_undo_logs,但表示的都是回滚段的个数。
从5.7.2开始,其中32个undo logs为临时表的事务分配的,因为这部分undo不记录redo,不需要recovery,另外从33-128一共96个是redo-enabled undo。

rollback segment的分配如下:

  1. Slot-0: reserved for system-tablespace.
  2. Slot-1....Slot-N: reserved for temp-tablespace.
  3. Slot-N+1....Slot-127: reserved for system/undo-tablespace. */

其中如果是临时表的事务,需要分配两个undo logs,其中一个是non-redo undo logs;这部分用于临时表数据的回滚。 另外一个是redo-enabled undo log,是为临时表的元数据准备的,需要recovery。

每一个rollback segment可以分配1024个slot,也就是可以支持96*1024个并发的事务同时, 但如果是临时表的事务,需要占用两个slot。

InnoDB undo的空间管理简图如下:

注核心结构说明:

1. rseg slot
rseg slot一共128个,保存在ibdata系统表空间中,其位置在:

每一个slot保存着rollback segment header的位置。包括space_id + page_no,占用8个bytes。其宏定义:

  1. /* Rollback segment specification slot offsets */
  2. /*-------------------------------------------------------------*/
  3. #define TRX_SYS_RSEG_SPACE 0 /* space where the segment
  4. MySQL/InnoDB 5.1.7, this is
  5. #define TRX_SYS_RSEG_PAGE_NO 4 /* page number where the segment
  6. header is placed; this is FIL_NULL
  7. if the slot is unused */
  8. /* Size of a rollback segment specification slot */
  9. #define TRX_SYS_RSEG_SLOT_SIZE 8

2. rseg header
rseg header在undo表空间中,每一个rseg包括1024个undo segment slot,每一个slot保存着undo segment header的位置,包括page_no,暂用4个bytes,因为undo segment不会跨表空间,所以space_id就没有必要了。
其宏定义如下:

  1. /* Undo log segment slot in a rollback segment header */
  2. /*-------------------------------------------------------------*/
  3. #define TRX_RSEG_SLOT_PAGE_NO 0 /* Page number of the header page of
  4. an undo log segment */
  5. /*-------------------------------------------------------------*/
  6. /* Slot size */
  7. #define TRX_RSEG_SLOT_SIZE 4

3. undo segment header
undo segment header page即段内的第一个undo page,其中包括四个比较重要的结构:

undo段的分配比较简单,其过程如下:

首先是rollback segment的分配:

  1. trx->rsegs.m_redo.rseg = trx_assign_rseg_low(
  2. srv_undo_logs, srv_undo_tablespaces,
  3. TRX_RSEG_TYPE_REDO);
  1. 使用round-robin的方式来分配rollback segment
  2. 如果有单独设置undo表空间,就不使用system表空间中的undo segment
  3. 如果设置的是truncate的就不分配
  4. 一旦分配了,就设置trx_ref_count,不允许truncate。

具体代码参考:

从rollback segment里边选择一个free的slot,如果没有,就会报错,通常是并发的事务太多。
错误日志如下:

  1. ib::warn() << "Cannot find a free slot for an undo log. Do"
  2. " you have too many active transactions running"
  3. " concurrently?";

如果有free,就创建一个undo的segment。

核心的代码如下:

  1. /***************************************************************//**
  2. Creates a new undo log segment in file.
  3. @return DB_SUCCESS if page creation OK possible error codes are:
  4. DB_TOO_MANY_CONCURRENT_TRXS DB_OUT_OF_FILE_SPACE */
  5. static
  6. dberr_t
  7. trx_undo_seg_create(
  8. trx_rseg_t* rseg __attribute__((unused)),/*!< in: rollback segment */
  9. trx_rsegf_t* rseg_hdr,/*!< in: rollback segment header, page
  10. x-latched */
  11. TRX_UNDO_UPDATE */
  12. ulint* id, /*!< out: slot index within rseg header */
  13. page_t** undo_page,
  14. /*!< out: segment header page x-latched, NULL
  15. if there was an error */
  16. mtr_t* mtr) /*!< in: mtr */
  17. /* fputs(type == TRX_UNDO_INSERT
  18. ? "Creating insert undo log segment\n"
  19. : "Creating update undo log segment\n", stderr); */
  20. slot_no = trx_rsegf_undo_find_free(rseg_hdr, mtr);
  21. if (slot_no == ULINT_UNDEFINED) {
  22. ib::warn() << "Cannot find a free slot for an undo log. Do"
  23. " you have too many active transactions running"
  24. " concurrently?";
  25. return(DB_TOO_MANY_CONCURRENT_TRXS);
  26. }

undo的truncate主要由下面两个参数控制:innodb_purge_rseg_truncate_frequency,innodb_undo_log_truncate。

  1. innodb_undo_log_truncate是开关参数。
  2. innodb_purge_rseg_truncate_frequency默认128,表示purge undo轮询128次后,进行一次undo的truncate。

当设置innodb_undo_log_truncate=ON的时候, undo表空间的文件大小,如果超过了innodb_max_undo_log_size, 就会被truncate到初始大小,但有一个前提,就是表空间中的undo不再被使用。

其主要步骤如下:

  1. 超过大小了之后,会被mark truncation,一次会选择一个
  2. 选择的undo不能再分配新给新的事务
  3. purge线程清理不再需要的rollback segment
  4. 等所有的回滚段都释放了后,truncate操作,使其成为install db时的初始状态。

默认情况下, 是purge触发128次之后,进行一次rollback segment的free操作,然后如果全部free就进行一个truncate。

但mark的操作需要几个依赖条件需要满足:

  1. 系统至少得有两个undo表空间,防止一个offline后,至少另外一个还能工作
  2. 除了ibdata里的segment,还至少有两个segment可用
  3. undo表空间的大小确实超过了设置的阈值

其核心代码参考:

  1. /** Iterate over all the UNDO tablespaces and check if any of the UNDO
  2. tablespace qualifies for TRUNCATE (size > threshold).
  3. @param[in,out] undo_trunc undo truncate tracker */
  4. static
  5. void

因为,只要你设置了truncate = on,MySQL就尽可能的帮你去truncate所有的undo表空间,所以它会循环的把undo表空间加入到mark列表中。

最后,循环所有的undo段,如果所属的表空间是marked truncate,就把这个rseg标志位不可分配,加入到trunc队列中,在purge的时候,进行free rollback segment。

MySQL 5.7 新特性系列,下次进行group replication的分享,敬请期待。