【MySQL】InnoDB - Buffer Pool 数据页管理

·  阅读 804

Buffer Pool 是 InnoDB 最重要的优化功能,通过缓冲读写热点数据,提高 InnoDB 整体性能。

InnoDB 系列文章:


对于基于磁盘的存储数据库系统,最重要的目的就是高效地存取数据。但由于 CPU 和磁盘速度之间存在难以逾越的鸿沟,为了弥补二者之间的速度差异,必须使用缓冲池技术来加速数据的存取。因此,Buffer Pool 是 InnoDB 最为重要的部分。

也因为引入这一中间层,使得 InnoDB 对数据库内存的管理变得相对更为复杂。缓冲池主要包括以下特性:LRU List、Free List、Fulsh List、Fulsh 策略、Double write buffer、预读预写、预热、动态扩展、压缩页内存管理、并发控制、多线程工作等。

PAGE_STATE

在了解数据页管理之前,必须先了解数据页控制体中对数据页定义的八种状态,理解这八种状态对于缓冲池内数据页的管理和变化非常重要。

buf_page_t ,即数据页控制体,它逻辑上存在的意义是等同于数据页的,甚至可以理解为数据页的指针。因此我们在说“某数据页在某链表里”时是表示“某数据页的控制块在某逻辑链表中”,我们在说“该数据页”时可能是指数据页本身,也可能是指数据页控制块,尽管实际上都是指控制块。但要注意的是,并不是每个控制块都有对应的数据页,有的控制块的 frame 指针是指向空的,因此在说到这种类型的控制块的时候,我不会将它笼统的说成是数据页。

buf_page_t 中的 state 字段定义了数据页的八种状态,分别为:

  • BUF_BLOCK_NOT_USED
    标识该数据页是空闲的。该状态数据页只存在于空闲列表中,且空闲列表中只有这种类型的页。

  • BUF_BLOCK_FILE_PAGE
    标识该数据页是正常使用的数据页,被解压后的压缩页自身也将转换为此状态。该状态数据页只存在于 LRU 列表中。

  • BUF_BLOCK_MEMORY
    标识该数据页用于存储系统信息,如 InnoDB 行锁、自适应哈希索引或者是压缩页的数据等。该状态数据页不存在于任何逻辑链表中。

  • BUF_BLOCK_READY_FOR_USE
    标识该数据页刚从空闲列表中被取出,是一个极短暂的临时状态。该状态数据页不存在于任何逻辑链表中。

  • BUF_BLOCK_REMOVE_HASH
    标识该数据页即将被放入空闲列表中,此时该数据页已经从页哈希表中移除,但还未放入空闲列表,是一个极短暂的状态。该状态数据页不存在于任何逻辑链表中。

  • BUF_BLOCK_POOL_WATCH
    标志这个控制块是 buf_pool_t::watch 数组中空闲的数据页控制块。buf_pool_t::watch 数组是专门提供给 purge 线程充当哨兵使用的控制块数组,每个缓冲池中哨兵池的大小都和 purge 线程的个数相同以保证并发工作。purge 线程利用该控制块来判断数据页是否有其他线程在读取。

  • BUF_BLOCK_ZIP_PAGE
    标识该数据页是未被解压的压缩页,或者是 watch 数组中的哨兵。包括三种情况:一是刚从磁盘读取还未解压的压缩页;二是解压过但解压页被驱逐,且不是脏页的压缩页;三是被 purge 线程使用了的 BUF_BLOCK_POOL_WATCH 控制块会转换为此状态。前两种情况都在 LRU 列表中,最后一种情况下该数据页控制块没有指向任何数据页,frame 指针指向空。

  • BUF_BLOCK_ZIP_DIRTY
    标识该数据页是解压页被驱逐的脏压缩页,是一个较短暂的临时状态,如果该页再次被解压则将重新转换为 BUF_BLOCK_FILE_PAGE 类型数据页。该状态数据页只存在于 Flush 列表中。

演示制图-MySQL.png

Buffer Pool 初始化

缓冲池的内存初始化,主要是物理块的内存初始化,多个缓冲池实例则轮流初始化。先使用 os_mem_alloc_large 为 chunk 分配内存,然后使用核心函数 buf_chunk_init 初始化 Chunk,接着初始化不属于 Chunk 的 BUF_BLOCK_POOL_WATCH 类型数据页控制块、Page Hash 和 Zip Hash。

分配内存

从操作系统分配内存有两种方式,一种是 HugeTLB,另一种是传统的 MMap 来分配。

HugeTLB

HugeTLB 是大内存块分配管理技术。HugeTLB 把操作系统页大小提高到 2M 甚至更多。程序传送给 cpu 都是虚拟内存地址,cpu 必须通过快表来映射到真正的物理内存地址。快表的全集放在内存中,部分热点内存页可以放在 cpu cache 中,从而提高内存访问效率。但内存页变大也必定会导致更多的页内的碎片,如果用到 swap 分区虚拟内存同样会变慢。 仅在启动 MySql 时指定 super-large-pages 参数才会使用该模式分配内存。

MMap

MMap 可用于为多个进程分配共享内存,且分配的内存都是虚存,只有内存真正使用到才真正分配。malloc 在分配超过 MMAP_THRESHOLD=128K 的时候也是调用 MMap 分配内存。

Chunk init

调用 buf_chunk_init 函数为 Chunk 分配内存:

  1. 先将整个 Chunk 初始化为连续的 16K 页数组,并将数组长度赋予整型变量 size,后面会将 size 转化为数据页数组的长度。

  2. 设置一个 frame 指针指向 Chunk 头部,后面会拿它当作第一个数据页的指针。

  3. 通过循环,不断地往后移动 frame 指针,并计算 frame 之前空间中控制块的数量是否足够供 frame 后面的所有数据页使用,如果不够则 size-- 并将 frame 往后移动一页,如果足够则跳出循环,此时 size 为数据页数量,frame 为第一个数据页指针。

  4. 利用 frame 指针,初始化所有的控制块,将所有控制块的 frame 指针指向对应的数据页,同时将所有控制块都丢入空闲列表中。

第三段 frame 没用代码块是因为 frame 太多,用代码块眼花。

LRU List

缓冲池中正在使用的页加载在 LRU 链表中,根据优化过的 LRU 算法进行数据页的载入和淘汰,选取和优化 LRU 算法的根本目的是为了保护热点数据不被冷数据冲刷出去

LRU

缓冲池存在的意义在于缓存热点数据,因此缓冲池中保留的数据页应当是被访问次数更多的数据页。从另一个角度看缓冲池应当做到能够淘汰掉最近最少使用的数据页。因此最近最少使用(Least Recently Used,LRU)算法自然而然称为缓冲池算法的最佳选择。因此缓冲池的核心数据结构是 LRU 链表,该链表负责将存储热点数据和淘汰冷数据

image.png

而引擎中对 LRU 链表所实现的算法是优化过的 LRU 算法,优化的目的自然是为了更高效地淘汰冷数据和更好的保护热点数据

预读

对于即将加入 LRU 列表的数据页,引擎会采用预读的方式,同时载入该数据页周围的几页数据,这种做法基于计算机优化技术中鼎鼎有名的局部性原理

  • 时间局部性原理:最近使用过的页近期内很有可能会再次使用,由此选择 LRU 算法作为淘汰算法。

  • 空间局部性原理:近期需要用到的页很可能在逻辑空间上与当前用到的页是相邻的,由此选择预读的方式加载相邻数据页。

预读分为两种,随机预读和线性预读:

  • 随机预读
    在一个数据页载入 Buffer Pool 的时候,如果 InnoDB 判断该数据页成为热点数据页(New SubList 前 1/4 的数据页),则会将该数据页所处 Extend 内所有数据页根据页码顺序读入 LRU 链表中。随机预读采用异步 IO 的方式载入数据,结合使用 OS_AIO_SIMULATED_WAKE_LATERos_aio_simulated_wake_handler_threads 便于IO合并。

  • 线性预读
    当一个数据页是其所在分区的边界,且在该分区内包括当前数据页连续至少 innodb_read_ahead_threshold=56 个数据页被顺序访问的时候,将会触发线性预读。引擎通过判断顺序访问时页码的升降判断预读的分区是前一个还是后一个。线性预读触发条件较为苛刻,主要是为了解决全表扫描时数据读入的性能问题。

预读失败

如果预读进来的数据页没机会被访问到,那么这些无效数据页将占用一部分链表空间甚至将热数据页淘汰出链表,而这些新加入的无效页却还有一段时间才能被淘汰出去,这种问题被称为预读失败

解决预读失败的目标是将预读失败的数据尽快地淘汰出去,且尽少地淘汰热数据页。当 LRU 链表长度大于 BUF_LRU_OLD_MIN_LEN=512 时,引擎会通过分代机制,将 LRU 链表分为 New SubListOld SubList 两部分。新子链位于链表头部默认约占 5/8 用于存储热数据页,旧子链位于链表尾部默认约占 3/8 用于存储临时载入的数据页,二者相连分割点称为 midPoint

新载入的页从 midPoint 处插入,也就是 Old SubList 的头部。任何 Old SubList 中的页,只要再被访问到就转移到 New SubList 头部。这样预读失败的页就会很快从 Old SubList 中淘汰出去。同时,New SubList 中的数据页在被访问到的时候并不会频繁地调回头部,而是会在新子链 1/4 位置之后才会被调回头部。

缓冲池污染

没有被重新访问或者没有被访问过的预读数据页会直接从 Old SubList 中淘汰出去,但像全表扫描这种情况,有时候大量数据页在短时间内会被访问数次,但扫描完之后却再也没机会被访问。大量冷数据冲入 New SubList 中冲刷走热点数据,这种现象被称为缓冲池污染

与预读失败一样,想要保护热数据,就必须提高新子链的准入门槛。因此引擎通过时间窗口(Time Window)机制来提高新子链的准入门槛:只有在 Old SubList 中存活的时间超过设定值(默认 1s),并且之后再次被重新访问到,才能进入 New SubList。

LRU List

数据页访问

无论是对数据页的查询还是修改都会将数据页载入缓冲池,引擎经过以下步骤获取数据页:

  1. 缓冲池实例:根据数据页特征计算出缓冲池实例号码,进入对应的缓冲池实例。
  2. 查找哈希表:查询页哈希表判断该页是否在缓冲池内,如果存在,需要判断是否需要将该页移到 LRU 链表头部。
  3. 磁盘加载页:如果数据页不存在,则从磁盘载入数据页。
  4. 获取空闲页:从空闲链表中获取空闲页,如果没有空闲页,则执行强制刷脏腾出空页。
  5. 挂载到 LRU:将空闲页控制体指向空闲页内存,并将控制体挂到 LRU 旧子链头部,如果 LRU 链表长度不够,则淘汰旧子链尾部数据页。
  6. 持久化脏页:如果待淘汰页是脏页,则执行刷脏操作。
  7. 写入数据页:从磁盘中读取数据写入准备好的空页中。

数据页初始化

在将数据页从磁盘加载缓冲池的时候,会对待写入数据页进行初始化工作。包括空闲页获取操作、将空闲页加入 LRU 链表等:

  1. 获取空闲页:调用 buf_LRU_get_free_block 从缓冲池获取空闲数据页。
  2. LRU 加锁:对 LRU 链表加锁。
  3. 初始化页类型:初始化空闲页指定数据页类型。
  4. 挂载到 LRU:将数据页加入到 LRU 链表中。
  5. LRU 解锁:对 LRU 链表解锁。

获取空闲页

获取空闲页函数 buf_LRU_get_free_block 里定义了变量 n_iterations 来保存已尝试获取空闲页的次数,根据已尝试的次数分为三种策略:

  • 第一次获取,n_iterations=0

    1. 调用 buf_LRU_get_free_block 从缓冲池获取空闲数据页。
    2. 若获取失败且 try_LRU_scan 为真,则扫描 LRU 链表尾部指定数量的页(默认 100),找到一个可以回收的页(该页没有事务在使用),调用 buf_LRU_free_page 回收该页,重新调用 buf_LRU_get_free_only 从空闲列表中获取空闲页。
    3. 如果未找到可以回收的页,就尝试从 LRU 链表尾部刷走一个脏页,调用 buf_flush_single_page_from_LRU 进行单页刷脏。然后再调用 buf_LRU_get_free_only 去空闲列表获取空闲页。
    4. 若依旧未找到空闲页,将 n_iterations 加一。
  • 第二次获取,n_iterations=1

    基本步骤和 n_iterations=0 时一致,但在步骤 2 时扫描的是整个 LRU 链表而非扫描尾部。同样全部失败则 n_iterations 加一。

  • 第三次及以上,n_iterations>1

    基本步骤与 n_iterations=1 时一致,但在进行单页刷脏前会睡眠 10ms,防止总是因为抢夺单页刷脏出来的脏页导致失败。

  • 第二十次以上,n_iterations>20

    打印无法获取空闲页的日志。

压缩页内存管理

InnoDB 采用了 Buddy 伙伴系统专门来管理不规则内存分配。压缩页大小分别为 16K、8K、4K、2K、1K,Buddy 伙伴系统会根据压缩页大小分配到 zip free 中相应碎片链表的空闲碎片中去,然后再将碎片交给控制块的 frame 指针。

分配操作首先会在 zip free 查询对应链表中是否有空闲碎片,如果没有则去大一级的链表中分配,分配时会进行分裂操作。如果直到 16K 链表中都没有碎片,则调用 buf_LRU_get_free_block 获取新数据页。

在载入 2K 压缩页的时候,Buddy 会现在 zip free 2K 链表中查看是否有碎片:

  • 如果没有 2K 碎片,则去 4K 链表获取 4K 碎片,此时会进行分裂操作:高地址 2K 碎片插入到 2K 链表中,低地址的 2K 空间返回存储压缩页,这两个分裂的碎片就是一对伙伴。

  • 如果没有 4K 碎片,则会去 8K 链表获取碎片,然后对 8K 碎片进行两次分裂动作:分裂为两个低一级(4K)碎片,高地址碎片插入到 4K 链表中,低地址碎片继续分裂为 2K 碎片,高地址碎片插入到 2K 链表中,低地址返回。

  • 如果没有 8K 碎片,同样去 16K 链表寻找并逐级分裂。

  • 如果没有 16K 碎片,则调用 buf_LRU_get_free_block 获取 16K 碎片。获取到内存碎片后,将该碎片数据页加入的 zip hash 中。

Buddy 调用 buf_buddy_free 进行对于压缩页内存的释放。所有碎片都是 16K 碎片分裂而来的,因此 16K 碎片并没有自己的伙伴,且 16K 碎片的回收很简单,清空内存再挂到 16K 链表上去即可。对于低维度压缩页,如 4K 压缩页内存的释放,会先寻找其分裂时候的伙伴,高位内存块寻找低位内存碎片,低位内存块寻找高位内存碎片。并判断其伙伴是否可以被释放或者是空闲的,如果可以则合并成高一维度(8K)的碎片。接着再寻找 8K 的伙伴碎片,同样尝试合并。如果伙伴没有被释放,则会将伙伴上的压缩页数据挪到 zip free 中空闲的 8K 碎片上去,然后再和伙伴合并成 16K 碎片。如果 zip free 中没有空闲 8K 碎片,就放弃合并,直接将自己挂到 8K 链表里去。这样合并的目的是减少内存碎片。

分类:
后端
标签:
收藏成功!
已添加到「」, 点击更改