前言
表空间
是一个抽象的概念,对于系统表空间来说,对应着文件系统中一个或多个实际文件;对于每个独立表空间来说,对应着文件系统中一个名为表名.ibd
的实际文件- 可以把表空间想象成被切分为许许多多个
页
的池子,当我们想为某个表插入一条记录的时候,就从池子中捞出一个对应的页来把数据写进去
1、页面类型
- InnoDB是以页为单位管理存储空间的,我们的聚簇索引(也就是完整的表数据)和其他的二级索引都是以
B+
树的形式保存到表空间的,而B+
树的节点就是数据页, - 不同的页面类型
类型名称 | 十六进制 | 描述 |
---|---|---|
FIL_PAGE_TYPE_ALLOCATED | 0x0000 | 最新分配,还没使用 |
FIL_PAGE_UNDO_LOG | 0x0002 | Undo日志页 |
FIL_PAGE_INODE | 0x0003 | 段信息节点 |
FIL_PAGE_IBUF_FREE_LIST | 0x0004 | Insert Buffer空闲列表 |
FIL_PAGE_IBUF_BITMAP | 0x0005 | Insert Buffer位图 |
FIL_PAGE_TYPE_SYS | 0x0006 | 系统页 |
FIL_PAGE_TYPE_TRX_SYS | 0x0007 | 事务系统数据 |
FIL_PAGE_TYPE_FSP_HDR | 0x0008 | 表空间头部信息 |
FIL_PAGE_TYPE_XDES | 0x0009 | 扩展描述页 |
FIL_PAGE_TYPE_BLOB | 0x000A | BLOB页 |
FIL_PAGE_INDEX | 0x45BF | 索引页,也就是我们所说的数据页 |
2、页面通用部分
- 我们前边说过数据页,也就是
INDEX
类型的页由7个部分组成,其中的两个部分是所有类型的页面都通用的。
从上图中可以看出,任何类型的页都会包含这两个部分:
File Header
:记录页面的一些通用信息File Trailer
:校验页是否完整,保证从内存到磁盘刷新时内容的一致性。
对于File Trailer
我们不再做过多强调,全部忘记了的话可以到将数据页的那一章回顾一下。我们这里再强调一遍File Header
的各个组成部分:
名称 | 占用空间大小 | 描述 |
---|---|---|
FIL_PAGE_SPACE_OR_CHKSUM | 4 字节 | 页的校验和(checksum值) |
FIL_PAGE_OFFSET | 4 字节 | 页号 |
FIL_PAGE_PREV | 4 字节 | 上一个页的页号 |
FIL_PAGE_NEXT | 4 字节 | 下一个页的页号 |
FIL_PAGE_LSN | 8 字节 | 页面被最后修改时对应的日志序列位置(英文名是:Log Sequence Number) |
FIL_PAGE_TYPE | 2 字节 | 该页的类型 |
FIL_PAGE_FILE_FLUSH_LSN | 8 字节 | 仅在系统表空间的一个页中定义,代表文件至少被刷新到了对应的LSN值 |
FIL_PAGE_ARCH_LOG_NO_OR_SPACE_ID | 4 字节 | 页属于哪个表空间 |
- 表空间中的每一个页都对应着一个页号,也就是
FIL_PAGE_OFFSET
,这个页号由4个字节组成,也就是32个比特位,所以一个表空间最多可以拥有2³²个页,如果按照页的默认大小16KB来算,一个表空间最多支持64TB的数据。表空间的第一个页的页号为0,之后的页号分别是1,2,3...依此类推 - 某些类型的页可以组成链表,链表中的页可以不按照物理顺序存储,而是根据
FIL_PAGE_PREV
和FIL_PAGE_NEXT
来存储上一个页和下一个页的页号。需要注意的是,这两个字段主要是为了INDEX
类型的页,也就是我们之前一直说的数据页建立B+
树后,为每层节点建立双向链表用的,一般类型的页是不使用这两个字段的。 - 每个页的类型由
FIL_PAGE_TYPE
表示,比如像数据页的该字段的值就是0x45BF
,我们后边会介绍各种不同类型的页,不同类型的页在该字段上的值是不同的。
一、独立表空间结构
1、区(extent)的概念
- 表空间中的页实在是太多了,为了更好的管理这些页面,设计
InnoDB
的大叔们提出了区
(英文名:extent
)的概念。对于16KB的页来说,连续的64个页就是一个区
,也就是说一个区默认占用1MB空间大小。
- 其中
extent 0
~extent 255
这256个区算是第一个组,extent 256
~extent 511
这256个区算是第二个组,extent 512
~extent 767
这256个区算是第三个组(上图中并未画全第三个组全部的区,请自行脑补),依此类推可以划分更多的组。这些组的头几个页面的类型都是类似的,就像这样:
-
从上图中我们能得到如下信息:
-
第一个组最开始的3个页面的类型是固定的,也就是说
extent 0
这个区最开始的3个页面的类型是固定的,分别是: -
FSP_HDR
类型:这个类型的页面是用来登记整个表空间的一些整体属性以及本组所有的区
,也就是extent 0
~extent 255
这256个区的属性,稍后详细唠叨。需要注意的一点是,整个表空间只有一个FSP_HDR
类型的页面。 -
IBUF_BITMAP
类型:这个类型的页面是存储本组所有的区的所有页面关于INSERT BUFFER
的信息。当然,你现在不用知道啥是个INSERT BUFFER
,后边会详细说到你吐。 -
INODE
类型:这个类型的页面存储了许多称为INODE
的数据结构,还是那句话,现在你不需要知道啥是个INODE
,后边儿会说到你吐。
-
-
其余各组最开始的2个页面的类型是固定的,也就是说
extent 256
、extent 512
这些区最开始的2个页面的类型是固定的,分别是:-
XDES
类型:全称是extent descriptor
,用来登记本组256个区的属性,也就是说对于在extent 256
区中的该类型页面存储的就是extent 256
~extent 511
这些区的属性,对于在extent 512
区中的该类型页面存储的就是extent 512
~extent 767
这些区的属性。上边介绍的FSP_HDR
类型的页面其实和XDES
类型的页面的作用类似,只不过FSP_HDR
类型的页面还会额外存储一些表空间的属性。 -
IBUF_BITMAP
类型:上边介绍过了。
-
只要大致记得:表空间被划分为许多连续的区
,每个区默认由64个页组成,每256个区划分为一组,每个组的最开始的几个页面类型是固定的就好了。
-
引入
区
概念的原因- 我们每向表中插入一条记录,本质上就是向该表的聚簇索引以及所有二级索引代表的
B+
树的节点中插入数据。而B+
树的每一层中的页都会形成一个双向链表,如果是以页
为单位来分配存储空间的话,双向链表相邻的两个页之间的物理位置可能离得非常远。我们介绍B+
树索引的适用场景的时候特别提到范围查询只需要定位到最左边的记录和最右边的记录,然后沿着双向链表一直扫描就可以了,而如果链表中相邻的两个页物理位置离得非常远,就是所谓的随机I/O
。 再一次强调,磁盘的速度和内存的速度差了好几个数量级,随机I/O
是非常慢的,所以我们应该尽量让链表中相邻的页的物理位置也相邻,这样进行范围查询的时候才可以使用所谓的顺序I/O
。
- 我们每向表中插入一条记录,本质上就是向该表的聚簇索引以及所有二级索引代表的
-
一个区就是在物理位置上连续的64个页
-
在表中数据量大的时候,为某个索引分配空间的时候就不再按照页为单位分配了,而是按照
区
为单位分配,甚至在表中的数据十分非常特别多的时候,可以一次性分配多个连续的区。虽然可能造成一点点空间的浪费(数据不足填充满整个区),但是从性能角度看,可以消除很多的随机I/O
,功大于过嘛!
2、段(segment)的概念
-
B+
树的每一层中的页都会形成一个双向链表呀,File Header
中的FIL_PAGE_PREV
和FIL_PAGE_NEXT
字段维护这个双向链表 -
引入
段
概念的原因- 我们提到的范围查询,其实是对
B+
树叶子节点中的记录进行顺序扫描,而如果不区分叶子节点和非叶子节点,统统把节点代表的页面放到申请到的区中的话,进行范围扫描的效果就大打折扣了。 InnoDB
对B+
树的叶子节点和非叶子节点进行了区别对待,也就是说叶子节点有自己独有的区
,非叶子节点也有自己独有的区
。存放叶子节点的区的集合就算是一个段
(segment
),存放非叶子节点的区的集合也算是一个段
。也就是说一个索引会生成2个段,一个叶子节点段,一个非叶子节点段。
- 我们提到的范围查询,其实是对
-
空间问题
-
默认情况下一个使用
InnoDB
存储引擎的表只有一个聚簇索引,一个索引会生成2个段,而段是以区为单位申请存储空间的,一个区默认占用1M存储空间,所以默认情况下一个只存了几条记录的小表也需要2M的存储空间么? -
以后每次添加一个索引都要多申请2M的存储空间么?这对于存储记录比较少的表简直是天大的浪费。设计
InnoDB
的大叔们都挺节俭的,当然也考虑到了这种情况。这个问题的症结在于到现在为止我们介绍的区都是非常纯粹
的,也就是一个区被整个分配给某一个段,或者说区中的所有页面都是为了存储同一个段的数据而存在的,即使段的数据填不满区中所有的页面,那余下的页面也不能挪作他用。现在为了考虑以完整的区为单位分配给某个段对于数据量较小的表太浪费存储空间的这种情况,设计InnoDB
的大叔们提出了一个碎片(fragment)区的概念,也就是在一个碎片区中,并不是所有的页都是为了存储同一个段的数据而存在的,而是碎片区中的页可以用于不同的目的,比如有些页用于段A,有些页用于段B,有些页甚至哪个段都不属于。碎片区直属于表空间,并不属于任何一个段。
-
-
所以此后为某个段分配存储空间的策略是这样的:
- 在刚开始向表中插入数据的时候,段是从某个碎片区以单个页面为单位来分配存储空间的。
- 当某个段已经占用了32个碎片区页面之后,就会以完整的区为单位来分配存储空间。
3、区的分类
- 处于
FREE
、FREE_FRAG
以及FULL_FRAG
这三种状态的区都是独立的,算是直属于表空间;而处于FSEG
状态的区是附属于某个段的。
如果把表空间比作是一个集团军,段就相当于师,区就相当于团。一般的团都是隶属于某个师的,就像是处于
FSEG
的区全都隶属于某个段,而处于FREE
、FREE_FRAG
以及FULL_FRAG
这三种状态的区却直接隶属于表空间,就像独立团直接听命于军部一样。
- 为了方便管理这些区,设计
InnoDB
的大叔设计了一个称为XDES Entry
的结构(全称就是Extent Descriptor Entry),每一个区都对应着一个XDES Entry
结构,这个结构记录了对应的区的一些属性。我们先看图来对这个结构有个大致的了解:
-
从图中我们可以看出,
XDES Entry
是一个40个字节的结构,大致分为4个部分,各个部分的释义如下: -
Segment ID
(8字节)每一个段都有一个唯一的编号,用ID表示,此处的
Segment ID
字段表示就是该区所在的段。当然前提是该区已经被分配给某个段了,不然的话该字段的值没啥意义。 -
List Node
(12字节)这个部分可以将若干个
XDES Entry
结构串联成一个链表,大家看一下这个List Node
的结构:
-
如果我们想定位表空间内的某一个位置的话,只需指定页号以及该位置在指定页号中的页内偏移量即可。所以:
Pre Node Page Number
和Pre Node Offset
的组合就是指向前一个XDES Entry
的指针Next Node Page Number
和Next Node Offset
的组合就是指向后一个XDES Entry
的指针。
把一些
XDES Entry
结构连成一个链表有啥用?稍安勿躁,我们稍后唠叨XDES Entry
结构组成的链表问题。 -
State
(4字节)这个字段表明区的状态。可选的值就是我们前边说过的那4个,分别是:
FREE
、FREE_FRAG
、FULL_FRAG
和FSEG
。具体释义就不多唠叨了,前边说的够仔细了。 -
Page State Bitmap
(16字节)这个部分共占用16个字节,也就是128个比特位。我们说一个区默认有64个页,这128个比特位被划分为64个部分,每个部分2个比特位,对应区中的一个页。比如
Page State Bitmap
部分的第1和第2个比特位对应着区中的第1个页面,第3和第4个比特位对应着区中的第2个页面,依此类推,Page State Bitmap
部分的第127和128个比特位对应着区中的第64个页面。这两个比特位的第一个位表示对应的页是否是空闲的,第二个比特位还没有用。
4、XDES Entry链表
-
某个段中插入数据的过程:
- 当段中数据较少的时候,首先会查看表空间中是否有状态为
FREE_FRAG
的区,也就是找还有空闲空间的碎片区,如果找到了,那么从该区中取一些零散的页把数据插进去;否则到表空间下申请一个状态为FREE
的区,也就是空闲的区,把该区的状态变为FREE_FRAG
,然后从该新申请的区中取一些零散的页把数据插进去。之后不同的段使用零散页的时候都会从该区中取,直到该区中没有空闲空间,然后该区的状态就变成了FULL_FRAG
。
- 当段中数据较少的时候,首先会查看表空间中是否有状态为
-
现在的问题是你怎么知道表空间里的哪些区是
FREE
的,哪些区的状态是FREE_FRAG
的,哪些区是FULL_FRAG
的?要知道表空间的大小是可以不断增大的,当增长到GB级别的时候,区的数量也就上千了,我们总不能每次都遍历这些区对应的XDES Entry
结构吧?这时候就是XDES Entry
中的List Node
部分发挥奇效的时候了,我们可以通过List Node
中的指针,做这么三件事:- 把状态为
FREE
的区对应的XDES Entry
结构通过List Node
来连接成一个链表,这个链表我们就称之为FREE
链表。 - 把状态为
FREE_FRAG
的区对应的XDES Entry
结构通过List Node
来连接成一个链表,这个链表我们就称之为FREE_FRAG
链表。 - 把状态为
FULL_FRAG
的区对应的XDES Entry
结构通过List Node
来连接成一个链表,这个链表我们就称之为FULL_FRAG
链表。
- 把状态为
-
这样每当我们想找一个
FREE_FRAG
状态的区时,就直接把FREE_FRAG
链表的头节点拿出来,从这个节点中取一些零散的页来插入数据,当这个节点对应的区用完时,就修改一下这个节点的State
字段的值,然后从FREE_FRAG
链表中移到FULL_FRAG
链表中。同理,如果FREE_FRAG
链表中一个节点都没有,那么就直接从FREE
链表中取一个节点移动到FREE_FRAG
链表的状态,并修改该节点的STATE
字段值为FREE_FRAG
,然后从这个节点对应的区中获取零散的页就好了。 -
当段中数据已经占满了32个零散的页后,就直接申请完整的区来插入数据了。
-
InnoDB
为每个段中的区对应的XDES Entry
结构建立了三个链表:-
FREE
链表:同一个段中,所有页面都是空闲的区对应的XDES Entry
结构会被加入到这个链表。注意和直属于表空间的FREE
链表区别开了,此处的FREE
链表是附属于某个段的。 -
NOT_FULL
链表:同一个段中,仍有空闲空间的区对应的XDES Entry
结构会被加入到这个链表。 -
FULL
链表:同一个段中,已经没有空闲空间的区对应的XDES Entry
结构会被加入到这个链表。
-
-
再次强调一遍,每一个索引都对应两个段,每个段都会维护上述的3个链表,比如下边这个表:
CREATE TABLE t (
c1 INT NOT NULL AUTO_INCREMENT,
c2 VARCHAR(100),
c3 VARCHAR(100),
PRIMARY KEY (c1),
KEY idx_c2 (c2)
)ENGINE=InnoDB;
- 这个表
t
共有两个索引,一个聚簇索引,一个二级索引idx_c2
,所以这个表共有4个段,每个段都会维护上述3个链表,总共是12个链表,加上我们上边说过的直属于表空间的3个链表,整个独立表空间共需要维护15个链表。所以段在数据量比较大时插入数据的话,会先获取NOT_FULL
链表的头节点,直接把数据插入这个头节点对应的区中即可,如果该区的空间已经被用完,就把该节点移到FULL
链表中。
(1)链表基节点
InnoDB
设计了一个叫List Base Node
的结构,翻译成中文就是链表的基节点;
我们上边介绍的每个链表都对应这么一个List Base Node
结构,其中:
-
List Length
表明该链表一共有多少节点, -
First Node Page Number
和First Node Offset
表明该链表的头节点在表空间中的位置。 -
Last Node Page Number
和Last Node Offset
表明该链表的尾节点在表空间中的位置。
一般我们把某个链表对应的List Base Node
结构放置在表空间中固定的位置,这样想找定位某个链表就变得so easy啦。
(2)链表小结
-
表空间是由若干个区组成的,每个区都对应一个
XDES Entry
的结构,直属于表空间的区对应的XDES Entry
结构可以分成FREE
、FREE_FRAG
和FULL_FRAG
这3个链表。 -
每个段可以附属若干个区,每个段中的区对应的
XDES Entry
结构可以分成FREE
、NOT_FULL
和FULL
这3个链表 -
每个链表都对应一个
List Base Node
的结构,这个结构里记录了链表的头、尾节点的位置以及该链表中包含的节点数
5、段的结构
- 段其实不对应表空间中某一个连续的物理区域,而是一个逻辑上的概念,由若干个零散的页面以及一些完整的区组成
InnoDB
为每个段都定义了一个INODE Entry
结构来记录一下段中的属性。大家看一下示意图:
它的各个部分释义如下:
-
Segment ID
就是指这个
INODE Entry
结构对应的段的编号(ID)。 -
NOT_FULL_N_USED
这个字段指的是在
NOT_FULL
链表中已经使用了多少个页面。 -
3个
List Base Node
分别为段的
FREE
链表、NOT_FULL
链表、FULL
链表定义了List Base Node
,这样我们想查找某个段的某个链表的头节点和尾节点的时候,就可以直接到这个部分找到对应链表的List Base Node
。so easy! -
Magic Number
:这个值是用来标记这个
INODE Entry
是否已经被初始化了(初始化的意思就是把各个字段的值都填进去了)。如果这个数字是值的97937874
,表明该INODE Entry
已经初始化,否则没有被初始化。(不用纠结这个值有啥特殊含义,人家规定的)。 -
Fragment Array Entry
我们前边强调过无数次段是一些零散页面和一些完整的区的集合,每个
Fragment Array Entry
结构都对应着一个零散的页面,这个结构一共4个字节,表示一个零散页面的页号。
结合着这个INODE Entry
结构,大家可能对段是一些零散页面和一些完整的区的集合的理解再次深刻一些。
6、各类型页面详细情况
(1)FSP_HDR
类型
- 首先看第一个组的第一个页面,当然也是表空间的第一个页面,页号为
0
。这个页面的类型是FSP_HDR
,它存储了表空间的一些整体属性以及第一个组内256个区的对应的XDES Entry
结构,直接看这个类型的页面的示意图:
- 从图中可以看出,一个完整的
FSP_HDR
类型的页面大致由5个部分组成,各个部分的具体释义如下表:
名称 | 中文名 | 占用空间大小 | 简单描述 |
---|---|---|---|
File Header | 文件头部 | 38 字节 | 页的一些通用信息 |
File Space Header | 表空间头部 | 112 字节 | 表空间的一些整体属性信息 |
XDES Entry | 区描述信息 | 10240 字节 | 存储本组256个区对应的属性信息 |
Empty Space | 尚未使用空间 | 5986 字节 | 用于页结构的填充,没啥实际意义 |
File Trailer | 文件尾部 | 8 字节 | 校验页是否完整 |
-
File Header
和File Trailer
就不再强调了, -
另外的几个部分中,
Empty Space
是尚未使用的空间,我们不用管它,重点来看看File Space Header
和XDES Entry
这两个部分。
(2)File Space Header部分
- 从名字就可以看出来,这个部分是用来存储表空间的一些整体属性的,废话少说,看图:
下面是各个属性的简单描述:
名称 | 占用空间大小 | 描述 |
---|---|---|
Space ID | 4 字节 | 表空间的ID |
Not Used | 4 字节 | 这4个字节未被使用,可以忽略 |
Size | 4 字节 | 当前表空间占有的页面数 |
FREE Limit | 4 字节 | 尚未被初始化的最小页号,大于或等于这个页号的区对应的XDES Entry结构都没有被加入FREE链表 |
Space Flags | 4 字节 | 表空间的一些占用存储空间比较小的属性 |
FRAG_N_USED | 4 字节 | FREE_FRAG链表中已使用的页面数量 |
List Base Node for FREE List | 16 字节 | FREE链表的基节点 |
List Base Node for FREE_FRAG List | 16 字节 | FREE_FRAG链表的基节点 |
List Base Node for FULL_FRAG List | 16 字节 | FULL_FRAG链表的基节点 |
Next Unused Segment ID | 8 字节 | 当前表空间中下一个未使用的 Segment ID |
List Base Node for SEG_INODES_FULL List | 16 字节 | SEG_INODES_FULL链表的基节点 |
List Base Node for SEG_INODES_FREE List | 16 字节 | SEG_INODES_FREE链表的基节点 |
这里头的Space ID
、Not Used
、Size
这三个字段大家肯定一看就懂,其他的字段我们再详细瞅瞅,为了大家的阅读体验,我就不严格按照实际的字段顺序来解释各个字段了哈。
-
List Base Node for FREE List
、List Base Node for FREE_FRAG List
、List Base Node for FULL_FRAG List
。这三个大家看着太亲切了,分别是直属于表空间的
FREE
链表的基节点、FREE_FRAG
链表的基节点、FULL_FRAG
链表的基节点,这三个链表的基节点在表空间的位置是固定的,就是在表空间的第一个页面(也就是FSP_HDR
类型的页面)的File Space Header
部分。所以之后定位这几个链表就so easy啦。 -
FRAG_N_USED
这个字段表明在
FREE_FRAG
链表中已经使用的页面数量。 -
FREE Limit
我们知道表空间都对应着具体的磁盘文件,一开始我们创建表空间的时候对应的磁盘文件中都没有数据,所以我们需要对表空间完成一个初始化操作,包括为表空间中的区建立
XDES Entry
结构,为各个段建立INODE Entry
结构,建立各种链表吧啦吧啦的各种操作。我们可以一开始就为表空间申请一个特别大的空间,但是实际上有绝大部分的区是空闲的,我们可以选择把所有的这些空闲区对应的XDES Entry
结构加入FREE
链表,也可以选择只把一部分的空闲区加入FREE
链表,等啥时候空闲链表中的XDES Entry
结构对应的区不够使了,再把之前没有加入FREE
链表的空闲区对应的XDES Entry
结构加入FREE
链表,中心思想就是啥时候用到啥时候初始化,设计InnoDB
的大叔采用的就是后者,他们为表空间定义了FREE Limit
这个字段,在该字段表示的页号之前的区都被初始化了,之后的区尚未被初始化。 -
Next Unused Segment ID
表中每个索引都对应2个段,每个段都有一个唯一的ID,那当我们为某个表新创建一个索引的时候,就意味着要创建两个新的段。那怎么为这个新创建的段找一个唯一的ID呢?去遍历现在表空间中所有的段么?我们说过,遍历是不可能遍历的,这辈子都不可能遍历,所以设计
InnoDB
的大叔们提出了这个名叫Next Unused Segment ID
的字段,该字段表明当前表空间中最大的段ID的下一个ID,这样在创建新段的时候赋予新段一个唯一的ID值就so easy啦,直接使用这个字段的值就好了。 -
Space Flags
表空间对于一些布尔类型的属性,或者只需要寥寥几个比特位搞定的属性都放在了这个
Space Flags
中存储,虽然它只有4个字节,32个比特位大小,却存储了好多表空间的属性,详细情况如下表:标志名称 占用的空间(单位:bit) 描述 POST_ANTELOPE
1 表示文件格式是否大于 ANTELOPE
ZIP_SSIZE
4 表示压缩页面的大小 ATOMIC_BLOBS
1 表示是否自动把值非常长的字段放到BLOB页里 PAGE_SSIZE
4 页面大小 DATA_DIR
1 表示表空间是否是从默认的数据目录中获取的 SHARED
1 是否为共享表空间 TEMPORARY
1 是否为临时表空间 ENCRYPTION
1 表空间是否加密 UNUSED
18 没有使用到的比特位 小贴士: 不同MySQL版本里 SPACE_FLAGS 代表的属性可能有些差异,我们这里列举的是5.7.21版本的。不过大家现在不必深究它们的意思,因为我们一旦把这些概念展开,就需要非常大的篇幅,主要怕大家受不了。我们还是先挑重要的看,把主要的表空间结构了解完,这些 SPACE_FLAGS 里的属性的细节就暂时不深究了。
-
List Base Node for SEG_INODES_FULL List
和List Base Node for SEG_INODES_FREE List
每个段对应的
INODE Entry
结构会集中存放到一个类型为INODE
的页中,如果表空间中的段特别多,则会有多个INODE Entry
结构,可能一个页放不下,这些INODE
类型的页会组成两种列表:SEG_INODES_FULL
链表,该链表中的INODE
类型的页面都已经被INODE Entry
结构填充满了,没空闲空间存放额外的INODE Entry
了。SEG_INODES_FREE
链表,该链表中的INODE
类型的页面仍有空闲空间来存放INODE Entry
结构。
由于我们现在还没有详细唠叨
INODE
类型页,所以等会说过INODE
类型的页之后再回过头来看着两个链表。
(3)XDES Entry部分
-
紧接着
File Space Header
部分的就是XDES Entry
部分了,我们嘴上唠叨过无数次,却从没见过真身的XDES Entry
就是在表空间的第一个页面中保存的。我们知道一个XDES Entry
结构的大小是40字节,但是一个页面的大小有限,只能存放有限个XDES Entry
结构,所以我们才把256个区划分成一组,在每组的第一个页面中存放256个XDES Entry
结构。大家回看那个FSP_HDR
类型页面的示意图,XDES Entry 0
就对应着extent 0
,XDES Entry 1
就对应着extent 1
... 依此类推,XDES Entry255
就对应着extent 255
。 -
因为每个区对应的
XDES Entry
结构的地址是固定的,所以我们访问这些结构就so easy啦,至于该结构的详细使用情况我们已经唠叨的够明白了,在这就不赘述了。
(4)XDES
类型
- 我们说过,每一个
XDES Entry
结构对应表空间的一个区,虽然一个XDES Entry
结构只占用40字节,但你抵不住表空间的区的数量也多啊。在区的数量非常多时,一个单独的页可能就不够存放足够多的XDES Entry
结构,所以我们把表空间的区分为了若干个组,每组开头的一个页面记录着本组内所有的区对应的XDES Entry
结构。由于第一个组的第一个页面有些特殊,因为它也是整个表空间的第一个页面,所以除了记录本组中的所有区对应的XDES Entry
结构以外,还记录着表空间的一些整体属性,这个页面的类型就是我们刚刚说完的FSP_HDR
类型,整个表空间里只有一个这个类型的页面。除去第一个分组以外,之后的每个分组的第一个页面只需要记录本组内所有的区对应的XDES Entry
结构即可,不需要再记录表空间的属性了,为了和FSP_HDR
类型做区别,我们把之后每个分组的第一个页面的类型定义为XDES
,它的结构和FSP_HDR
类型是非常相似的:
- 与
FSP_HDR
类型的页面对比,除了少了File Space Header
部分之外,也就是除了少了记录表空间整体属性的部分之外,其余的部分是一样一样的。由于我们上边唠叨的已经够仔细了,对于XDES
类型的页面也就不重复唠叨了哈。
(5)IBUF_BITMAP
类型
对比前边介绍表空间的图,每个分组的第二个页面的类型都是IBUF_BITMAP
,这种类型的页里边记录了一些有关Change Buffer
的东东,由于这个Change Buffer
里又包含了贼多的概念,考虑到大家在一章中接受这么多新概念有点呼吸不适,怕大家心脏病犯了所以就把Change Buffer
的相关知识放到后边的章节中,大家稍安勿躁哈。
(6)INODE
类型
再次对比前边介绍表空间的图,第一个分组的第三个页面的类型是INODE
。我们前边说过设计InnoDB
的大叔为每个索引定义了两个段,而且为某些特殊功能定义了些特殊的段。为了方便管理,他们又为每个段设计了一个INODE Entry
结构,这个结构中记录了关于这个段的相关属性。而我们这会儿要介绍的这个INODE
类型的页就是为了存储INODE Entry
结构而存在的。好了,废话少说,直接看图:
- 从图中可以看出,一个
INODE
类型的页面是由这几部分构成的:
名称 | 中文名 | 占用空间大小 | 简单描述 |
---|---|---|---|
File Header | 文件头部 | 38 字节 | 页的一些通用信息 |
List Node for INODE Page List | 通用链表节点 | 12 字节 | 存储上一个INODE页面和下一个INODE页面的指针 |
INODE Entry | 段描述信息 | 16320 字节 | |
Empty Space | 尚未使用空间 | 6 字节 | 用于页结构的填充,没啥实际意义 |
File Trailer | 文件尾部 | 8 字节 | 校验页是否完整 |
-
除了
File Header
、Empty Space
、File Trailer
这几个老朋友外,我们重点关注List Node for INODE Page List
和INODE Entry
这两个部分。 -
首先看
INODE Entry
部分,我们前边已经详细介绍过这个结构的组成了,主要包括对应的段内零散页面的地址以及附属于该段的FREE
、NOT_FULL
和FULL
链表的基节点。每个INODE Entry
结构占用192字节,一个页面里可以存储85
个这样的结构。 -
重点看一下
List Node for INODE Page List
这个玩意儿,因为一个表空间中可能存在超过85个段,所以可能一个INODE
类型的页面不足以存储所有的段对应的INODE Entry
结构,所以就需要额外的INODE
类型的页面来存储这些结构。还是为了方便管理这些INODE
类型的页面,设计InnoDB
的大叔们将这些INODE
类型的页面串联成两个不同的链表:SEG_INODES_FULL
链表:该链表中的INODE
类型的页面中已经没有空闲空间来存储额外的INODE Entry
结构了。SEG_INODES_FREE
链表:该链表中的INODE
类型的页面中还有空闲空间来存储额外的INODE Entry
结构了。
-
想必大家已经认出这两个链表了,我们前边提到过这两个链表的基节点就存储在
File Space Header
里边,也就是说这两个链表的基节点的位置是固定的,所以我们可以很轻松的访问到这两个链表。以后每当我们新创建一个段(创建索引时就会创建段)时,都会创建一个INODE Entry
结构与之对应,存储INODE Entry
的大致过程就是这样的:-
先看看
SEG_INODES_FREE
链表是否为空,如果不为空,直接从该链表中获取一个节点,也就相当于获取到一个仍有空闲空间的INODE
类型的页面,然后把该INODE Entry
结构放到该页面中。当该页面中无剩余空间时,就把该页放到SEG_INODES_FULL
链表中。 -
如果
SEG_INODES_FREE
链表为空,则需要从表空间的FREE_FRAG
链表中申请一个页面,修改该页面的类型为INODE
,把该页面放到SEG_INODES_FREE
链表中,与此同时把该INODE Entry
结构放入该页面。
-
7、Segment Header 结构的运用
我们知道一个索引会产生两个段,分别是叶子节点段和非叶子节点段,而每个段都会对应一个INODE Entry
结构,那我们怎么知道某个段对应哪个INODE Entry
结构呢?所以得找个地方记下来这个对应关系。希望你还记得我们在唠叨数据页,也就是INDEX
类型的页时有一个Page Header
部分,当然我不能指望你记住,所以把Page Header
部分再抄一遍给你看:
Page Header部分(为突出重点,省略了好多属性)
名称 | 占用空间大小 | 描述 |
---|---|---|
... | ... | ... |
PAGE_BTR_SEG_LEAF | 10 字节 | B+树叶子段的头部信息,仅在B+树的根页定义 |
PAGE_BTR_SEG_TOP | 10 字节 | B+树非叶子段的头部信息,仅在B+树的根页定义 |
其中的PAGE_BTR_SEG_LEAF
和PAGE_BTR_SEG_TOP
都占用10个字节,它们其实对应一个叫Segment Header
的结构,该结构图示如下:
- 各个部分的具体释义如下:
名称 | 占用字节数 | 描述 |
---|---|---|
Space ID of the INODE Entry | 4 | INODE Entry结构所在的表空间ID |
Page Number of the INODE Entry | 4 | INODE Entry结构所在的页面页号 |
Byte Offset of the INODE Ent | 2 | INODE Entry结构在该页面中的偏移量 |
- 这样子就很清晰了,
PAGE_BTR_SEG_LEAF
记录着叶子节点段对应的INODE Entry
结构的地址是哪个表空间的哪个页面的哪个偏移量,PAGE_BTR_SEG_TOP
记录着非叶子节点段对应的INODE Entry
结构的地址是哪个表空间的哪个页面的哪个偏移量。这样子索引和其对应的段的关系就建立起来了。不过需要注意的一点是,因为一个索引只对应两个段,所以只需要在索引的根页面中记录这两个结构即可。
二、系统表空间
1、系统表空间的整体结构
- 系统表空间与独立表空间的一个非常明显的不同之处就是在表空间开头有许多记录整个系统属性的页面,如图:
- 可以看到,系统表空间和独立表空间的前三个页面(页号分别为
0
、1
、2
,类型分别是FSP_HDR
、IBUF_BITMAP
、INODE
)的类型是一致的,只是页号为3
~7
的页面是系统表空间特有的,我们来看一下这些多出来的页面都是干啥使的:
页号 | 页面类型 | 英文描述 | 描述 |
---|---|---|---|
3 | SYS | Insert Buffer Header | 存储Insert Buffer的头部信息 |
4 | INDEX | Insert Buffer Root | 存储Insert Buffer的根页面 |
5 | TRX_SYS | Transction System | 事务系统的相关信息 |
6 | SYS | First Rollback Segment | 第一个回滚段的页面 |
7 | SYS | Data Dictionary Header | 数据字典头部信息 |
- 除了这几个记录系统属性的页面之外,系统表空间的
extent 1
和extent 2
这两个区,也就是页号从64
~191
这128个页面被称为Doublewrite buffer
,也就是双写缓冲区。不过上述的大部分知识都涉及到了事务和多版本控制的问题,这些问题我们会放在后边的章节集中唠叨,现在讲述太影响用户体验,所以现在我们只唠叨一下有关InnoDB数据字典的知识,其余的概念在后边再看。