MySQL索引

311 阅读11分钟

1. 定义

索引的出现其实就是为了提高数据查询的效率,就像书的目录一样。

2. 索引的常见模型

索引的出现是为了提高查询效率,但是实现索引的方式却有很多种,所以这里也就引入了索引模型的概念。可以用于提高读写效率的数据结构很多,这里介绍几个常见的数据结构:哈希表、有序数组、二叉搜索树。

2.1 哈希表

哈希表是一种以键 - 值(key-value)存储数据的结构,我们只要输入待查找的键即 key,就可以找到其对应的值即Value。哈希的思路很简单,把值放在数组里,用一个哈希函数把 key 换算成一个确定的位置,然后把 value 放在数组的这个位置。

不可避免地,多个 key值经过哈希函数的换算,会出现同一个值的情况。处理这种情况的一种方法是,拉出一个链表。

假设,你现在维护着一个身份证信息和姓名的表,需要根据身份证号查找对应的名字,这时对应的哈希索引的示意图如下所示: 哈希表示意图

图中,User2 和 User4 根据身份证号算出来的值都是 N,但没关系,后面还跟了一个链表。假设,这时候你要查 ID_card_n2 对应的名字是什么,处理步骤就是:首先,将 ID_card_n2 通过哈希函数算出 N;然后,按顺序遍历,找到 User2。

哈希表这种结构适用于只有等值查询的场景,不支持范围查询,比如 Memcached 及其他一些 NoSQL 引擎。

2.2 有序数组

有序数组在等值查询和范围查询场景中的性能就都非常优秀。如果仅仅看查询效率,有序数组是一种很好的数据结构了。但是,在需要更新数据的时候就麻烦了,你往中间插入一个记录就必须得挪动后面所有的记录,成本太高。

还是上面这个根据身份证号查名字的例子,如果我们使用有序数组来实现的话,示意图如下所示: 有序数组示意图

这里我们假设身份证号没有重复,这个数组就是按照身份证号递增的顺序保存的。这时候如果你要查 ID_card_n2 对应的名字,用二分法就可以快速得到,这个时间复杂度是 O(log(N))。

所以,有序数组索引只适用于静态存储引擎

2.3 二叉搜索树

二叉搜索树也是课本里的经典数据结构了。还是上面根据身份证号查名字的例子,如果我们用二叉搜索树来实现的话,示意图如下所示: 二叉搜索树

二叉搜索树的特点是:父节点左子树所有结点的值小于父节点的值,右子树所有结点的值大于父节点的值。这样如果你要查 ID_card_n2 的话,按照图中的搜索顺序就是按照 UserA -> UserC -> UserF -> User2 这个路径得到。这个时间复杂度是 O(log(N))。

当然为了维持 O(log(N))的查询复杂度,你就需要保持这棵树是平衡二叉树。为了做这个保证,更新的时间复杂度也是 O(log(N))。

可以想象一下一棵 100 万节点的平衡二叉树,树高 20。一次查询可能需要访问 20 个数据块。在机械硬盘时代,从磁盘随机读一个数据块需要 10 ms 左右的寻址时间。也就是说,对于一个 100 万行的表,如果使用二叉树来存储,单独访问一个行可能需要 20 个 10 ms 的时间,这个查询可真够慢的。

为了让一个查询尽量少地读磁盘,就必须让查询过程访问尽量少的数据块。那么,我们就不应该使用二叉树,而是要使用“N 叉”树。这里,“N 叉”树中的“N”取决于数据块的大小。

3. B树与B+树

上面提到过,为了减少磁盘IO,引入N叉树这种数据结构,那么下面分析下B树和B+树。

3.1 B树

3.1.1 定义

一棵m阶B树(balanced tree of order m)是一棵平衡的m路搜索树。它或者是空树,或者是满足下列性质的树:

  • 根节点至少有两个子节点
  • 每个节点有M-1个key,并且以升序排列
  • 位于M-1和M key的子节点的值位于M-1 和M key对应的Value之间
  • 其它节点至少有M/2个子节点

下面是一颗M=4的B树示意图: B树示意图

3.1.2 B树的特点

  • 叶节点具有相同的深度,叶节点的指针为空
  • 所有索引元素不重复
  • 节点中的数据索引从左到右递增排列
  • 叶子节点和非叶子都会存索引和data

3.1.3 B树的缺点

由于B树的叶子没有指针,所以叶子节点之间没有指针连接,那么在范围查询的时候,效率不高。

还有一个更重要的原因,MySQL的InnoDB引擎有页的概念,页是InnoDB磁盘管理的最小单位,默认每个页的大小为16KB,而这里跟索引相关的信息都存在数据页里边,试想如果每个节点都存放data数据的话,那么假设索引的类型是int,对应的数据占用96字节,那么这一个节点就占用104个字节,那么这一页最多存16KB/100B = 160个节点,那么如果这个表几百万甚至上千万的数据时,B树的树高是很恐怖的,查询的时候,就多了很多次磁盘IO,所以不能用B树,那么有没有更好的办法呢?MySQL给的答案是,增加版的B+树。

注:这里的16KB实际上不会都存储节点信息,还有很多其他信息,这里只是粗略的计算一下。

3.2 B+树

3.2.1 定义

B+树是B树的一种变形形式,B+树上的叶子结点存储关键字以及相应记录的地址,叶子结点以上各层作为索引使用。一棵m阶的B+树定义如下:

  • 每个结点至多有m个子女
  • 除根结点外,每个结点至少有[m/2]个子女,根结点至少有两个子女
  • 有k个子女的结点必有k个关键字

3.2.2 B+树的特性

  • 非叶子节点不存储data,只存储索引(冗余),可以放更多的索引
  • 叶子节点包含所有索引字段
  • 叶子节点用双向指针连接,提高区间访问的性能

回到上边那个例子,假设还是索引的类型为int,那么B+树的一页可以存储多少个节点呢?我们可以计算一下: 16KB/4B = 4000个节点。一下扩大了几十倍。

所以MySQL从减少磁盘访问IO以及提高范围查询性能的考虑,用的B+树而不是B树。

4. InnoDB中的B+索引

在 InnoDB 中,表都是根据主键顺序以索引的形式存放的,这种存储方式的表称为索引组织表。又因为前面我们提到的,InnoDB 使用了 B+ 树索引模型,所以数据都是存储在 B+ 树中的。

每一个索引在 InnoDB 里面对应一棵 B+ 树。

假设,我们有一个主键列为 ID 的表,表中有字段 k,并且在 k 上有索引。这个表的建表语句是:


mysql> create table T(
id int primary key, 
k int not null, 
name varchar(16),
index (k))engine=InnoDB;

表中 R1~R5 的 (ID,k) 值分别为 (100,1)、(200,2)、(300,3)、(500,5) 和 (600,6),两棵树的示例示意图如下: InnoDB的索引组织结构

从图中不难看出,根据叶子节点的内容,索引类型分为主键索引和非主键索引。

主键索引的叶子节点存的是整行数据。在InnoDB里,主键索引也被称为聚簇索引(clustered index)。

非主键索引的叶子节点内容是主键的值。在InnoDB里,非主键索引也被称为二级索引(secondary index)。

根据上面的索引结构说明,我们来讨论一个问题:基于主键索引和普通索引的查询有什么区别?

  • 如果语句是 select * from T where ID=500,即主键查询方式,则只需要搜索 ID 这棵 B+ 树;
  • 如果语句是 select * from T where k=5,即普通索引查询方式,则需要先搜索 k 索引树,得到 ID 的值为 500,再到 ID 索引树搜索一次。这个过程称为回表。

4.1 索引维护

B+ 树为了维护索引有序性,在插入新值的时候需要做必要的维护。所以就会引起两个问题,页分裂与页合并。

4.1.1 页分裂

以上面这个图为例,如果插入新的行ID值为700,则只需要在R5的记录后面插入一个新记录。如果新插入的ID值为400,就相对麻烦了,需要逻辑上挪动后面的数据,空出位置。

而更糟的情况是,如果 R5 所在的数据页已经满了,根据 B+ 树的算法,这时候需要申请一个新的数据页,然后挪动部分数据过去。这个过程称为页分裂。在这种情况下,性能自然会受影响。

除了性能外,页分裂操作还影响数据页的利用率。原本放在一个页的数据,现在分到两个页中,整体空间利用率降低大约 50%。

4.1.2 页合并

页合并就是页分裂的逆过程,当删除数据的时候,可能会触发页合并,所以为了减少这种情况,建议数据库做逻辑删除而不是物理删除。

4.1.3 自增主键的好处

自增主键是指自增列上定义的主键,在建表语句中一般是这么定义的: NOT NULL PRIMARY KEY AUTO_INCREMENT。

也就是说,自增主键的插入数据模式,正符合了我们前面提到的递增插入的场景。每次插入一条新记录,都是追加操作,都不涉及到挪动其他记录,也不会触发叶子节点的分裂。

而有业务逻辑的字段做主键,则往往不容易保证有序插入,这样写数据成本相对较高。

除了考虑性能外,我们还可以从存储空间的角度来看。假设你的表中确实有一个唯一字段,比如字符串类型的身份证号,那应该用身份证号做主键,还是用自增字段做主键呢?

由于每个非主键索引的叶子节点上都是主键的值。如果用身份证号做主键,那么每个二级索引的叶子节点占用约 20 个字节,而如果用整型做主键,则只要 4 个字节,如果是长整型(bigint)则是 8 个字节。

显然,主键长度越小,普通索引的叶子节点就越小,普通索引占用的空间也就越小。

所以,从性能和存储空间方面考量,自增主键往往是更合理的选择。

5. 覆盖索引

为了避免回表,可以引入覆盖索引。即查询时可以在普通索引上边查到所有所需数据,而不用再去主键索引树进行搜索了。覆盖索引是联合索引的一种最优情况。

5.1 联合索引的底层数据结构

联合索引的底层数据结构

5.2 最左前缀原则

  • 索引可以简单如一个列 (a),也可以复杂如多个列 (a,b,c,d),即联合索引。
  • 如果是联合索引,那么key也由多个列组成,同时,索引只能用于查找key是否存在(相等),MySQL会一直向右匹配直到遇到范围查询 (>、<、between、like左匹配)等就不能进一步匹配了,后续退化为线性查找。
  • 因此,列的排列顺序决定了可命中索引的列数。

例子:

如有索引 (a,b,c,d),查询条件 a=1 and b=2 and c>3 and d=4,则会在每个节点依次命中a、b、c,无法命中d。(c已经是范围查询了,d肯定是排不了序了)

参考资料

  1. MySQL实战45讲
  2. 《爱上面试官》系列-数据库索引 mp.weixin.qq.com/s/_9rDde9wR…
  3. 《MySQL技术内幕 InnoDB存储引擎》