Mysql 索引数据结构详解和索引优化

桃子蘸酱
108 阅读14分钟

索引的定义

MySQL官方对索引的定义为:索引(Index)是帮助MySQL高效获取 排好序的数据结构

计算机基础知识

常见的数据结构

mysql数据是已文件的形式存储在磁盘上的。

磁盘是有一圈一圈的磁道组成的

磁头移动到不同磁道，磁盘旋转，这样就可以读取到数据

磁盘存取原理 

    1.寻道时间(速度慢，费时) 
    
    2.旋转时间(速度较快)

cpu读取数据都是从内存去读，内存去磁盘读取数据，内存读取磁盘数据大小都是一页的大小单位，一页=10kb
常见的数据结构

整理：

1、通过上面的一些知识，我们知道当磁头移动到另一个磁道读取诗句就是我们常说的一次I/O操作，但是我们知道mysql数据是分布到不同的磁道上的，每次读取数据都要把所有磁道读取一遍，那我们进行I/O次数就很多了，查询效率就很低

2、那索引就是把索引字段数据的地址保存起来，来帮助mysql直接定位到哪个磁道的哪个扇区，这样就减少I/O操作了，自然查询效率就提高了

数据结构

常见的数据结构

1、二叉树

2、红黑树

3、Hash

4、B Tree

5、B+Tree

二叉树

二叉树是n(n>=0)个结点的有限集合，该集合或者为空集（称为空二叉树），或者由一个根结点和两棵互不相交的、分别称为根结点的左子树和右子树组成。

不使用原因

会出现极端情况，一个节点只有一个，就是只有一个子节点，那读取树的一层就是一次I/O，那性能也不好

红黑树

红黑树即为平衡二叉树的一种

不使用原因

极端情况下，一个节点有2个子节点，那就出现一层只有2个节点的情况，这种性能也不好

Hash
不使用原因

Hash是把索引数据进行Hash算法对应一个地址，直接找到，但是比如通过大于或者小于去筛选数据时候会出现大量IO所以性能不好

mysql还是有Hash索引，应对一些特殊情况

B Tree

1.度(Degree)-节点的数据存储个数 

2.叶节点具有相同的深度 

3.叶节点的指针为空 

4.节点中的数据key从左到右递增排列

不使用原因：虽然解决了每一层的节点数的极端情况下，但是我们会发现每个节点存储了索引和数据，那一层能存储的数据太多也不好,毕竟内存能读取的数据大小就是10kb

图片
B+Tree

1.B+Tree(B-Tree变种) 

2.非叶子节点不存储data，只存储key，可以增大度 

3.叶子节点不存储指针 

4.顺序访问指针，提高区间访问的性能

使用原因：设计有几个方面

1.非叶子节点不存储data，只存储key，可以增大度

2.叶子节点不存储指针

3.顺序访问指针，提高区间访问的性能

B+Tree索引的性能分析

一般使用磁盘I/O次数评价索引结构的优劣

预读：磁盘一般会顺序向后读取一定长度的数据(页的整数倍)放入内存

局部性原理：当一个数据被用到时，其附近的数据也通常会马上被使用

B+Tree节点的大小设为等于一个页，每次新建节点直接申请一个页的空间，这样就保证一个节点物理上也存储在一个页里，就实现了一个节点的载入只需一次I/O

B+Tree的度d一般会超过100，因此h非常小(一般为3到5之间)

不同的存储引擎有不同的索引实现

1.MyISAM索引实现(非聚集)

2.InnoDB索引实现(聚集)

MyISAM索引实现(非聚集)

MyISAM索引文件和数据文件是分离的

图片
图片

InnoDB索引实现(聚集)

1.数据文件本身就是索引文件 

2.表数据文件本身就是按B+Tree组织的一个索引结构文件

3.聚集索引-叶节点包含了完整的数据记录

4.为什么InnoDB表必须有主键，并且推荐使用整型的自增主键？

5.为什么非主键索引结构叶子节点存储的是主键值？(一致性和节省存储空间)

图片
图片

联合索引结构

按照多字段合并一起做成一个Key然后按照一定的排序，然后按照单个的分裂进行建立索引，在比较的时候分开比较

图片

explain

在查询中的每一个表会输出一行，如果有两个表通过join链接查询，那么会输出两行，表的意义相当广泛：可以是子查询，一个union结束等

explain有两种变种

explain extended： 会在 explain 的基础上额外提供一些查询优化的信息。紧随其后通过 show warnings 命令可以 得到优化后的查询语句，从而看出优化器优化了什么。额外还有 filtered 列，是一个半分比的值，rows * filtered/100 可以估算出将要和 explain 中前一个表进行连接的行数（前一个表指 explain 中的id值比当前表id值小的表）。

explain extended select * from table where id = 1;

# 查看在mysql中如何执行
show warnings;

explain partitions： 相比 explain 多了个 partitions 字段，如果查询是基于分区表的话，会显示查询将访问的分区。

explain 中的列

id

id列的编号是 select 的序列号，有几个 select 就有几个id，并且id的顺序是按 select 出现的顺序增长的。MySQL将 select 查询分为简单查询(SIMPLE)和复杂查询(PRIMARY)。
复杂查询分为三类：简单子查询、派生表（from语句中的子查询）、union 查询。
id列越大执行优先级越高，id相同则从上往下执行，id为NULL最后执行

1、简单子查询

explain select (select 1 from actor limit 1) from film;

2、from子句中的子查询

explain select id from (select id from film) as der;

3、union查询

union结果总是放在一个匿名临时表中，临时表不在SQL中出现，因此它的id是NULL。

explain select 1 union all select 1;

select_type列

select_type 表示对应行是简单还是复杂的查询，如果是复杂的查询，又是上述三种复杂查询中的哪一种。

1、simple：简单查询。查询不包含子查询和union

2、primary：复杂查询中最外层的 select

3、subquery：包含在 select 中的子查询（不在 from 子句中）

4、derived：包含在 from 子句中的子查询。MySQL会将结果存放在一个临时表中，也称为派生表（derived的英文含义）

5、union：在 union 中的第二个和随后的 select

6、union result：从 union 临时表检索结果的 select

table列

这一列表示 explain 的一行正在访问哪个表。

当 from 子句中有子查询时，table列是 格式，表示当前查询依赖 id=N 的查询，于是先执行 id=N 的查询。

当有 union 时，UNION RESULT 的 table 列的值为<union1,2>，1和2表示参与 union 的 select 行id。

type列

这一列表示关联类型或访问类型，即MySQL决定如何查找表中的行，查找数据行记录的大概范围。

依次从最优到最差分别为：system > const > eq_ref > ref > range > index > ALL
一般来说，得保证查询达到range级别，最好达到ref

NULL： mysql能够在优化阶段分解查询语句，在执行阶段用不着再访问表或索引。例如：在索引列中选取最小值，可以单独查找索引来完成，不需要在执行时访问表

explain select min(id) from film;

const, system：mysql能对查询的某部分进行优化并将其转化成一个常量（可以看show warnings 的结果）。用于 primary key 或 unique key 的所有列与常数比较时，所以表最多有一个匹配行，读取1次，速度比较快。system是const的特例，表里只有一条元组匹配时为system

explain extended select * from (select * from film where id = 1) tmp;

show warnings;

eq_ref： primary key 或 unique key 索引的所有部分被连接使用 ，最多只会返回一条符合条件的记录。这可能是在 const 之外最好的联接类型了，简单的 select 查询不会出现这种 type。

explain select * from film_actor left join film on film_actor.film_id = film.id;

ref： 相比 eq_ref，不使用唯一索引，而是使用普通索引或者唯一性索引的部分前缀，索引要和某个值相比较，可能会找到多个符合条件的行。

1、简单 select 查询，name是普通索引（非唯一索引） mysql> explain select * from film where name = “film1”;

2、关联表查询，idx_film_actor_id是film_id和actor_id的联合索引，这里使用到了film_actor的左边前缀film_id部分。 mysql> explain select film_id from film left join film_actor on film.id = film_actor.film_id;

range： 范围扫描通常出现在 in(), between ,> ,<, >= 等操作中。使用一个索引来检索给定范围的行。

mysql> explain select * from actor where id > 1;

index： 扫描全表索引，这通常比ALL快一些。（index是从索引中读取的，而all是从硬盘中读取）

explain select * from film;

ALL： 即全表扫描，意味着mysql需要从头到尾去查找所需要的行。通常情况下这需要增加索引来进行优化了

explain select * from actor;

possible_keys列

这一列显示查询可能使用哪些索引来查找。

explain 时可能出现 possible_keys 有列，而 key 显示 NULL 的情况，这种情况是因为表中数据不多，mysql认为索引对此查询帮助不大，选择了全表查询。

如果该列是NULL，则没有相关的索引。在这种情况下，可以通过检查 where 子句看是否可以创造一个适当的索引来提高查询性能，然后用 explain 查看效果。

key列

这一列显示mysql实际采用哪个索引来优化对该表的访问。

如果没有使用索引，则该列是 NULL。如果想强制mysql使用或忽视possible_keys列中的索引，在查询中使用 force index、ignore index。

key_len列

这一列显示了mysql在索引里使用的字节数，通过这个值可以算出具体使用了索引中的哪些列。

举例来说，film_actor的联合索引 idx_film_actor_id 由 film_id 和 actor_id 两个int列组成，并且每个int是4字节。通过结果中的key_len=4可推断出查询使用了第一个列：film_id列来执行索引查找。

explain select * from film_actor where film_id = 2;

key_len计算规则如下：

字符串
    char(n)：n字节长度
    
    varchar(n)：2字节存储字符串长度，如果是utf-8，则长度 3n + 2
    
数值类型
    inyint：1字节
    
    smallint：2字节
    
    int：4字节
    
    bigint：8字节　
    
时间类型　
    ate：3字节
    
    timestamp：4字节
    
    atetime：8字节
    
如果字段允许为 NULL，需要1字节记录是否为 NULL

索引最大长度是768字节，当字符串过长时，mysql会做一个类似左前缀索引的处理，将前半部分的字符提取出来做索引。

ref列

这一列显示了在key列记录的索引中，表查找值所用到的列或常量，常见的有：const（常量），字段名（例：film.id）

rows列

这一列是mysql估计要读取并检测的行数，注意这个不是结果集里的行数。

Extra列

这一列展示的是额外信息。常见的重要值如下：

Using index： 查询的列被索引覆盖，并且where筛选条件是索引的前导列，是性能高的表现。一般是使用了覆盖索引(索引包含了所有查询的字段)。对于innodb来说，如果是辅助索引性能会有不少提高

explain select film_id from film_actor where film_id = 1;

Using where： 查询的列未被索引覆盖，where筛选条件非索引的前导列

explain select * from actor where name = 'a';

Using where Using index： 查询的列被索引覆盖，并且where筛选条件是索引列之一但是不是索引的前导列，意味着无法直接通过索引查找来查询到符合条件的数据

explain select film_id from film_actor where actor_id = 1;

NULL： 查询的列未被索引覆盖，并且where筛选条件是索引的前导列，意味着用到了索引，但是部分字段未被索引覆盖，必须通过“回表”来实现，不是纯粹地用到了索引，也不是完全没用到索引

explain select * from film_actor where film_id = 1;

**Using index condition：**与Using where类似，查询的列不完全被索引覆盖，where条件中是一个前导列的范围；

explain select * from film_actor where film_id > 1;

Using temporary： mysql需要创建一张临时表来处理查询。出现这种情况一般是要进行优化的，首先是想到用索引来优化。

1、actor.name没有索引，此时创建了张临时表来

distinct mysql> explain select distinct name from actor;

2、film.name建立了idx_name索引，此时查询时extra是using index,没有用临时表

explain select distinct name from film;

Using filesort：mysql 会对结果使用一个外部索引排序，而不是按索引次序从表里读取行。此时mysql会根据联接类型浏览所有符合条件的记录，并保存排序关键字和行指针，然后排序关键字并按顺序检索行信息。这种情况下一般也是要考虑使用索引来优化的。

  1. actor.name未创建索引，会浏览actor整个表，保存排序关键字name和对应的id，然后排序name并检索行记录
explain select * from actor order by name;
  1. film.name建立了idx_name索引,此时查询时extra是
using indexmysql> explain select * from film order by name;

案例

1、全值匹配

EXPLAIN SELECT * FROM employees WHERE name= 'LiLei';

EXPLAIN SELECT * FROM employees WHERE name= 'LiLei' AND age = 22;

EXPLAIN SELECT * FROM employees WHERE name= 'LiLei' AND age = 22 AND position ='manager';

2、最佳左前缀法则

如果索引了多列，要遵守最左前缀法则。指的是查询从索引的最左前列开始并且不跳过索引中的列。

EXPLAIN SELECT * FROM employees WHERE age = 22 AND position ='manager';
EXPLAIN SELECT * FROM employees WHERE position = 'manager';
EXPLAIN SELECT * FROM employees WHERE name = 'LiLei';

3、不在索引列上做任何操作（计算、函数、（自动or手动）类型转换），会导致索引失效而转向全表扫描

EXPLAIN SELECT * FROM employees WHERE name = 'LiLei';
EXPLAIN SELECT * FROM employees WHERE left(name,3) = 'LiLei';

4、存储引擎不能使用索引中范围条件右边的列

EXPLAIN SELECT * FROM employees WHERE name= 'LiLei' AND age = 22 AND position ='manager';
EXPLAIN SELECT * FROM employees WHERE name= 'LiLei' AND age > 22 AND position ='manager';

5、尽量使用覆盖索引（只访问索引的查询（索引列包含查询列）），减少select *语句

EXPLAIN SELECT name,age FROM employees WHERE name= 'LiLei' AND age = 23 AND position ='manager';

EXPLAIN SELECT * FROM employees WHERE name= 'LiLei' AND age = 23 AND position ='manager';

6、mysql在使用不等于（！=或者<>）的时候无法使用索引会导致全表扫描

EXPLAIN SELECT * FROM employees WHERE name != 'LiLei'

7、is null,is not null 也无法使用索引

EXPLAIN SELECT * FROM employees WHERE name is null

8、like以通配符开头（’$abc…’）mysql索引失效会变成全表扫描操作

EXPLAIN SELECT * FROM employees WHERE name like '%Lei'

EXPLAIN SELECT * FROM employees WHERE name like 'Lei%'

解决like’%字符串%'索引不被使用的方法

使用覆盖索引，查询字段必须是建立覆盖索引字段

EXPLAIN SELECT name,age,position FROM employees WHERE name like '%Lei%';

当覆盖索引指向的字段是varchar(380)及380以上的字段时，覆盖索引会失效！

字符串不加单引号索引失效

EXPLAIN SELECT * FROM employees WHERE name = '1000';
EXPLAIN SELECT * FROM employees WHERE name = 1000;

9、字符串不加单引号索引失效

EXPLAIN SELECT * FROM employees WHERE name = '1000';
EXPLAIN SELECT * FROM employees WHERE name = 1000;

10、少用or,用它连接时很多情况下索引会失效

EXPLAIN SELECT * FROM employees WHERE name = 'LiLei' or name = 'HanMeimei';

总结

where语句索引是否被使用
where a = 3Y,使用a
where a = 3 and b = 5Y,使用到a,b
where a=3 and b=5 and c=5Y,使用到a,b,c
where b = 3 或者where b = 5 and c=4 或者where c = 4N
where a = 3 and c = 5使用到a，但是c不可以，b中断了
where a = 3 and b linke ‘kk%’ and c = 4Y使用到a,b,c
where a = 3 and b like ‘%kk’ and c=4Y,只用到a
where a = 3 and b like ‘%kk%’ and c = 4Y只用到a
where a = 3 and b like ‘k%kk%’ and c = 4Y,使用到a,b,c

like KK%相当于=常量，%KK和%KK% 相当于范围

avatar
文章
阅读
粉丝