大数据闯关之MySQL进阶篇（二）：索引

Nobody无名小卒
313 阅读11分钟

写在前面

大家好，这里是立志于在有生之年看到并参与通用人工智能开发工作的Nobody，由于最近在公司要经常性地接触大数据工具，所以打算开一个大专栏对大数据工具进行学习总结整理。

以下为该部分的前置博客

大数据闯关之MySQL进阶篇（一）：存储引擎

一、索引概述

索引(index)是帮助MySQL高效获取数据的数据结构。在数据之外，数据库系统还维护着满足特定查找算法的数据结构，这些数据结构以某种方式引用数据，这样就可以在这些数据结构上实现高效查找算法。

优点：

  • 提高数据检索的效率，降低数据库的IO成本
  • 通过索引列对数据进行排序，降低数据排序的成本，降低CPU的消耗

缺点：

  • 索引列也是需要占一定空间的
  • 索引大大提高了查询效率，同时却也降低更新表的速度，如对表进行INSERT、UPDATE、DELETE时，效率降低

二、索引结构

MySQL的索引是在存储引擎层实现的，不同的存储引擎有不同的结构。

索引结构描述
B+Tree索引最常见的索引类型，大部分引擎支持B+树索引
Hash索引底层数据结构是用哈希表实现的，只有精确匹配索引列的查询才有效，不支持范围查询
R tree（空间索引）空间索引是MyISAM引擎的一个特殊索引类型，主要用于地理空间数据类型，通常是用较少
Full-text（全文索引）是一种通过建立倒排索引，快速匹配文档的方式。

其中以上各种索引结构在各存储引擎的支持情况如下

索引InnoDBMyISAMMemory
B+Tree索引支持支持支持
Hash索引不支持不支持支持
R tree（空间索引）不支持支持不支持
Full-text（全文索引）5.6版本后支持支持不支持

在介绍B+Tree之前需要先了解BTree的数据结构

首先需要明白二叉树的概念，二叉树每一个结点有最多两个子结点，以下的二叉树是一个特殊二叉树，即搜索二叉树。其左子树上的所有结点的值均小于它的根结点的值，右子树上所有结点的值均大于它的根节点的值。因此我们就可以将O(n)的查询时间复杂度减少为O(logn)

二叉树.png

但是有一种特殊情况，即当我们想找一个17时，而树中的数据如下进行排列成如单向链表形式的搜索二叉树，我们还是要进行O(n)时间复杂度的查询。即当我们插入数据时为顺序插入时，会形成一个链表，查询性能大大降低，大数据量情况下，层级较深，检索速度慢。

单向链表.png

因此为了避免二叉树变为链表的问题，我们有一种红黑树的数据结构可以采用，红黑树是一种自平衡的二叉树

红黑树.png

但是红黑树本身还是一个二叉树，而二叉树在大数据量的时候，层级较深，检索速度慢，因此就引出了B-Tree（多路平衡查找树）

  • B-Tree：以一颗最大度数为5的b-tree为例（每个结点最多存储4各key，5个指针）。树的度数指的是一个节点的子节点个数。

b-tree.png

​ 其中指针个数要比key的个数多一个，如上图所示。每个指针指向每一个介于每个key值区间的的子节点。

  • B+tree：是B-tree的变种。以一颗最大度数为3的b+tree为例

b+tree.png

​ 可以看到，与B-tree不同的是，所有的元素都会出现在其叶子节点，而非叶子节点只是起到一个索引数据的作用。除此之外，叶子节点组成了一个单向链表，每一个节点都会通过一个指针指向下一个节点。

​ 而在MySQL索引数据结果中对经典的B+Tree进行了优化，在原B+Tree的基础上，增加一个指向相邻叶子节点的链表指针，就形成了带有顺序指针的B+Tree，提高了区间访问的性能。

优化B+Tree.png

  • Hash：哈希索引就是采用一定的hash算法，将键值换算成新的hash值，映射到对应的槽位上，然后存储在hash表中。其特点为：
    • Hash索引只能用于对等比较，不支持范围查询
    • 无法利用索引完成排序操作
    • 查询效率高，通常只需要进行一次检索即可，效率通常要高于B+Tree索引
  • 为什么InnoDB存储引擎选择是用B+Tree索引结构
    • 相比于二叉树，层级更少，搜索效率高
    • 对于B-Tree而言，无论是叶子节点还是非叶子节点，都会保存数据，这样导致一页中存储的键值减少，指针跟着减少，要同样保存大量数据，只能增加树的高度，导致性能降低。
    • 相对Hash索引，B+Tree索引支持范围匹配及排序操作

三、索引分类

索引分类主要分为以下四类

分类含义特点关键字
主键索引针对表中主键创建的索引默认自动创建，只能有一个PRIMARY
唯一索引避免同一个表中某数据列中的值重复可以有多个UNIQUE
常规索引快速定位特定数据可以有多个
全文索引全文索引查找的是文本中的关键词，而不是比较索引中的值可以有多个FULLTEXT

在InnoDB存储引擎中，根据索引的存储引擎，又可以分为以下两种

分类含义特点
聚焦索引（Clustered Index）将数据存储与索引放到了一块，索引结构的叶子节点保存了行数据必须有，而且只有一个
二级索引（Secondary Index）将数据与索引分开存储，索引结构的叶子节点关联的是对应的主键可以存在多个

聚集索引选取规则

  • 如果存在主键，主键索引就是聚集索引
  • 如果不存在主键，将使用第一个唯一索引作为聚集索引
  • 如果表没有主键，或没有合适的唯一索引，则InnoDB将会自动生成一个rowid作为隐藏的聚集索引

一般是先在二级索引上找到主键数据，再回表查询在聚集索引上找到行数据

四、索引语法

  • 创建索引

    CREATE [UNIQUE|FULLTEXT] INDEX index_name ON table_name (index_col_name,...)

  • 查看索引

    SHOW INDEX FROM table_name

  • 删除索引

    DROP INDEX index_name ON table_name

五、SQL性能分析

  • SQL执行频率

    show global status like 'Com_______';

    得到结果

sql执行频率.png

可以看到我们现在当前数据库以上各种操作的次数，我们就可以看当前数据库哪种操作为主

  • 慢查询日志：慢查询日志记录了所有执行时间超过指定参数（long_query_time，单位：秒，默认10s）的所有sql语句的日志。

    show variables like 'slow_query_log';

  • profile详情：show profiles能够在做MySQL优化时帮助我们了解时间都耗费到哪里去了，通过having_profiling参数，能够看到当前MySQL是否支持profile操作

    select @@have_profiling;

    默认是关闭的，可以通过set语句在session/global级别开启profiling

    SET profiling=1;

    执行一系列的业务SQL操作，可以通过以下直领查看执行耗时情况

    show profiles;

  • explain执行计划

    explain 或者 desc命令获取MySQL如何执行select语句的信息，包括在select语句执行过程中表如何连接和连接的顺序

    explain select * from tb_sku where id=1;

    执行结果如下

explain执行结果.png

*   id：select 查询的序列号，表示查询中执行select子句或者是操作表的顺序（id相同，执行顺序从上到下；id不同，id值越大，越先执行）
*   select\_type：表示select 的类型，常见的取值有SIMPLE（简单表，即不使用表连接或子查询），PRIMARY（主查询，即外层的查询），UNION（UNION中的第二个或者后面的查询语句），SUBQUERY（SELECT/WHERE 后面包含了子查询）等
*   type：表示连接类型，性能由好到差的连接类型为NULL、system、const、eq\_ref、ref、range、index、all
*   possible\_key：显示可能应用在这张表上的索引，一个或多个
*   key：实际使用的索引，如果为NULL，则没有使用索引
*   key\_len：表示索引中使用的字节数，该值为索引字段最大可能长度，并非实际使用长度，在不损失精确性的前提下，长度越短越好
*   rows：MySQL认为必须要执行查询的行数，在InnoDB引擎的表中，是一个估计值，可能并不总是准确的
*   filtered：表示返回结果的行数占需要读取行数的百分比，filtered的值越大越好

六、索引使用规则

  • 最左前缀法则：如果索引了多列（联合索引），要遵守最左前缀法则。最左前缀法则指的是查询从索引的最左列开始，并且不跳过索引中的列。如果跳跃某一列，索引将部分失效（后面的字段索引失效）。

  • 范围查询：联合索引中，出现范围查询（>、<），范围查询右侧的列索引失效

  • 索引失效情况：

    • 在索引列上进行运算操作
    • 字符串类型字段查询不加引号
    • 如果仅仅是尾部模糊匹配，索引不会失效，如果是头部模糊匹配，索引失效
    • 用or分割开的条件，如果or前的条件的列有索引，而后面的列中没有索引，那么涉及的索引都不会被用到
    • 如果MySQL评估使用索引比全表更慢，则不会使用索引

  • 覆盖索引和回表查询：尽量使用覆盖索引（查询使用了索引，并且需要返回的列，在该索引中已经全部能够找到），减少select *。会有以下两种情况

    • using index condition：查找使用了索引，但是需要回表查询数据
    • using where; using index：查找使用了索引，但是需要的数据都在索引列中能找到，所以不需要回表查询数据

  • 前缀索引：当字段类型为字符串时，有时候需要索引很长的字符串，这会让索引变得很大，查询时，浪费大量的磁盘IO，影响查询效率。此时可以只将字符串的一部分前缀建立索引，这样可以大大节约索引空间，从而提高索引效率。

    CREATE index idx on table_name(column(n))

    前缀长度可以根据索引的选择性来决定，而选择性是指不重复的索引值和数据表的记录总数的比值，索引选择性越高则查询效率越高，唯一索引的选择性为1，这是性能最好的索引选择性

  • 单列及联合索引：

    • 单列索引：即一个索引只包含单个列
    • 联合索引：即一个索引包含多个列

七、索引设计原则

  • 针对于数据量较大，且查询比较频繁的表建立索引
  • 针对于常作为查询条件、排序、分组操作的字段建立索引
  • 尽量选择区分度高的列作为索引，尽量建立唯一索引，区分度越高，使用索引的效率越高
  • 如果是字符串类型的字段，字段的长度较长，可以针对于字段的特点，建立前缀索引
  • 尽量使用联合索引，减少单列索引，查询时，联合索引很多时候可以覆盖索引，节省存储空间，避免回表，提高查询效率
  • 要控制索引的数量，索引并不是多多益善，索引越多，维护索引的代价也就越大，会影响增删改的效率
  • 如果索引列不能存储NULL值，请在创建表时使用NOT NULL约束它，当优化器知道每列是否包含NULL值时，它可以更好地确定哪个索引最有效地用于查询
avatar
文章
阅读
粉丝