Mysql底层的结构
编辑
客户端:
连接工具(Navacat、SQLyog、JDBC)都归纳为MySQL客户端(Client),主要用于发送执行sql语句的请求。
服务端
大体来说,MySQL服务端可以分为Server层和存储引擎层两部分。Server层包括连接器、查询缓
存、分析器、优化器、执行器等,涵盖MySQL的大多数核心服务功能,以及所有的内置函数(如日期、时间、数学和加密函数等),所有跨存储引擎的功能都在这一层实现,比如存储过程、触发器、视图等。
而存储引擎层负责数据的存储和检索。其架构模式是插件式的,支持InnoDB、MyISAM、Memory等多个存储引擎。现在最常用的存储引擎是InnoDB,它从MySQL5.5.5版本开始成为了默认存储引擎。也就是说,你执行create table建表的时候,如果不指定引擎类型,默认使用的就是InnoDB。不过,你也可以通过指定存储引擎的类型来选择别的引擎,比如在create table语句中使用engine=memory,来指定使用内存引擎创建表。
Server层:
1 负责处理SQL语句、解析、优化、缓存等。
2 负责权限管理、用户认证等。
3 提供了各种SQL函数和存储过程。
4 提供了复制、备份、恢复等高级功能。
Server层有自己的日志系统,称为binlog(归档日志)。binlog记录了所有修改数据库数据的SQL语句(如INSERT、UPDATE、DELETE等)的信息,但不包括SELECT和SHOW这类查询语句。binlog主要用于复制和恢复操作。
存储引擎层:
1 负责数据的存储和检索。
2 MySQL支持多种存储引擎,如InnoDB、MyISAM、Memory等,每种引擎都有其特点和适用场景。
3 InnoDB是MySQL的默认存储引擎,它支持事务、行级锁定和外键约束。InnoDB有自己的日志系统,称为redo log(重做日志)和undo log(撤销日志)。redo log用于保证事务的持久性,在数据库崩溃后可以用来恢复数据;undo log用于支持事务的原子性和多版本并发控制(MVCC)
连接器:
第一步,你会先连接到这个数据库上,这时候接待你的就是连接器。连接器负责跟客户端建立连接、获取权限、维持和管理连接。连接命令一般是这么写的:mysql -hport -u$user -p。输完命令之后,你就需要在交互对话里面输入密码。连接命令中的mysql是客户端工具,用来跟服务端建立连接。在完成经典的TCP握手后,连接器就要开始认证你的身份,这个时候用的就是你输入的用户名和密码。
如果用户名或密码不对,你就会收到一个"Access denied for user"的错误,然后客户端程序结束执行。
如果用户名密码认证通过,连接器会到权限表里面查出你拥有的权限。之后,这个连接里面的权限判断逻辑,都将依赖于此时读到的权限。
客户端如果太长时间没动静,连接器就会自动将它断开。这个时间是由参数wait_timeout控制的,默认值是8小时。如果在连接被断开之后,客户端再次发送请求的话,就会收到一个错误提醒:Lostconnection to MySQL server during query。这时候如果你要继续,就需要重连,然后再执行请求了。
编辑
注意:建立连接的过程通常是比较复杂的,建议在使用中要尽量减少建立连接的动作,尽量使用长连接。为了提升数据库并发性,可以建立一个数据库连接池。
长连接:连接成功后,如果客户端持续有请求,则一直使用同一个连接。
短连接:每次执行完很少的几次查询就断开连接,下次查询再重新建立一个。
连接器常见的问题:
全部使用长连接后,有时候MySQL占用内存涨得特别快,因为MySQL在执行过程中临时使用的内存是管理在连接对象里面的,这些资源会在连接断开的时候才释放,所以如果长连接累积下来,可能导致内存占用太大,被系统强行杀掉(OOM)。从现象看就是MySQL异常重启了
解决方案:
定期断开长连接。使用一段时间,或者程序里面判断执行过一个占用内存的大查询后,断开连接,之后要查询再重连。
MySQL 5.7以上版本,可以在每次执行一个比较大的操作后,通过执行mysql_reset_connection来重新初始化连接资源。这个过程不需要重连和重新做权限验证,但是会将连接恢复到刚刚创建完时的状态。
在Java中与MySQL数据库交互通常使用JDBC (Java Database Connectivity) API,它提供了自己的连接管理和错误处理机制。请注意,频繁地创建和关闭连接可能会对性能产生负面影响,特别是在高负载的情况下。因此,在生产环境中,通常会使用连接池来管理数据库连接,这样可以复用现有的连接而不是频繁地创建和销毁它们。
查询缓存:
在MySQL5.7版本,连接完成后就会直接查询缓存,查询此语句是否执行过。执行逻辑就会来到第二步:查询缓存。
MySQL拿到一个查询请求后,会先到查询缓存看看,之前是不是执行过这条语句。之前执行过的语句及其结果可能会以key-value对的形式,被直接缓存在内存中。key是查询的语句,value是查询的结果。如果你的查询能够直接在这个缓存中找到key,那么这个value就会被直接返回给客户端。
如果语句不在查询缓存中,就会继续后面的执行阶段。执行完成后,执行结果会被存入查询缓存中。你可以看到,如果查询命中缓存,MySQL不需要执行后面的复杂操作,就可以直接返回结果,这个效率会很高。
注意,MySQL 8.0版本直接将查询缓存的整块功能删掉了。
相关参数说明:
query_cache_size:用于缓存的大小
query_cache_type:设置使用缓存的场景:
0(OFF):全不使用query cache
1(ON):除显式要求不使用query cache之外的所有的select都使用query cache,通过sql_no_cache显示指定不使用缓存
2(DEMOND):只有显示要求才使用query cache,通过sql_cache显示指定使用缓存
查询缓存常见的问题:
但是大多数情况下不建议使用查询缓存,为什么呢?因为查询缓存往往弊大于利。对于更新压力大的数据库来说,查询缓存的命中率会非常低。除非你的业务就是有一张静态表,很长时间才会更新一次。比如,一个系统配置表,那这张表上的查询才适合使用查询缓存。
解决方案:
MySQL提供了按需使用的方式。可以将参数query_cache_type设置成DEMAND,对于默认的SQL语句都将不使用查询缓存。你可以通过在MySQL命令行界面(CLI)中执行以下命令来设置query_cache_type为DEMAND:SET GLOBAL query_cache_type = DEMAND;或者,你可以在MySQL的配置文件(通常是my.cnf或my.ini)中设置:query_cache_type = DEMAND
修改配置文件后,你需要重启MySQL服务来使更改生效。
而对于你确定要使用查询缓存的语句,可以用SQL_CACHE显式指定,如下:
只有这条带有SQL_CACHE提示的查询会被缓存。
mysql> select SQL_CACHE * from user where id = 1;
分析器:
若查询缓存未命中,则会执行分析器,来分析查询语句是否合法。
分析器先会做“词法分析”。MySQL从你输入的"select"这个关键字识别出来,这是一个查询语句。它也要把字符串“user”识别成“表名user”,把字符串“id”识别成“列id”。
词法分析:
主要负责从SQL语句中提取关键字,比如:查询的表,字段名,查询条件等等。
词法分析阶段是从information_schema里面获得表的结构信息的。
做完了这些识别以后,就要做“语法分析”。根据词法分析的结果,语法分析器会根据语法规则,判断你输入的这个SQL语句是否满足MySQL语法。
语法分析:
判断输入的SQL语句是否满足MySQL语法。
如果SQL语句不对,就会返回You have an error in your SQL syntax的错误提醒,一般语法错误会提示第一个出现错误的位置,所以你要关注的是紧接“use near”的内容。
优化器:
经过了分析器,若语句正确,就会进入优化器。优化器的作用是在基于同一个查询语句的多个查询方案中找出效率最高的。比如,在表里面有多个索引的时候,决定使用哪个索引;在一个语句有多表关联(join)的时候,决定各个表的连接顺序。
比如你执行下面这样的语句,这个语句是执行两个表的join:
USING等价于JOIN中on
select * from t1 join t2 using(ID) where t1.c=10 and t2.d=20;
理论上有两种执行方案:
方案1:可以先从表t1里面取出c=10的记录的ID值,再根据ID值关联到表t2,再判断t2里面d的
值是否等于20。
方案2:可以先从表t2里面取出d=20的记录的ID值,再根据ID值关联到t1,再判断t1里面c的值
是否等于10。
这两种执行方案的逻辑结果是一样的,但是执行的效率会有不同,而优化器的作用就是决定选择使用哪一个方案。例如,如果t1表非常大而t2表非常小,那么优化器可能会选择方案2,因为它可以先快速地从t2中筛选出d=20的记录,然后使用这些ID值去t1中进行关联,这样可以大大减少t1表的扫描量。优化器阶段完成后,这个语句的执行方案就确定下来了,然后进入执行器阶段。
执行器:
MySQL通过分析器知道了你要做什么,通过优化器知道了该怎么做,于是就进入了执行器阶段,开始执行语句。开始执行的时候,要先判断一下你对这个表有没有执行查询的权限,如果没有,就会返回没有权限的错误。如果有权限,就打开表继续执行。这是一种安全机制,确保只有被授权的用户才能访问和操作数据。
编辑
注意:
如果命中查询缓存,会在查询缓存返回结果的时候,做权限验证。
在语法分析过程中,解析器会进行一些初步的权限检查precheck,例如验证用户是否有权访问指定的数据库和表。
有些时候,SQL语句要操作的表不只是SQL字面上那些。SQL执行过程中可能会有触发器这种在运行时才能确定的过程,precheck是不能对这种运行时涉及到的表进行权限校验的,所以需要在执行器阶段进行权限检查。
打开表的时候,执行器就会根据表的引擎定义,去使用这个引擎提供的接口:
调用引擎接口取这个表的第一行,判断是否满足条件,如果不是则跳过,如果是则将这行存在结果集中。
调用引擎接口取下一行,重复相同的判断逻辑,直到取到这个表的最后一行。
执行器将上述遍历过程中所有满足条件的行组成的记录集作为结果集返回给客户端。
至此sql执行结束。