MySQL逻辑架构体系示例及分析

Mysql逻辑体系架构（大致架构分为三层）

第一层：连接线程处理

• 客户端——>连接线程处理（连接处理，授权认证，安全）

所包含的服务并不是mysql所独有的技术，他们都是服务于C/S程序或者这些程序所需要的（连接处理，授权认证，安全性等等）

第二层：包含大部分mysql核心服务

• 查询缓存——>解析器——>优化器——>执行查询

查询缓存，解析，分析，优化，缓存，所有内置函数（日期，时间，数学和加密函数）同时，所有的存储引擎提供的功能都集中在这一层（存储过程，触发器，视图）

流程：在解析查询之前，要先查询缓存，缓存只能保存查询的信息和结果数据，如果请求一个查询在缓存中存在，就不需要解析，优化和执行查询了，直接返回缓存中所存放的这个查询的结果

第三层：包含存储引擎

• 存储引擎负责mysql中数据的存储和提取（和Linux下的文件系统类似）

每种存储引擎都有优势及劣势，中间的服务层通过API和存储引擎进行通信，这些API接口屏蔽了不同存储引擎之间的差异，对于查询层尽可能的透明化。

存储引擎API包含了十几个底层函数，如执行 “ 开始一个事务 ” ，或取出有特定主键的行，但存储引擎一般不会去解析SQL，（InnoDB会解析外键定义，因为其本身没有实现该功能），不同存储引擎之间也不会相互通信，而只是简单的响应上层的服务器请求。

Mysql逻辑体系架构—详细介绍（分为八个步骤）

1.Connectors

• 指的是不同预言中与SQL的交互

Nactive C API，JDBC，ODBC，.NET，PHP，Python，Perl，Ruby，VB

2. Enterprise Management Services & Utilities

• 系统管理和控制工具

Backup & Recovery，Security，Replication，Cluster，Partitioning，Instance Manager，INPORMATICN_SCHEMA，Administrator，Workbench，Query Browser，Migration Toolkit

3. Connection Pool（连接池）

• 管理缓冲用户连接，线程处理等需要缓存的需求。

• 负责监听对MySQL Server的各种请求，接受连接请求，转发所有连接请求到线程管理模块。

• 每一个连接上MySQL Server的客户端请求都会被分配（创建）一个连接线程为其单独服务，并对连接线程进行了缓存，因此不需要为每个client连接单独创建和销毁，而连接线程的主要工作就是负责MySQL Server与客户端的通信，接收客户端的命令请求，传递Server端的结果信息，线程管理模块则负责管理维护这些连接线程，包括线程的创建，线程的cache等等

Authentication -Thread Reuse - Connection Limits - Check Memory -Caches

4.SQL Interface（SQL接口）

• 接受用户的SQL命令，并且返回用户需要查询返回的结果，比如select from就是调用SQL Interface

DML，DDL，Stored Procedures，Views，Triggers，etc

5.Parser（解析器）

• SQL命令传递到解析器的时候会被解析器验证和解析，解析器是由Lex和YACC实现的，是一个很长的脚本，在MySQL中我们习惯将所有Client端发给Server端的命令都称为query，在MySQL Server里面，连接线程接收到客户端的一个Query后，会直接将query传递给专门负责将各种Query进行分类然后转发给各个对应的处理模块

主要功能：

• a. 将SQL语句进行语义和语法分析，分解成数据结构，然后按照+同的操作类型进行分类，做出针对性的转发到后续步骤，以后SQL语句的传递和处理就是基于这个结构的

• b. 如果在分解构成中遇到错误，那么就说明这个sql语句是不合理的

Query Translation，Object Privilege

6.Optimizer（查询优化器）

SQL语句在查询之前会使用查询优化器对查询进行优化，就是优化客户端请求query，根据客户端请求的query语句和数据库中的一些统计信息，在一系列算法基础上进行分析，得出一个最优策略，告诉后面的程序如何取得这个query语句的结果，使用的是 “选取-投影-联接” 策略进行查询；
比如：select uid,name from user where gender=1;
这个查询语句先根据where后面的语句进行选取，而不是先将表全部查询出来以后再进行gender过滤，然后根据uid和name进行属性投影，而不是将所有的属性全部取出来以后再进行过滤，最后将这两个查询条件联接起来生成最终的查询结果

Access Paths，Statistics

7.Cache 和 Buffer（查询缓存）

主要功能是将客户端提交给 Mysql 的 Select的类query请求的返回的结果集cache到内存中，与该query的一个hash值做一个对应，该query所取数据的基表发生任何数据的变化之后，MySQL会自动使该query的Cache失效，在读写比例非常高的的应用系统中，Query Cache对性能的提高是非常显著的，当然它对内存的消耗也是非常大的。
如果查询缓存中有有效的命中查询结果，查询语句就可以直接去查询缓存中取数据，这个缓存机制是由一系列小缓存组成的，比如表缓存，记录缓存，Key缓存，权限缓存等等

Global and Engine Specific Caches & Buffers

8.pluggable storage Engines（插件式存储引擎）

• 存储引擎接口：MySQL区别于其他数据库的最重要的特点就是其插件式的表存储引擎。

• MySQL插件式的存储引擎架构提供了一系列标准的管理和服务支持，这些标准与存储引擎本身无关，可能是每个数据库系统都必须的，比如SQL分析器和优化器等，而存储引擎是底层物理结构的实现。每个存储引擎开发者都可以按照自己的意愿进行开发。

9.file system

• 文件系统，数据，日志（redo，undo）索引，错误日志，查询记录，慢查询等

注意：存储引擎是基于表的，而不是数据库

数据库的工作流程

建立TCP连接——>验证用户——>创建线程解析SQL——>生成执行计划——>开表——>搜寻buffer看所需数据页是否被缓存——>从磁盘扫描数据——>获取数据并写入buffer pool——>返回数据给客户端——>关闭表——>关闭线程——>关闭连接

• 最上层：客户端连接

1.连接处理：客户端同数据库服务层建立TCP连接，连接管理模块会建立连接，并请求一个连接线程，如果连接池中有空闲的连接线程，则分配给这个连接，如果没有，在没有超过最大线程连接数的情况下，创建新的连接线程负责这个客户端

2.授权认证：在query操作之前，还需要调用用户模块进行授权检查，来验证用户是否有权限，通过后，方才提供服务，连接线程开始接受并处理来自客户端的SQL语句

• 第二层：核心服务

1.连接线程接收到SQL语句之后，将语句交给SQL语句解析模块进行语法和语义分析。

2.如果是一个查询语句，则可以先看查询缓存中是否有结果，如果有结果则直接返回给客户端。

3.如果查询缓存中没有结果，则需要查询数据库引擎层，将SQL语句发给优化器，进行查询的优化，如果是表变更，则分类交给insert，update，delete，create，alert处理模块进行处理

• 第三层：数据库引擎层

1.打开表，如果需要的话获取相应的锁。

2.先查询缓存页中有没有相应的数据，如果有则可以直接返回，如果没有则从磁盘上去读取

3.当在磁盘中找到相应的数据之后，则会加载到缓存中来，从而使得后面的查询更加的高效，由于缓存有限，多采用变通的LRU表来管理缓存页，保证缓存的都是经常访问的数据。

4.最后，获取数据后返回给客户端，关闭连接，释放连接线程。

FAQ分析

1.什么是插件式存储引擎

存储引擎就是将数据对磁盘进行读写操作，不同的存储引擎，读写操作方式也不同，事务，锁等都不一样因为我们有不同的业务需求，所以会有很多的存储引擎，在一个数据库中，因为存储引擎是基于表的，所以不同的表可以有不同的存储引擎，允许将存储引擎加载到正在运行的MySQL服务器中，这就是插件式存储引擎

2.什么是LRU缓存

一种缓存淘汰机制策略算法，因为缓存的内存总是有限的，所以缓存满了就要删除一些内容，给新内容腾位置，而在LRU机制下，淘汰的数据被称为无用数据，LRU的全称是Least Recently Used，也就是我们认为最近使用过的数据都是有用的，很久都没用过的数据应该就是无用的，内存满了就优先删除那些最近很久没用过的数据

• 在JVM中Ehcache的缓存策略包含

1. LRU - least recently used（最近最少使用）

2. LFU - least frequently used（最不经常使用）

3. FIFO - first in first out, the oldest element by creation time（清除最早缓存的数据，不关心是否经常使用）