当前位置: 首页 > news >正文

【MySQL数据库】InnoDB存储引擎:逻辑存储结构、内存架构、磁盘架构

逻辑存储结构

一个数据库是由一张张表组成的,而表中是由一个个段构成的,一个段是由区构成的,区空间是由页构成的,页是行构成的。

①表空间:.ibd文件,一个mysql实例可以对应多个表空间,用于存储记录、索引等数据。

②段:分为数据段(Leaf node segment)、索引段(Non-leaf node segment)、回滚段(Rollback segment),InnoDB是索引组织表,数据段就是B+树的叶子结点,索引段就是B+树的非叶子结点。段用来管理多个Extent(区)。

③区:表空间的单元结构,每个区大小为1M。默认情况下,InnoDB存储引擎页大小为16K,也就是一个区一共有64各连续的页。

④页:是InnoDB存储引擎磁盘管理的最小单元,每个页大小默认16KB,为了保证页的连续性,InnoDB存储引擎每次从磁盘申请4-5个区。

⑤行:InnoDB存储引擎数据是按行进行存放的。

在每个页中,都会有这么两个隐藏行:

        Trx_id: 每次对某条记录进行改动时,都会把对应的事务id赋给trx_id隐藏列

        Roll_pointer: 每次对某条记录进行改动时,都会把旧的版本写入到undo日志中,然后这个隐藏列就相当于一个指针,可以通过它来找到该记录修改前的信息。

架构

MySQL5.5版本开始,默认使用InnoDB存储引擎,它擅长事务处理,且具有崩溃恢复特性,在日常开发中使用非常广泛。下面是InnoDB架构图,左侧为内存结构,右侧为磁盘结构。

内存架构

对于上图,我们可以看到,内存结构部分(左侧),很大一部分都是Buffer-即缓冲区。

在内存架构中,标注了四块区域:

①Buffer Pool:缓冲池。

        缓冲池是主内存中的一个区域,里面可以缓存磁盘上经常操作的真实数据。在执行增删改查操作时,先操作缓冲池中的数据(若缓冲池中没有数据,则从磁盘加载并缓存),然后再以一定频率刷新到磁盘,从而减少磁盘IO,加快处理速度。

        假如没有缓冲池,那么我们每次的增删改查的操作,都要从磁盘空间中去读写,磁盘IO的次数越多,效率就越低,在业务比较复杂的情况下,大量的磁盘IO还都是随机IO,这样非常消耗性能。

        我们还可以看到,缓冲池中有着一个一个的小块儿,这个小块儿就是页。缓冲池以Page页为单位,底层采用的是链表的数据结构管理Page。根据状态,将Page分为三种类型:

free page:空闲页,申请但未被使用

clean page:被使用的page,但数据没有被修改过

dirty page:脏页,被使用的page,且数据被修改过,当还没有往磁盘中刷数据的时候,页中数据与磁盘的数据产生了不一致,所以叫做脏页。

②Change Buffer:更改缓冲区

        其实在5.x版本的时候还没有更改缓冲区,相反当时有一个插入缓冲区。在8.0之后呢,才引入了Change Buffer更改缓冲区。更改缓冲区主要是针对非唯一的二级索引页,在执行DML语句时,如果这些数据Page没有BufferPool中,不会直接操作磁盘,而是会将数据变更存在更改缓冲区中,在未来数据被读取时,再将数据合并恢复到BufferPool中,再将合并后的数据从缓冲池在某一阶段刷新到磁盘中去。

        ChangeBuffer存在的意义是什么呢?

        这幅图展示的就是二级索引的一颗B+树结构。跟聚簇索引不同,二级索引通常是不唯一的,并且以相对随机的顺序插入二级索引。同样,删除和更新可能会影响到所引述中不相邻的二级索引页,如果每一次都操作磁盘,会造成大量的磁盘IO,有了ChangeBuffer之后,我们就可以在缓冲池中进行合并处理,减少磁盘IO。

        这里我们区分一下BufferPool和ChangeBuffer,我们可以看到ChangeBuffer其实是在Buffer Pool中的一块比较特殊的区域,这块区域专门用来操作当前缓冲池其它区域中所没有的Page页。而BufferPool的话,存储的是已经有的Page页。关键就在于操作的数据所在页新不新

③Adaptive Hash Index:自适应哈希索引。

提到哈希索引,我们知道InnoDB默认是不支持哈希索引的,它支持的是B+树索引。

这里提到的自适应哈希索引,无需人工干预,是系统根据情况自动完成的(参数: adaptive_hash_index)。主要用于优化Buffer Pool数据的查询。InnoDB存储引擎会监控对表上各索引页的查询,如果观察到hash索引可以提升速度,则建立hash索引,所以称之为自适应的hash索引。

在mysql中使用命令show variables like '%hash_index%';显示变量的值。我们可以看到Value值为ON,也就是开启状态。 

④Log Buffer:日志缓冲区

日志缓冲区:用来保存要写入到磁盘中的log日志数据(redo log、undo log),默认大小为16MB,日志缓冲区的日志定期刷新到磁盘中。如果需要更新、插入或删除许多列的事务,增加日志缓冲区的大小可以节省磁盘IO。

参数:

        innodb_log_buffer_size:缓冲区大小

        innodb_flush_log_at_trx_commit;日志刷新到磁盘时机

 

对于图2的第二个变量对应的值1:代表日志在每次事务提交时写入并刷新到磁盘。而0则代表每秒将日志写入并刷新磁盘一次,2则代表日志在每次事务提交后写入,并每秒刷新到磁盘一次。

磁盘架构

同样的,看上图中,磁盘结构部分(右侧),很大一部分是TableSpace-即表空间。但磁盘架构不止是表空间,还有Doublewrite Buffer Files-双写缓冲区 和 Redo Log-日志。

①System Tablespaces(ibdata1):

        系统表空间:是ChangeBuffer的存储区域。如果表是在系统表空间,而不是每个表文件或通用表空间创建的,它也可能包含表和索引数据。(在MySQL5.x版本,系统表空间还包含InnoDB数据字典,undolog等,在8.0版本之后,重新规划了这块空间)。【参数:innodb_data_file_path】

②File-Per-Table Tablespaces(innodb_file_per_table=ON)

File-Per-Table Tablespaces:每个表的文件表空间包含单个InnoDB表的数据和索引,并存储在文件系统上的单个数据文件中。【参数:innodb_file_per_table】

ON(开启):代表我们创建的每张表对应的表空间都会独立存储在文件系统(.ibd文件)中,就不会存放在系统表空间了。这个idb文件存储的是表的结构、数据、索引等内容。

③General Tablespaces

通用表空间:需要通过命令:

create tablespace xxx 
add datafile filename -- 关联的表空间文件
engine = engine_name;

-- example
create tablespace test_stark add datafile 'mystark.ibd' engine = innodb;

该语法创建通用表空间,在创建表时,可以指定将表建在该表空间,这样就不会单独生成表空间文件了。

create table xxx(
    ...
)tablespace test_stark;
④Undo Tablespaces

撤销表空间,MySQL实例在初始化时会自动创建两个(undo_001 && undo_002)默认的undo表空间(初始为16MB),用于存储undo log日志。

⑤Temporary Tablespaces

临时表空间,InnoDB使用会话临时表空间和全局临时表空间。存储用户创建的临时表等数据。

⑥Doublewrite Buffer Files:

双写缓冲区,innoDB引擎将数据页从Buffer Pool刷新到磁盘前,先将数据页写到双写缓冲区文件,便于系统异常时恢复数据【#ib_16384_0.dblwr  &&  #ib_16384_1.dblwr】

⑦Redo Log

重做日志,是用来实现事务的持久性的。该日志文件由两部分组成:重做日志缓冲(redo log buffer)以及重做日志文件(redo log),前者是在内存中,后者是在磁盘中。当事务提交后会把所有修改信息都存到该日志中,用于在刷新脏页到磁盘时,发生错误时,进行数据恢复使用。

以循环的方式写入重做日志文件,涉及到两个文件:【ib_logfile0 && ib_logfile1】

后台线程

我们独立的学习了内存和磁盘两个结构,那么内存是怎么刷新到磁盘中的呢?这就涉及到操作系统OS的一组后台线程:

后台线程的作用就是将InnoDB存储引擎缓冲池中的数据在合适的时机刷新到磁盘文件中。

四类后台线程:

①Master Thread

核心后台线程,负责调度其它线程,还负责将缓冲池中的数据异步刷新到磁盘中,保持数据一致性。还包括脏页的刷新,合并插入缓存,undo页的回收。

②IO Thread

在InnoDB存储引擎中大量使用了AIO来处理IO请求,这样可以极大地提高数据库的性能,而IO Thread主要负责这些IO请求的回调。

线程类型默认个数职责
Read thread4负责读操作
Write thread4负责写操作
Log thread1负责将日志缓冲区刷新到磁盘
Insert buffer thread1负责将写缓冲区内容刷新到磁盘
③Purge Thread

主要用于回收事务已经提交了的undo log,在事务提交后,undo log可能不用了,就用它来回收。

④Page Cleaner Thread

协助Master Thread刷新脏页到磁盘的线程,它可以减轻master thread的工作压力,减少阻塞。


!!感谢大家!!

相关文章:

  • 门极驱动器DRV8353M设计(三)
  • OpenCV中的轮廓检测方法详解
  • OpenCV day2
  • 无人船 | 图解基于视线引导(LOS)的无人艇制导算法
  • OpenAI为抢跑AI,安全底线成牺牲品?
  • CA证书的申请及使用流程
  • 记录:安装 Docker Desktop 时直接设置安装路径及容器存储路径
  • 思维与算法共舞:AIGC语言模型的艺术与科学
  • 人力不足导致项目延期,如何补救
  • 【教学类-102-11】蝴蝶外轮廓01——Python对黑白图片进行PS填充三种颜色+图案描边+图案填充白色+制作1图2图6图24图
  • 如何在Linux系统中安装Vue环境
  • MyBatis-Plus快速入门
  • CVPR‘25 SOTA——GoalFlow论文精读
  • Linux环境下Swap配置方法与技巧
  • InnoDB 底层原理
  • Loop(循环)和Cycle(环)-《分析模式》漫谈55
  • 【笔记ing】AI大模型-05单层感知机与多层感知机
  • 周末学习笔记:Python文件操作(结构化数据转换与文件处理)
  • 算法:有一个整数数组,长度为n。她希望通过一系列操作将数组变成一个回文数组。
  • Domain Adaptation领域自适应
  • 潘功胜在美谈关税:吁全球经济勿滑向“高摩擦、低信任”轨道
  • 我国成年国民综合阅读率82.1%,数字化阅读接触率首超80%
  • 李公明︱一周书记:大学的价值、韧性以及……不相称的对抗
  • 建行原副行长章更生被开除党籍:靠贷吃贷,大搞权钱交易
  • 安徽临泉一小区交付后多楼层现裂缝,专家组论证称不影响安全
  • 贵州省交通运输厅原副厅长冯伟已任遵义市领导