文章目录结构
区、段、碎片区和表空间
- 什么是区?
- 什么是段?
- 什么是碎片区?
- 什么是表空间?
在上文 InooDB 存储行格式一文中已经大致讲述过,再来回顾一下,直接上图:
名词解释如下:
- 行(row): 数据库中的数据都是按行(row)存储的,行记录(统称)根据不同的
行格式
,有不同的存储结构。 - 页(page): 记录是按行存储的,但是数据库的读取并不是以
行
为单位,而是以页
为单位,每页的大小为 16KB
,否则读取一次只能读取一行数据(也就是一次 I/O 操作),只能处理一行数据,效率太低了。 - 区(extent): B+Tree 的每一层的节点之间都是通过双向链表链接的,以页为单位,相邻的两个页之间位置并不是连续的,可能离的非常远,那么数据量大的情况在查询的时候就会产生大量的随机 I/O 操作(效率低)。为了解决这个问题,为某个索引分配空间的时候按照
区
为单位,一个区的大小为1MB
,对于16KB
大小的页来说,连续的64
个页划分为一个区
,这样就使得相邻的页的物理位置也是相邻的,就可以使用顺序 I/O
了。 - 段(segment): 表空间由多个段组成,段是由多个区组成。段一般分为
数据段
、索引段
和回滚段
等。
-
- 数据段:存放 B+Tree 叶子节点区的集合
- 索引段:存放 B+Tree 非叶子节点区的集合
- 回滚段:存放回滚数据区的集合(MVCC 就是利用了回滚段实现了多版本查询控制)
- 表空间(Tablespace): 是一个逻辑容器,表空间存储的对象是段,在一个空间中可以由一个段或多个段,但是一个段只能属于一个表空间。
为什么要有区?
B+Tree
的每一层的节点之间都是通过双向链表链接的,以 页为单位
为单位分配存储空间,相邻的两个页之间位置并不是连续的,可能离的非常远。
B+Tree 索引适用的场景提到在范围查询时,只需要定位到最左边和最右边的记录(顺序存储),然后沿着双向链表一直扫描就可以了,而如果链表中相邻的两个数据页的物理位置相差的很远,中间的查询产生的就是 随机 I/O
。
磁盘的速度和内存的速度差了好几个量级, 随机 I/O 是非常慢的
。
为了能够使用 顺序 I/O
,尽量让链表中相邻的页的物理位置也相邻,这就引入了 区
的概念,一个区在物理位置上就是连续的 64 个页
。因为 InooDB 的一个页默认大小为 16KB
,所以一个区的大小为 1MB
。
在表中数据量非常大的时候,为某个索引分配空间的时候就不再按照页为单位分配了,而是按照 区为单位分配
,甚至在表中的数据特别多的时候,可以一次性分配多个连续的区,虽然这样可能会造成 一点空间上的浪费(数据不足以填充满整个区)
,但是从性能上来讲,可以消除很多 随机 I/O
,所以从这点上来说功大于过,可以接受。
总结一句话,区的出现是为了尽量减少 随机 I/O
。
为什么要有段?
对于范围查询,其实是对 B+Tree 叶子节点中的记录进行顺序扫描,而如果不区分叶子节点和非叶子节点,统一把节点页面放在申请到的区中,进行范围扫描效率相比纯叶子节点就会低很多。所以 InnoDB 对 B+Tree 的 叶子节点
和 非叶子节点
进行了区别对待,分别放在 各自独立的区
中,从这点我们能知道创建一个索引会生成两个 段
,一个是 叶子节点段
,一个是 非叶子节点段
。
除了索引的叶子节点和非叶子节点组成的段之外,InnoDB 中还有为存储一些特殊的数据而定义的段,比如 回滚段
。
所以常见的段有 数据段
、 索引段
、 回滚段
。
- 数据段:存放 B+Tree 叶子节点
- 索引段:存放 B+Tree 非叶子节点
- 回滚段:存放回滚数据
在 InnoDB 存储引擎中,对段的管理都是由存储引擎本身完成的,DBA 不能也没有必要对其进行控制,这从一定程度上简化了 DBA 对于段的管理。
段其实不是表空间中某一个连续的物理区域,而是一个逻辑上的概念,由 若干个零散的页面
和 一些完整的区
组成。
- 零散的页面: 不归属于任何区,直接归属于表空间。
为什么要有碎片区?
默认情况下,一个使用 InnnoDB 存储引擎的表只有一个聚簇索引,一个索引会生成 2 个段,非叶子节点段和叶子节点段
,而段是区为单位社情存储空间的,一个区(连续的 64 个页)默认占用 1M(64 * 16Kb = 1024Kb)存储空间,那也就是说一个段默认情况下就是为 2M, 设想以下几个问题:
- 默认情况下一个只存了几条记录的小表是否也需要 2M 的存储空间?
- 以后每添加一个索引都会申请 2M 的存储空间吗?
这对于存储记录比较少的表来说,严重浪费存储空间。
造成这个问题的原因在于我们目前讨论的 区
都是 完整的纯粹区
,也就是说一个区被完整的分配给某一个段,或者说区中所有的页面都是为了存储同一个段的数据而存在的,即使段的数据填不满区中所有的页面,那余下的页面也不会用于存储其他段的数据,所以严重造成空间浪费。
为了解决这种浪费存储空间的情况,InnoDB 提出了一个 碎片区
的概念。
在一个碎片区中并不是所有的页面都是为了存储同一个段中的数据而存在的,而是碎片区中的页面可以分别用于不同的用途,比如有些页用于段 A,有些页用于段 B,有些页甚至不属于任何一个端,而是直接归属于表空间
。
有了碎片区的概念,此后为某个段分配存储空间的策略如下:
- 在刚开始向表中插入数据时,段是从
某个碎片区
以单个页面为单位来分配存储空间的。 - 当某个段已经占用了
32 个碎片区页面
之后,就会申请以完整的区
为单位来分配存储空间。
所以现在的段不能仅仅定义为某些区的集合,准确来说应该是 某些零散页面
以及 一些完整的区
的集合。
区的分类
区大体上可以分为 4 种类型:
- 空闲的区(FREE): 现在还没有用到这个区的任何页面。
- 有剩余空间的碎片区(FREE_FRAG): 表示碎片区中还有可用的页面。
- 没有剩余空间碎片的区(FULL_FRAG): 表示碎片区中所有页面都被使用,没有空间页面。
- 附属于某个段的区(FSEG): 每个索引都可以分为叶子节点段(数据段)和非叶子节点段(索引段)。
处于 FREE、FREE_FRAG、FULL_FRAG
这三种状态的区都是独立的,而处于 FSEG
状态的区是附属于某个段的。
表空间
表空间可以看做是 InnoDB 存储引擎逻辑结构的最高层,所有的数据都存放在表空间中。
表空间是一个 逻辑容器
,表空间存储的对象是段,在一个表空间中可以由一个或多个段,但是一个段只能属于一个表空间。
表空间数据库由一个或多个表空间组成,表空间从管理上可以划分为:
- 系统表空间(System TableSpace)
- 独立表空间(File-per-table TableSpace)
- 撤销表空间(Undo TableSpace)
- 临时表空间(Temporary TableSpace)
独立表空间
独立表空间,即每张表都有一个独立的表空间,也就是数据和索引信息都会保存在自己的独立表空间中。
独立表空间(单表)可以在不同的数据库之间进行 迁移
。
表空间可以回收,命令 DROP TABLE_NAME
操作可自动回收表空间,其他情况,表空间不能自动回收。另外DELETE FROM TABLE_NAME
操作是假删除数据,数据底层只是被标记为删除了,但实际上还占据存储空间,所以空间不会被回收。
如果对于统计分析或者是日志表,删除大量数据后可以通过命令 alter table table_name engine=innodb;
回收不用的空间(重置 InnoDB 索引结构,会重新分配存储空间,空闲的空间会被回收)。对于使用独立表空间的表,不管怎么删除,表空的碎片都不会太影响性能,而且还有机会被处理。
独立表空间结构
独立表空间由段、区、页组成。
真实表空间对应的文件大小
- 在
MySQL 5.7
中,我们每新建一张表,在数据库的目录中都会新增两个文件,.frm
和.ibd
文件。
创建一个表 temp
,看下库中对应表文件的大小:
create table temp(id int, name varchar(15));
分析一下.frm
和.ibd
文件。
.frm
存放表结构文件默认大小为9Kb
,还不导一个页面大小;.ibd
存放数据文件默认大小为96Kb
,等于96 / 16 = 6
个页面大小
加一起不到 7 个页面大小,因为表空间初始化没有数据,所以占用空间很小。但是 .ibd
文件是 自扩展
的,随着表中的数据增多,表空间对应的文件也会逐渐增大。
- 在
MySQL 8.0
中,我们每新建一张表,在数据库的目录中都会新增一个文件,.ibd
文件,剔除了.frm
文件。
创建一个表 temp
,看下库中对应表文件的大小:
create table temp(id int, name varchar(15));
分析一下:
.ibd
存放数据文件默认大小为112Kb
,等于112 / 16 = 7
个页面大小,比 MySQL 5.7 多了一个页面大小,是因为 MySQL 8.0 将表结构和数据都存储在了.ibd
文件中。
查看 InnoDB 表空间类型
是否使用独立表空间可以通过一个全局参数innodb_file_per_table
配置:
- 设置为 1 就代表使用独立表空间(后缀
table_name.idb
中) - 设置为 0 代表使用系统表空间(存储在共享表空间文件中
ibdata1
中)。
从 MySQL 5.6.6 版本之后,innodb_file_per_table
默认值就为 1 了,因此此后的版本,表数据默认都是存储在独占表中的。
show variables like 'innodb_file_per_table';
MySQL 5.7 和 MySQL 8.0 查看结果都是如下:
系统表空间
每当我们向表中插入一条记录的时候,MySQL 的校验过程如下:
- 先要校验一下插入语句对应的表存不存在?
- 插入的列和表中的列是否符合?
如果语法没有问题,还需要知道该表的聚簇索引和所有二级索引的根页面是在哪个表空间下的哪个索引段中,然后把记录插入到对应索引的 B+Tree 中。
所以 MySQL 除了保存我们插入的用户记录之外,还需要保存许多额外的信息,例如下面的这些数据:
● 某个表属于哪个表空间,表里边有多少列
● 表对应的每一个列的类型是什么
● 该表有多少索引,每个索引对应哪几个字段,该索引对应的根页面在哪个表空间的哪个页面
● 该表有哪些外键,外键对应哪个表的哪些列
● 某个表空间对应文件系统上文件路径是什么
● ………………
上述这些数据并不是我们使用 INSERT
语句插入的用户记录数据,而是为了更好的管理我们这些用户数据不得已才引入的一些额外数据,我们称这些数据为 元数据
。
InnoDB 存储引擎特意定义了一些列的 内部系统表(internal system table)
来记录这些元数据:
上述这些系统表也被称为 数据字典
,它们都是以 B+Tree 的形式保存在系统表空间的某些页面中,其中
- SYS_TABLES
- SYS_COLUMNS
- SYS_INDEXES
- SYS_FIELDS
这四个表尤其重要,称之为 基本系统表(basic system tables)
我们先看看这4个表的结构。
SYS_TABLES 表结构
SYS_COLUMNS 表结构
SYS_INDEXES 表结构!
SYS_FIELDS 表结构
注意:用户是不能直接访问 lnnoDB 的这些内部系统表,除非你直接去解析系统表空间对应文件系统上的文件。不过考虑到查看这些表的内容可能有助于大家分析问题,所以在系统数据库 information_schema 中提供了一些以 innodb_sys
开头的表。
MySQL 8.0 中是不存在以 innodb_sys
开头的表。
MySQL 5.7 中操作如下:
mysql> use information_schema;
Database changed
mysql> show tables like 'innodb_sys%';
+--------------------------------------------+
| Tables_in_information_schema (innodb_sys%) |
+--------------------------------------------+
| INNODB_SYS_DATAFILES |
| INNODB_SYS_VIRTUAL |
| INNODB_SYS_INDEXES |
| INNODB_SYS_TABLES |
| INNODB_SYS_FIELDS |
| INNODB_SYS_TABLESPACES |
| INNODB_SYS_FOREIGN_COLS |
| INNODB_SYS_COLUMNS |
| INNODB_SYS_FOREIGN |
| INNODB_SYS_TABLESTATS |
+--------------------------------------------+
10 rows in set (0.01 sec)
在 information_schema
数据库中的这些以 INNODB_SYS 开头
的表并不是真正的内部系统表(内部系统表就是我们上边以 SYS开头
的那些表),而是在存储引警启动时读取以 SYS 开头
的系统表,然后填充到以 INNODB_SYS 开头
的表中。以 INNODB_SYS 开头
的表和以 SYS 开头
的表中的字段并不完全一样,但供我们参考已经足矣。
一起学编程,让生活更随和!
如果你觉得是个同道中人,欢迎关注博主gzh:【随和的皮蛋桑】。
专注于Java基础、进阶、面试以及计算机基础知识分享🐳。偶尔认知思考、日常水文🐌。