【InnoDB数据存储结构】第3章节:区、段、碎片区和表空间

文章目录结构

在这里插入图片描述

区、段、碎片区和表空间

  • 什么是区?
  • 什么是段?
  • 什么是碎片区?
  • 什么是表空间?

在上文 InooDB 存储行格式一文中已经大致讲述过,再来回顾一下,直接上图:

名词解释如下:

  • 行(row): 数据库中的数据都是按行(row)存储的,行记录(统称)根据不同的 行格式 ,有不同的存储结构。
  • 页(page): 记录是按行存储的,但是数据库的读取并不是以 为单位,而是以 为单位, 每页的大小为 16KB ,否则读取一次只能读取一行数据(也就是一次 I/O 操作),只能处理一行数据,效率太低了。
  • 区(extent): B+Tree 的每一层的节点之间都是通过双向链表链接的,以页为单位,相邻的两个页之间位置并不是连续的,可能离的非常远,那么数据量大的情况在查询的时候就会产生大量的随机 I/O 操作(效率低)。为了解决这个问题,为某个索引分配空间的时候按照 为单位,一个区的大小为 1MB,对于 16KB大小的页来说,连续的 64 个页划分为一个 ,这样就使得相邻的页的物理位置也是相邻的,就可以使用 顺序 I/O 了。
  • 段(segment): 表空间由多个段组成,段是由多个区组成。段一般分为 数据段 索引段 回滚段 等。
    • 数据段:存放 B+Tree 叶子节点区的集合
    • 索引段:存放 B+Tree 非叶子节点区的集合
    • 回滚段:存放回滚数据区的集合(MVCC 就是利用了回滚段实现了多版本查询控制)
  • 表空间(Tablespace): 是一个逻辑容器,表空间存储的对象是段,在一个空间中可以由一个段或多个段,但是一个段只能属于一个表空间。

为什么要有区?

B+Tree的每一层的节点之间都是通过双向链表链接的,以 页为单位 为单位分配存储空间,相邻的两个页之间位置并不是连续的,可能离的非常远。

B+Tree 索引适用的场景提到在范围查询时,只需要定位到最左边和最右边的记录(顺序存储),然后沿着双向链表一直扫描就可以了,而如果链表中相邻的两个数据页的物理位置相差的很远,中间的查询产生的就是 随机 I/O

磁盘的速度和内存的速度差了好几个量级, 随机 I/O 是非常慢的

为了能够使用 顺序 I/O ,尽量让链表中相邻的页的物理位置也相邻,这就引入了 的概念,一个区在物理位置上就是连续的 64 个页 。因为 InooDB 的一个页默认大小为 16KB,所以一个区的大小为 1MB

在表中数据量非常大的时候,为某个索引分配空间的时候就不再按照页为单位分配了,而是按照 区为单位分配 ,甚至在表中的数据特别多的时候,可以一次性分配多个连续的区,虽然这样可能会造成 一点空间上的浪费(数据不足以填充满整个区) ,但是从性能上来讲,可以消除很多 随机 I/O ,所以从这点上来说功大于过,可以接受。

总结一句话,区的出现是为了尽量减少 随机 I/O

为什么要有段?

对于范围查询,其实是对 B+Tree 叶子节点中的记录进行顺序扫描,而如果不区分叶子节点和非叶子节点,统一把节点页面放在申请到的区中,进行范围扫描效率相比纯叶子节点就会低很多。所以 InnoDB 对 B+Tree 的 叶子节点 非叶子节点 进行了区别对待,分别放在 各自独立的区 中,从这点我们能知道创建一个索引会生成两个 ,一个是 叶子节点段 ,一个是 非叶子节点段

除了索引的叶子节点和非叶子节点组成的段之外,InnoDB 中还有为存储一些特殊的数据而定义的段,比如 回滚段

所以常见的段有 数据段 索引段 回滚段

  • 数据段:存放 B+Tree 叶子节点
  • 索引段:存放 B+Tree 非叶子节点
  • 回滚段:存放回滚数据

在 InnoDB 存储引擎中,对段的管理都是由存储引擎本身完成的,DBA 不能也没有必要对其进行控制,这从一定程度上简化了 DBA 对于段的管理。

段其实不是表空间中某一个连续的物理区域,而是一个逻辑上的概念,由 若干个零散的页面 一些完整的区 组成。

  • 零散的页面: 不归属于任何区,直接归属于表空间。

为什么要有碎片区?

默认情况下,一个使用 InnnoDB 存储引擎的表只有一个聚簇索引,一个索引会生成 2 个段,非叶子节点段和叶子节点段

,而段是区为单位社情存储空间的,一个区(连续的 64 个页)默认占用 1M(64 * 16Kb = 1024Kb)存储空间,那也就是说一个段默认情况下就是为 2M, 设想以下几个问题:

  • 默认情况下一个只存了几条记录的小表是否也需要 2M 的存储空间?
  • 以后每添加一个索引都会申请 2M 的存储空间吗?

这对于存储记录比较少的表来说,严重浪费存储空间。

造成这个问题的原因在于我们目前讨论的 都是 完整的纯粹区 ,也就是说一个区被完整的分配给某一个段,或者说区中所有的页面都是为了存储同一个段的数据而存在的,即使段的数据填不满区中所有的页面,那余下的页面也不会用于存储其他段的数据,所以严重造成空间浪费。

为了解决这种浪费存储空间的情况,InnoDB 提出了一个 碎片区 的概念。

在一个碎片区中并不是所有的页面都是为了存储同一个段中的数据而存在的,而是碎片区中的页面可以分别用于不同的用途,比如有些页用于段 A,有些页用于段 B,有些页甚至不属于任何一个端,而是直接归属于表空间

有了碎片区的概念,此后为某个段分配存储空间的策略如下:

  • 在刚开始向表中插入数据时,段是从 某个碎片区 以单个页面为单位来分配存储空间的。
  • 当某个段已经占用了 32 个碎片区页面之后,就会申请以 完整的区 为单位来分配存储空间。

所以现在的段不能仅仅定义为某些区的集合,准确来说应该是 某些零散页面 以及 一些完整的区 的集合。

区的分类

区大体上可以分为 4 种类型:

  • 空闲的区(FREE): 现在还没有用到这个区的任何页面。
  • 有剩余空间的碎片区(FREE_FRAG): 表示碎片区中还有可用的页面。
  • 没有剩余空间碎片的区(FULL_FRAG): 表示碎片区中所有页面都被使用,没有空间页面。
  • 附属于某个段的区(FSEG): 每个索引都可以分为叶子节点段(数据段)和非叶子节点段(索引段)。

处于 FREE、FREE_FRAG、FULL_FRAG这三种状态的区都是独立的,而处于 FSEG状态的区是附属于某个段的。

表空间

表空间可以看做是 InnoDB 存储引擎逻辑结构的最高层,所有的数据都存放在表空间中。

表空间是一个 逻辑容器 ,表空间存储的对象是段,在一个表空间中可以由一个或多个段,但是一个段只能属于一个表空间。

表空间数据库由一个或多个表空间组成,表空间从管理上可以划分为:

  • 系统表空间(System TableSpace)
  • 独立表空间(File-per-table TableSpace)
  • 撤销表空间(Undo TableSpace)
  • 临时表空间(Temporary TableSpace)

独立表空间

独立表空间,即每张表都有一个独立的表空间,也就是数据和索引信息都会保存在自己的独立表空间中。

独立表空间(单表)可以在不同的数据库之间进行 迁移

表空间可以回收,命令 DROP TABLE_NAME操作可自动回收表空间,其他情况,表空间不能自动回收。另外DELETE FROM TABLE_NAME操作是假删除数据,数据底层只是被标记为删除了,但实际上还占据存储空间,所以空间不会被回收。

如果对于统计分析或者是日志表,删除大量数据后可以通过命令 alter table table_name engine=innodb;回收不用的空间(重置 InnoDB 索引结构,会重新分配存储空间,空闲的空间会被回收)。对于使用独立表空间的表,不管怎么删除,表空的碎片都不会太影响性能,而且还有机会被处理。

独立表空间结构

独立表空间由段、区、页组成。

真实表空间对应的文件大小

  1. MySQL 5.7 中,我们每新建一张表,在数据库的目录中都会新增两个文件,.frm.ibd文件。

创建一个表 temp,看下库中对应表文件的大小:

create table temp(id int, name varchar(15));

分析一下.frm.ibd文件。

  • .frm存放表结构文件默认大小为 9Kb,还不导一个页面大小;
  • .ibd存放数据文件默认大小为 96Kb,等于96 / 16 = 6个页面大小

加一起不到 7 个页面大小,因为表空间初始化没有数据,所以占用空间很小。但是 .ibd文件是 自扩展 的,随着表中的数据增多,表空间对应的文件也会逐渐增大。

  1. MySQL 8.0 中,我们每新建一张表,在数据库的目录中都会新增一个文件,.ibd文件,剔除了.frm文件。

创建一个表 temp,看下库中对应表文件的大小:

create table temp(id int, name varchar(15));

分析一下:

  • .ibd存放数据文件默认大小为 112Kb,等于112 / 16 = 7个页面大小,比 MySQL 5.7 多了一个页面大小,是因为 MySQL 8.0 将表结构和数据都存储在了 .ibd文件中。

查看 InnoDB 表空间类型

是否使用独立表空间可以通过一个全局参数innodb_file_per_table配置:

  • 设置为 1 就代表使用独立表空间(后缀 table_name.idb中)
  • 设置为 0 代表使用系统表空间(存储在共享表空间文件中ibdata1中)。

从 MySQL 5.6.6 版本之后,innodb_file_per_table默认值就为 1 了,因此此后的版本,表数据默认都是存储在独占表中的。

show variables like 'innodb_file_per_table';

MySQL 5.7 和 MySQL 8.0 查看结果都是如下:

系统表空间

每当我们向表中插入一条记录的时候,MySQL 的校验过程如下:

  • 先要校验一下插入语句对应的表存不存在?
  • 插入的列和表中的列是否符合?

如果语法没有问题,还需要知道该表的聚簇索引和所有二级索引的根页面是在哪个表空间下的哪个索引段中,然后把记录插入到对应索引的 B+Tree 中。

所以 MySQL 除了保存我们插入的用户记录之外,还需要保存许多额外的信息,例如下面的这些数据:

● 某个表属于哪个表空间,表里边有多少列
● 表对应的每一个列的类型是什么
● 该表有多少索引,每个索引对应哪几个字段,该索引对应的根页面在哪个表空间的哪个页面
● 该表有哪些外键,外键对应哪个表的哪些列
● 某个表空间对应文件系统上文件路径是什么
● ………………

上述这些数据并不是我们使用 INSERT语句插入的用户记录数据,而是为了更好的管理我们这些用户数据不得已才引入的一些额外数据,我们称这些数据为 元数据

InnoDB 存储引擎特意定义了一些列的 内部系统表(internal system table)来记录这些元数据:

上述这些系统表也被称为 数据字典 ,它们都是以 B+Tree 的形式保存在系统表空间的某些页面中,其中

  • SYS_TABLES
  • SYS_COLUMNS
  • SYS_INDEXES
  • SYS_FIELDS

这四个表尤其重要,称之为 基本系统表(basic system tables) 我们先看看这4个表的结构。

SYS_TABLES 表结构

SYS_COLUMNS 表结构

SYS_INDEXES 表结构!

SYS_FIELDS 表结构

注意:用户是不能直接访问 lnnoDB 的这些内部系统表,除非你直接去解析系统表空间对应文件系统上的文件。不过考虑到查看这些表的内容可能有助于大家分析问题,所以在系统数据库 information_schema 中提供了一些以 innodb_sys开头的表。

MySQL 8.0 中是不存在以 innodb_sys开头的表。

MySQL 5.7 中操作如下:

mysql> use information_schema;
Database changed
mysql> show tables like 'innodb_sys%';
+--------------------------------------------+
| Tables_in_information_schema (innodb_sys%) |
+--------------------------------------------+
| INNODB_SYS_DATAFILES                       |
| INNODB_SYS_VIRTUAL                         |
| INNODB_SYS_INDEXES                         |
| INNODB_SYS_TABLES                          |
| INNODB_SYS_FIELDS                          |
| INNODB_SYS_TABLESPACES                     |
| INNODB_SYS_FOREIGN_COLS                    |
| INNODB_SYS_COLUMNS                         |
| INNODB_SYS_FOREIGN                         |
| INNODB_SYS_TABLESTATS                      |
+--------------------------------------------+
10 rows in set (0.01 sec)

information_schema数据库中的这些以 INNODB_SYS 开头的表并不是真正的内部系统表(内部系统表就是我们上边以 SYS开头的那些表),而是在存储引警启动时读取以 SYS 开头 的系统表,然后填充到以 INNODB_SYS 开头 的表中。以 INNODB_SYS 开头 的表和以 SYS 开头 的表中的字段并不完全一样,但供我们参考已经足矣。


在这里插入图片描述

一起学编程,让生活更随和!

如果你觉得是个同道中人,欢迎关注博主gzh:【随和的皮蛋桑】。

专注于Java基础、进阶、面试以及计算机基础知识分享🐳。偶尔认知思考、日常水文🐌。

在这里插入图片描述


本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/231108.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Windows系统如何使用VNC远程连接Deepin桌面【内网穿透】

文章目录 1. 安装x11vnc2. 本地远程连接测试3. Deepin安装Cpolar4. 配置公网远程地址5. 公网远程连接Deepin桌面6. 固定连接公网地址7. 固定公网地址连接测试 x11vnc是一种在Linux系统中实现远程桌面控制的工具,它的原理是通过X Window系统的协议来实现远程桌面的展…

463岛屿周长

题目 给定一个 row x col 的二维网格地图 grid ,其中:grid[i][j] 1 表示陆地, grid[i][j] 0 表示水域。 网格中的格子 水平和垂直 方向相连(对角线方向不相连)。整个网格被水完全包围,但其中恰好有一个…

Linux第15步_安装FTP客户端

安装完FTP服务器后,还需要安装FTP客户端,才可以实现Ubuntu系统和Windows系统进行文件互传。 1、在STM32MP157开发板A盘基础资料\03软件中,找到“FileZilla_3.51.0_win64-setup.exe”,双击它,就可以安装。 2、点击“I …

云计算历年题整理

第一大题纯计算 第一大题4或n个xx(只答若干个短语) 第一大题AWS描述名词 第二大题CUDA代码 第二大题描述名词(很多和第一大题一样与AWS有关但是比第一大题难) 第二大题计算 第三大题Map/Reduce项目涉及代码 下列Map/Reduce伪代码…

pygame学习(二)——绘制线条、圆、矩形等图案

导语 pygame是一个跨平台Python库(pygame news),专门用来开发游戏。pygame主要为开发、设计2D电子游戏而生,提供图像模块(image)、声音模块(mixer)、输入/输出(鼠标、键盘、显示屏)模…

C#利用openvino部署PP-TinyPose人体姿态识别

【官方框架地址】 github.com/PaddlePaddle/PaddleDetection 【算法介绍】 关键点检测算法往往需要部署在轻量化、边缘端设备上,因此长期以来都存在一个难题:精度高、速度则慢、算法体积也随之增加。而PP-TinyPose的出世彻底打破了这个僵局&#xff0c…

Time-series forecasting with deep learning: a survey

人们开发了许多深度学习架构来适应不同领域的时间序列数据集的多样性。在本文中,我们调查了一步前进和多水平时间序列预测中使用的常见编码器和解码器设计,描述了如何将时间信息纳入每个模型的预测中。接下来,我们重点介绍混合深度学习模型的…

任务需求分析中的流程图、用例图、er图、类图、时序图线段、图形的作用意义

任务需求分析中的流程图、用例图、er图、类图、时序图线段、图形的作用意义 流程图 流程图中各种图形的含义及用法解析 连接线符号 连接各要素,表示流程的顺序或过程的方向。 批注符号 批注或说明,也可以做条件叙述。 子流程 流程中一部分图形的逻辑…

MySQL 8.0 开关 Redo Logging

一 前言 前几天有客户测试使用云数据库的时候提出 要禁止mydumper 关闭redo log的操作 (说白了就是导入数据时保持MySQL 实例的redo logging功能), 这才想起 在 MySQL 8.0.21 版本中,开启了一个新特性 “Redo Logging 动态开关”。 在新实例导数据的场…

三坐标测量机的应用场景及其国产化的重要意义

三坐标测量机广泛应用于制造业和工程领域,测量工件在三维空间中的尺寸、形状和位置,对工件进行精确的测量和检测。它具有高精度、高效率和自动化程度高的优点。 应用场景 1、汽车制造领域 在汽车生产过程中,需要对零部件的精度和质量进行检…

Sonarqube安装(Docker)

一,拉取相关镜像并运行 # 拉取sonarqube镜像 docker pull sonarqube:9.1.0-community在运行之前要提前安装postgres并允许,新建数据库名为sonar的数据库 Docker安装postgres教程 docker run -d --name sonarqube --restartalways \ -p 19000:9000 \ …

AI提示词入门教程

AI提示词的基本原则与技巧 文章目录 AI提示词的基本原则与技巧前言原则1: 尽可能保证下达的指令“清晰、没有歧义”使用分隔符清楚地指示输入地不同部分要求结构化地输出让模型检查是否满足条件少样本提示 原则2:给AI思考的时间,以及完成任务…

某后台管理系统加密参数逆向分析

前言 在我们日常的渗透中经常会遇到开局一个登录框的情况,弱口令爆破当然是我们的首选。但是有的网站会对账号密码等登录信息进行加密处理,这一步不由得阻碍了很多人的脚步。前端的加解密是比较常见的,无论是 web 后台还是小程序&#xff0c…

OpenAI ChatGPT-4开发笔记2024-02:Chat之text completion

API而已 大模型封装在库里,库放在服务器上,服务器放在微软的云上。我们能做的,仅仅是通过API这个小小的缝隙,窥探ai的奥妙。从程序员的角度而言,水平的高低,就体现在对openai的这几个api的理解程度上。 申…

JavaWeb基础(2)- Web概述、HTTP协议、Servlet、Request与Response

JavaWeb基础(2)- Web概述、HTTP协议、Servlet、Request与Response 文章目录 JavaWeb基础(2)- Web概述、HTTP协议、Servlet、Request与Response3 Web概述3.1 Web和JavaWeb的概念3.2 JavaWeb技术栈3.2.1 B/S架构**3.2.2 静态资源**3…

6 网关和配置服务器

文章目录 网关模式Spring Cloud网关Spring Cloud网关微服务其他项目的变更运行和测试小结 运行状况Spring Boot Actuator在微服务中包含Actuator 服务发现和负载均衡ConsulSpring Cloud ConsulSpring Cloud负载均衡器网关中的服务发现和负载均衡使用服务发现和负载均衡 环境配置…

微信多功能投票小程序源码系统:送礼物+在线充值+票数汇总+创建活动+完整的代码安装包 附带完整的搭建教程

微信已成为人们日常生活中不可或缺的一部分。因此,微信小程序也受到了广大用户的欢迎。在这个背景下,多功能投票小程序应运而生,为各种活动提供了方便快捷的投票方式。本文将介绍一款微信多功能投票小程序源码系统,该系统具有送礼…

stable diffusion 基础教程-图生图

界面 图生图大概有以下几个功能: 图生图涂鸦绘制局部绘制局部绘制(涂鸦蒙版)其常用的也就上面四个,接下来逐步讲解。 以图反推提示词 图生图可以根据反推提示词来获取相应图片的提示词,目前3种主流方式,如下: CLIP反推提示词:推导出的文本倾向于自然语言的描述方式,…

BAT036:TXT与DOC格式互转、DOC与DOCX格式互转

引言:编写批处理程序,可实现txt与doc文档格式互转、doc与docx文档格式互转。 一、新建Windows批处理文件 参考博客: BAT002:在右键菜单新建中添加【Windows批处理文件】_为右键菜单添加bat-CSDN博客 二、TXT与DOC格式互转 1.右键新建的批处理文件,点击【编辑】。 ​ …

2024,启动(回顾我的2023)

零.前言 打开博客想写个年度总结,发现已经半年没有更新文章了,排名从几千掉到了几万,不过数据量还是不错的。 时间过得可真快,2023年是充满动荡的一年,上半年gpt横空出世,下半年各种翻车暴雷吃瓜吃到嘴软…