MySQL主从复制(四):主备切换

一主多从结果:

图中, 虚线箭头表示的是主备关系, 也就是A和A’互为主备, 从库B、 C、 D指向的是主库A。 一主多从的设置, 一般用于读写分离, 主库负责所有的写入和一部分读, 其他的读请求则由从库分担。

主备切换后结果:

相比于一主一备的切换流程, 一主多从结构在切换完成后, A’会成为新的主库, 从库B、 C、 D也要改接到A’。 正是由于多了从库B、 C、 D重新指向的这个过程, 所以主备切换的复杂性也相应增加了。

基于位点的主备切换


当我们把节点B设置成节点A’的从库的时候, 需要执行一条change master命令:

-- 基于位点的主从切换的切主命令
-- $master_log_name和$master_log_pos 标记复制的binlog位点;
CHANGE MASTER TO 
MASTER_HOST=$host_name 
MASTER_PORT=$port 
MASTER_USER=$user_name 
MASTER_PASSWORD=$password 
MASTER_LOG_FILE=$master_log_name 
MASTER_LOG_POS=$master_log_pos;

这条命令有6个参数:

  • MASTER_HOST、 MASTER_PORT、 MASTER_USER和MASTER_PASSWORD四个参数, 分别代表了主库A’的IP、 端口、 用户名和密码。
  • 最后两个参数MASTER_LOG_FILE和MASTER_LOG_POS表示, 要从主库的master_log_name文件的master_log_pos这个位置的日志继续同步。 而这个位置就是我们所说的同步位点, 也就是主库对应的文件名和日志偏移量。

问1:节点B要设置成A’的从库, 就要执行change master命令, 就不可避免地要设置位点的这两个参数, 但是这两个参数到底应该怎么设置呢?

原来节点B是A的从库, 本地记录的也是A的位点。 但是相同的日志, A的位点和A’的位点是不同的。 因此, 从库B要切换的时候, 就需要先经过“找同步位点”这个逻辑。

这个位点很难精确取到, 只能取一个大概位置。

问2:同步位点是如何获取到的?

考虑到切换过程中不能丢数据, 所以我们找位点的时候, 总是要找一个“稍微往前”的, 然后再通过判断跳过那些在从库B上已经执行过的事务。

一种取同步位点的方法是这样的:

1)等待新主库A’把中转日志(relaylog) 全部同步完成。

2)在A’上执行show master status命令, 得到当前A’上最新的File 和 Position。

3)取原主库A故障的时刻T。

4)用mysqlbinlog工具解析A’的File, 得到T时刻的位点。解析命令如下:

mysqlbinlog File --stop-datetime=T --start-datetime=T

图中, end_log_pos后面的值“123”, 表示的就是A’这个实例, 在T时刻写入新的binlog的位置。然后, 我们就可以把123这个值作为$master_log_pos , 用在节点B的change master命令里。

问3:为什么说这个同步位点不精确呢?

假设在T这个时刻, 主库A已经执行完成了一个insert 语句插入了一行数据R, 并且已经将binlog传给了A’和B, 然后在传完的瞬间主库A的主机就掉电了。

那么, 这时候系统的状态是这样的:

1)在从库B上, 由于同步了binlog, R这一行已经存在。

2)在新主库A’上, R这一行也已经存在, 日志是写在123这个位置之后的。

3)我们在从库B上执行change master命令, 指向A’的File文件的123位置, 就会把插入R这一行数据的binlog又同步到从库B去执行。

这时候, 从库B的同步线程就会报告 Duplicate entry‘id_of_R’ for key‘PRIMARY’ 错误, 提示出现了主键冲突, 然后停止同步。

问4:在切换任务的时候,如何处理Duplicate entry‘id_of_R’ for key‘PRIMARY’ 错误?

答:主动跳过这些错误。

1)方法一

主动跳过一个事务。 跳过命令的写法是:

set global sql_slave_skip_counter=1;
start slave;

因为切换过程中, 可能会不止重复执行一个事务, 所以我们需要在从库B刚开始接到新主库A’时, 持续观察, 每次碰到这些错误就停下来, 执行一次跳过命令, 直到不再出现停下来的情况, 以此来跳过可能涉及的所有事务。

2)方法二

通过设置slave_skip_errors参数, 直接设置跳过指定的错误。

在执行主备切换时, 有这么两类错误, 是经常会遇到的:

  • 1062错误是插入数据时唯一键冲突。
  • 1032错误是删除数据时找不到行。

因此, 我们可以把slave_skip_errors 设置为 “1032,1062”, 这样中间碰到这两个错误时就直接跳过。

注1:这种直接跳过指定错误的方法, 针对的是主备切换时, 由于找不到精确的同步位点, 所以只能采用这种方法来创建从库和新主库的主备关系。

注2:在主备切换过程中, 直接跳过1032和1062这两类错误是无损的, 所以才可以这么设置slave_skip_errors参数。 等到主备间的同步关系建立完成, 并稳定执行一段时间之后, 我们还需要把这个参数设置为空, 以免之后真的出现了主从数据不一致, 也跳过了。

GTID


通过sql_slave_skip_counter跳过事务和通过slave_skip_errors忽略错误的方法, 虽然都最终可以建立从库B和新主库A’的主备关系, 但这两种操作都很复杂, 而且容易出错。 所以, MySQL 5.6版本引入了GTID, 彻底解决了这个困难。

GTID的全称是Global Transaction Identifier, 也就是全局事务ID, 是一个事务在提交的时候生成的, 是这个事务的唯一标识。 它由两部分组成, 格式是:

GTID=server_uuid:gno

其中:

  • server_uuid是一个实例第一次启动时自动生成的, 是一个全局唯一的值.
  • gno是一个整数, 初始值是1, 每次提交事务的时候分配给这个事务, 并加1。

问:如何启用GTID模式?

答:在启动一个MySQL实例的时候,在配置文件中加上参数gtid_mode=on和enforce_gtid_consistency=on就可以了。

在GTID模式下, 每个事务都会跟一个GTID一一对应。 这个GTID有两种生成方式, 而使用哪种方式取决于session变量gtid_next的值。

1)如果gtid_next=automatic, 代表使用默认值。 这时, MySQL就会把server_uuid:gno分配给这个事务。

  • 记录binlog的时候, 先记录一行 SET@@SESSION.GTID_NEXT=‘server_uuid:gno’。
  • 把这个GTID加入本实例的GTID集合。

2)如果gtid_next是一个指定的GTID的值, 比如通过set gtid_next='current_gtid’指定为current_gtid, 那么就有两种可能:

  • 如果current_gtid已经存在于实例的GTID集合中, 接下来执行的这个事务会直接被系统忽略。
  • 如果current_gtid没有存在于实例的GTID集合中, 就将这个current_gtid分配给接下来要执行的事务, 也就是说系统不需要给这个事务生成新的GTID, 因此gno也不用加1。

这样, 每个MySQL实例都维护了一个GTID集合, 用来对应“这个实例执行过的所有事务”。

注:一个current_gtid只能给一个事务使用。 这个事务提交后, 如果要执行下一个事务, 就要执行set 命令, 把gtid_next设置成另外一个gtid或者automatic。

下面举一个例子来说明GTID的基本用法。假设在实例X中创建一个表t:

CREATE TABLE `t` (`id` int(11) NOT NULL,`c` int(11) DEFAULT NULL,PRIMARY KEY (`id`)
) ENGINE=InnoDB;into t values(1,1); 

 从上图中可以看到,事务的BEGIN之前有一条SET@@SESSION.GTID_NEXT命令。 这时, 如果实例X有从库, 那么将CREATE TABLE和insert语句的binlog同步过去执行的话, 执行事务之前就会先执行这两个SET命令, 这样被加入从库的GTID集合的, 就是图中的这两个GTID。

假设, 现在这个实例X是另外一个实例Y的从库, 并且此时在实例Y上执行了下面这条插入语句:

insert into t values(1,1);

并且, 这条语句在实例Y上的GTID是 “aaaaaaaa-cccc-dddd-eeee-ffffffffffff:10”。

问:实例X作为Y的从库, 要同步这个事务过来执行, 显然会出现主键冲突, 导致实例X的同步线程停止。 这时, 我们应该怎么处理呢?

解决方案:执行下面的语句序列:

set gtid_next='aaaaaaaa-cccc-dddd-eeee-ffffffffffff:10';
begin;
commit; 
set gtid_next=automatic; 
start slave;

前三条语句的作用, 是通过提交一个空事务, 把这个GTID加到实例X的GTID集合中。

执行完这个空事务之后,通过show master status查看结果:

可以看到实例X的Executed_Gtid_set里面, 已经加入了这个GTID。

这样, 再执行start slave命令让同步线程执行起来的时候, 虽然实例X上还是会继续执行实例Y传过来的事务, 但是由于“aaaaaaaa-cccc-dddd-eeee-ffffffffffff:10”已经存在于实例X的GTID集合中了, 所以实例X就会直接跳过这个事务, 也就不会再出现主键冲突的错误。

注:start slave命令之前还有一句set gtid_next=automatic。 这句话的作用是“恢复GTID的默认分配行为”, 也就是说如果之后有新的事务再执行, 就还是按照原来的分配方式, 继续分配gno=3。

基于GTID的主备切换


在GTID模式下, 备库B要设置为新主库A’的从库的语法如下:

CHANGE MASTER TO MASTER_HOST=$host_name MASTER_PORT=$port MASTER_USER=$user_name MASTER_PASSWORD=$password master_auto_position=1;

其中, master_auto_position=1就表示这个主备关系使用的是GTID协议。

注:GTID模式下,无需指定MASTER_LOG_FILE和MASTER_LOG_POS参数。

假设实例A’的GTID集合记为set_a, 实例B的GTID集合记为set_b。

在实例B上执行start slave命令, 取binlog的逻辑是这样的:

1)实例B指定主库A’, 基于主备协议建立连接。

2)实例B把set_b发给主库A’。

3)实例A’算出set_a与set_b的差集, 也就是所有存在于set_a, 但是不存在于set_b的GITD的集合, 判断A’本地是否包含了这个差集需要的所有binlog事务。

  • 如果不包含, 表示A’已经把实例B需要的binlog给删掉了, 直接返回错误。
  • 如果确认全部包含, A’从自己的binlog文件里面, 找出第一个不在set_b的事务, 发给B。

4)之后就从这个事务开始, 往后读文件, 按顺序取binlog发给B去执行。

这个逻辑里面包含一个设计思想:在基于GTID的主备关系里, 系统认为只要建立主备关系, 就必须保证主库发给备库的日志是完整的。 因此, 如果实例B需要的日志已经不存在, A’就拒绝把日志发给B。

注:这跟基于位点的主备协议不同。 基于位点的协议, 是由备库决定的, 备库指定哪个位点, 主库就发哪个位点, 不做日志的完整性判断。

问:GTID模式下,一主多从场景中,主备切换是如何实现的?

答:由于不需要人为找位点了,所以主备切换时,从库B、C、D分别执行change master命令,使其指向实例A‘即可。之后这个系统由新主库A’写入,主库A‘自己生成的binlog中的GTID集合格式为:server_uuid_of_A’:1-M。

如果之前从库B的GTID集合格式是 server_uuid_of_A:1-N, 那么切换之后GTID集合的格式就变成了server_uuid_of_A:1-N, server_uuid_of_A’:1-M。

注:主库A’之前也是A的备库, 因此主库A’和从库B的GTID集合是一样的。

GTID在线DDL


假设, 这两个互为主备关系的库还是实例X和实例Y, 且当前主库是X, 并且都打开了GTID模式。 这时的主备切换流程可以变成下面这样:

1)在实例X上执行stop slave。

2)在实例Y上执行DDL语句。 注意, 这里并不需要关闭binlog。

3)执行完成后, 查出这个DDL语句对应的GTID, 并记为 server_uuid_of_Y:gno。

4)到实例X上执行以下语句序列:

set GTID_NEXT="server_uuid_of_Y:gno"; 
begin;
commit; 
set gtid_next=automatic; 
start slave;

这样做的目的在于, 既可以让实例Y的更新有binlog记录, 同时也可以确保不会在实例X上执行这条更新。

5)接下来, 执行完主备切换, 然后照着上述流程再执行一遍即可。

小结:思考题


思考:在GTID模式下设置主从关系的时候, 从库执行start slave命令后, 主库发现需要的binlog已经被删除掉了, 导致主备创建不成功。 这种情况下, 你觉得可以怎么处理呢?

1)如果业务允许主从不一致的情况, 那么可以在主库上先执行show global variables like ‘gtid_purged’, 得到主库已经删除的GTID集合, 假设是gtid_purged1; 然后先在从库上执行reset master, 再执行set global gtid_purged =‘gtid_purged1’; 最后执行start slave, 就会从主库现存的binlog开始同步。 binlog缺失的那一部分, 数据在从库上就可能会有丢失, 造成主从不一致。

2)如果需要主从数据一致的话, 最好还是通过重新搭建从库来做。

3)如果有其他的从库保留有全量的binlog的话, 可以把新的从库先接到这个保留了全量binlog的从库, 追上日志以后, 如果有需要, 再接回主库。

4)如果binlog有备份的情况, 可以先在从库上应用缺失的binlog, 然后再执行start slave。

注1:在主库执行reset master命令会删除所有二进制文件,并创建新的二进制文件。

注2:在从库执行reset master命令会尝试删除从库的二进制文件。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/330509.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

网络传输层

叠甲:以下文章主要是依靠我的实际编码学习中总结出来的经验之谈,求逻辑自洽,不能百分百保证正确,有错误、未定义、不合适的内容请尽情指出! 文章目录 1.端口号的基础2.传输层两协议2.1.UDP 协议2.1.1.协议结构2.1.2.封…

【Vue2.x】props技术详解

1.什么是prop? 定义:组件标签上注册的一些自定义属性作用:向子组件传递数据特点 可以传递任意数量的prop可以传递任意类型的prop 2.prop校验 为了避免乱传数据,需要进行校验 完整写法 将之前props数组的写法,改为对象…

【软件测试】Selenium + Chrome UI自动化环境搭建

文章目录 自动化测试 Selenium Chrome 环境搭建1、下载Chrome 浏览器2、取消Chrome浏览器自动更新3、下载ChromeDriver4、测试环境是否搭建成功 自动化测试 Selenium Chrome 环境搭建 1、下载Chrome 浏览器 https://www.slimjet.com/chrome/google-chrome-old-version.php …

YOLOv8_seg的训练、验证、预测及导出[实例分割实践篇]

实例分割数据集链接,还是和目标检测篇一样,从coco2017val数据集中挑出来person和surfboard两类:链接:百度网盘 请输入提取码 提取码:3xmm 1.实例分割数据划分及配置 1.1实例分割数据划分 从上面得到的数据还不能够直接训练,需要按照一定的比例划分训练集和验证集,并按…

Linux信号:信号的保存

目录 一、信号在内核中的表示 二、sigset_t 2.1sigset_t的概念和意义 2.2信号集操作数 三、信号集操作数的使用 3.1sigprocmask 3.2sigpending 3.3sigemptyset 四、代码演示 一、信号在内核中的表示 实际执行信号的处理动作称为信号 递达(Delivery) 。 信号从产生到递达…

SpringCloud微服务03-微服务保护-分布式事务-MQ基础-MQ高级

一、微服务保护 1.雪崩问题 如何做好后备方案就是后续: 2.雪崩解决方案 某一个服务的线程是固定的,出现故障线程占满后,就不会让取调用这个服务,对其他服务就没有影响。 3.Sentinel ①初识Sentinel 配置过程:day05-服…

小短片创作-组装场景(一)

1、项目基础设置 通过第三人称模板,创建1个项目 1.自动曝光:关闭,因为要做专业的小短片,曝光需要手动控制。 2.扩展自动曝光中的默认亮度范围:启用 3.全局光照系统:选择屏幕空间光照(SSGI&am…

P2P服务端模型配合 Tool.net P2pServerAsync 类使用

Tool.Net 支持的 P2P 服务器模型实例 说明服务器部分相关代码相关调用实例Tcp版本Udp版本 最后附一张思维图 说明 当前文章,仅是Tool.Net 开源库的一个缩影。本次更新V5.0版本以上提供支持。可以提供简单实现P2P功能用于业务开发。 服务器部分相关代码 完整代码&…

远程PLC、工控设备异地调试,贝锐蒲公英异地组网方案简单高效

北京宇东宁科技有限公司专门提供非标机电设备,能够用于金属制品的加工制造。设备主要采用西门子的PLC作为控制系统,同时能够连接上位机用于产量、温度、压力、电机运行数据的监控,以及工厂的大屏呈现需求。目前,客户主要是市场上的…

画图工具之PlantUML插件使用

文章目录 1 PlantUML插件1.1 引言1.2 什么是PlantUML1.3 PlantUML插件1.3.1 IntelliJ IDEA中插件1.3.2 VS Code中插件1.3.3 使用例子 1.4 PlantUML时序图语法1.4.1 声明参与者1.4.2 消息传递1.4.2.1 同步消息1.4.2.2 异步消息1.4.2.3 返回消息1.4.2.4 自调用 1.4.3 生命线&…

allegro 无法删除Xnet

allegro 无法删除Xnet Orcad中打开Constraint Manager之后,再生成网表,导入PCB后就会出现一堆Xnet网络。无法去除Xnet。 解决办法 在原理图ORCAD中, 1、打开Edit Object properties 2、选择Filter by:Capture 3、点击New Property 4、设置…

自动化测试--利用pytest实现整条业务链路测试

​ 概述 前面一章讲解了单个接口的测试,但是实际项目中,因为权限和登录状态的限制,大部分接口没办法直接访问到,这时候我们想访问到一个系统的接口,就需要模拟用户登录拿到用户的token和所拥有的权限之后再将这些信息…

信号:MSK调制和GMSK调制

目录 一、MSK信号 1. MSK信号的第k个码元 2.MSK信号的频率间隔 3.MSK信号的相位连续性 3.1 相位路径 3.2初始相位ψk 4.MSK信号的产生 原理框图 5.MSK信号的频谱图 二、高斯最小频移键控(GMSK) 1.频率响应 2.GMSK调制产生方式 2.1 高斯滤波器法 2.2 正交调制器法…

Linux x86_64 UEFI 启动

文章目录 前言一、UEFI二、Disk device compatibility2.1 GPT 磁盘分区表2.1.1 简介2.1.2 Linux 2.2 ESP(EFI) 文件系统2.2.1 简介2.2.2 LinuxLinux Kernel EFI Boot Stub 三、UEFI GPT grub23.1 简介3.2 引导方式 3.3 BOOTX64.EFI3.4 shimx64.efi3.5 …

OpenMV学习笔记1——IDE安装与起步

目录 一、OpenMV IDE下载 二、OpenMV界面 三、Hello World! 四、将代码烧录到OpenMV实现脱机运行 五、插SD卡(为什么买的时候没送?) 一、OpenMV IDE下载 浏览器搜索OpenMV官网,进入后点击“立即下载”&#xff0…

市面上前 11 名的 Android 数据恢复软件

Android数据恢复软件是恢复无意中删除的文件或文件夹的必要工具。该软件还将帮助您恢复丢失或损坏的信息。本文介绍提供数据备份和磁盘克隆选项的程序,这些选项有助于在Android设备上恢复文件的过程。 如果您正在寻找一种有效的方法来恢复图像,文档&…

day16|二叉树的属性

相关题目 ● 104.二叉树的最大深度 559.n叉树的最大深度 ● 111.二叉树的最小深度 ● 222.完全二叉树的节点个数 二叉树的深度与高度 如图, 二叉树的深度表示:任意一个叶子节点到根节点的距离,是从上往下计数的,因此使用前序遍历…

2024-5-24 石群电路-15

2024-5-24,星期五,22:15,天气:晴,心情:晴。今天最后一天上班,终于要放返校假啦,开心!!!!!!不过放假也不能耽误…

第2天 搭建安全拓展_小迪网络安全笔记

1.常见搭建平台脚本使用: 例如 phpstudy IIS Nginx(俗称中间件): 什么是中间件: 中间件是介于应用系统和系统软件之间的一类软件,它使用系统软件所提供的基础服务(功能),衔接网络上应用系统的各个部分或不同的应用&#…

汇编语言(STC89C52)

指令是计算机计算CPU根据人的意图来执行某种操作的命令。一台计算机所执行的全部指令的集合,称为这个CPU的指令系统。而想要使计算机按照人们的要求完成一项工作,就必须让CPU按顺序执行预设的操作,即逐条执行人们编写的指令。这种按照人民要求…