Redis分布式系统: 主从复制

 “你小心保管我,不思议的念头。秘密从不会对谁泄漏~”


什么是分布式系统?

        分布式系统的出现,就是为了解决单机问题(硬件资源不足)。在分布式系统中,通常会把数据复制多个副本部署到其他服务器,满⾜故障恢复和负载均衡等需求。

        分布式系统中,往往会在多个服务器上部署redis服务,从而构成一个redis集群。此时,就可以让这个redis集群,为整个分布式的服务器提供更加稳定、高效的数据存储功能。

       

redis部署方式:

        在分布式系统中,希望使用多个服务器来部署redis,存在以下的几种方式部署redis服务:

○ 主从模式

○ 主从+哨兵模式

○ 集群模式


什么是主从模式?

        可以把每个服务器上的redis服务看成是一个节点。在这些若干节点中,有些是“主节点”,其他的为“从节点”。

        假设现在有3个物理服务器,我们在这3个物理服务器上分别部署3个redis服务。此时,我们可以把其中的一个redis服务当成“主节点”,另外两个就当成“从节点”。“从节点”必须得听“主节点”的。(从节点的数据,需要跟随主节点的数据的变化而变化。始终与主节点的数据保持一致)。

                

        也许你会说,如果针对了从节点的数据进行了修改,那么主节点又该怎么办?实际上,如果我修改了从节点的数据,就和主节点的数据不一致了,我们是否应该把从节点的数据同步到主节点上呢?答案是否定的!

        Redis的主从模式中,“从节点上的数据只允许读取,但不允许修改!”        

主从模式的特点:

        所以,更准确地来说,主从模式主要还是优化保证的是: “读操作”的高并发、可用性。而写操作,无论是高并发、可用性都是十分依赖主节点的。实际场景中,读操作往往也比写操作频繁。

       另外,如果主从模式中的从节点出现问题,挂掉了,对整个系统影响很小。当这个从节点重新恢复时,可以再从主节点同步、获取数据。但,如果是主节点挂掉了,还是有一定的影响。因为从节点只能读取,而不能写入,如果需要写入数据,那么可能就会发生错误。

        当然,能不能出现多个主节点呢?那就不怕主节点挂掉了。可是,这又会引入一个它们之间“数据又该如何同步”的问题。


如何建立主从复制?

        正常来说,每个redis都需要部署在单独的物理机器上。但,对于学生党来说,可能只有一台服务器。但这并不意味着我们不能模拟主从结构。

        我们可以在一台云服务器上启动多个redis-server用来模拟多个redis服务。本来,redis-server默认的端口号为6379,因为我们需要在一台云服务器上启动多个redis-server,它们需要bind不同的端口号。

        所以,我们需要更改原先的redis-server启动的配置文件,直接在配置文件中修改port即可。

注: 我们还需要开启守护进程:

        修改完这些配置后,我们就可以在同一台服务器上启动redis-server。       

配置主从结构 

        要想配置主从结构,就需要使用slaveof

1. 在配置文件中加入 salveof {masterHost} {masterPort} 生效。

2. 在redis-server 命令启动时 加入 --salveof {masterHost} {masterPort} 生效。

3. 直接使用redis命令: salveof {masterHost} {masterPort} 生效。

        因为后两个方法不是"永久的",所以我们还是选择在配置文件上做这个事情。此处让6379为主节点,6380、6381为从节点。

        修改完配置文件后,我们需要重启redis才能生效配置文件。

注:

主从连接状况:

        我们再重新启动服务后,如何确定主从结构已经确立呢? 这时候需要查看网络连接状况:

        其中redis从节点和主节点之间会建立一个tcp连接,主节点此时就相当于服务器,从节点就相当于客户端。而所谓的数据同步,当主节点产生了任何数据更改,从节点就可以根据这个tcp连接获取到更改的信息。

        主从节点通过TCP网络来进行数据同步、数据传输,TCP内部支持Nagle算法(默认开启)。

开启: 增加TCP传输延迟,节省网络带宽。

关闭: 降低TCP传输延迟,增加网络带宽。

        我们可以通过关闭这个选项,从节点能够更快速地与主节点同步。

主从节点信息

        我们如何区分主从节点呢?redis提供 “info" 命令可以让程序员观察节点信息:

        其中的有些重要信息,我们会在之后细讲。 

断开主从连接

        slaveof no one (直接在redis命令中敲就行了)。一旦一个节点断开与主节点的从属关系,那么这个从节点就不再属于主节点了,但其中已有的数据是会被保留的。后续,主节点的任何操作也不会同步到该从节点上了。

         

主从模式拓扑

① ⼀主⼀从结构

        ⼀主⼀从结构是最简单的复制拓扑结构。

② ⼀主多从结构

        ⼀主多从结构使得应⽤端可以利⽤多个从节点实现读写分离。对于读⽐重较⼤的场景,可以把读命令负载均衡到不同的从节点上来分担压⼒。

③ 树形主从结构

        树形主从结构使得从节点不但可以复制主节点数据,同时可以作为其他从节点的主节点继续向下层复制。

        


主从复制原理

建立复制流程

数据同步psync

        Redis使⽤psync命令完成主从数据同步,同步的方式有两种: 全量复制和部分复制

○ 全量复制:⼀般⽤于初次复制场景,Redis早期⽀持的复制功能只有全量复制,它会把主节点全部数据⼀次性发送给从节点,当数据量较⼤时,会对主从节点和⽹络造成很⼤的开销。

○ 部分复制:⽤于处理在主从复制中因⽹络闪断等原因造成的数据丢失场景,当从节点再次连上主节点后,如果条件允许,主节点会补发数据给从节点。因为补发的数据远⼩于全量数据,可以有效避免全量复制的过⾼开销。

# PSYNC的语法格式
PSYNC replicationid offset

        要实现数据同步,我们得知道要从谁身上同步吧,又因为数据同步分为全量复制和部分复制,我总得知道从哪里开始复制起走吧。

replication id

        这是由主节点自动生成的,当从节点与主节点建立复制关系时,就会从主节点那边获取到这个replication id。

 

          我是找到了复制谁的数据,那我现在应该从哪里开始复制起走呢? 

offset

        参与复制的主从节点都会维护⾃⾝复制偏移量,主节点在处理完写⼊命令后,会把命令的字节⻓度做累加记录,统计信息在inforeplication中的master_repl_offset指标中。从节点在接受到主节点发送的命令后,也会累加记录⾃⾝的偏移量。统计信息在inforeplication中的
slave_repl_offset指标中。

        我们可以根据从节点的偏移量,获取到从节点同步进度。

        因此,replication id 和offset 共同描述了一组数据集合。如果这两台机器上的replication id、offset都是一样的,那么就可以认为这两台机器上存储的数据也是一样的。

replication id2

        一般情况下,replication id2是用不上的。一个主节点A自动生成replication id,它的从节点B也会在建立连接时,获取到这个主节点A的replication id。

        如果A和B通信中发生了网络抖动,此时从节点B认为主节点A已经挂了 ,B就会自动生成一个replication id,但B仍然会记得之前的主节点A的replication id,并把它保存在replication id2中。

        就像这样:

psync运⾏流程

1) 从节点发送psync命令给主节点:offset写作-1 表示全量复制,写作具体正整数 就是按偏移量复制。

2) 主节点根据psync参数和⾃⾝数据情况决定响应结果:

○ “+FULLRESYNC”,则从节点需要进⾏全量复制流程。

○ “+CONTINEU”,从节点进⾏部分复制流程。

○ "-ERR",不支持"psync",从节点可以使⽤sync命令进⾏全量复制。(sync会塞redisserver处理其他请求.psync则不会)

        

全量复制 vs 部分复制

啥时候选择进行 全量复制\部分复制?      

全量复制:

① 首次和主节点进行数据同步

② 主节点不方便进行部分复制时

部分复制:

① 从节点同步过主节点的数据,因为别的原因 从节点重启了。

② 从节点需要重新同步主节点数据,看看能不能只同步一小部分。

全量复制流程:

        在主节点将RDB文件生成到接收的期间,这时候可能存在其他客户端发来的命令,这些命令会被写入到缓冲区中,并且也会以RDB文件重新发送给从节点,保持主从节点的一致性。

有磁盘复制vs⽆磁盘复制(diskless)

        也许你会认为,生成RDB文件压根不需要这步操作。因为主节点生成的RDB二进制数据,完完全全可以直接发送,而不是先要保存持久化到磁盘上!

        同样,从节点在写入时,也不用把收到的RDB数据写入到磁盘中,再进行加载。这样便省略了磁盘IO的过程。

        但,即便是引入了无磁盘模式,操作全量数据仍然是十分耗时的,因为网络传输是没发省的!相比于网络传输,磁盘IO还是很快的。

部分复制流程:

        从节点要选择从主节点这里进行全量复制,开销是很大的。很多时候,从节点本身就持有主节点的大量数据,压根就不需要再进行全量复制,只需要复制部分缺失数据即可。

        psync带有 replid id 和 offset值,主节点就要根据psync的参数判定当前同步的策略是全量复制还是部分复制。

        如果当前从节点需要的数据,已经超出了主节点的积压缓冲区的范围,则⽆法进⾏部分复制,只
全量复制了。
 

实时复制

        主从节点在建⽴复制连接后,主节点会把⾃⼰收到的修改操作,通过tcp⻓连接的⽅式,,源源不断的传输给从节点。从节点就会根据这些请求来同时修改⾃⾝的数据.从⽽保持和主节点数据的⼀致性。        


主从复制缺点

        主从复制的最大问题还是在于主节点上。一旦主节点挂掉,从节点就显得无所适从,只能进行读操作,但不能进行写操作。如果要想让从节点晋升为主节点需要程序员进行维护,这是十分繁琐的。

        redis主从节点断开的情况有两种:
① 使用salveof no one 这个时候节点会自动晋升为主节点,我们演示过。

② 主节点直接挂了。这个时候需要人工的方式 让从节点晋升为主节点,或者恢复主节点。     


本篇到此结束,感谢你的阅读。

祝你好运,向阳而生~

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/152581.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

账户权限

目录 1. 文件的一般权限 1.1. 文件详细信息 1.2. 文件权限构成 示例: 1.3. chmod命令 1.3.1. 参数 示例: 扩展:隐藏权限(chattr a) 1.4. chown命令 示例: 2. 特殊权限 2.1. 概述 2.2. SUID权限 2.3. SGID 权限 2.4…

科技云报道:联络中心效能与体验齐飞,容联云AICC是如何做到的?

科技云报道原创。 AI与大模型为千行万业带来的进化与改造,远比想象来得更加猛烈。作为数字化升级改造的核心场景之一,联络中心在AI与大模型加持下,正在从基础云通讯迈入智能化的3.0时代。 身处行业智能化浪潮之中,容联云AICC作为…

简易版Pycharm(2023)+Conda开发环境配置教程

困 扰 不知道为什么,自从Pycharm更新了新的版本以后,在Pycharm中为项目工程配置Python解释器环境时,总是不能像以前那么方便。 比如,当前Conda中有十个不同的开发环境,每个环境一个名称,比如,p…

LLMs 蒸馏, 量化精度, 剪枝 模型优化以用于部署 Model optimizations for deployment

现在,您已经了解了如何调整和对齐大型语言模型以适应您的任务,让我们讨论一下将模型集成到应用程序中需要考虑的事项。 在这个阶段有许多重要的问题需要问。第一组问题与您的LLM在部署中的功能有关。您需要模型生成完成的速度有多快?您有多…

数据结构———— 堆

(一)基础补充 满二叉树是每一层节点都放满的二叉树。 完全二叉树是只有最后一层节点右边不放满的二叉树。 满二叉树(Perfect Binary Tree) 如果二叉树中除了叶子结点,每个结点的度都为 2,则此二叉树称为满二叉树。另一种说法:一个深度为k(>=-1)且有2^(k+1) - 1个结…

一种重要的天然氨基酸L-Homopropargylglycine(HPG)|CAS:942518-19-6

产品简介:L-Homopropargylglycine是一种重要的天然氨基酸,具有多种生物活性和医学应用价值。它广泛应用于生物学、药学、化学等多个领域。在生物学中,HPG被用作蛋白质合成的标记物,可以通过其特殊的化学反应与蛋白质中的半胱氨酸残…

Rocky(centos)安装nginx并设置开机自启

一、安装nginx 1、安装依赖 yum install -y gcc-c pcre pcre-devel zlib zlib-devel openssl openssl-devel 2、去官网下载最新的稳定版nginx nginx: downloadhttp://nginx.org/en/download.html 3、将下载后的nginx上传至/usr/local下 或者执行 #2023-10-8更新 cd /usr/…

图像分割-Segment Anything实践

一、模型介绍 Segment Anything 模型是一种新的图像分割模型,它可以在不需要大量标注数据的情况下,对图像中的任何物体进行分割。这种方法可以帮助计算机视觉领域的研究人员和开发人员更轻松地训练模型,从而提高计算机视觉应用程序的性能。该…

线段树基本原理和操作

线段树的一些基本操作和原理: 由二分的思想而来,一段区间划分,实现大量数据的查询删除O(log(n)) 线段树(英语:Segment tree)是一种二叉树形数据结构,1977年由Jon Louis Bentley发明&#xff0…

【网络安全---XSS漏洞(1)】XSS漏洞原理,产生原因,以及XSS漏洞的分类。附带案例和payload让你快速学习XSS漏洞

以pikachu靶场为例子进行讲解,pikachu靶场的搭建请参考以下博客; 【网路安全 --- pikachu靶场安装】超详细的pikachu靶场安装教程(提供靶场代码及工具)_网络安全_Aini的博客-CSDN博客【网路安全 --- pikachu靶场安装】超详细的pi…

设计模式——Decorator(装饰器模式)

Decorator(装饰器模式) 目的: 动态地给一个对象添加一些额外的职责。 适用性: 在不影响其他对象的情况下,以动态、透明的方式给单个对象添加职责。 简单解释 当有一个已经完成的系统,其中类和对象的关系的错综复杂的&#x…

【【萌新的SOC学习之小水文系列】】

萌新的SOC学习之小水文系列 SD卡读写TXT文本实验 SD 卡共有 9 个引脚线,可工作在 SDIO 模式或者 SPI 模式。在 SDIO 模式下,共用到 CLK、CMD、DAT[3:0]六根信号线;在 SPI 模式下,共用到 CS(SDIO_DAT[3])、…

leetcode:2427. 公因子的数目(python3解法)

难度:简单 给你两个正整数 a 和 b ,返回 a 和 b 的 公 因子的数目。 如果 x 可以同时整除 a 和 b ,则认为 x 是 a 和 b 的一个 公因子 。 示例 1: 输入:a 12, b 6 输出:4 解释:12 和 6 的公因…

016 Spring Boot + Vue 图书管理系统

Spring Boot Vue 图书馆管理系统(library-system) 本地快捷预览项目 第一步:运行 db 文件夹下的springboot-vue.sql(询问作者获取),创建springboot-vue数据库 第二步:修改后端数据库配置文件,启动后端 …

OpenCV防抖实践及代码解析笔记

视频防抖是指用于减少摄像机运动对最终视频的影响的一系列方法。摄像机的运动可以是平移(比如沿着x、y、z方向上的运动)或旋转(偏航、俯仰、翻滚)。 正如你在上面的图片中看到的,在欧几里得运动模型中,图像…

opencv图像的直方图,二维直方图,直方图均衡化

文章目录 opencv图像的直方图,二维直方图,直方图均衡化一、图像的直方图1、什么是图像的直方图:2、直方图的作用:3、如何绘制图像的直方图:(1)cv::calcHist()函数原型:英文单词 calc…

【C/C++】结构体内存分配问题

规则1:以多少个字节为单位开辟内存 就是说,该结构体最终所占字节大小,是这个单位的整数倍 给结构体变量分配内存的时候,会去结构体变量中找基本类型的成员 哪个基本类型的成员占字节数多,就以它大大小为单位开辟内存 …

【刷题】只出现一次的数字(三种解法)

【刷题】只出现一次的数字 文章目录 【刷题】只出现一次的数字解法异或运算解法一 : 异或运算解法二:集合类Set集合Map集合 链接: https://www.nowcoder.com/share/jump/2008263481696810321082 https://leetcode.cn/problems/single-number/description/ 题目描述 给定一个整…

[PyTorch][chapter 57][WGAN-GP 代码实现]

前言: 下图为WGAN 的效果图: 绿色为真实数据的分布: 8个高斯分布 红色: 为随机产生的数据分布,跟真实分布基本一致 WGAN-GP: 1 判别器D: 最后一层去掉sigmoid 2 生成器G 和判别器D: loss不取log 3 损失函数…

讲讲项目里的仪表盘编辑器(四)分页卡和布局容器组件

讲讲两个经典布局组件的实现 ① 布局容器组件 配置面板是给用户配置布局容器背景颜色等属性。这里我们不需要关注 定义文件 规定了组件类的类型、标签、图标、默认布局属性、主文件等等。 // index.js import Container from ./container.vue; class ContainerControl extends…