Redis中的主从/Redis八股

四、Redis主从

1.搭建主从架构

在这里插入图片描述

  • 不像是负载均衡,这里是主从,是因为redis大多数是读少的是写

  • 步骤

    1. 搭建实例(建设有三个实例,同一个ip不同端口号)

      1)创建目录

      我们创建三个文件夹,名字分别叫7001、7002、7003:

      # 进入/tmp目录
      cd /tmp
      # 创建目录
      mkdir 7001 7002 7003
      

      2)恢复原始配置

      修改redis-6.2.4/redis.conf文件,将其中的持久化模式改为默认的RDB模式,AOF保持关闭状态。

      # 开启RDB
      # save ""
      save 3600 1
      save 300 100
      save 60 10000# 关闭AOF
      appendonly no
      

      3)拷贝配置文件到每个实例目录

      然后将redis-6.2.4/redis.conf文件拷贝到三个目录中(在/tmp目录执行下列命令):

      # 方式一:逐个拷贝
      cp redis-6.2.4/redis.conf 7001
      cp redis-6.2.4/redis.conf 7002
      cp redis-6.2.4/redis.conf 7003# 方式二:管道组合命令,一键拷贝
      echo 7001 7002 7003 | xargs -t -n 1 cp redis-6.2.4/redis.conf
      

      4)修改每个实例的端口、工作目录

      修改每个文件夹内的配置文件,将端口分别修改为7001、7002、7003,将rdb文件保存位置都修改为自己所在目录(在/tmp目录执行下列命令):

      sed -i -e 's/6379/7001/g' -e 's/dir .\//dir \/tmp\/7001\//g' 7001/redis.conf
      sed -i -e 's/6379/7002/g' -e 's/dir .\//dir \/tmp\/7002\//g' 7002/redis.conf
      sed -i -e 's/6379/7003/g' -e 's/dir .\//dir \/tmp\/7003\//g' 7003/redis.conf
      

      5)修改每个实例的声明IP

      虚拟机本身有多个IP,为了避免将来混乱,我们需要在redis.conf文件中指定每一个实例的绑定ip信息,格式如下:

      # redis实例的声明 IP
      replica-announce-ip 192.168.202.132
      

      6)每个目录都要改,我们一键完成修改(在/tmp目录执行下列命令):

      # 逐一执行
      sed -i '1a replica-announce-ip 192.168.150.101' 7001/redis.conf
      sed -i '1a replica-announce-ip 192.168.150.101' 7002/redis.conf
      sed -i '1a replica-announce-ip 192.168.150.101' 7003/redis.conf# 或者一键修改
      printf '%s\n' 7001 7002 7003 | xargs -I{} -t sed -i '1a replica-announce-ip 192.168.150.101' {}/redis.conf
      
    2. 启动

      # 第1个
      redis-server 7001/redis.conf
      # 第2个
      redis-server 7002/redis.conf
      # 第3个
      redis-server 7003/redis.conf
      

      停止

      printf '%s\n' 7001 7002 7003 | xargs -I{} -t redis-cli -p {} shutdown
      
    3. 开启主从

      slaveof <masterip> <masterport># 查看状态
      info replication
      

2.数据同步原理

  1. 主从第一次同步是全量同步:

    • 通过rdb文件传输

    • 通过内存产生快照,并在子进程生成RDB的时候,主进程把新的指令写入repl_baklog中,后续发送给slave,方便同步最新数据。

    • 因为是一次全部同步,数据量会很大,速度会慢

    • 在这里插入图片描述

    • replication buffer是直接传输给slave的缓存,是只有多个的,详情可以在增量同步中理解(这里和黑马的不一样,比黑马的详细)

      在这里插入图片描述

  2. master如何知道slave是第一次同步?

    • 通过Replication :简称replid,是数据集的标记,id一致则说明是同一数据集。每一个master都有唯一的replid

    • offset:偏移量,随着记录在repl baklog中的数据增多而逐渐增大。slave完成同步时也会记录当前同步的offset。
      如果slave的offset小正master的offset,说明slave数据落后于master,需要更新。

      因此slave做数据同步,必须向master声明自己的replicationid和offset,master才可以判断到底需要同步哪些数据

      在这里插入图片描述

  3. 总结

    在这里插入图片描述

3.增量同步

  • 流程

  • 在这里插入图片描述

    在这里插入图片描述

    • repl_baklog是一个数组,环形数组,记录对应子节点的传输进度,所以所有多个的

    • replication buffer是直接传输给slave的缓存,是有多个的。

    • slave和matser相差太大,就无法同步了

      在这里插入图片描述

      在这里插入图片描述

      在这里插入图片描述

      快记满,把尚未备份的数据给覆盖了,就无法增量同步了,只能去做全量同步

  1. 优化Redis主从同步

    • 在master中配置repl-diskless-sync yes启用无磁盘复制,避免全量同步时的磁盘IO

      redis.conf中操作,正常是在磁盘IO流中写rdb文件然后再发到网络的IO流中。无磁盘复制就算不在磁盘中写直接在网络IO流里写,然后发。

      传统复制方式:

      内存数据 -> 写入磁盘(RDB文件) -> 读取磁盘 -> 网络发送
      

      无磁盘复制方式:

      内存数据 -> 直接写入网络流(RDB格式)
      
      1. 传统方式中:
        • RDB文件在磁盘上是完整的,读取时可以用较大的块进行读取
        • 网络发送时可以更好地控制发送速度和缓冲
      2. 无磁盘复制时:
        • Redis需要一边生成RDB格式数据,一边往网络写
        • 如果网络写入速度跟不上RDB生成速度,数据会在内存中积压
        • 网络传输如果出现波动或延迟,没有磁盘作为缓冲,整个过程就会变得不稳定

      打个比方:

      • 传统方式就像是先把货物打包好放在仓库(磁盘),需要时直接整车发送
      • 无磁盘方式则像是生产线直接往车上装货,如果道路堵车,货物就会在生产线上积压
    • Redis单节点上的内存占用不要太大,减少RDB导致的过多磁盘IO

    • 适当提高repl baklog的大小,发现slave宕机时尽快实现故障恢复,尽可能避免全量同步

    • 限制一个master上的slave节点数量,如果实在是太多slave,则可以采用主-从-从链式结构,减少master压力

      在这里插入图片描述

  2. 总结

    在这里插入图片描述

4.replication buffer 和 repl backlog buffer 的区别

  1. replication buffer

    因为不同的从节点同步速度不一样,主节点会为每个从节点都创建一个replication buffer,它用于实时传输写命令,且大小是动态的,因为对于同步速度较慢的从服务器,需要更多的内存来缓存数据。
    虽说 replication buffer 没有明确的大小限制,但是可以通过 client-output-buffer-1imit 间接控制,该参数可以设置不同类型客户端(普通、从服务器、发布订阅)的输出缓冲区限制。当缓)中区大小超过限制时,Redis 会断开与客户端(从节点其实就是一个客户端)的连接。
    client-output-buffer-limit slave 256mb 64mb 60
    上述配置表示,如果从服务器的输出缓,中区大小超过 256 MB 或超过 64 MB 的时间达到 60s,Redis 将断开与从服务器的连接

  2. repl backlog buffer
    repl_backlog_buffer 在主节点上只有一个,存储最近的写命令,用于从服务器重新连接时进行部分重同步

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/503555.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Mysql--基础篇--函数(字符串函数,日期函数,数值函数,聚合函数,自定义函数及与存储过程的区别等)

MySQL提供了丰富的内置函数&#xff0c;涵盖了字符串处理、数值计算、日期和时间操作、聚合统计、控制流等多种功能。这些函数可以帮助你简化SQL查询&#xff0c;提升开发效率。 除了内置函数&#xff0c;MySQL还支持自定义函数&#xff08;User-Defined Functions&#xff09;…

【linux系统之redis6】redis的安装与初始化

下载redis的linux对应的安装包&#xff0c;并上传到linux虚拟机里面 解压压缩包 tar -zxzf redis-6.2.6.tar.gz解压后&#xff0c;进入redis文件 cd redis-6.2.6执行编译 make && make install看到下图&#xff0c;就说明redis安装成功了 默认的安装路径&#xff0c…

怎么管理电脑usb接口,分享四种USB端口管理方法

怎么管理电脑usb接口&#xff0c;分享四种USB端口管理方法 USB接口作为电脑重要的外部接口&#xff0c;方便了数据传输和设备连接。 然而&#xff0c;不加管理的USB接口也可能带来安全隐患&#xff0c;例如数据泄露、病毒传播等。 因此&#xff0c;有效管理电脑USB接口至关重…

[开源]自动化定位建图系统

系统状态机&#xff1a; 效果展示&#xff1a; 1、 机器人建图定位系统-基础重定位&#xff0c;定位功能演示 2、 机器人建图定位系统-增量地图构建&#xff0c;手动回环检测演示 3、… 开源链接&#xff1a; https://gitee.com/li-wenhao-lwh/lifelong-backend Qt人机交互…

重新整理机器学习和神经网络框架

本篇重新梳理了人工智能&#xff08;AI&#xff09;、机器学习&#xff08;ML&#xff09;、神经网络&#xff08;NN&#xff09;和深度学习&#xff08;DL&#xff09;之间存在一定的包含关系&#xff0c;以下是它们的关系及各自内容,以及人工智能领域中深度学习分支对比整理。…

PyTorch 框架实现线性回归:从数据预处理到模型训练全流程

系列文章目录 01-PyTorch新手必看&#xff1a;张量是什么&#xff1f;5 分钟教你快速创建张量&#xff01; 02-张量运算真简单&#xff01;PyTorch 数值计算操作完全指南 03-Numpy 还是 PyTorch&#xff1f;张量与 Numpy 的神奇转换技巧 04-揭秘数据处理神器&#xff1a;PyTor…

Elasticsearch:优化的标量量化 - 更好的二进制量化

作者&#xff1a;来自 Elastic Benjamin Trent 在这里&#xff0c;我们解释了 Elasticsearch 中的优化标量量化以及如何使用它来改进更好的二进制量化 (Better Binary Quantization - BBQ)。 我们的全新改进版二进制量化 (Better Binary Quantization - BBQ) 索引现在变得更强大…

科普CMOS传感器的工作原理及特点

在当今数字化成像的时代&#xff0c;图像传感器无疑是幕后的关键 “功臣”&#xff0c;它宛如一位神奇的 “光影魔法师”&#xff0c;通过光电效应这一奇妙的物理现象&#xff0c;将光子巧妙地转换成电荷&#xff0c;为图像的诞生奠定基础。而在众多类型的图像传感器中&#xf…

IDEA中Maven依赖包导入失败报红的潜在原因

在上网试了别人的八个问题总结之后依然没有解决&#xff1a; IDEA中Maven依赖包导入失败报红问题总结最有效8种解决方案_idea导入依赖还是报红-CSDN博客https://blog.csdn.net/qq_43705131/article/details/106165960 江郎才尽之后突然想到一个原因&#xff1a;<dep…

Java100道面试题

1.JVM内存结构 1. 方法区&#xff08;Method Area&#xff09; 方法区是JVM内存结构的一部分&#xff0c;用于存放类的相关信息&#xff0c;包括&#xff1a; 类的结构&#xff08;字段、方法、常量池等&#xff09;。字段和方法的描述&#xff0c;如名称、类型、访问修饰符…

虚表 —— 隐藏行(简单版)

因为隐藏行改变了listview内部行号处理机制&#xff0c;需要处理大量细节&#xff0c;如listview内部用于传递行号的各种消息、通知等、封装的各种读取行号的函数等。 所以在工作量很大&#xff0c;一处纰漏可能导致重大bug的情况下&#xff0c;仅对隐藏行功能进行了简单封装&…

UDP -- 简易聊天室

目录 gitee&#xff08;内有详细代码&#xff09; 图解 MessageRoute.hpp UdpClient.hpp UdpServer.hpp Main.hpp 运行结果&#xff08;本地通信&#xff09; 如何分开对话显示&#xff1f; gitee&#xff08;内有详细代码&#xff09; chat_room zihuixie/Linux_Lear…

python制作翻译软件

本文复刻此教程&#xff1a;制作属于自己的翻译软件-很简单【Python】_哔哩哔哩_bilibili 一、明确需求&#xff08;以搜狗翻译为例&#xff09; &#xff08;1&#xff09;网址&#xff1a;https://fanyi.sogou.com/text &#xff08;2&#xff09; 数据&#xff1a;翻译内容…

uni-app 资源引用(绝对路径和相对路径)方法汇总

文章目录 一、前言&#x1f343;二、绝对路径和相对路径2.1 绝对路径2.2 相对路径 三、引用组件四、引用js4.1 js 文件引入4.2 NPM支持 五、引用css六、引用json6.1 json文件引入 七、引用静态资源7.1 模板内引入静态资源7.2 css 引入静态资源7.3 js/uts 引入静态资源7.4 静态资…

在 ASP.NET CORE 中上传、下载文件

创建 Web API 来提供跨客户端和服务器的文件上传和下载是常有的事。本文将介绍如何通过 ASP.NET CORE 来实现。 首先在 Visual Studio 中创建空的 Web API 项目&#xff0c;然后选择目标框架 .Net Core 3.1。 创建名为 FileController 的控制器&#xff0c;提供操作文件的接口…

基于 GEE Sentinel-1 数据集提取水体

目录 1 水体提取原理 2 完整代码 3 运行结果 1 水体提取原理 水体提取是地理信息和遥感技术的关键应用之一&#xff0c;对于多个领域都具有重要的应用价值。它有助于更好地管理水资源&#xff0c;保护环境&#xff0c;减少灾害风险&#xff0c;促进可持续发展&#xff0c;以…

微信小程序获取图片使用session(上篇)

概述&#xff1a; 我们开发微信小程序&#xff0c;从后台获取图片现实的时候&#xff0c;通常采用http get的方式&#xff0c;例如以下代码 <image class"user_logo" src"{{logoUrl}}"></image>变量logoUrl为ur图片l的请求地址 但是对于很多…

新年感悟:2025年1月7日高铁随想

2025年1月7日&#xff0c;乘坐在从珠海去广州南的C7676高铁上&#xff0c;突然悟明白两个事情。 首先&#xff0c;不管学习任何东西&#xff0c;总结是一个非常关键的经验。以前&#xff0c;总是幻想着能找到一本书&#xff0c;或者一个特别优秀的老师&#xff0c;仅仅通过看看…

centOS7

特殊权限 set_uid 赋予所有者身份 chmod us 文件 set_gid 赋予所有组身份 chmod gs 文件/目录 sticky_bit 防火墙 firewall-cmd 开启端口 firewall-cmd --zonepublic --add-port8080/tcp --permanent 重启防火墙 systemctl restart firewalld 查看开启的所有端口 fi…

Hbuilder ios 离线打包sdk版本4.36,HbuilderX 4.36生成打包资源 问题记录

1、打包文档地址https://nativesupport.dcloud.net.cn/AppDocs/usesdk/ios.html#%E9%85%8D%E7%BD%AE%E5%BA%94%E7%94%A8%E7%89%88%E6%9C%AC%E5%8F%B7 2、配置应用图标 如果没有appicon文件&#xff0c;此时找到 Assets.xcassets 或者 Images.xcassets(看你sdk引入的启动文件中…