ZK高可用架构涉及常用功能整理

ZK高可用架构涉及常用功能整理

  • 1. zk的高可用系统架构和相关组件
    • 1.1 Quorum机制
    • 1.2 ZAB协议
  • 2. zk的核心参数
    • 2.1 常规配置
    • 2.2 特殊优化配置
  • 3. zk常用命令
    • 3.1 常用基础命令
    • 3.2 常用运维命令
  • 4. 事务性
    • 4.1 数据写流程
    • 4.2 数据读流程
  • 5. 疑问和思考
    • 5.1 zk不擅长处理哪些场景？
  • 6. 参考文档

探讨zk的系统架构以及以及整体常用的命令和系统分析，本文主要探讨高可用版本的zk集群，并基于日常工作中的沉淀进行思考和整理。更多关于分布式系统的架构思考请参考文档关于常见分布式组件高可用设计原理的理解和思考

1. zk的高可用系统架构和相关组件

zk在产品设计上，面对的存储数据量比较小，一台zk机器就能够满足数据的存储需求，因此在集群的架构设计上，使用镜像模式进行数据高可用，通过ZAB 协议进行选举leader，从而满足集群的高可用和数据一致性要求。

zk的系统架构如下

在这里插入图片描述

zk的数据模型，呈现树形，类似linux的文件目录系统。在这里插入图片描述

相关核心的组件和角色作用如下

角色数量角色作用备注
Leader有且必须只有1个它会发起并维护与各Follwer及Observer间的心跳，所有的写操作必须要通过Leader完成再由Leader将写操作广播给其它服务器通过内部选举选择出leader
Follower多个会响应Leader的心跳，可直接处理并返回客户端的读请求，同时会将写请求转发给Leader处理，并且负责在Leader处理写请求时对请求进行投票和Observer统称为Learner
Observer多个作用跟Follow相同，但是没有投票权和Follower统称为Learner

在这里插入图片描述

1.1 Quorum机制

Quorum机制（有效个数）模式：指分布式系统的每一次修改都要在大多数（超过半数）实例上通过来确定修改通过。

产生Quorum机制（有效个数）的背景如下：

分布式系统的LC矛盾
在一个分布式存储系统中，用户请求会发到一个实例上。通常在一个实例上面执行的修改，需要复制到其他的实例上，这样可以保证在原实例挂了的情况下，用户依然可以看到这个修改。这就涉及到一个问题，究竟复制到多少个其他实例上之后，用户请求才会返回成功呢？如果复制的实例个数过多，那么请求响应时间就会更长；如果复制的实例过少，则这个修改可能会丢失。取得这个平衡性很重要，这也是分布式 PACELC 中的 L（Latency） 与 C（Consistency） 的取舍。

解决方案
当一个修改，被集群中的大部分节点（假设个数为N）通过之后，这个修改也就被这个集群所接受。这个 N 就是有效个数。假设集群数量为 n，那么 N = n/2 + 1.例如 n = 5，则 N = 3，从而应运而生Quorum机制（有效个数）

1.2 ZAB协议

ZooKeeper为了保证集群中各个节点读写数据的一致性和可用性，设计并实现了ZAB协议，ZAB全称是ZooKeeper Atomic Broadcast，也就是ZooKeeper原子广播协议。这种协议支持崩溃恢复，并基于主从模式，同一时刻只有一个Leader，所有的写操作都由Leader节点主导完成，而读操作可通过任意节点完成，因此ZooKeeper读性能远好于写性能，更适合读多写少的场景。一旦Leader节点宕机，ZAB协议的崩溃恢复机制能自动从Follower节点中重新选出一个合适的替代者，即新的Leader，该过程即为领导选举。领导选举过程，是ZAB协议中最为重要和复杂的过程

2. zk的核心参数

2.1 常规配置

zoo.cfg配置

cat /data/zookeeper-3.4.14/conf/zoo.cfg 
# The number of milliseconds of each tick
tickTime=2000
# The number of ticks that the initial 
# synchronization phase can take
initLimit=16
# The number of ticks that can pass between 
# sending a request and getting an acknowledgement
syncLimit=8
# the directory where the snapshot is stored.
# do not use /tmp for storage, /tmp here is just 
# example sakes.
dataDir=/data/zookeeper-3.4.14/data
dataLogDir=/data/zookeeper-3.4.14/log
# the port at which the clients will connect
clientPort=2181
# the maximum number of client connections.
# increase this if you need to handle more clients
maxClientCnxns=10000
#
# Be sure to read the maintenance section of the 
# administrator guide before turning on autopurge.
#
# http://zookeeper.apache.org/doc/current/zookeeperAdmin.html#sc_maintenance
#
# The number of snapshots to retain in dataDir
autopurge.snapRetainCount=50
# Purge task interval in hours
# Set to "0" to disable auto purge feature
autopurge.purgeInterval=1
# 配置允许删除临时数据
extendedTypesEnabled=true# https://issues.apache.org/jira/plugins/servlet/mobile#issue/ZOOKEEPER-2164。
cnxTimeout=3000
# Add default super user to zookeeper for administration.
# if you want the passwd. please contact to administration.
DigestAuthenticationProvider.superDigest=super:2bS8Usm0IRIIwal5O1c6meW8uxI=server.1=xx.xx.xx.xx:2888:3888
server.2=xx.xx.xx.xx:2888:3888
server.3=xx.xx.xx.xx:2888:3888

myid配置

# cat /data/zookeeper-3.4.14/data/myid
1

不同的zk节点，配置对应的myid，配置依据来自zoo.cfg中的server.x配置

2.2 特殊优化配置

根据经验，可以增加zoo.cfg的管理账号

# fix the bug that 3888 listener will lost when network down and check_zk.sh restart the server
quorumListenOnAllIPs=true# Add default super user to zookeeper for administration.
# if you want the passwd. please contact to administration.
DigestAuthenticationProvider.superDigest=super:2bS8Usm0IRIIwal5O1c6meW8uxI=

3. zk常用命令

利用zk安装包中自带的zkCli.sh命令，能够链接到zk中，并进行相关的操作

# 连接本地zk
./zkCli.sh# 远程连接zk
./zkCli.sh -server xx.xx.xx.xx:2181

3.1 常用基础命令

整理日常操作zk常用的命令，便于针对zk的文件操作

1， ls 列出当前节点下的子节点

[zk: 127.0.0.1:2181(CONNECTED) 28] ls -R /
/
/node1
/zk
/zookeeper
/node1/node1.1
/node1/node1.2
/zookeeper/config
/zookeeper/quota
[zk: 127.0.0.1:2181(CONNECTED) 29]

2， stat 列出节点状态

[zk: 127.0.0.1:2181(CONNECTED) 29] stat /
cZxid = 0x0
ctime = Thu Jan 01 08:00:00 CST 1970
mZxid = 0x0
mtime = Thu Jan 01 08:00:00 CST 1970
pZxid = 0xc
cversion = 1
dataVersion = 0
aclVersion = 0
ephemeralOwner = 0x0
dataLength = 0
numChildren = 3

3，get 获取节点内容和节点状态

[zk: 127.0.0.1:2181(CONNECTED) 35] get /zk
jiang1234

4，create 创建永久节点

[zk: 127.0.0.1:2181(CONNECTED) 39] create /node_1 node-data
Created /node_1

5, 创建临时节点 &session过期临时节点删除

# 创建临时节点
[zk: 127.0.0.1:2181(CONNECTED) 40] create -e /czk/tmp temp-data
Created /czk/tmp# 要求先配置 extendedTypesEnabled=true
# 创建带ttl的临时节点
create -t 10 /zkttl# 10s后再ls就看不到创建的目录
ls /zkttl

在这里插入图片描述

6, 创建顺序节点

[zk: 127.0.0.1:2181(CONNECTED) 46] ls /czk
[tmp]
[zk: 127.0.0.1:2181(CONNECTED) 47] create -s /czk/sec seq
Created /czk/sec0000000001
[zk: 127.0.0.1:2181(CONNECTED) 48] create -s /czk/sec seq
Created /czk/sec0000000002
[zk: 127.0.0.1:2181(CONNECTED) 49] ls /czk
[sec0000000001, sec0000000002, tmp]
[zk: 127.0.0.1:2181(CONNECTED) 50]

7，set 设置数据:

[zk: 127.0.0.1:2181(CONNECTED) 50] get /czk
czk-data
[zk: 127.0.0.1:2181(CONNECTED) 51] set /czk czk-data2
[zk: 127.0.0.1:2181(CONNECTED) 52] get /czk
czk-data2

8，delete 删除目录

[zk: 127.0.0.1:2181(CONNECTED) 57] ls /czk
[sec0000000001, sec0000000002, tmp]
[zk: 127.0.0.1:2181(CONNECTED) 58] delete /czk/sec000000001
Node does not exist: /czk/sec000000001
[zk: 127.0.0.1:2181(CONNECTED) 59] ls /czk
[sec0000000001, sec0000000002, tmp]
[zk: 127.0.0.1:2181(CONNECTED) 60] delete /czk/sec0000000001
[zk: 127.0.0.1:2181(CONNECTED) 61] ls /czk
[sec0000000002, tmp]

3.2 常用运维命令

用于日常运维命令，便于进行服务运维，提升系统稳定性。

1, 服务启停

# 启动ZK服务
sh bin/zkServer.sh start
# 查看ZK服务状态
sh bin/zkServer.sh status
# 停止ZK服务
sh bin/zkServer.sh stop
# 重启ZK服务
sh bin/zkServer.sh restart

2, 检查zk集群的状态

#!/usr/bin/python
# -*- coding: utf-8 -*-import json
import logging
import os
import random
import subprocess
import sys
import time
import datetimeif sys.getdefaultencoding() != 'utf-8':reload(sys)sys.setdefaultencoding('utf-8')logfile = "log_" + os.path.basename(sys.argv[0]).split(".")[0].split(".")[0] + ".log"
working_path = sys.path[0] + os.path.sep
log_path = "./"log_level = logging.DEBUG# 检查zk集群状态
zk_ips = []
zk_port = 2181
zoo_conf = "/data/zookeeper-3.4.14/conf/zoo.cfg"def getlogger(name, path_file_name):logger = logging.getLogger(name)if len(logger.handlers) == 0:logger.setLevel(log_level)fh = logging.FileHandler(path_file_name, encoding='utf-8')formatter = logging.Formatter('%(asctime)s %(filename)s[line:%(lineno)d] %(levelname)s %(message)s')fh.setFormatter(formatter)logger.addHandler(fh)if name != "file":console = logging.StreamHandler()console.setLevel(log_level)formatter = logging.Formatter('%(asctime)s %(filename)s[line:%(lineno)d] %(levelname)s %(message)s')console.setFormatter(formatter)logger.addHandler(console)return loggerif not os.path.exists(log_path):os.makedirs(log_path)logger = getlogger("default", log_path + logfile)
file_logger = getlogger("file", log_path + logfile)def run_shell(cmd, stderr2out=True):p = Noneif stderr2out:p = subprocess.Popen(cmd, stdout=subprocess.PIPE, shell=True, stderr=subprocess.STDOUT)else:p = subprocess.Popen(cmd, stdout=subprocess.PIPE, shell=True)out, err = p.communicate()if logger:logger.debug('running:%s,output:\n%s' % (cmd, out))return p.returncode, outdef get_zoo_server_list(conf_path):server_list = [](status, output) = run_shell("cat " + zoo_conf)if status != 0:return server_listlines = output.split("\n")for line in lines:if "server." in line and "#" not in line:tmp = line.split("=")if len(tmp) != 2:continuehost = tmp[1].split(":")[0]server_list.append(host)return server_listdef main():result = []all_ips = []all_ips = get_zoo_server_list(zoo_conf)all_ips = all_ips + zk_ipsfor ip in all_ips:(status, output) = run_shell("echo mntr|nc -w 3 " + ip + " " + str(zk_port))ip_result = {"conn": ip + ":" + str(zk_port), "result": None, "server_state": None}if status != 0:ip_result["result"] = "dead:conn " + ip + ":" + str(zk_port) + " failed."else:server_info = output.split("\n")for info in server_info:if "zk_server_state" in info:ip_result["server_state"] = info.split("\t")[-1]if ip_result["server_state"] is None:ip_result["result"] = "dead:zk role failed."else:ip_result["result"] = "alive"result.append(ip_result)# 输出结果print("=================result=================")for ip_result in result:print(json.dumps(ip_result))if len(all_ips) == 0:print("get server empty from " + zoo_conf + ",and zk_ips empty.")if __name__ == '__main__':main()

4. 事务性

4.1 数据写流程

zk的数据写流程，整体流程如下。
在这里插入图片描述

  1. Client向Zookeeper的server1发送一个写请求，客户端写数据到服务器1上；
  2. 如果server1不是Leader，那么server1会把接收到的写请求转发给Leader；然后Leader会将写请求转发给每个server；
  3. server1和server2负责写数据，并且两个Follower的写入数据是一致的，保存相同的数据副本；
  4. server1和server2写数据成功后，通知Leader；
  5. 当Leader收到集群半数以上的节点写成功的消息后，说明该写操作执行成功；
  6. 因为client访问的是server1，所以Leader会告知server1集群中数据写成功；
  7. 被访问的server1进一步通知client数据写成功，这时，客户端就知道整个写操作成功了。

4.2 数据读流程

相比写数据流程，读数据流程就简单得多；因为每台server中数据一致性都一样，所以随便访问哪台server读数据就行；没有写数据流程中请求转发、数据同步、成功通知这些步骤。

5. 疑问和思考

5.1 zk不擅长处理哪些场景？

zk擅长处理kv小量数据（v一般不能超过1M），基于zk进行分布式锁、选主、服务发现等均有比较好的应用和实践。但是zk不擅长处理大量数据的存储，通常需要注意不能在zk路径下写入过多数据，通常znode的目录数量应当控制在20M以内，单个zk节点的数据存储不应该超过10G，否则可能会由于zk存储了过多的数据而导致服务异常。

6. 参考文档

  • ZooKeeper 的总体架构图
  • 从0到1详解ZooKeeper的应用场景及架构原理

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.rhkb.cn/news/245306.html

如若内容造成侵权/违法违规/事实不符，请联系长河编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

书生·浦语大模型实战营-学习笔记6

书生·浦语大模型实战营-学习笔记6

目录 OpenCompass大模型测评1. 关于评测1.1 为什么要评测？1.2 需要评测什么？1.3 如何评测？1.3.1 客观评测1.3.2 主观评测1.3.3 提示词工程评测 2. 介绍OpenCompass工具3. 实战演示 OpenCompass大模型测评 1. 关于评测 1.1 为什么要评测&#…
阅读更多...
仿真机器人-深度学习CV和激光雷达感知(项目2)day5【作业1与答案1】

仿真机器人-深度学习CV和激光雷达感知(项目2)day5【作业1与答案1】

文章目录 前言作业1答案1 前言 💫你好，我是辰chen，本文旨在准备考研复试或就业 💫本文内容是我为复试准备的第二个项目 💫欢迎大家的关注，我的博客主要关注于考研408以及AIoT的内容 🌟 预置知识…
阅读更多...
软件游戏提示msvcp140.dll丢失的解决方法，全面分析msvcp140.dll文件

软件游戏提示msvcp140.dll丢失的解决方法，全面分析msvcp140.dll文件

msvcp140.dll是Microsoft Visual C 2015 Redistributable的一部分，它包含了许多用于运行程序的函数和类库。当这个文件丢失或损坏时，依赖于该组件的应用程序可能无法正常启动，系统会弹出错误提示，告知用户找不到msvcp140.dll文件。…
阅读更多...
大语言模型推理提速：TensorRT-LLM 高性能推理实践

大语言模型推理提速：TensorRT-LLM 高性能推理实践

作者：顾静 TensorRT-LLM 如何提升 LLM 模型推理效率 大型语言模型（Large language models,LLM）是基于大量数据进行预训练的超大型深度学习模型。底层转换器是一组神经网络，这些神经网络由具有 self-attention 的编码器和解码器组…
阅读更多...
网安培训第一期——sql注入+文件

网安培训第一期——sql注入+文件

文章目录 sql inject报错注入time盲注联合查询万能密码拦截和过滤ascii注入流程base64查询的列名为mysql保留关键字key 文件上传ffuf脚本要做的三件事网络端口进程用户权限文件文件包含文件下载XSS跨站请求攻击csrf跨站请求伪造 sql inject 判断输入字段是字符串还是数字 方法…
阅读更多...
Linux/Doctor

Linux/Doctor

Enumeration nmap 已知目标开放了22,80,8089端口，扫描详细情况如下 可以看到对外开放了22,80,8089三个端口 TCP/80 SSTI 访问80端口，有一个infodoctors.htb的电子邮件，点击其他的也没有什么反应，猜测有可能需要域名访问 在/et…
阅读更多...
python_ACM模式《剑指offer刷题》链表1

python_ACM模式《剑指offer刷题》链表1

题目： 面试tips： 询问面试官是否可以改变链表结构 思路： 1. 翻转链表，再遍历链表打印。 2. 想要实现先遍历后输出，即先进后出，因此可借助栈结构。 3. 可用隐式的栈结构，递归来实现。 代码…
阅读更多...
不就业，纯兴趣，应该自学C#还是JAVA?

不就业，纯兴趣，应该自学C#还是JAVA?

不就业，纯兴趣，应该自学C#还是JAVA? 在开始前我有一些资料，是我根据网友给的问题精心整理了一份「JAVA的资料从专业入门到高级教程」， 点个关注在评论区回复“888”之后私信回复“888”，全部无偿共享给大家&#xff…
阅读更多...
docker-compose搭建redis集群

docker-compose搭建redis集群

这里用docker-compose在一台机器搭建三主三从，生产环境肯定是在多台机器搭建，否则一旦这台宿主机挂了，redis集群全挂了，依然是单点故障。同时，受机器性能极限影响，其并发也上不去，算不上高并发。…
阅读更多...
《WebKit 技术内幕》学习之十一（2）：多媒体

《WebKit 技术内幕》学习之十一（2）：多媒体

2　视频 2.1　HTML5视频 在HTML5规范定义中，Web开发者可以使用“video”元素来播放视频资源。视频中有个重要的问题就是视频编码格式，对此，目前标准中包含了三种编码格式，它们分别是Ogg、MPEG4和WebM。其中Ogg是由Xiph.org组织开…
阅读更多...
字符串匹配（BF KMP）详解 + 刷题

字符串匹配（BF KMP）详解 + 刷题

目录 🌼前言 BF 算法 KMP 算法 （1）前缀函数 -- O(n^3) （2）前缀函数 -- O(n^2) （3）前缀函数 -- O(n) （4）辅助理解 🐋P1308 -- 统计单词数 …
阅读更多...
Linux：使用for+find查找文件并cp到其他目录，文件名带有空格

Linux：使用for+find查找文件并cp到其他目录，文件名带有空格

一、场景描述 在终端窗口中，用shell命令，批量拷贝文件到指定目录。 我是在Windows系统上，通过git bash终端来执行shell命令的。 二、实现过程 命令1 for filepath in find /d/LearningMaterials/数学/数学/高中/一数/偏基础（基…
阅读更多...
年销180万辆的特斯拉，护城河却在崩塌

年销180万辆的特斯拉，护城河却在崩塌

文｜刘俊宏 2023年率先开启汽车价格战的马斯克，伤敌一百自损八千？ 在1月25日的特斯拉2023Q4财报电话会上，特斯拉CEO马斯克对中国公司的竞争力如此感叹道，“要是没有贸易壁垒，他们将摧毁（destroy…
阅读更多...
EXECL 单元格字符串链接 CONCAT ：应用：将一行数据转为json

EXECL 单元格字符串链接 CONCAT ：应用：将一行数据转为json

源： 目标 函数表示 CONCAT("data", CHAR(10), "{", CHAR(10), " ", "ulAlarmId : ", A5, CHAR(10), " ", "ulAlarmLevel : ", D5, CHAR(10)," ", "bBo…
阅读更多...
《剑指 Offer》专项突破版 - 面试题 28 : 展平多级双向链表（C++ 实现）

《剑指 Offer》专项突破版 - 面试题 28 : 展平多级双向链表（C++ 实现）

题目连接：LCR 028. 扁平化多级双向链表 - 力扣（LeetCode） 题目： 在一个多级双向链表中，节点除了有两个指针分别指向前后两个节点，还有一个指针指向它的子链表，并且子链表也是一个双向链表&…
阅读更多...
怎么给wordpress网站底部页脚添加备案号和链接？

怎么给wordpress网站底部页脚添加备案号和链接？

以前“WordPress后台 >> 常规”最底部是有一个ICP备案号的，我们只需要填写备案号并保存更改即可让WordPress自带主题底部显示ICP备案号，但是现在新版本的WordPress已经没有了这个ICP备案号选项，而且也无法直接添加公安联网备案号&#…
阅读更多...
常见の算法

常见の算法

前言本文主要使用Java 什么，是快乐星球#￥%……什么是算法？ 算法是一组完成任务的指令。任何代码片段都可视为算法，但我们主要介绍常见算法 一、引入——二分查找 二分查找是一种算法，其输入是一个有序的元素列表。如…
阅读更多...
web安全学习笔记【09】——算法2

web安全学习笔记【09】——算法2

基础[1] 入门-算法逆向&散列对称非对称&JS源码逆向&AES&DES&RSA&SHA #知识点： 1、Web常规-系统&中间件&数据库&源码等 2、Web其他-前后端&软件&Docker&分配站等 3、Web拓展-CDN&WAF&OSS&反向&负载…
阅读更多...
socket以及字节序

socket以及字节序

1. socket 介绍： 简介： 所谓 socket（ 套接字），就是对网络中不同主机上的应用进程之间进行双向通信的 端点的抽象。 一个套接字就是网络上进程通信的一端，提供了应用层进程利用网络协议交换数据的机制。从所…
阅读更多...
字符金字塔（C语言刷题）

字符金字塔（C语言刷题）

个人博客主页：https://blog.csdn.net/2301_79293429?typeblog 专栏：https://blog.csdn.net/2301_79293429/category_12545690.html 题目描述 请打印输出一个字符金字塔，字符金字塔的特征请参考样例 输入描述: 输入一个字母，保…
阅读更多...
最新文章
推荐文章

Copyright @ 2022~2023