title: 搭建分布式ZooKeeper集群
date: 2024-11-26 23:39:00
categories:
- 服务器
tags:
- ZooKeeper
- 大数据
搭建分布式ZooKeeper集群
- 本次实验环境:Centos 7-2009、Hadoop-3.1.4、JDK 8、Zookeeper-3.6.3
前提
首先配置好
Hadoop
集群
- 为了配置方便,
Hadoop
集群的所有软件及文件位于/opt/module
目录下
1. 修改主机名(域名)与IP地址的对应关系
规划功能
Master | Slave1 | Slave2 |
---|---|---|
主节点 | 从节点 | 从节点 |
192.168.66.6 | 192.168.66.7 | 192.168.66.21 |
- 如若在这之前,
Hadoop
已配置过此项,则只需记住已配置的数据,无须更改
cat >> /etc/hosts << EOF
# ------ZooKeeper主机名解析 配置--------
192.168.66.6 master
192.168.66.7 slave1
192.168.66.21 slave2
EOF
2. 安装程序文件
- 首先上传zookeeper的文件到服务器上,或直接进行以下的下载行为
# 使用wget命令下载zookeeper文件(二选一)
wget -P /tmp/ -c 'https://repo.huaweicloud.com/apache/zookeeper/zookeeper-3.6.3/apache-zookeeper-3.6.3.tar.gz'# 使用curl命令下载zookeeper文件(二选一)
curl -C - 'https://repo.huaweicloud.com/apache/zookeeper/zookeeper-3.6.3/apache-zookeeper-3.6.3.tar.gz' -O /tmp/# 解压文件到指定目录
tar -zxvf /tmp/apache-zookeeper-3.6.3-bin.tar.gz -C /opt/module/# 重名名文件夹
mv /opt/module/apache-zookeeper-3.6.3-bin/ /opt/module/zookeeper/
3. 配置用户环境变量
cat >> ~/.bashrc << "EOF"# ------------------- Zookeeper 配置--------------------
# 设置ZK_HOME环境变量,指向zookeeper安装目录
export ZK_HOME=/opt/module/zookeeper# 将ZK_HOME的bin目录以及conf目录添加到PATH环境变量
export PATH=$PATH:$ZK_HOME/bin:$ZK_HOME/conf# 将ZK_HOME的lib目录添加到CLASSPATH环境变量
export CLASSPATH=$CLASSPATH:$ZK_HOME/lib
# -------------------------------------------------
EOF
-----------------------------------------------------------说明举例 export PATH=$ZK_HOME/bin:$ZK_HOME/conf:$PATH英文冒号代表分隔这段代码表示
1. 当你输入一个命令时,shell会首先在"ZK_HOME"这个变量的"bin"子目录中查找,
3. 其次,若找不到,则在"ZK_HOME"这个变量的"conf"子目录中查找,
4. 最后,若找不到,则在"PATH"的指定目录中查找-------------------------------------------------------------
4. 编写Zookeeper配置文件
# 文件重命名
mv /opt/module/zookeeper/conf/zoo_sample.cfg /opt/module/zookeeper/conf/zoo.cfg
# 创建zookeeper的数据目录
mkdir /opt/module/zookeeper/data# 创建zookeeper的节点信息
echo "1" > /opt/module/zookeeper/data/myid
# 更改Zookeeper的数据位置,并添加zookeeper的节点信息
# 这里的节点信息,根据一开始你自己的规划填写,也可以填写主机名sed -i -e 's|dataDir=/tmp/zookeeper|dataDir=/opt/module/zookeeper/data|' \
-e '/dataDir=/a \
server.1=192.168.66.6:2888:3888\
server.2=192.168.66.7:2888:3888\
server.3=192.168.66.21:2888:3888' /opt/module/zookeeper/conf/zoo.cfg
5. 同步所需文件
# 同步到slave1机器
scp -r /opt/module/zookeeper/ root@slave1:/opt/module/
scp ~/.bashrc root@slave1:/root# 同步到slave2机器
scp -r /opt/module/zookeeper/ root@slave2:/opt/module/
scp ~/.bashrc root@slave2:/root
6. 修改从节点Zookeeper配置文件
# 修改slave1的配置文件
ssh slave1 'echo "2" > /opt/module/zookeeper/data/myid'# 修改slave2的配置文件
ssh slave2 'echo "3" > /opt/module/zookeeper/data/myid'
7. 环境变量生效
# master节点环境变量生效
source ~/.bashrc# slave1节点环境变量生效
ssh slave2 'source ~/.bashrc'# slave2节点环境变量生效
ssh slave2 'source ~/.bashrc'
8. 后台启动Zookeeper
# master节点启动zookeeper
$ZK_HOME/bin/zkServer.sh start# slave1节点启动zookeeper
ssh slave1 ' $ZK_HOME/bin/zkServer.sh start'# slave2节点启动zookeeper
ssh slave2 ' $ZK_HOME/bin/zkServer.sh start'
9. 查看Zookeeper状态
# 查看master节点的zookeeper状态
$ZK_HOME/bin/zkServer.sh status# 查看slave1节点的zookeeper状态
ssh slave1 ' $ZK_HOME/bin/zkServer.sh status '# 查看slave2节点的zookeeper状态
ssh slave2 ' $ZK_HOME/bin/zkServer.sh status '
备注
若出现It is probably not running
# 报错信息
ZooKeeper JMX enabled by default
Using config: /opt/module/zookeeper/bin/../conf/zoo.cfg
Client port found: 2181. Client address: localhost. Client SSL: false.
Error contacting service. It is probably not running.
请关闭防火墙
# 关闭防火墙
systemctl stop firewalld# 禁止防火墙开机自启
systemctl disabled firewalld
若不想关闭防火墙,则需要放行防火墙的
2888
以及3888
端口
# 放行防火墙2888端口
firewall-cmd --add-port=2888/tcp --permanent --zone=public # 放行防火墙3888端口
firewall-cmd --add-port=3888/tcp --permanent --zone=public # 重载防火墙配置
firewall-cmd --reload
Zookeeper前台运行
该命令用于启动 ZooKeeper 服务,并且在前台运行。
ZooKeeper 的所有日志和输出都会直接显示在控制台上,而不是写入日志文件通常用于调试和检查 ZooKeeper 运行时的异常情况
# 前台运行命令
/opt/module/zookeeper/bin/zkServer.sh start-foreground
停止Zookeeper
# 停止master节点的zookeeper服务
/opt/module/zookeeper/bin/zkServer.sh stop# 停止slave1节点的zookeeper服务
ssh slave1 '/opt/module/zookeeper/bin/zkServer.sh stop'# 停止slave2节点的zookeeper服务
ssh slave2 '/opt/module/zookeeper/bin/zkServer.sh stop'
参考文档
-
解决问题Client port found: 2181. Client address: localhost. Client SSL: false.-CSDN博客
-
Linux环境下zookeeper的安装教程(超详细!!)_linux zk安装-CSDN博客
-
zookeeper集群搭建步骤(超详细)-CSDN博客
-
ZooKeeper JMX enabled by default Using config…完美解决-CSDN博客
-
启动ZooKeeper报错ZooKeeper JMX enabled by default Using config: /usr/Local/ zookeeper/bin/ . ./conf/zoo.-CSDN博客