一. Haproxy :
1. Haproxy 介绍:
HAProxy 是法国开发者威利塔罗 (Willy Tarreau) 在2000年使用C语言开发的一个开源软件,是一款具备高并发(一万以上)、高性能的TCP和HTTP负载均衡器,支持基于cookie的持久性,自动故障切换,支持正则表达式及web状态统计,目前最新TLS版本为2.2。
HAProxy 是可提供高可用性、负载均衡以及基于 TCP 和 HTTP 应用的代理,是免费、快速并且可靠的一种解决方案。HAProxy 非常适用于并发大(并发达1w以上) web站点,这些站点通常又需要会话保持或七层处理。HAProxy 的运行模式使得它可以很简单安全的整合至当前的架构中,同时可以保护web服务器不被暴露到网络上。
支持功能:
- TCP 和 HTTP 反向代理
- SSL/TSL服务器
- 可以针对HTTP请求添加 cookie,进行路由后端服务器
- 可平衡负载至后端服务器,并支持持久连接
- 支持所有主服务器故障切换至备用服务器 keepalive
- 支持专用端口实现监控服务
- 支持停止接受新连接请求,而不影响现有连接
- 可以在双向添加,修改或删除HTTP报文首部字段
- 响应报文压缩
- 支持基于 pattern 实现连接请求的访问控制
- 通过特定的 URI(url)为授权用户提供详细的状态信息
2. Haproxy 应用相比较其它的优缺点:
Haproxy是一款可提供高可用性、负载均衡、及基于TCP和HTTP应用的代理的软件
Haproxy的缺点:
- LVS不支持正则处理,不能实现动静分离
- 对于大型网站,LVS的实施配置复杂,维护成本相对较高
Haproxy的优点:
- LVS在企业应用中抗负载能力很强
- 适用于负载大的Web站点
- 运行在硬件上可支持数以万计的并发连接的连接请求
3. Haproxy 的主要特性:
HAProxy是可提供高可用性、负载均衡以及基于TCP和HTTP应用的代理,是免费、快速并且可靠的一种解决方案。HAProxy非常适用于并发天(并发达1w以上)web站点,这些站点通常又需要会话保持或七层处理。HAProxy的运行模式使得它可以很简单安全的整合至当前的架构中,同时可以保护web服务器不被暴露到网络上。
- 可靠性和稳定性非常好,可以与硬件级的F5负载均衡设备相媲美;
- 最高可以同时维护40000-50000个并发连接,单位时间内处理的最大请求数为20000个,最大处理能力可达10Git/s;
- 支持多达8种负载均衡算法,同时也支持会话保持;
- 支持虚拟机主机功能,从而实现web负载均衡更加灵活;
- 支持连接拒绝、全透明代理等独特的功能;
- 拥有强大的ACL支持,用于访问控制; sendfile
- 其独特的弹性二x树数据结构,使数据结构的复杂性上升到了0(1),即数据的查寻速度不会随着数据条日的增加而速度有所下降;·支持客户端的keepalive功能,减少客户端与haproxy的多次三次握手导致资源浪费,让多个请求在一个tcp连接中完成;
- 支持TCP加速,零复制功能,类似于mmap机制;
- 支持响应池(response buffering) ;
- 支持RDP协议;
- 基于源的粘性,类似nginx的ip hash功能,把来自同一客户端的请求在一定时间内始终调度到上游的同一服务器;·更好统计数据接口,其web接口显示后端集群中各个服务器的接收、发送、拒绝、错误等数据的统计信息;
- 详细的健康状态检测,web接口中有关于对上游服务器的健康检测状态,并提供了一定的管理功能;
- 基于流量的健康评估机制;
- 基于http认证;
- 基于命令行的管理接口;
- 日志分析器,可对日志进行分析
4. Haproxy 负载均衡策略:
静态调度算法:不管后端,按照调度器的算法进行 分配
动态调度算法:会考虑后端服务器的负载情况
(1)roundrobin,表示简单的轮询 rr
(2) static-rr,表示根据权重
(3)leastconn,表示最少连接者先处理
(4) source,表示根据请求源IP
(5) uri,表示根据请求的URI,做cdn需使用;
(6) url_param,表示根据请求的URl参数' balance url param’requires an URL parameter name
(7) hdr(name),表示根据HTTP请求头来锁定每一次HTTP请求;
(8)rdp-cookie (name),表示根据据cookie(name)来锁定并哈希每一次TCP请求。
5.LVS Nginx Haproxy 的区别:
- IVS基于Linux操作系统实现软负载均衡,而HAProxy和Nginx是基于第三方应用实现的软负载均衡;
- LVS是可实现4层的IP负载均衡技术,无法实现基于目录、URL的转发。而HAProxy和Nginx都可以实现4层和7层技术,HAProxy可提供TCP和HTTP应用的负载均衡综合解决方案;
- LVs因为工作在TCP模型的第四层,其状态监测功能单一,而HAProxy在状态监测方面功能更丰富、强大,可支持端口、URI等多种状态检测方式;
- HAProxy功能强大,但整体性能低于4层模式的IVS负载均衡。
- Nginx主要用于web服务器或缓存服务器。Nginx的upstream模块虽然也支持群集功能,但是对群集节点健康检查功能不强,性能没有Haproxy好。
二. 安装haproxy:
1.解决lua环境:
HAProxy 支持基于lua实现功能扩展,lua是一种小巧的脚本语言,于1993年由巴西里约热内卢天主教大学(Pontifical Catholic University of Rio de Janeiro)里的一个研究小组开发,其设计目的是为了嵌入应用程序中,从而为应用程序提供灵活的扩展和定制功能。
Lua 应用场景
- - 游戏开发
- - 独立应用脚本
- - Web 应用脚本
- - 扩展和数据库插件,如MySQL Proxy
- - 安全系统,如入侵检测系统
由于CentOS7 之前版本自带的lua版本比较低并不符合HAProxy要求的lua最低版本(5.3)的要求,因此需要编译安装较新版本的lua环境,然后才能编译安装HAProxy,过程如下:
2. 编译安装 haproxy:
yum -y install gcc openssl-devel pcre-devel systemd-devel
#安装依赖环境tar xf haproxy-2.2.11.tar.gz
cd haproxy-2.2.11/#查看安装方法
[root@centos7 haproxy-2.1.3]#ll Makefile
-rw-rw-r-- 1 root root 40812 Feb 12 23:18 Makefile
[root@centos7 haproxy-2.1.3]#cat README
[root@centos7 haproxy-2.1.3]#cat INSTALLmkdir /usr/local/lua
cp -r src/ /usr/local/lua/make ARCH=x86_64 TARGET=linux-glibc USE_PCRE=1 USE_OPENSSL=1 USE_ZLIB=1 USE_SYSTEMD=1 USE_LUA=1 LUA_INC=/usr/local/lua/src/ LUA_LIB=/usr/local/lua/src/make install PREFIX=/apps/haproxyln -s /apps/haproxy/sbin/haproxy /usr/sbin/
haproxy -v
haproxy -h 查看帮助[root@centos7 ~]#vim /usr/lib/systemd/system/haproxy.servicetee /usr/lib/systemd/system/haproxy.service <<eof[Unit]
Description=HAProxy Load Balancer
After=syslog.target network.target[Service]
ExecStartPre=/usr/sbin/haproxy -f /etc/haproxy/haproxy.cfg -c -q
ExecStart=/usr/sbin/haproxy -Ws -f /etc/haproxy/haproxy.cfg -p /var/lib/haproxy/haproxy.pid
ExecReload=/bin/kill -USR2 $MAINPID
LimitNOFILE=100000[Install]
WantedBy=multi-user.targeteof###############建立文件########################
mkdir /etc/haproxy
vim /etc/haproxy/haproxy.cfgglobal
maxconn 100000
chroot /apps/haproxy
stats socket /var/lib/haproxy/haproxy.sock mode 600 level admin
uid 99
gid 99
daemon
#nbproc 4
#cpu-map 1 0
#cpu-map 2 1
#cpu-map 3 2
#cpu-map 4 3
pidfile /var/lib/haproxy/haproxy.pid
log 127.0.0.1 local3 infodefaults
option http-keep-alive
option forwardfor
maxconn 100000
mode http
timeout connect 300000ms
timeout client 300000ms
timeout server 300000mslisten statsmode httpbind 0.0.0.0:9999stats enablelog globalstats uri /haproxy-statusstats auth haadmin:123456listen web_portbind 0.0.0.0:8899mode httplog globalserver web1 127.0.0.1:8080 check inter 3000 fall 2 rise 5mkdir /var/lib/haproxy
#pid 文件路径#设置用户和目录权限
[root@centos7 ~]# useradd -r -s /sbin/nologin haproxy
[root@centos7 ~]# systemctl enable --now haproxy
3.yum 安装:
CentOS 7 的默认的base仓库中包含haproxy的安装包文件,但是版本比较旧,是1.5.18的版本,距离当前版本已经有较长时间没有更新,由于版本比较旧所以有很多功能不支持,如果对功能和性能没有要求可以使用此版本,否则推荐使用新版本。
我们可以使用第三方仓库:
yum install centos-release-scl-rh
yum install rh-haproxy18-haproxy
4.yum本地源安装Haproxy:
[root@localhost ~]# systemctl stop firewalld
[root@localhost ~]# setenforce 0
[root@localhost ~]# yum install haproxy -y
5.yum网络源安装Haproxy :
###先把安装包拖进来[root@localhost ~]# yum install rh-haproxy18-haproxy-1.8.24-3.el7.x86_64.rpm -y
###会提示缺少runtime这个包
###把runtime包装一下就好了
[root@localhost ~]# yum install rh-haproxy18-runtime-3.1-2.el7.x86_64.rpm -y###然后再装一下第一个包###
[root@localhost ~]# yum install rh-haproxy18-haproxy-1.8.24-3.el7.x86_64.rpm -y
查看:
将软件交给 systemd 管理:
tee /usr/lib/systemd/system/haproxy.service <<eof[Unit]
Description=HAProxy Load Balancer
After=syslog.target network.target[Service]
ExecStartPre=/usr/sbin/haproxy -f /etc/haproxy/haproxy.cfg -c -q
ExecStart=/usr/sbin/haproxy -Ws -f /etc/haproxy/haproxy.cfg -p /var/lib/haproxy/haproxy.pid
ExecReload=/bin/kill -USR2 $MAINPID
LimitNOFILE=100000[Install]
WantedBy=multi-user.targeteof
查看:
6.写主配置文件:
vim /etc/haproxy/haproxy.cfg
global
maxconn 100000
chroot /apps/haproxy
stats socket /var/lib/haproxy/haproxy.sock mode 600 level admin
uid 99
gid 99
daemon
#nbproc 4
#cpu-map 1 0
#cpu-map 2 1
#cpu-map 3 2
#cpu-map 4 3
pidfile /var/lib/haproxy/haproxy.pid
log 127.0.0.1 local3 infodefaults
option http-keep-alive
option forwardfor
maxconn 100000
mode http
timeout connect 300000ms
timeout client 300000ms
timeout server 300000mslisten statsmode httpbind 0.0.0.0:9999stats enablelog globalstats uri /haproxy-statusstats auth haadmin:123456listen web_portbind 0.0.0.0:8899mode httplog globalserver web1 127.0.0.1:8080 check inter 3000 fall 2 rise 5
三. 配置文件详解:
1. 配置文件:
chroot #锁定运行目录
deamon #以守护进程运行,后台运行
stats socket /var/lib/haproxy/haproxy.sock mode 600 level admin process 1 #socket文件
user, group, uid, gid #运行haproxy的用户身份
nbproc n #开启的haproxy work 进程数,默认进程数是一个
#nbthread 1 #和多进程 nbproc配置互斥(版本有关,CentOS8的haproxy1.8无此问题),指定每个haproxy进程开启的线程数,默认为每个进程一个线程
#如果同时启用nbproc和nbthread 会出现以下日志的错误,无法启动服务Apr 714:46:23 haproxy haproxy: [ALERT] 097/144623 (1454) : config : cannot enable multiple processes if multiple threads are configured. Please use either nbproc or nbthread but not both.cpu-map 1 0 #绑定haproxy worker 进程至指定CPU,将第1个work进程绑定至0号CPU
cpu-map 2 1 #绑定haproxy worker 进程至指定CPU,将第2个work进程绑定至1号CPU#ps axo pid,cmd,psr |grep haproxy
maxconn n #每个haproxy进程的最大并发连接数
maxsslconn n #每个haproxy进程ssl最大连接数,用于haproxy配置了证书的场景下
maxconnrate n #每个进程每秒创建的最大连接数量
spread-checks n #后端server状态check随机提前或延迟百分比时间,建议2-5(20%-50%)之间,默认值0
pidfile #指定pid文件路径
log 127.0.0.1 local2 info #定义全局的syslog服务器;日志服务器需要开启UDP协议,最多可以定义两个defaultslog global #引入global定义的日志格式mode http #模式为http(7层代理http,4层代理tcp)option httplog #日志类别为http日志格式 option dontlognull #不记录健康检查日志信息retries 3 #检查节点服务器失败次数,连续达到3次,则反馈不可用 redispatch #当服务器负载很高时,自动结束当前队列处理比较久的连接maxconn 2000 #最大连接数,此处的数值不能大于全局里的数值contimeout 5000 #设置连接超时时间,默认单位是毫秒clitimeout 50000 #设置客户端超时时间,默认单位是毫秒srvtimeout 50000 #设置服务器超时时间,默认单位是毫秒#以下是新版本中的
timeout http-request 10s #默认http请求超时时间
timeout queue 1m #默认队列超时时间
timeout connect 10s #默认连接超时时间,新版本中替代
timeout client 1m
timeout server 1m
timeout http-keep-alive
timeout check 10sdefaults [<name>] #默认配置项,针对以下的frontend、backend和listen生效,可以多个name也可以没有name
frontend <name> #前端servername,类似于Nginx的一个虚拟主机 server和LVS服务集群。
backend <name> #后端服务器组,等于nginx的upstream和LVS中的RS服务器
listen <name> #将frontend和backend合并在一起配置,相对于frontend和backend配置更简
洁,生产常用使用listen替换 frontend和backend的配置方式,可以简化设置,通常只用于TCP协议的应用
#官网业务访问入口
listen webcluster 0.0.0.0:80option httpchk GET /test.htmlbalance roundrobinserver inst1 192.168.91.4:80 check inter 2000 fall 3server inst2 192.168.91.5:80 check inter 2000 fall 3
HAProxy 的配置文件 haproxy.cfg 由两大部分组成,分别是 global 和 proxies 部分
global:全局配置段:
进程及安全配置相关的参数
性能调整相关参数
Debug参数
proxies:代理配置段:
defaults:为frontend, backend, listen提供默认配置
frontend:前端,相当于nginx中的server {}
backend:后端,相当于nginx中的upstream {}
listen:同时拥有前端和后端配置,配置简单,生产推荐使用
2. global 配置:
chroot #锁定运行目录,类似于 ftp中的禁锢
deamon #以守护进程运行
stats socket /var/lib/haproxy/haproxy.sock mode 600 level admin process 1 #socket文件 进程件通信
user, group, uid, gid #运行haproxy的用户身份nbproc n #开启的haproxy worker 进程数,默认进程数是一个,保持与 淳朴个数相同
#nbthread 1 #和多进程 nbproc配置互斥(版本有关,CentOS8的haproxy1.8无此问题),指定每个haproxy进程开启的线程数,默认为每个进程一个线程
#如果同时启用nbproc和nbthread 会出现以下日志的错误,无法启动服务Apr 7 14:46:23 haproxy haproxy: [ALERT] 097/144623 (1454) : config : cannot
enable multiple processes if multiple threads are configured. Please use either
nbproc or nbthread but not both.cpu-map 1 0 #绑定haproxy worker 进程至指定CPU,将第1个work进程绑定至0号CPU
cpu-map 2 1 #绑定haproxy worker 进程至指定CPU,将第2个work进程绑定至1号CPU
maxconn n #每个haproxy进程的最大并发连接数
maxsslconn n #每个haproxy进程ssl最大连接数,用于haproxy配置了证书的场景下
maxconnrate n #每个进程每秒创建的最大连接数量
spread-checks n #后端server状态check随机提前或延迟百分比时间,建议2-5(20%-50%)之间,默认值0
pidfile #指定pid文件路径
log 127.0.0.1 local2 info #定义全局的syslog服务器;日志服务器需要开启UDP协议,最多可以定义两个
3. 状态页:
vim /etc/haproxy/haproxy.cfg
查看:
4.指定进程线程个数:
vim /etc/haproxy/haproxy.cfg
5.cpu 亲缘性:
vim /etc/haproxy/haproxy.cfg
6.日志:
HAproxy 本身不记录客户端的访问日志.此外为减少服务器负载,一般生产中 HAProxy 不记录日志.也可以配置 HAProxy 利用 rsyslog 服务记录日志到指定日志文件中
[root@localhost ~]# vim /etc/rsyslog.conf
[root@localhost ~]# systemctl restart rsyslog.service haproxy.service
生成了:
6.1.把haproxy.log放在远端服务器:
由于haproxy只能做单一的代理服务,建议将日志文件存放在远端日志服务器。
修改7-1配置文件 :
[root@localhost ~]# vim /etc/haproxy/haproxy.cfg15 log 192.168.91.4 local6 info[root@localhost ~]# systemctl restart haproxy.service
修改代理端7-2服务器系统日志管理工具服务的配置文件:
[root@localhost ~]# vim /etc/rsyslog.conf15 $ModLoad imudp16 $UDPServerRun 51474 local6.* /var/log/haproxy.log
[root@localhost ~]# systemctl restart rsyslog.service
重启haproxy服务,查看日志服务器内容:
haproxy代理端:
[root@localhost ~]# systemctl restart haproxy.service日志服务器:
[root@localhost ~]# ll /var/log/haproxy.log
-rw-------. 1 root root 337 3月 10 22:00 /var/log/haproxy.log
7.Proxies配置:
在HAProxy中,proxies部分通常用于定义服务器池和负载均衡策略:
defaults [<name>] #默认配置项,针对以下的frontend、backend和listen生效,可以多个name也可以没有name
frontend <name> #前端servername,类似于Nginx的一个虚拟主机 server和LVS服务集群。
backend <name> #后端服务器组,等于nginx的upstream和LVS中的RS服务器
listen <name> #将frontend和backend合并在一起配置,相对于frontend和backend配置更简洁,生产常用
7.1 Proxies配置-defaults:
defaults 配置参数:
option redispatch #当server Id对应的服务器挂掉后,强制定向到其他健康的服务器,重新派发
option abortonclose #当服务器负载很高时,自动结束掉当前队列处理比较久的连接,针对业务情况选择开启
option http-keep-alive #开启与客户端的会话保持
option forwardfor #透传客户端真实IP至后端web服务器
mode http|tcp #设置默认工作类型,使用TCP服务器性能更好,减少压力
timeout http-keep-alive 120s #session 会话保持超时时间,此时间段内会转发到相同的后端服务器
timeout connect 120s #客户端请求从haproxy到后端server最长连接等待时间(TCP连接之前),默认单位ms
timeout server 600s #客户端请求从haproxy到后端服务端的请求处理超时时长(TCP连接之后),默认单位ms,如果超时,会出现502错误,此值建议设置较大些,访止502错误
timeout client 600s #设置haproxy与客户端的最长非活动时间,默认单位ms,建议和timeout server相同
timeout check 5s #对后端服务器的默认检测超时时间
default-server inter 1000 weight 3 #指定后端服务器的默认设置
7.2 Proxies配置-listen 简化配置:
7-1:
[root@localhost examples]# vim /etc/haproxy/haproxy.cfg
[root@localhost examples]# systemctl restart haproxy.service
listen web_port_80bind 192.168.91.7:80#调度服务器7-4mode httplog globalserver rs1 192.168.190.101:80#后端服务器7-2server rs1 192.168.190.102:80#后端服务器7-3
7-2:
[root@localhost ~]# curl 192.168.91.7
7-2
[root@localhost ~]# curl 192.168.91.7
7-3
[root@localhost ~]# curl 192.168.91.7
7-2
[root@localhost ~]# curl 192.168.91.7
7-3
7-3:
[root@localhost ~]# systemctl start httpd
[root@localhost ~]# echo 7-3 > /var/www/html/index.htm
访问代理端7-4:
[root@localhost ~]# curl 192.168.91.7
7-2
[root@localhost ~]# curl 192.168.91.7
7-3
[root@localhost ~]# curl 192.168.91.7
7-2
[root@localhost ~]# curl 192.168.91.7
7-3
加入健康性检测 check:
加入前,模拟sr1故障,测试访问:
关掉7-2的httpd服务
[root@localhost html]# systemctl stop httpd
[root@localhost ~]# curl 192.168.91.7
<html><body><h1>503 Service Unavailable</h1>
No server is available to handle this request.
</body></html>
[root@localhost ~]# curl 192.168.91.7
7-3
加入健康检测:
[root@localhost ~]# vim /etc/haproxy/haproxy.cfg
listen web_port_80bind 192.168.91.7:80mode httplog globalserver rs1 192.168.91.4:80 checkserver rs2 192.168.91.5:80 check
[root@localhost ~]# systemctl restart haproxy.service
再次访问:
[root@localhost ~]# curl 192.168.91.7
7-3
[root@localhost ~]# curl 192.168.91.7
7-3
[root@localhost ~]# curl 192.168.91.7
7-3
[root@localhost ~]# curl 192.168.91.7