Haproxy的配置详解与使用

一、haproxy简介

HAProxy是一个使用C语言编写的自由及开放源代码软件，其提供高可用性、负载均衡，以及基于TCP和HTTP的应用程序代理。

HAProxy特别适用于那些负载特大的web站点，这些站点通常又需要会话保持或七层处理。HAProxy运行在当前的硬件上，完全可以支持数以万计的并发连接。并且它的运行模式使得它可以很简单安全地整合进用户当前的架构中， 同时可以保护用户的web服务器不被暴露到网络上。

四层负载均衡和七层负载均衡主要有以下区别：

工作层次： 四层负载均衡工作在 OSI 模型的第四层（传输层），主要基于 IP 地址和端口号进行流量分配。 七层负载均衡工作在第七层（应用层），能理解应用层协议（如 HTTP、HTTPS、FTP 等），根据请求的内容进行更精细的流量分发。

处理内容： 四层负载均衡仅根据数据包的源 IP 地址、目标 IP 地址、源端口和目标端口等信息做出决策。 七层负载均衡可以深入分析数据包中的应用层数据，例如 HTTP 请求的 URL、Cookie、请求方法等。

调度策略： 四层负载均衡的调度策略相对简单，常见的有轮询、加权轮询、最少连接等。 七层负载均衡的调度策略更加丰富和灵活，可以基于 URL 路径、文件类型、浏览器类型、语言等进行调度。

性能和开销： 四层负载均衡处理速度较快，性能较高，但功能相对简单。 七层负载均衡由于需要解析应用层数据，处理开销较大，性能相对较低，但能提供更智能的流量分配。

应用场景： 四层负载均衡适用于对性能要求较高、流量较大且协议相对简单的场景，如 TCP 或 UDP 业务。 七层负载均衡适用于对内容识别和处理要求较高的复杂应用场景，如 Web 服务器集群、反向代理等。 例如，在一个大型的文件下载服务中，如果主要关注的是快速分配连接，四层负载均衡可能是较好的选择。而对于一个复杂的电商网站，需要根据用户请求的不同页面或功能来分配流量，七层负载均衡则能更好地满足需求。

二、haproxy实验环境部署及负载均衡实现

1、基于RHEL9的实验环境搭建：

haproxy：172.25.254.100

webserver1：172.25.254.10

webserver2：172.25.254.20

软件安装：

[root@haproxy ~]# dnf install haproxy -y[root@webserver1 ~]# dnf install nginx -y
[root@webserver1 ~]# echo webserver1-172.25.254.10  > /usr/share/nginx/html/index.html 
[root@webserver1 ~]# systemctl enable --now nginx[root@webserver2 ~]# dnf install nginx -y
[root@webserver2 ~]# echo webserver2-172.25.254.20  > /usr/share/nginx/html/index.html
[root@webserver2 ~]# systemctl enable --now nginx#测试
[root@haproxy ~]# curl  172.25.254.20
webserver2-172.25.254.20
[root@haproxy ~]# curl  172.25.254.10
webserver1-172.25.254.10

2、proxies:代理配置段

defaults:为frontend, backend, listen提供默认配置

frontend:前端，相当于nginx中的server {}

backend:后端，相当于nginx中的upstream {}

listen:同时拥有前端和后端配置,配置简单,生产推荐使用

[root@haproxy ~]# vim /etc/haproxy/haproxy.cfg 
frontend webcluster #名字唯一，避免混淆和冲突bind *:80 #这台主机所有80端口均打开mode  http #http七层，tcp四层use_backend webcluster-host #使用的后端backend webcluster-hostbalance roundrobin #调度规则server web1 172.25.254.10:80 server web2 172.25.254.20:80

[root@haproxy ~]# systemctl start haproxy.service 
[root@haproxy ~]# systemctl status haproxy.service

3、global:全局配置段

·进程及安全配置相关的参数

·性能调整相关参数

.Debug参数

4、haproxy全局配置参数及日志分离

默认只有一个进程

设定多线程：

设定多进程：

对比：

[root@mlh ~]# pstree  -p | grep haproxy|-haproxy(36860)-+-haproxy(36862)|                `-haproxy(36863)
[root@mlh ~]# cat /proc/36863/status | grep -i  thread
Threads:        1
Speculation_Store_Bypass:       thread vulnerable多线程
[root@mlh ~]# pstree  -p | grep haproxy|-haproxy(38654)---haproxy(38657)---{haproxy}(38658)
[root@mlh ~]# cat /proc/38657/status | grep -i  thread
Threads:        2
Speculation_Store_Bypass:       thread vulnerable

不能同时设定多进程和多线程，参数互斥

线程与CPU进行绑定：

查看进程数
[root@mlh ~]# cat /proc/36863/status | grep -i  thread
Threads:        1
Speculation_Store_Bypass:       thread vulnerable

自定义日志文件：

[root@haproxy ~]# vim /etc/rsyslog.conflocal2.*                                                /var/log/haproxy.log

定义全局的syslog服务器；日志服务器需要开启UDP协议，最多可以定义两个

开启UDP协议
module(load="imtcp") # needs to be done just once
input(type="imtcp" port="514")

三、haproxy代理配置参数

sorryserver：172.25.254.30

[root@sorryserver ~]# dnf install httpd -y
[root@sorryserver ~]# systemctl enable --now httpd
[root@sorryserver ~]# echo 对不起，下班了！ > /var/www/html/index.html

效果实现：

先把两台后端服务器down
[root@webserver1 ~]# systemctl stop nginx.service
[root@webserver2 ~]# systemctl stop nginx.service
添加172.25.254.30主机为备份主机[root@haproxy log]# vim /etc/haproxy/haproxy.cfg
backend webcluster-hostbalance roundrobinserver web1 172.25.254.10:80 check inter 2 fall 3 rise 5 weight 2server web2 172.25.254.20:80 check inter 2 fall 3 rise 5 weight 1server sorry_server 172.25.254.30：80 backup

当两台后端服务器都down时：

开启其中一台：

disabled维护状态：

[root@haproxy log]# vim /etc/haproxy/haproxy.cfgserver web1 172.25.254.10:80 check inter 2 fall 3 rise 5 weight 2 disabled

临时重定向：

[root@haproxy log]# vim /etc/haproxy/haproxy.cfg
listen webclusterbind *:80mode httpbalance roundrobinredirect prefix http://www.baidu.com/#server web1 172.25.254.10:80 check inter 2 fall 3 rise 5 weight 2#server web2 172.25.254.20:80 check inter 2 fall 3 rise 5 weight 1#server sorry_server 172.25.254.30 backup

四、haproxy热更新方法

提权
[root@haproxy log]# vim /etc/haproxy/haproxy.cfg
stats socket /var/lib/haproxy/stats  mode 600 level admin
[root@haproxy log]# ll /var/lib/haproxy/stats
srw-------. 1 root root 0  8月 11 00:11 /var/lib/haproxy/stats

对服务器动态权重和其它状态可以利用 socat工具进行调整，Socat 是 Linux 下的一个多功能的网络工 具，名字来由是Socket CAT，相当于netCAT的增强版.Socat 的主要特点就是在两个数据流之间建立双向 通道，且支持众多协议和链接方式。如 IP、TCP、 UDP、IPv6、Socket文件等

[root@haproxy log]# dnf install socat -y
查看帮助[root@haproxy log]#  echo "help" | socat stdio /var/lib/haproxy/stats
查看haproxy状态
[root@haproxy log]# echo "show info" | socat stdio /var/lib/haproxy/stats
查看集群状态
[root@haproxy log]# echo "show servers state" | socat stdio /var/lib/haproxy/stats
1
查看集群权重
[root@haproxy log]# echo get weight webcluster/web1 | socat stdio /var/lib/haproxy/stats
2 (initial 2)#当前权重/配置权重
更改权重
[root@haproxy log]# echo "set weight webcluster/web1 1 " | socat stdio /var/lib/haproxy/stats[root@haproxy log]# echo get weight webcluster/web1 1  | socat stdio /var/lib/haproxy/stats
1 (initial 2)

[root@haproxy log]# echo "disable server webcluster/web1 " | socat stdio  /var/lib/haproxy/stats
下线web1服务器

[root@haproxy log]# echo "enable server webcluster/web1 " | socat stdio /var/lib/haproxy/stats
上线web2服务器

haproxy多进程热处理：

保证每个进程就会有单独的sock文件来进行单独管理

[root@haproxy log]# systemctl restart haproxy.service
[root@haproxy log]# ll /var/lib/haproxy/
总用量 0
srw-------. 1 root root 0  8月 11 00:31 stats
srw-------. 1 root root 0  8月 11 01:02 stats1
srw-------. 1 root root 0  8月 11 01:02 stats2

五、haproxy算法

1、静态算法

static-rr

不支持运行时利用socat进行权重的动态调整(只支持0和1,不支持其它值)

不支持端服务器慢启动

其后端主机数量没有限制，相当于LVS中的 wrr

first

根据服务器在列表中的位置，自上而下进行调度

其只会当第一台服务器的连接数达到上限，新请求才会分配给下一台服务

其会忽略服务器的权重设置

不支持用socat进行动态修改权重,可以设置0和1,可以设置其它值但无效

2、动态算法

基于后端服务器状态进行调度适当调整

新请求将优先调度至当前负载较低的服务器

权重可以在haproxy运行时动态调整无需重启

roundrobin

  1. 基于权重的轮询动态调度算法

  2. 支持权重的运行时调整，不同于lvs中的rr轮训模式

  3. HAProxy中的roundrobin支持慢启动(新加的服务器会逐渐增加转发数)

  4. 其每个后端backend中最多支持4095个real server

  5. 支持对real server权重动态调整

  6. roundrobin为默认调度算法,此算法使用广泛

leastconn

leastconn加权的最少连接的动态

支持权重的运行时调整和慢启动，即:根据当前连接最少的后端服务器而非权重进行优先调度(新客户 端连接)

比较适合长连接的场景使用，比如：MySQL等场景。

3、其他算法

source

源地址hash，基于用户源地址hash并将请求转发到后端服务器，后续同一个源地址请求将被转发至同一 个后端web服务器。此方式当后端服务器数据量发生变化时，会导致很多用户的请求转发至新的后端服 务器，默认为静态方式，但是可以通过hash-type支持的选项更改这个算法一般是在不插入Cookie的TCP 模式下使用，也可给拒绝会话cookie的客户提供最好的会话粘性，适用于session会话保持但不支持 cookie和缓存的场景源地址有两种转发客户端请求到后端服务器的服务器选取计算方式，分别是取模法和一致性hash

map-base取模法

map-based：取模法，对source地址进行hash计算，再基于服务器总权重的取模，最终结果决定将此请 求转发至对应的后端服务器。 此方法是静态的，即不支持在线调整权重，不支持慢启动，可实现对后端服务器均衡调度 缺点是当服务器的总权重发生变化时，即有服务器上线或下线，都会因总权重发生变化而导致调度结果 整体改变

一致性hash

一致性哈希，当服务器的总权重发生变化时，对调度结果影响是局部的，不会引起大的变动hash（o） mod n 该hash算法是动态的，支持使用 socat等工具进行在线权重调整，支持慢启动

1、后端服务器哈希环点keyA=hash(后端服务器虚拟ip)%(2^32)

2、客户机哈希环点key1=hash(client_ip)%(2^32) 得到的值在[0---4294967295]之间

3、将keyA和key1都放在hash环上，将用户请求调度到离key1最近的keyA对应的后端服务器

uri

基于对用户请求的URI的左半部分或整个uri做hash，再将hash结果对总权重进行取模后 根据最终结果将请求转发到后端指定服务器 适用于后端是缓存服务器场景 默认是静态算法，也可以通过hash-type指定map-based和consistent，来定义使用取模法还是一致性 hash

访问不同的uri，确认可以将用户同样的请求转发至相同的服务器

[root@webserver1 ~]# echo 172.25.254.10-index1.html > /usr/share/nginx/html/index1.html
[root@webserver1 ~]# echo 172.25.254.10-index2.html > /usr/share/nginx/html/index2.html
[root@webserver1 ~]# echo 172.25.254.10-index3.html > /usr/share/nginx/html/index3.html
[root@mlh ~]# echo 172.25.254.20-index1.html > /usr/share/nginx/html/index1.html
[root@mlh ~]# echo 172.25.254.20-index2.html > /usr/share/nginx/html/index2.html
[root@mlh ~]# echo 172.25.254.20-index3.html > /usr/share/nginx/html/index3.html

url_param

url_param对用户请求的url中的 params 部分中的一个参数key对应的value值作hash计算，并由服务器 总权重相除以后派发至某挑出的服务器,后端搜索同一个数据会被调度到同一个服务器，多用与电商 通常用于追踪用户，以确保来自同一个用户的请求始终发往同一个real server

hdr

针对用户每个http头部(header)请求中的指定信息做hash， 此处由 name 指定的http首部将会被取出并做hash计算， 然后由服务器总权重取模以后派发至某挑出的服务器，如果无有效值，则会使用默认的轮询调度。

六、haproxy状态页面监控

stats enable #基于默认的参数启用

stats page stats hide-version #将状态页中haproxy版本隐藏

stats refresh #设定自动刷新时间间隔，默认不自动刷新

stats uri #自定义stats page uri，默认值：/haproxy?

stats stats auth : #认证时的账号和密码，可定义多个用户,每行指定一个用户 #默认：no authentication

stats admin { if | unless } #启用stats page中的管理功能

状态页配置：

七、haproxy-基于cookie的会话保持

HAProxy 基于 Cookie 值的会话保持是一种在负载均衡环境中确保用户会话持续性的有效方法。 当用户首次访问服务时，后端服务器会在响应中设置一个特定的 Cookie。HAProxy 会检测并提取这个 Cookie 值，并在后续的请求中，根据这个 Cookie 值将用户的请求始终路由到同一台后端服务器，从而保持会话的一致性。

cookie name [ rewrite | insert | prefix ][ indirect ] [ nocache ][ postonly ] [ 
preserve ][ httponly ] [ secure ][ domain ]* [ maxidle <idle> ][ maxlife ]
name： #cookie 的 key名称，用于实现持久连接
insert： #插入新的cookie,默认不插入cookie
indirect： #如果客户端已经有cookie,则不会再发送cookie信息
nocache： #当client和hapoxy之间有缓存服务器（如：CDN）时，不允许中间缓存器缓存cookie，#因为这会导致很多经过同一个CDN的请求都发送到同一台后端服务器

curl -b WEBCOOKIE=111 172.25.254.100

八、haproxy状态页

修改 HAproxy 配置文件

stats enable	----基于默认的参数启用stats page
stats hide-version	----将状态页中haproxy版本隐藏
stats refresh <delay>	----设定自动刷新时间间隔，默认不自动刷新
stats uri <prefix>	----自定义stats page uri,默认值：/haproxy?stats
stats auth <user>:<passwd>	----认证时的账号和密码，可定义多个用户，每行指定一个用户；默认：no authentication
stats admin{if|unless}<cond>	----启用stats page中的管理功能

效果演示：

九、ip透传

1、四层ip透传

修改 HAproxy 配置文件

 

2、七层ip透传

十、ACL

访问控制列表ACL（Access Control Lists）
是一种基于包过滤的访问控制技术，它可以根据设定的条件对经过服务器传输的数据包进行过滤（条件匹配）即对接收到的报文进行匹配和过滤，基于请求报文头部中的源地址、源端口、目标地址、目标端口、请求方法、UL、文件后缀等信息，对内容进行匹配并执行进一步操作，比如允许其通过或丢弃。

ACL配置选项：

acl    <aclname>(名称) <criterion>(匹配规范) [flags](匹配模式) [operator](具体操作符) [<value>](操作对象类型)
ACL命名规则：

acl image_service hdr_dom(host) -i img.magedu.com

ACL名称，可以使用大字母(A-Z)、小写字母(a-z)、数字(0-9)、冒号(:)、点(.)、中横线(-)和下划线(_)，并且严格区分大小写，比如：my_acl和My_Acl就是两个完全不同的acl

ACL 匹配
域名解析地址：

匹配条件：输入www.ty.org则访问server1，其他访问至server2

域名内的某一段匹配：

正则匹配：

条件匹配：

错误页提示
errorfile

指定错误页路径和内容

重定向 IP 地址

当网页访问错误时，自动跳转至指定的地址

HAproxy 四层负载-数据库

数据库监听字段：

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.rhkb.cn/news/401981.html

如若内容造成侵权/违法违规/事实不符，请联系长河编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

JavaScript基础——函数

JavaScript基础——函数

函数简介 定义函数 调用函数 函数的参数和返回值 函数参数 1.有形参情况下不传递实参 2.传递数量少于形参个数的实参 3.传递数量等于形参个数的实参 函数返回值 报错Uncaught SyntaxError: Illegal return statement 返回数字和字符串 返回数组、对象和函数 没有返回…
阅读更多...
nginx服务部署及其平滑升级

nginx服务部署及其平滑升级

概述 1. 7层负载均衡&#xff08;nginx&#xff09; 1. 停掉4层的环境 systemctl disable --now keepalived.service # 停用之前的4层协议方式2. 源码安装nginx tar zxf nginx-1.22.1.tar.gz 具体方式是源码编译“三部曲” ./configure # 负责检查环境&#xff0c;生成指导…
阅读更多...
JAVA实现GB/T 32960.3—2016电动汽车远程服务与管理系统技术规范 第3部分：通信协议及数据格式

JAVA实现GB/T 32960.3—2016电动汽车远程服务与管理系统技术规范 第3部分：通信协议及数据格式

完整的TCP服务端解析代码 1.maven依赖 不要的依赖自行删除&#xff0c;懒的删了 <?xml version"1.0" encoding"UTF-8"?> <project xmlns"http://maven.apache.org/POM/4.0.0"xmlns:xsi"http://www.w3.org/2001/XMLSchema-in…
阅读更多...
Jenkins持续集成工具学习

Jenkins持续集成工具学习

一、从装修厨房看项目开发效率优化 二、持续集成工具 三、JavaEE项目部署方式对比 四、JenkinsSVN持续集成环境搭建 五、JenkinsGitHub持续集成环境搭建
阅读更多...
8 个最佳 Java IDE 和文本编辑器

8 个最佳 Java IDE 和文本编辑器

从 2024 年使用的最佳 Java IDE 和代码编辑器中进行选择&#xff0c;并提高您的 Java 生产力。 Java 是世界上最流行的编程语言之一&#xff0c;于 1995 年首次推出&#xff0c;它确实践行了“编写一个&#xff0c;随处运行”的座右铭。该语言用途广泛&#xff0c;可用于构建从…
阅读更多...
排序算法之希尔排序

排序算法之希尔排序

title: 希尔排序 date: 2024-7-25 10:48:15 0800 categories: 排序算法 tags:排序算法希尔排序 description: 1959年Shell发明&#xff0c;是简单插入排序的改进版。是一种高效的排序算法&#xff0c;通过分组和逐步缩减增量&#xff0c;使得数组在接近有序的情况下进行最终排…
阅读更多...
【docker】dockerfile部署lnmp、docker compose初步

【docker】dockerfile部署lnmp、docker compose初步

1、dockerfile部署lnmp mkdir /opt/lnmp cd /opt/lnmp mkdir nginx mysql php docker network create --subnet20.0.0.0/24 lnmp-net将wordpress文件夹拷贝到nginx、php文件夹 /opt/nginx/Dockerfile: # 使用官方的nginx镜像作为基础镜像 FROM nginx:latest# 复制默认配置文件…
阅读更多...
分销商城小程序系统渠道拓展

分销商城小程序系统渠道拓展

线上卖货渠道很多&#xff0c;想要不断提高营收和新客获取&#xff0c;除了自己和工具本身努力外&#xff0c;还需要其他人的帮助来提高商城店铺的整体销量。 搭建saas商城系统网站/小程序&#xff0c;后台上货&#xff0c;设置支付、配送、营销、精美模板商城装修等内容&…
阅读更多...
快速解析数据挖掘，最短时间明白什么是数据挖掘------下

快速解析数据挖掘，最短时间明白什么是数据挖掘------下

信息损失函数 &#xff08;Information Loss Function&#xff09;是衡量在数据转换或处理过程中信息丢失的程度的函数。在数据科学、机器学习和统计学中&#xff0c;信息损失是一个重要的概念&#xff0c;尤其是在数据降维、特征选择、数据压缩和隐私保护等领域。 信息损失函…
阅读更多...
数字化营销在公域场景中的无限可能

数字化营销在公域场景中的无限可能

在如今的商业领域&#xff0c;公域场景为企业提供了广阔的发展空间&#xff0c;而数字化营销则成为了企业在这些场景中脱颖而出的关键利器。 ​ 一、电商平台营销 当企业在淘宝、京东等大型电商平台开设店铺&#xff0c;数字化营销便开始大显身手。 企业不仅能踊跃参与像双十…
阅读更多...
【MySQL】explain 执行计划各字段解析

【MySQL】explain 执行计划各字段解析

MySQL 如何读写数据&#xff1f;https://blog.csdn.net/weixin_43551213/article/details/140862538 MySQL 索引https://blog.csdn.net/weixin_43551213/article/details/140847916 在上一篇文章中提到了索引&#xff0c;而添加索引是优化 SQL 语句的一个方式&#xff0c;但是…
阅读更多...
计算机网络——运输层（进程之间的通信、运输层端口，UDP与TCP、TCP详解）

计算机网络——运输层（进程之间的通信、运输层端口，UDP与TCP、TCP详解）

运输层协议概述 进程之间的通信 运输层向它上面的应用层提供通信服务。 当网络边缘部分的两台主机使用网络核心部分的功能进行端到端的通信时&#xff0c;都要使用协议栈中的运输层&#xff1b;而网络核心部分中的路由器在转发分组时只用到下三层的功能。 Q1&#xff1a;我们…
阅读更多...
mysql windows安装与远程连接配置

mysql windows安装与远程连接配置

安装包在主页资源中 一、安装(此安装教程为“mysql-installer-community-5.7.41.0.msi”安装教程&#xff0c;安装到win10环境) 保持默认选项&#xff0c;点击”Next“。 点开第一行加号展开一路展开找到“MySQL Server 5,7,41 - X64”点击选中点击一下中间只想右侧的箭头看到…
阅读更多...
Attention注意力机制

Attention注意力机制

神经网络注意力机制代码实现 import torch import torch.nn as nn import torch.nn.functional as F# MyAtt类实现思路分析 # 1 init函数 (self, query_size, key_size, value_size1, value_size2, output_size) # 准备2个线性层 注意力权重分布self.attn 注意力结果表示按照指…
阅读更多...
简单测试AOP五种增强执行时机

简单测试AOP五种增强执行时机

1. 目标方法类&#xff0c;spring代理bean Component public class Test {public void test(){System.out.println("test 目标方法");}public void testException(){throw new RuntimeException();} } 2. 配置类 Configuration ComponentScan EnableAspectJAutoPr…
阅读更多...
unity项目打包为webgl后应用于vue项目中（iframe模式）的数据交互

unity项目打包为webgl后应用于vue项目中（iframe模式）的数据交互

参考文章&#xff1a; 1.Unity打包WebGL: 导入Vue 2.unity文档-WebGL&#xff1a;与浏览器脚本交互 3.unity与vue交互(无第三方插件&#xff09; 目录 一、前期工作1.新建.jslib文件2.新建.cs脚本3. 新建一个Text对象和button按钮对象4.添加脚本空对象UIEvent5.导出unity为w…
阅读更多...
Windows配置开机直达桌面并跳过锁屏登录界面在 Windows 10 中添加在启动时自动运行的应用

Windows配置开机直达桌面并跳过锁屏登录界面在 Windows 10 中添加在启动时自动运行的应用

目录 Win10开机直达桌面并跳过锁屏登录界面修改组策略修改注册表跳过登录界面 在 Windows 10 中添加在启动时自动运行的应用设置系统级别服务一、Windows下使用sc将应用程序设置为系统服务1. 什么是sc命令&#xff1f;2. sc命令的基本语法3. 创建Windows服务的步骤与示例创建服…
阅读更多...
CANoe软件中Trace窗口的筛选栏标题不显示（空白）的解决方法

CANoe软件中Trace窗口的筛选栏标题不显示（空白）的解决方法

文章目录 问题描述原因分析解决方案扩展知识总结问题描述 不知道什么情况，CANoe软件中Trace窗口的筛选栏标题突然不显示了，一片空白。现象如下： 虽然不影响CANoe软件的使用，但是观感上非常难受，对于强迫症患者非常不友好。 原因分析 按照常规思路，尝试了： 1、重启CAN…
阅读更多...
K8S中使用英伟达GPU —— 筑梦之路

K8S中使用英伟达GPU —— 筑梦之路

前提条件 根据不同的操作系统&#xff0c;安装好显卡驱动&#xff0c;并能正常识别出来显卡&#xff0c;比如如下截图&#xff1a; GPU容器创建流程 containerd --> containerd-shim--> nvidia-container-runtime --> nvidia-container-runtime-hook --> libnvid…
阅读更多...
MoExtend: 模态和任务扩展调整的新专家

MoExtend: 模态和任务扩展调整的新专家

MoExtend: Tuning New Experts for Modality and Task Extension GitHub - zhongshsh/MoExtend: ACL 2024 (SRW) https://arxiv.org/pdf/2408.03511 大型语言模型&#xff08;LLM&#xff09;在各种任务中表现出色&#xff0c;然而其应用范围受限于主要在文本数据上进行训练。…
阅读更多...
最新文章
推荐文章

Copyright @ 2022~2023