书生·浦语大模型全链路开源体系介绍

背景介绍

随着人工智能技术的迅猛发展，大模型技术已成为当今人工智能领域的热门话题。2022 年 11 月 30 日，美国 OpenAI 公司发布了 ChatGPT 通用型对话系统 并引发了全球 的极大关注，上线仅 60 天月活用户数便超过 1 亿，成为历史上用户增长最快的互联网 应用产品。2023 年 3 月 14 日，OpenAI 公司再次发布了升级版模型 GPT-4 又展现 出了更高阶的能力，再一次实现了技术飞跃，并在全球范围掀起大模型发展浪潮。不仅国外科技巨头纷纷加码布局，推动大模型产业的快速落地，国内的头部企业也积极追赶步伐，竞相抢滩大模型的新赛道，抢抓认知智能大模型带来的历史机遇，下图为ChatGPT的发布时间线。
[图片]
在OpenAI发布GPT3.5后，各大模型厂商积极跟进，相继推出各类大模型。国内本土已经发布近80款参数量在十亿量级以上的大模型，主要有华为、阿里、百度、腾讯等，亦有清华大学等高校机构。
在这里插入图片描述
专用大模型： 针对特定任务，一个模型解决一个问题，比如适用于围棋比赛的围棋大模型
在这里插入图片描述
通用大模型： 一个模型应对多种任务、多种模态

大模型介绍

书生·浦语大模型开源历程：
在这里插入图片描述
书生·浦语大模型系列：
在这里插入图片描述
以20B开源大模型为例，其性能全面领先相近量级的开源模型（包括Llama-33B、Llama2-13B以及国内主流的7B、13B开源模型），以不足三分之一的参数量，达到Llama2-70B水平。
在这里插入图片描述

大模型开源开放体系

在这里插入图片描述
数据： 开放了书生万卷，具有2TB数据，涵盖多种模态与任务
预训练： 开源了InternLM-Train框架，支持并行训练，进行了极致优化，速度达到3600 tokens/sec/gpu
微调： 开源了XTuner框架，支持 全参数微调，支持LoRA等低成本微调
部署： 开源了LMDeploy框架，支持全链路部署，性能领先，每秒生成2000+ tokens
评测： 开源OpenCompass框架，支持全方位评测，性能可复现，80套评测集，40万道题目
应用： 开源了Lagent、AgentLego项目，支持多种智能体，支持代码解析器多种工具调用

数据-书生万卷

在这里插入图片描述
在这里插入图片描述

预训练

在这里插入图片描述

微调

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

评测

在这里插入图片描述
OpenCompass提供的评测集
在这里插入图片描述
OpenCompass 开源评测平台架构
在这里插入图片描述
OpenCompass的亮点
在这里插入图片描述
OpenCompass支持的模型
在这里插入图片描述

部署

在这里插入图片描述

LMDeploy 提供大模型在GPU上部署的全流程解决方案，包括模型轻量化、推理和服务

在这里插入图片描述

智能体应用

在这里插入图片描述
轻量级智能体框架Lagent
在这里插入图片描述
多模态智能体工具箱 AgentLego
在这里插入图片描述

总结

总之书生浦语是一个大模型全链路开源体系，为开发者提供了从数据集准备到模型训练、部署和应用的全套解决方案。通过该体系，开发者可以自由定制和扩展模型，满足不同场景下的需求。

本文提到的相关框架工具地址：
OpenDataLab: https://opendatalab.com/home
书生万卷：https://opendatalab.com/OpenDataLab/WanJuan1_dot_0
预训练框架：https://github.com/InternLM/InternEvo
微调框架XTuner：https://github.com/InternLM/xtuner
部署框架LMDeploy：https://github.com/InternLM/lmdeploy
Lagent：https://github.com/InternLM/lagent
AgentLego：https://github.com/InternLM/agentlego
评估框架OpenCompass: https://github.com/open-compass/opencompass

作者其他不相干的专栏，也来看看：

  • Prometheus+Grafana 实践派

Prometheus来自CNCF的产品，云原生时代监控产品； Grafana是一款开源的指标可视化工具，拥有大量的插件和图表工具来查询，展示您的指标，本专栏从基础知识开始学习，逐渐进阶，最终实现企业级统一监控目标

  • Loki + Tempo

一步步学习Grafana家族的轻量型聚合日志框架-Loki，链路追踪框架-Tempo

  • Spring Boot 3.x

Spring Boot 具有 Spring 一切优秀特性，Spring 能做的事，Spring Boot 都可以做，本专栏将全面介绍Spring Boot特性，继而对其进行全面的源码分析，不再犀牛望月，Spring Boot 版本：3.x

  • Spring Security

使用Spring Security版本5.7.2

  • Spring Boot Admin2

SBA2 源码解析

  • 阿提小作

作者平时心血来潮开发的小系统，都在运行玩了一段时间后停了

等等，还有其他很多

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.rhkb.cn/news/265267.html

如若内容造成侵权/违法违规/事实不符，请联系长河编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

密码学系列（四）——对称密码2

密码学系列（四）——对称密码2

一、RC4 RC4（Rivest Cipher 4）是一种对称流密码算法，由Ron Rivest于1987年设计。它以其简单性和高速性而闻名，并广泛应用于网络通信和安全协议中。下面是对RC4的详细介绍： 密钥长度： RC4的密钥长度可变&am…
阅读更多...
Python爬虫实战入门：爬取360模拟翻译(仅实验)

Python爬虫实战入门：爬取360模拟翻译(仅实验)

文章目录 需求所需第三方库requests 实战教程打开网站抓包添加请求头等信息发送请求，解析数据修改翻译内容以及实现中英互译 完整代码 需求 目标网站：https://fanyi.so.com/# 要求：爬取360翻译数据包，实现翻译功能 所需第三方库 …
阅读更多...
【OnlyOffice】 桌面应用编辑器，版本8.0已发布，PDF表单、RTL支持、Moodle集成、本地界面主题

【OnlyOffice】 桌面应用编辑器，版本8.0已发布，PDF表单、RTL支持、Moodle集成、本地界面主题

ONLYOFFICE桌面编辑器v8.0是一款功能强大、易于使用的办公软件，适用于个人用户、企业团队和教育机构，帮助他们高效地处理文档工作并实现协作。无论是在Windows、macOS还是Linux平台上，ONLYOFFICE都能提供无缝的编辑和共享体验。 目录 ONLYOFF…
阅读更多...
Jmeter接口测试+压力测试

Jmeter接口测试+压力测试

Jmeter-http接口脚本 一般分五个步骤:（1）添加线程组 （2）添加http请求 （3）在http请求中写入接入url、路径、请求方式和参数 （4）添加查看结果树 （5）调用接口、…
阅读更多...
化学分子Mol2文件格式与使用注意事项

化学分子Mol2文件格式与使用注意事项

欢迎浏览我的CSND博客！ Blockbuater_drug …点击进入 文章目录 前言一、Mol2文件示例二、 Mol2文件主要结构解释及注意事项MOLECULE 字段解释ATOM 字段解释BOND 字段解释SUBSTRUCTURE字段解释 总结参考资料 前言 Mol2格式文件是一个ASCII 文件，由Tripos…
阅读更多...
STM32控制max30102读取血氧心率数据(keil5工程)

STM32控制max30102读取血氧心率数据(keil5工程)

一、前言 MAX30102是一款由Maxim Integrated推出的低功耗、高精度的心率和血氧饱和度检测传感器模块，适用于可穿戴设备如智能手环、智能手表等健康管理类电子产品。 该传感器主要特性如下： （1）光学测量：MAX30102内置…
阅读更多...
Rocky Linux 运维工具yum

Rocky Linux 运维工具yum

一、yum的简介 ​​yum​是用于在基于RPM包管理系统的包管理工具。用户可以通过 ​yum​来搜索、安装、更新和删除软件包，自动处理依赖关系，方便快捷地管理系统上的软件。 二、yum的参数说明 1、install 用于在系统的上安装一个或多个软件包 2、seach 用…
阅读更多...
Docker 常用操作命令备忘

Docker 常用操作命令备忘

Docker 一旦设置好了环境，日常就只要使用简单命令就可以运行和停止。 于是，我每次用的时候，都想不起来一些关键性的命令到底怎么用，特此记录。 一、镜像管理 从公有仓库拉取镜像 （对于使用苹果电脑 M1/M2/M3 芯片的 …
阅读更多...
完全分布式运行模式

完全分布式运行模式

完全分布式运行模式 分析：之前已经配置完成 ​ 1）准备3台客户机（关闭防火墙、静态ip、主机名称） ​ 2）安装JDK ​ 3）配置环境变量 ​ 4）安装Hadoop ​ 5）配置环境变量 ​ 6&am…
阅读更多...
Springboot集成Druid实现监控功能

Springboot集成Druid实现监控功能

Druid是阿里巴巴开发的号称为监控而生的数据库连接池，在功能、性能、扩展性方面，都超过其他数据库连接池，包括DBCP、C3P0、BoneCP、Proxool、JBoss DataSource等等等，秒杀一切。Druid可以很好的监控DB池连接和SQL的执行情况&#…
阅读更多...
AOSP10 替换系统launcher

AOSP10 替换系统launcher

本文实现将原生的launcher 移除&#xff0c;替换成我们自己写的launcher。 分以下几个步骤&#xff1a; 一、新建一个自己的launcher项目。 1.直接使用android studio 新建一个项目。 2.修改AndroidManifest.xml <applicationandroid:persistent"true"androi…
阅读更多...
nginx实现http反向代理

nginx实现http反向代理

一、代理概述 1、代理概念 1.1 正向代理&#xff08;Forward Proxy&#xff09; 概念&#xff1a;正向代理是位于客户端和目标服务器之间的代理服务器&#xff0c;代表客户端向目标服务器发送请求。客户端将请求发送给代理服务器&#xff0c;然后代理服务器将请求转发给目标服…
阅读更多...
Prompt 编程的优化技巧

Prompt 编程的优化技巧

一、为什么要优化 一&#xff09;上下文限制 目前 GPT-3.5 以及 GPT-4最大支持 16K 上下文&#xff0c;比如你输入超过 16k 的长文本&#xff0c;ChatGPT 会提示文本过大&#xff0c;为了避免 GPT 无法回复&#xff0c;需要限制 上下文在16k 以内 上下文对于 GPT 来说是非常重…
阅读更多...
【手机端测试】adb基础命令

【手机端测试】adb基础命令

一、什么是adb adb&#xff08;Android Debug Bridge&#xff09;是android sdk的一个工具 adb是用来连接安卓手机和PC端的桥梁&#xff0c;要有adb作为二者之间的维系&#xff0c;才能让用户在电脑上对手机进行全面的操作。 Android的初衷是用adb这样的一个工具来协助开发人…
阅读更多...
第103讲：配置Mycat的Schema逻辑库列表

第103讲：配置Mycat的Schema逻辑库列表

文章目录 1.Schema逻辑库2.自定义Mycat连接后显示那些Schema 1.Schema逻辑库 使用Mycat登录到数据库后&#xff0c;发现仅显示了一个TESTDB&#xff0c;这个TESTDB并不是后台数据库节点中的数据库&#xff0c;只是Mycat定义的逻辑库Schema&#xff0c;接下来我们就来说明如果自…
阅读更多...
蓝桥杯Learning

蓝桥杯Learning

Part 1 递归和递推 1. 简单斐波那契数列 n int(input())st [0]*(47) # 注意这个地方&#xff0c;需要将数组空间设置的大一些&#xff0c;否则会数组越界 st[1] 0 st[2] 1 # 这个方法相当于是递推&#xff0c;即先求解一个大问题的若干个小问题 def dfs(u):if u 1:print(…
阅读更多...
CKA认证，开启您的云原生之旅！

CKA认证，开启您的云原生之旅！

在当今数字化时代&#xff0c;云计算已经成为企业和个人发展的关键技术。而获得CKA&#xff08;Certified Kubernetes Administrator&#xff09;认证&#xff0c;将是您在云原生领域迈出的重要一步。 CKA认证是由Kubernetes官方推出的权威认证&#xff0c;它旨在验证您在Kuber…
阅读更多...
OSI模型

OSI模型

OSI模型 TCP/IP参考模型 TCP/IP常见协议 应用层 FTP&#xff08;用于文件的下载和上传&#xff0c;采用C/S结构&#xff09; Telnet&#xff08;用于远程登陆服务&#xff09; DNS&#xff08;域名解析&#xff09; HTTP&#xff08;接收和发布Html页面&#xff09; 传输层…
阅读更多...
MetaGPT 1 安装与配置踩坑实录

MetaGPT 1 安装与配置踩坑实录

安装 与 配置直接参考这里就行&#xff1a;Hugging Muti Agent&#xff08;二月学习&#xff09; - 飞书云文档 (feishu.cn) 这里按照教程安装的是metagpt 0.6.6 &#xff0c;经过跟0.7.0对比&#xff0c;个人认为0.7对其他llm接入可能更好&#xff0c;文档也更清晰。 0.6.6的…
阅读更多...
VUE3：统计分析页面布局+自适应页面参考

VUE3：统计分析页面布局+自适应页面参考

一、布局 <template><div class"container1"><div class"form white"><el-form :inline"true" :rules"rules" :model"queryParams" label-width"80px" ref"querParmRef"><e…
阅读更多...
最新文章
推荐文章

Copyright @ 2022~2023