书生·浦语 大模型（学习笔记-5）XTuner 微调 LLM：1.8B、多模态、Agent

目录

一：两种微调

二、数据的一生

三、微调方案

四、XTuner

五、InternLM2 1.8B模型（相关知识）

一：两种微调

增量与训练和指令微调的区别 

二、数据的一生

原始数据转换为标准格式数据

添加对话模板，直接调用即可，会拼接

三、微调方案

三种加载对比

四、XTuner

五、8GB 显存玩转 LLM

五、InternLM2 1.8B模型（相关知识）

        适合初学者使用

六、多模态LLM

        感觉原理和之前的增量与训练有些相似，具体还没总结出来哪里不太一样

        学完感觉对大模型的理解更近一步

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.rhkb.cn/news/315282.html

如若内容造成侵权/违法违规/事实不符，请联系长河编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

操作系统课程--考纲要求

操作系统课程--考纲要求

第一/二次课： 绪论 【学习内容与目标】 1、操作系统目标及定义 掌握操作系统的设置目标，理解并掌握操作系统的定义，了解操作系统的地位以及从资源管理者角度和用户角度了解操作系统的组成。 2、 操作系统的特征与功能 掌握操作系统的特征&…
阅读更多...
github Copilot的使用总结

github Copilot的使用总结

1. 代码建议和补全 GitHub Copilot 的基本使用涉及编写代码时的实时代码建议和补全。一旦你已经安装并配置好 GitHub Copilot 插件，你可以在支持的编辑器（如 Visual Studio Code）中开始使用 Copilot。以下是一些基本的使用步骤： …
阅读更多...
RK3588S和ARM阵列服务器在虚拟化云平台的应用

RK3588S和ARM阵列服务器在虚拟化云平台的应用

RK3588是瑞芯微2021年底推出的首款高端8nm旗舰芯片，而RK3588S 则是针对消费端市场在RK3588基础上缩减了部分外围接口，CPU、GPU和NPU等主要参数得到了保留，主要应用范围为高端ARM平板、ARM笔电产品，会议平板类、ARM服务器、智能机器…
阅读更多...
信息系统项目管理师——第7章项目立项管理

信息系统项目管理师——第7章项目立项管理

本章考选择题2-3分，案例和论文均有可能作为领域考试。 项目建议与立项申请♥♥♥♥♥ 立项申请的概念 立项申请又称为项目建议书，是项目建设单位向上级主管部门提交项目申请时所必须的文 件，是该项目建设筹建单位根据国民经济的发展、国家…
阅读更多...
JavaWeb过滤器

JavaWeb过滤器

Javaweb过滤器是一种用于在Servlet处理请求之前或之后对请求进行预处理或后处理的组件。过滤器可以用于拦截请求、修改请求参数、过滤响应内容等操作。其主要作用包括： 拦截请求：过滤器可以拦截客户端请求，对请求进行验证、过滤或修改&#x…
阅读更多...
Java基础之JVM对象内存分配机制简介

Java基础之JVM对象内存分配机制简介

一 对象内存分配 1.1 运行时数据区域 1.2 常见java应用启动JVM参数： -Xss：每个线程的栈大小(单位kb)-Xms：堆的初始大小，默认物理内存的1/64,示例：-Xms:4g -Xms:10m-Xmx：堆的最大可用大小，默认物…
阅读更多...
水库大坝安全白蚁监测系统解决方案

水库大坝安全白蚁监测系统解决方案

一、系统背景 白蚁作为河岸生态系统中的重要病害，不仅会导致水库大坝外部环境发生改变，甚至会引发水库大坝破坏，进而导致自身结构失去稳定性，严重影响水库大坝的正常运行。因此，治理水库大坝白蚁是确保水库大坝工程顺利…
阅读更多...
HTTP与HTTPS 对比，区别详解（2024-04-25）

HTTP与HTTPS 对比，区别详解（2024-04-25）

一、简介 HTTP（超文本传输协议，Hypertext Transfer Protocol）是一种用于从网络传输超文本到本地浏览器的传输协议。它定义了客户端与服务器之间请求和响应的格式。HTTP 工作在 TCP/IP 模型之上，通常使用端口 80。 HTTPS&#xf…
阅读更多...
【Hadoop】- MapReduce YARN 初体验[9]

【Hadoop】- MapReduce YARN 初体验[9]

目录 提交MapReduce程序至YARN运行 1、提交wordcount示例程序 1.1、先准备words.txt文件上传到hdfs，文件内容如下： 1.2、在hdfs中创建两个文件夹，分别为/input、/output 1.3、将创建好的words.txt文件上传到hdfs中/input 1.4、提交MapR…
阅读更多...
区块链技术与应用学习笔记（8-9节）——北大肖臻课程

区块链技术与应用学习笔记（8-9节）——北大肖臻课程

目录 8.挖矿 对于全节点和轻节点思考问题？ ①全节点在比特币的主要作用？ ②挖矿时当监听到别人已经挖出区块并且延申了最长合法链此时应该立刻放弃当前区块在 本地重新组装一个指向最后这个新合法区块的候选区块，重新开始挖矿。节点这么做…
阅读更多...
「React Native」为什么要选择 React Native 作为的跨端方案

「React Native」为什么要选择 React Native 作为的跨端方案

文章目录 前言一、常见因素二、举个栗子2.1 项目背景2.2 为什么选择 React Native2.3 项目实施2.4 成果总结 前言 没有完美的跨端技术，只有适合的场景。脱离适用场景去谈跨端技术没有什么意义。 一、常见因素 共享代码库： React Native 允许开发者编写…
阅读更多...
OmniPlan Pro for Mac v4.8.0中文激活版 项目流程管理工具

OmniPlan Pro for Mac v4.8.0中文激活版 项目流程管理工具

OmniPlan Pro for Mac是一款功能强大的项目管理软件，它以其直观的用户界面和丰富的功能，帮助用户轻松管理各种复杂的项目。 OmniPlan Pro for Mac v4.8.0中文激活版 通过OmniPlan Pro，用户可以轻松创建任务，设置任务的开始和结束时…
阅读更多...
毕业撒花 流感服务小程序的设计与实现

毕业撒花 流感服务小程序的设计与实现

目录 1.1 总体页面设计 1.1.1 用户首页 1.1.2 新闻页面 1.1.3 我的页面 1.1.5 管理员登陆页面 1.1.6 管理员首页 1.2 用户模块 1.2.1 体检预约功能 1.2.2 体检报告功能 1.2.4 流感数据可视化功能 1.2.5 知识科普功能 1.2.6 疾病判断功能 1.2.7 出示个人就诊码功能 …
阅读更多...
系统安全测试要怎么做？

系统安全测试要怎么做？

进行系统安全测试时，可以按照以下详细的步骤进行： 1、信息收集和分析： 收集系统的相关信息，包括架构、部署环境、使用的框架和技术等。 分析系统的安全需求、威胁模型和安全策略等文档。 2、威胁建模和风险评估： …
阅读更多...
【VUE】Vue中实现树状表格结构编辑与版本对比的详细技术实现

【VUE】Vue中实现树状表格结构编辑与版本对比的详细技术实现

Vue中实现树状表格结构编辑与版本对比的详细技术实现 在Vue中，创建一个可编辑的树状表格并实施版本对比功能是一种需求较为常见的场景。在本教程中，我们将使用Vue结合Element UI的el-table组件，来构建一个树状表格，其中包含添加、…
阅读更多...
codeforce#933 题解

codeforce#933 题解

E. Rudolf and k Bridges 题意不讲了，不如去题干看图。 传统dp，每个点有两个选择，那么建桥要么不建。需要注意的是在状态转移的时候，桥是有长度的，如果不建需要前d格中建桥花费最少的位置作为状态转移的初态。 #incl…
阅读更多...
与Apollo共创生态：Apollo7周年大会自动驾驶生态利剑出鞘

与Apollo共创生态：Apollo7周年大会自动驾驶生态利剑出鞘

前言 4月22日，百度Apollo在北京车展前夕举办了以“破晓•拥抱智变时刻”为主题的智能汽车产品发布会，围绕汽车智能化，发布了智驾、智舱、智图等全新升级的“驾舱图”系列产品。 1、7周年大会 自2013年百度开始布局自动驾驶，201…
阅读更多...
Axure RP 9中文激活版：专业原型设计工具mac/win

Axure RP 9中文激活版：专业原型设计工具mac/win

Axure RP 9是一款由美国Axure Software Solution公司开发的专业原型设计工具。它凭借强大的交互功能和丰富的设计素材，为产品经理、UI设计师、交互设计师等用户提供了高效、便捷的原型设计体验。 Axure RP 9支持快速创建线框图、流程图、原型和规格说明文档&#xf…
阅读更多...
c++中的链表list的模拟实现

c++中的链表list的模拟实现

拖更了半个月，我终于来填c的坑啦。上次我们说的vetcor不知道小伙伴还记得多少呢？今天我们要讲list的模拟实现。 目录 架构结点list表的结构 构造函数尾插push_back()尾删pop_back()计算个数：size()判断空empty()※迭代器问题普通迭代器迭代器…
阅读更多...
vue2[黑马笔记]

vue2[黑马笔记]

vue基础 是什么—javascript框架 构建用户界面的前端框架 1.构建用户界面用vue往html页面中填充数据 2.框架现成的解决方案，遵守框架的规范去实现自己的业务功能学习vue 就是学习vue框架中规定的用法vue的指令组件（对ul结构的复用）&#x…
阅读更多...
最新文章
推荐文章

Copyright @ 2022~2023