文章目录
- 一、代码部分讲解
- 二、实际部署步骤(CHALM3训练步骤)
- 1）注册AutoDL官网实名认证
- 2）花费额度挑选GPU
- 3）准备实验环境
- 4）开始执行脚本
- 5）从浏览器访问
- 6）可以开始提问
- 7）开始微调模型
- 8）测试训练后的模型
- 三、基于Llama2-7b的训练
- 四、额外补充
- 1）修改参数后
- 2）如果需要访问科学的彼岸
一、代码部分讲解
二、实际部署步骤(CHALM3训练步骤)
1）注册AutoDL官网实名认证
①官网地址：https://www.autodl.com/
②按常规方法注册、登录后，还要做个人实名认证。如果不实名认证，无法从浏览器访问你训练的大模型，看不到训练效果。
2）花费额度挑选GPU
①点击算力市场
②RTX 4090，显存大于 20GB 的均可。选中后，点击「n 卡可租」。
③只需选择一个 GPU，然后点击「社区镜像」，选中自己制定的镜像，然后点击「立即创建」
④在容器实例中可以看到刚创建的容器。当「状态」为「运行中」时，表示创建完成，并且开始计费。
如果想暂停计费，请点击「关机」。下次需要使用时，再点击「开机」。
agiclass/fine-tuning-lab/finetune-lab-v4 是我们制作的容器镜像。它预设好了实验环境，包含了llama2的权重、chatglm3的权重下载命令、训好的checkpoints、自己训练所需的数据集和代码等
3）准备实验环境
①ssh登录容器
在自己电脑的命令行工具内，通过 ssh 登录容器。可以从
