本节课让同学们实践 4 个内容,分别是:部署 InternLM2-Chat-1.8B
模型进行智能对话、部署一期实战营优秀作品 八戒-Chat-1.8B
模型、 运行 Lagent
智能体 Demo
、实践部署 浦语·灵笔2
模型。
第一步,打开 Intern Studio
界面,点击 创建开发机 配置开发机系统。进入开发机后,在 terminal
中输入环境配置命令。配置完成后,进入到新创建的 conda
环境之中:
第二步,下载 InternLM2-Chat-1.8B
模型,等待模型加载完成,键入内容示例:
请创作一个 300 字的小故事
显示结果如下:
3 实战:部署实战营优秀作品 八戒-Chat-1.8B
模型
按照教程(https://github.com/InternLM/Tutorial/blob/camp2/helloworld/hello_world.md)的操作步骤配置环境,下载运行 Chat-八戒 Demo,对端口环境配置本地 PowerShell
,打开 http://127.0.0.1:6006 后,等待加载完成即可进行对话,键入内容示例如下:
你好,请自我介绍
结果如下:
4.实战:使用 Lagent
运行 InternLM2-Chat-7B
模型(开启 30% A100 权限后才可开启此章节)
Lagent 是一个轻量级、开源的基于大语言模型的智能体(agent)框架,支持用户快速地将一个大语言模型转变为多种类型的智能体。首先,按照之前的教程内容搭建环境。其次,使用 Lagent
运行 InternLM2-Chat-7B
模型为内核的智能体。待程序运行的同时,对本地端口环境配置本地 PowerShell
。按照教程配置完成后,打开 http://127.0.0.1:6006 后,(会有较长的加载时间)勾上数据分析,其他的选项不要选择,进行计算方面的 Demo 对话,即完成本章节实战。键入内容示例:
请解方程 2*X=1360 之中 X 的结果
运行结果如下:
5 实战:实践部署 浦语·灵笔2
模型(开启 50% A100 权限后才可开启此章节)
浦语·灵笔2
是基于 书生·浦语2
大语言模型研发的突破性的图文多模态大模型,具有非凡的图文写作和图像理解能力,在多种应用场景表现出色,总结起来其具有:
- 自由指令输入的图文写作能力:
浦语·灵笔2
可以理解自由形式的图文指令输入,包括大纲、文章细节要求、参考图片等,为用户打造图文并貌的专属文章。生成的文章文采斐然,图文相得益彰,提供沉浸式的阅读体验。 - 准确的图文问题解答能力:
浦语·灵笔2
具有海量图文知识,可以准确的回复各种图文问答难题,在识别、感知、细节描述、视觉推理等能力上表现惊人。 - 杰出的综合能力:
浦语·灵笔2-7B
基于书生·浦语2-7B
模型,在13项多模态评测中大幅领先同量级多模态模型,在其中6项评测中超过GPT-4V
和Gemini Pro
。
配置基础环境(开启 50% A100 权限后才可开启此章节),下载 InternLM-XComposer 仓库 相关的代码资源:图文写作实战,配置powershell,打开 http://127.0.0.1:6006 实践效果如下图所示:
5.4 图片理解实战(开启 50% A100 权限后才可开启此章节)
根据教程中附录 6.4 的方法,关闭并重新启动一个新的 terminal
,继续输入指令,启动 InternLM-XComposer2-vl
:
打开 http://127.0.0.1:6006 (上传图片后) 键入内容示例如下:
请分析一下图中内容
实践效果如下: