一、ChatGLM3 简介
ChatGLM3 是一款先进的语言模型,它通过增强的语言理解、逻辑推理和数学计算能力,提供了更精准的问题解答和更流畅的对话体验。
模型支持多模态交互,能够处理图像与文本的结合,同时拥有深化的知识图谱,确保信息全面。
个性化对话设计使得交流更加贴近用户需求,而强化了的安全性和合规性确保了内容的正确性。
ChatGLM3 还具备代码解释和编写能力,以及跨领域知识应用的高效性,使其成为一款功能全面、智能高效的对话系统。
二、模型搭建流程
基础环境最低要求说明:
环境名称 | 版本信息1 | 版本信息2 |
---|---|---|
Ubuntu | 22.04.4 LTS | |
Cuda | V12.1.105 | |
Python | 3.10.8 | 3.12.4 |
NVIDIA Corporation | RTX 3060 *2 | RTX 3090 |
1. 根据需求选择主机和镜像,进行一键创建实例
租用实例 --》一键使用 --》GPU 数量选择 1 张 RTX 3090 或者 2 张 RTX 3060 --》应用社区 --》ChatGLM3,即可在平台进行实例创建。
(1) 选择 GPU 数量为 1 张 RTX 3090 的方法
(2) 选择 GPU 数量为 2 张 RTX 3060 的方法
(3) 进入应用社区,选择 ChatGLM3 大模型的方法
2. 进入创建的实例,点击“Web SSH”
(1) 进入网页端命令行
(2)启动 web 页面
# 切换到 ChatGLM3 项目的 basic_demo 目录
cd ChatGLM3/basic_demo# 激活 ChatGLM3 虚拟环境
conda activate ChatGLM3# 执行web脚本
python web_demo_gradio.py
3. 获取端口号
4.进入 web 页面
将获取到的链接复制到本地浏览器:
# 比如当前获取的地址如下:
http://hn-a.suanjiayun.com:31138
以上就是在算家云搭建ChatGLM3 的流程,具体使用方式可进入算家云应用社区查看该模型的使用说明。
复制下方网址,进入算家云,选择模型,一键开启 AI 之旅!
算家云应用社区 www.suanjiayun.com/container/#/mirror