ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型,基于 General Language Model (GLM) 架构,具有 62 亿参数。因为我的cpu跑不了,在linux服务器端进行部署。前提是conda已经安装并配置好,因为我的已经搞好,就不是从最初开始,但是网上有很多配置方法,操作起来也不是太难。
这里提供一些其他博主的安装和配置方法;
https://blog.csdn.net/KRISNAT/article/details/124041869#1_Anconda_1
硬件需求:
下载代码:
git clone https://github.com/THUDM/ChatGLM-6B.git
使用anaconda创建虚拟环境
pip install -r requirements.txt
启动命令:
python cli_demo.py
最终会显示命令行中进行交互式的对话,在命令行输入指示并回车即可生成回复,界面如下: