ChatGpt开源项目完美运行配置-ChatGml2

（以下所有软件均可免费在网盘获取。）

任务描述
本节任务是安装和配置chatgpt项目所需的软件以及chatgpt项目所需要的python库包，同时编写python代码来完成chatgpt项目的人机对话功能。

实验工具
显卡GTX1070（专用内存需要大于等于6G）以上电脑、Pycharm软件、Python3.10软件、cuda11.0软件。

任务实施
任务一 环境配置
cuda11.0软件百度网盘获取：
链接：https://pan.baidu.com/s/1KOJfAVR6nKmVafNnmbsYDw
提取码：lblh
cudnn11.0百度网盘获取：
链接：https://pan.baidu.com/s/1CBuq7jflihEDuclSq-RTJA
提取码：efgu

一．Cuda11.0软件安装配置
1.找到cudnn-11.0-windows-x64-v8.0.4.30.zip压缩包，并且解压它。
在这里插入图片描述

2.解压后双击点开，准备安装cuda11.0软件。
在这里插入图片描述

3.选择默认路径，点击ok。
在这里插入图片描述
在这里插入图片描述

4.等待检查系统的兼容性。
在这里插入图片描述

5.检查完后，点击同意并继续。
在这里插入图片描述

6.在这里，我们选择“自定义（c）（高级）”，然后点击下一步。
在这里插入图片描述

7.点击CUDA左边的“+”号。
在这里插入图片描述

8.查看Visual Studio Integration选项，点击取消Visual Studio Integration打得勾，然后点击下一步。
在这里插入图片描述

9.继续点击下一步。
在这里插入图片描述

10.等待安装完成。
在这里插入图片描述

11.安装成功，点击下一步即可。
在这里插入图片描述

12.安装完成后，找到cudnn-11.0-windows-x64-v8.0.4.30.zip压缩包，并且解压。
在这里插入图片描述

13.将cuda文件夹内的所有文件复制到默认路径C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0
在这里插入图片描述

14.检测，按windows+R键，输入cmd回车，输入：nvcc -V，显示有V11.0的版本即为检测成功。
在这里插入图片描述

二．Python软件安装与配置
python3.10软件百度网盘获取：
链接：https://pan.baidu.com/s/1t5jfcvalXEJ-wF_hapjw7Q
提取码：brbh
1.找到python软件python-3.10.11-amd64.exe，双击点开准备进行安装。
在这里插入图片描述

2.先选择Add Python.exe to PATH自动配置系统环境，再点击Install Now。
在这里插入图片描述

3.等待python软件的安装进程。
在这里插入图片描述

4.出现Close说明安装完成，点击Close完成安装。
在这里插入图片描述

三．Pycharm软件安装与配置
Pycharm软件百度网盘获取：
链接：https://pan.baidu.com/s/1fnA4X7wOA7O-4byPQv492A
提取码：pq5l
1.找到pycharm软件pycharm-community-2020.2.1.exe。
在这里插入图片描述

2.双击点开pycharm-community-2020.2.1.exe。
在这里插入图片描述

3.点击Next。
在这里插入图片描述

4.选择你安装的路径，在这里我安装在默认的路径中，继续点击Next。
在这里插入图片描述

5.勾选64-bit launcher和Add launchers dir to the PATH，如图1-1-30所示，继续点击Next。
在这里插入图片描述

6.点击Install。
在这里插入图片描述

7.等待安装。
在这里插入图片描述

8.出现Finish，说明完成安装，点击Finish结束安装。
在这里插入图片描述

任务二 运行chatgpt项目
chatgml2-6B项目（不包括模型）：
链接：https://pan.baidu.com/s/1KojC0Mgt09JVq7sZcrSpwg
提取码：xqtj
chatgml2-6B项目模型地址：https://huggingface.co/THUDM/chatglm2-6b/tree/main

一．Python库包的安装
1.找到Pycharm桌面快捷方式，双击打开。
在这里插入图片描述

2.选择界面编辑底色，黑色或者白色，这里我选黑色，然后点击Next:Featured plugins。
在这里插入图片描述

3.点击Start using PyCharm，开始使用Pycharm。
在这里插入图片描述

4.选择Open。
在这里插入图片描述

5.找到ChatGLM2-6B-main项目路径，点击ok，打开ChatGLM2-6B-main项目。
在这里插入图片描述

6.找到File位置，点击File。
在这里插入图片描述

7.点击Settings…。
在这里插入图片描述

8.找到Python Interpreter，点击Python Interpreter。
在这里插入图片描述

9.点击设置按钮，点击Add。
在这里插入图片描述

10.点击System Interpreter，然后点击OK。
在这里插入图片描述

11，然后会出现python3.10环境，注意这里会显示3.9，是因为Pycharm软件目前不支持显示Python3.10，但不影响。
在这里插入图片描述

12.点击ok。即环境设置完成。
在这里插入图片描述

13.找到Terminal，打开Terminal窗口。
在这里插入图片描述

14.使用以下命令进入gpu库包路径：
cd gpu库包
在这里插入图片描述

15.使用以下命令安装torch库包：
pip install “torch-2.0.1+cu117-cp310-cp310-win_amd64.whl”
在这里插入图片描述

16.使用以下命令安装torchaudio库包：
pip install “torchaudio-2.0.2+cu117-cp310-cp310-win_amd64.whl”
在这里插入图片描述

17.使用以下命令安装torchvision库包：
pip install “torchvision-0.15.2+cu117-cp310-cp310-win_amd64.whl”
在这里插入图片描述

18.依次使用以下命令安装其他库包：
cd …
pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
在这里插入图片描述
19.使用以下命令安装cudnn相关依赖库包：
pip install nvidia-cudnn-cu11 -i https://pypi.tuna.tsinghua.edu.cn/simple
pip install nvidia-cuda-runtime-cu11 -i https://pypi.tuna.tsinghua.edu.cn/simple
pip install nvidia-cublas-cu11 -i https://pypi.tuna.tsinghua.edu.cn/simple
pip install nvidia-cuda-nvrtc-cu11 -i https://pypi.tuna.tsinghua.edu.cn/simple
在这里插入图片描述

二．Python代码编写运行测试
1.新建一个main.py文件，依次点击New->Python File。
在这里插入图片描述

2.输入main.py并且回车，创建main.py文件。
在这里插入图片描述

3.然后准备开始编写代码，首先调用加载模型的库包
代码如下：
from transformers import AutoTokenizer, AutoModel
在这里插入图片描述

4.写一段加载大模型的代码，以供后续使用
代码如下：
tokenizer = AutoTokenizer.from_pretrained(“chatglm2”, trust_remote_code=True)
model = AutoModel.from_pretrained(“chatglm2”, trust_remote_code=True).half().quantize(4).cuda()
model = model.eval()
在这里插入图片描述

5.定义一个main函数，该main函数的功能是人机对话。
代码如下：
def main():
在这里插入图片描述

6.定义一个列表，并且输出功能描述。
代码如下：
history =[]
print(“欢迎使用 ChatGLM2-6B 模型，输入内容即可进行对话”)
在这里插入图片描述

7.定义一个循环，该循环作用是可以循环人机对话。
代码如下：
while True:
在这里插入图片描述

8.写一个用户输入的接口，用户可以在此输入问题。
代码如下：
query = input(“\n用户：”)
在这里插入图片描述

9.写一个判断语句，如果输入“stop”则停止人机对话，否则将继续往下执行。
代码如下：
if query.strip() == “stop”:
break
在这里插入图片描述

10.显示机器名称以及定义一个参数
代码如下：
print(“\nChatGLM：”, end=“”)
current_length = 0
在这里插入图片描述

11.持续输出机器人对用户的提问作出的回答语句。
代码如下：
for response, history, past_key_values in model.stream_chat(tokenizer,
query, history=history,
past_key_values=None,
return_past_key_values=True):
print(response[current_length:], end=“”, flush=True)
current_length = len(response)
print(“”)
在这里插入图片描述

12.写一个程序执行入口，执行main函数。
代码如下：
if name == “main”:
main()
在这里插入图片描述

13.写完之后运行main.py文件。
在这里插入图片描述

14.运行后加载大模型过程中需要等待一段时间，加载模型过程如下。
在这里插入图片描述

15.运行成功后，输入“你好”，查看回答。
在这里插入图片描述

16.询问“晚上睡不着怎么办？”，查看回答。
在这里插入图片描述

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.rhkb.cn/news/99109.html

如若内容造成侵权/违法违规/事实不符，请联系长河编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

前端PWA应用的相关知识和基础Demo

前端PWA应用的相关知识和基础Demo

一、什么是PWA应用？ 1、PWA简介 ​ 渐进式Web应用（Progressive Web App），简称PWA，是 Google 在 2015 年提出的一种使用web平台技术构建的应用程序，官方认为其核心在于Reliable（可靠的&#xf…
阅读更多...
安装搭建私有仓库 Harbor

安装搭建私有仓库 Harbor

目录 一. 准备环境 1.1安装 Docker 1.2安装 Docker Compose 二. 下载 Harbor 安装包 三. 解压安装包 四. 配置 Harbor 五. 安装 Harbor 六. 访问 Harbor 七. 创建项目、用户和角色 一. 准备环境 确保您的服务器满足 Harbor 的系统要求。最低要求是至少 2 核 CPU、4GB…
阅读更多...
高速、稳定、安全：4G工业路由器在户外环境下的组网优势

高速、稳定、安全：4G工业路由器在户外环境下的组网优势

能够在无人值守的户外环境下实现组网和远程监控功能的4G工业路由器！工业级路由器具备防尘、防水、耐高温等特性，适用应用在恶劣的户外及工业场景中，如远程农田监测、驾考科目二/科目三、智能交通系统、环境监控、煤矿数据采集、水利远程管理等…
阅读更多...
聚焦电力行业CentOS迁移，麒麟信安受邀参加第六届电力信息通信新技术大会暨数字化发展论坛并发表主题演讲

聚焦电力行业CentOS迁移，麒麟信安受邀参加第六届电力信息通信新技术大会暨数字化发展论坛并发表主题演讲

为加快推进“双碳”目标下的新型能源体系和新型电力系统建设，深化新一代数字技术与电力业务的融合发展，促进电力行业关键技术自主创新、安全可控，助力电力企业数字化转型升级和高质量发展，2023年8月9-11日，第六届电力信…
阅读更多...
第一篇：编写 Hello World 程序

第一篇：编写 Hello World 程序

编写 Hello World 程序 Hello World 程序就是让应用程序显示 Hello World 字符串。这是最简单的应用，但却包含了一个应用程序的基本要素，所以一般使用它来演示程序的创建过程。本章要讲的就是在Qt Creator 中创建一个图形用户界面的项目，从而…
阅读更多...
Java请求Http接口-hutool的HttpUtil(超详细-附带工具类)

Java请求Http接口-hutool的HttpUtil(超详细-附带工具类)

概述 HttpUtil是应对简单场景下Http请求的工具类封装&#xff0c;此工具封装了HttpRequest对象常用操作&#xff0c;可以保证在一个方法之内完成Http请求。 此模块基于JDK的HttpUrlConnection封装完成&#xff0c;完整支持https、代理和文件上传。 导包 <dependency>&…
阅读更多...
详细整合Spring+SpringMVC+MyBatis+logback（SSM）项目

详细整合Spring+SpringMVC+MyBatis+logback（SSM）项目

整体目录结构 表结构 pom.xml <?xml version"1.0" encoding"UTF-8"?> <project xmlns"http://maven.apache.org/POM/4.0.0"xmlns:xsi"http://www.w3.org/2001/XMLSchema-instance"xsi:schemaLocation"http://maven.a…
阅读更多...
windows ipv4 多ip地址设置，默认网关跃点和自动跃点是什么意思？（跃点数）

windows ipv4 多ip地址设置，默认网关跃点和自动跃点是什么意思？（跃点数）

文章目录 Windows中的IPv4多IP地址设置以及默认网关跃点和自动跃点的含义引言IPv4和IPv6&#xff1a;简介多IP地址设置&#xff1a;Windows环境中的实现默认网关跃点&#xff1a;概念和作用自动跃点&#xff1a;何时使用&#xff1f;关于“跃点数”如何确定应该设置多少跃点数&…
阅读更多...
动态内存管理

动态内存管理

目录 为什么要用动态内存开辟 动态内存有关函数 void* malloc (size_t size); void free (void* ptr); void* calloc (size_t num, size_t size); void* realloc (void* ptr, size_t size); C/C程序的内存开辟 柔性数组 特点&#xff1a; 柔性数组的使用&#xff1a; 为什么要用…
阅读更多...
Nacos和GateWay路由转发NotFoundException: 503 SERVICE_UNAVAILABLE “Unable to find

Nacos和GateWay路由转发NotFoundException: 503 SERVICE_UNAVAILABLE “Unable to find

问题再现&#xff1a; 2023-08-15 16:51:16,151 DEBUG [reactor-http-nio-2][CompositeLog.java:147] - [dc73b32c-1] Encoding [{timestampTue Aug 15 16:51:16 CST 2023, path/content/course/list, status503, errorService Unavai (truncated)...] 2023-08-15 16:51:16,17…
阅读更多...
[oneAPI] 手写数字识别-GAN

[oneAPI] 手写数字识别-GAN

[oneAPI] 手写数字识别-GAN 手写数字识别参数与包加载数据模型训练过程结果 oneAPI 比赛&#xff1a;https://marketing.csdn.net/p/f3e44fbfe46c465f4d9d6c23e38e0517 Intel DevCloud for oneAPI&#xff1a;https://devcloud.intel.com/oneapi/get_started/aiAnalyticsToolki…
阅读更多...
Linux驱动开发（Day4）

Linux驱动开发（Day4）

思维导图&#xff1a; 字符设备驱动分步注册&#xff1a;
阅读更多...
Linux —— 进程间通信（System V）

Linux —— 进程间通信（System V）

目录 一&#xff0c;共享内存 申请共享内存 shmget 控制共享内存 shmctl 关联共享内存 shmat / 去联共享内存 shmdt 二&#xff0c;消息队列 创建或打开消息队列 msgget 发送消息 msgsnd / 接收消息 msgrcv 控制消息 msgctl 三&#xff0c;信号量 创建或打开信号量 s…
阅读更多...
搭建Everything+cpolar在线资料库，实现随时随地访问

搭建Everything+cpolar在线资料库，实现随时随地访问

Everythingcpolar搭建在线资料库&#xff0c;实现随时随地访问 文章目录 Everythingcpolar搭建在线资料库&#xff0c;实现随时随地访问前言1.软件安装完成后&#xff0c;打开Everything2.登录cpolar官网 设置空白数据隧道3.将空白数据隧道与本地Everything软件结合起来总结 前…
阅读更多...
【算法系列篇】双指针

【算法系列篇】双指针

文章目录 前言什么是双指针算法1.移动零1.1 题目要求1.2 做题思路1.3 Java代码实现 2.复写零2.1 题目要求2.2 做题思路2.3 Java代码实现 3.快乐数3.1 题目要求3.2 做题思路3.3 Java代码实现 4.盛最多水的容器4.1 题目要求4.2 做题思路4.3 Java代码实现 5.有效三角形的个数5.1 题…
阅读更多...
HAProxy搭建web集群

HAProxy搭建web集群

HAProxy Haproxy概念 HAProxy是可提供高可用性、负载均衡以及基于TCP和HTTP应用的代理&#xff0c;是免费、快速并且可靠的一种解决方案。HAProxy非常适用于并发大&#xff08;并发达1w以上&#xff09;web站点&#xff0c;这些站点通常又需要会话保持或七层处理。HAProxy的运…
阅读更多...
023：vue中解决el-date-picker更改样式不生效问题

023：vue中解决el-date-picker更改样式不生效问题

第023个 查看专栏目录: VUE ------ element UI 本文章目录 修改后的效果示例源代码&#xff08;共52行&#xff09;核心内容步骤&#xff1a;&#xff08;1&#xff09;更改样式&#xff08;2&#xff09;添加参数 专栏目标 在vue项目开发中&#xff0c;我们打算保持颜色的一致…
阅读更多...
第三讲：ApplicationContext的实现

第三讲：ApplicationContext的实现

这里写目录标题 一、前文回顾二、基础代码准备三、基于XML的ClassPathXmlApplicationContext1. 创建spring-config.xml配置文件2. 指定配置文件的路径 四、基于注解的AnnotationConfigApplicationContext1. 新增一个配置类2.指定配置类信息 五、基于注解和ServletWebServer应用…
阅读更多...
Azure虚拟网络对等互连

Azure虚拟网络对等互连

什么是Azure虚拟网络对等互联 Azure虚拟网络对等互联&#xff08;Azure Virtual Network peering&#xff09;是一种连接两个虚拟网络的方法&#xff0c;使得这两个虚拟网络能够在同一地理区域内进行通信。它通过私有IP地址在虚拟网络之间建立网络连接&#xff0c;不论是在同一…
阅读更多...
Linux命令200例：head用于显示文件的开头部分（常用）

Linux命令200例：head用于显示文件的开头部分（常用）

&#x1f3c6;作者简介&#xff0c;黑夜开发者&#xff0c;全栈领域新星创作者✌。CSDN专家博主&#xff0c;阿里云社区专家博主&#xff0c;2023年6月csdn上海赛道top4。 &#x1f3c6;数年电商行业从业经验&#xff0c;历任核心研发工程师&#xff0c;项目技术负责人。 &…
阅读更多...
最新文章
推荐文章

Copyright @ 2022~2023

友情链接： 我的编程经验分享 一条长河网 尧图网站开发