ChatGLM环境配置

【目的】

ChatGPT令人震撼的冲击下,笔者转向NLM的Transformer模型,ChatGLM作为清华开源的大语言模型,笔者尝试了其环境配置,为相关理论学习奠定基础。本文用于备忘与学习,无商业用途。

【参考】

ChatGLM的源码下载链接:

GitHub - THUDM/ChatGLM-6B: ChatGLM-6B:开源双语对话语言模型 | An Open Bilingual Dialogue Language ModelChatGLM的离线模型国外链接:

THUDM/chatglm-6b at main

ChatGLM的离线模型国内链接(注意:国内链接只包含主要的模型节点文件,需要github下载响应的配置文件):

清华大学云盘

完整的模型数据结构如下图:

 【步骤】

1、下载Anaconda并安装,安装流程网上搜索或参考如下博文:

anaconda安装配置教程_anaconda安装教程_振华OPPO的博客-CSDN博客

2、进入anaconda Prompt, 创建并激活环境

# 创建环境
conda create -n pytorch python=3.7
conda activate pytorch

 

3、进入源码文件,按要求配置环境

pip install -r requirements.txt

注意:3.7python环境下pytorch 的版本需要与你的计算显卡参数相匹配,便于配置CUDA,因此,在安装完配置环境后,需要卸载调pytorch相关安装包,后面根据CUDA要求重新安装

uninstall torch torchaudio torchvision

4、配置CUDA环境 (安装前需要确定后面要安装的pytorch 的版本)

参考链接:

踩坑总结!Windows系统安装CUDA、cuDNN_cuda安装时自动重启_Angus *的博客-CSDN博客

配置大致流程:查看本机显卡匹配的CUDA,官网下载CUDA安装包,CUDA安装,cuDNN文件下载与复制到相应文件夹

Pytorch与CUDA的版本对应参考官网:

Start Locally | PyTorch

 5、配置pytorch,选择与CUDA相匹配的pytorch版本

pytorch从如下链接离线下载并安装。清华源会默认安装CPU版本的,因此GPU的pytorch推荐离线安装

Index of /anaconda/cloud/pytorch/win-64/ | 北京外国语大学开源软件镜像站 | BFSU Open Source Mirror

conda install --use-local D:\pytorch-1.13.1-py3.7_cuda11.6_cudnn8_0.tar.bz2

 torchaudio 和torchvision通过清华源安装

pip install torchaudio -i https://pypi.mirrors.ustc.edu.cn/simple/pip install torchvision -i https://pypi.mirrors.ustc.edu.cn/simple/

6、将下载的THUDM/chatglm-6b 模型放到huggingface的默认读取文件夹内:

C:\Users\HP\.cache\huggingface\hub\models--THUDM--chatglm-6b\snapshots\acd41f77311be8584836edc2fc7251d5b6e65840

7、模型运行

8、浏览器显示结果:

 

 

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/55951.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

马斯克最新访谈全文,信息量极大,远见令人震撼

"建设太空文明和成为多星球物种是重要的,如果将来发生了第三次世界大战或者类似的事情,或者发生了全球性热核战争,那个时候可能地球上所有的文明都将被毁于一旦,但它至少能够继续在别的地方存在。" 作者 | 六毛 来源 | …

NER实战:(命名实体识别/文本标注/Doccano工具使用/关键信息抽取/Token分类/源码解读/代码逐行解读)

精读这篇文章你就能知道什么是NER,并且可以学会在开发任务中使用NER 目录 1、chatGPT对NER的解释 2、NER任务 3、NER标注工具Doccano 1、chatGPT对NER的解释 命名实体识别(Named Entity Recognition,NER)是自然语言处理领域的…

Ubuntu 18.04 LTS 更换国内源(镜像)

中科大源官方帮助 官方还有其它发行版的帮助,在 Ubuntu 18.04 LTS 上打开软件列表可以看到“软件和更新”。

Ubuntu22.04更换国内镜像源(阿里、网易163、清华、中科大)

更换方法 Ubuntu采用apt作为软件安装工具,其镜像源列表记录在/etc/apt/source.list文件中。 首先将source.list复制为source.list.bak备份,然后将source.list内容改为需要的镜像源列表即可。 修改完成后保存source.list文件,执行&#xff…

比较两幅图像的相似度

现在以图搜图的功能比较火热,很好奇其原理。 简单的搜索学习得知,实现相似图片搜索的关键技术是“感知哈希算法”,作用是对每一张图片按照某种规律生成一个对应的指纹字符串。比较不同图片之间的指纹字符串,结果越接近&#xff0…

比较两个模拟信号的相似度

转载自微信公众号 原创 逸珺 嵌入式客栈 #include <stdio.h> #include <math.h>/* 返回值在区间&#xff1a; [-1,1] */ /* 如返回-10&#xff0c;则证明输入参数无效 */ #define delta 0.0001f double calculate_corss_correlation(double *s1, doub…

图像相似度对比分析软件,图像相似度算法有哪些

有没有一款软件能比对两张照片是否一样? 可以用AI软件来对比。AI人脸比对已经变成非常常用的AI场景之一。步骤如下&#xff1a;1、浏览器输入网址百度AI应用&#xff0c;AI人脸比对。2、进入人脸比对的功能演示模块。 3、点击左侧的‘本地上传’按钮&#xff0c;上传本地照片…

图像相似度对比分析软件,图像相似度计算方法

怎么对比两张图片的相似度 1、首先打开微信&#xff0c;选择底部“发现”。如图所示。2、然后在点击进入“小程序”。如图所示。3、然后输入“腾讯AI体验中心”搜索&#xff0c;点击进入。4、选择“人脸对比”。如图所示。 5、上传两张图片上去&#xff0c;点击“人脸比对”。…

使用Faiss进行海量特征的相似度匹配

点击上方“机器学习与生成对抗网络”&#xff0c;关注"星标" 获取有趣、好玩的前沿干货&#xff01; 作者丨Gemfield知乎 编辑 | 极市平台 来源丨https://zhuanlan.zhihu.com/p/210736523 导读 Faiss为稠密向量提供高效相似度搜索和聚类&#xff0c;支持十亿级别向量…

分析图片相似度的软件,图片相似度比对算法

计算图像相似度的算法有哪些 SIMStructuralSIMilarity&#xff08;结构相似性&#xff09;&#xff0c;这是一种用来评测图像质量的一种方法。 由于人类视觉很容易从图像中抽取出结构信息,因此计算两幅图像结构信息的相似性就可以用来作为一种检测图像质量的好坏.首先结构信息…

比较两幅图像的相似度的各种相似度量结果对比

对于人眼来说&#xff0c;很容易看出两个给定图像的质量有多相似。例如下图将各种空间噪声添加到图片中&#xff0c;我们很容易将它们与原始图像进行比较&#xff0c;并指出其中的扰动和不规则性。但是在机器学习中我们需要数学表达式来量化这种差异。 在本文中&#xff0c;我们…

语音相似度评价

语音相似度评价是用于测量语音之间的相似程度&#xff0c;常使用的算法是动态时间规整&#xff08;Dynamic time warping&#xff0c;DTW&#xff09;&#xff0c;其原理是通过对齐时间序列来评估它们之间相似性。DTW是一种基于对齐的度量&#xff08;alignment-based metric&a…

图像相似度对比分析软件,图像相似度对比分析法

有什么可以对比两张图片得出相似度的软件。 谷歌人工智能写作项目&#xff1a;神经网络伪原创 图像怎么进行比对 有什么软件可以把两张照片进行对比 查看相似度 1、Mix滤镜大师。IX滤镜大师免费提供将近200款默认滤镜&#xff0c;包括景深滤镜&#xff0c;散景滤镜&#xff…

如何写好工作日报,周报,月报?

管理大师德鲁克曾经在《21世纪的管理挑战》中说过&#xff0c;“21世纪&#xff0c;‘管理’需要提供的最重要的贡献&#xff0c;就是提高知识工作和知识工作者的生产率。” 而这也是公司推行周报日报制度最核心的诉求&#xff0c;对于知识工作者生产率的管理&#xff0c;用白…

测试部门工作周报模板

转载于:https://blog.51cto.com/zdytesting/2148921

日报周报月报工作总结生成器「智能文案生成器」

在职场上&#xff0c;尤其是互联网公司里&#xff0c;“写周报”是一件麻烦的事情。理想的工作环境下&#xff0c;写周报能让工作内容透明化&#xff0c;并有助于总结工作经验和办事方法。但现实情况往往没那么理想。有些公司学习“先进经验”&#xff0c;突然增加周报制度&…

日报周报月报工作总结生成器【智能文案生成器】

日报周报月报工作总结生成器【智能文案生成器】 天天写日报&#xff0c;我真的快奔溃了&#xff01; 摸了一天鱼&#xff0c;下班还要写日报&#xff1b; 划了一周的水&#xff0c;周末还要写周报&#xff1b; 啊啊啊啊… 在职场上&#xff0c;尤其是互联网公司里&#xff0c…

【工作周报】

内容&#xff1a; 了解CV领域常用评价标准BLEU、CIDEr、METEOR、ROUGE对HMN项目中涉及评分的代码进行分析将测试视频的predictions和groundtruth作为输入计算分数保存结果到excel文件中 时间&#xff1a; 12.14 ~ 12.20 笔记&#xff1a; 了解CV领域常用评价标准BLEU、CIDEr…

日报周报自动生成工具,一句简要描述,自动写出一篇工作日志总结

有了这个工具&#xff0c;再也不用担心每日每周每月的工作日志了&#xff0c;你只需要输入一段简要描述&#xff0c;就可以快速生成完整的工作日志内容&#xff0c;下面我们一起看看效果吧 微信小程序搜索【静静工具箱】免费使用 此工具打开也不需要太多复杂的操作&#xff0…

IT人员的周报应该怎么写

周报对于职场人员一定不陌生&#xff0c;周报既是对自己工作的总结&#xff0c;找到自己工作的问题&#xff0c;也是让老板知道你干了什么&#xff0c;是自己和老板之间进行沟通的桥梁。因为工种的不同&#xff0c;周报的样式也各不相同&#xff0c;作为IT人员&#xff0c;最看…