目录
什么是Chatgpt
什么是gpt4all
如何使用
第一步:下载LLM模型
第二步:下载代码
第三步:将模型替换到
第四步:执行启动命令
第五步:生成自己的客户端
第六步:启动
第七步:配置UI
什么是Chatgpt
ChatGPT是一个由OpenAI开发的大型语言模型。其基于GPT-4架构(Generative Pretrained Transformer 4)进行训练,目的是理解和生成人类语言。它可以回答问题、撰写文章、翻译语言、编写代码等。
ChatGPT在训练过程中,学习了大量的文本数据,其中包括了书籍、网站和其他类型的文本。然而,它并没有直接访问互联网,因此不能获取实时信息,也不能存储与个人相关的任何信息。
什么是gpt4all
GPT4All是Nomic AI公司开源的一个类似ChatGPT的模型,它是基于MetaAI开源的LLaMA微调得到的其最大的特点是开源,并且其4-bit量化版本可以在CPU上运行!gpt4all是在大量干净数据上训练的一个开源聊天机器人的生态系统。它不用科学上网!甚至可以不联网!本地就能用。接下来咱们就是实战一下如何体验gpt4all。支持的系统包括Mac/OSX、Windows、Ubuntu市面上常用的所有操作系统。
GPT4All模型是一个3GB - 8GB的文件,您可以下载并插入GPT4All开源生态系统软件。特别强调是GPT4All是遵循非商业化协议,所以不能用于商业用途。
如何使用
第一步:下载LLM模型
浏览器打开这个地址: https://the-eye.eu/public/AI/models/nomic-ai/gpt4all/gpt4all-lora-quantized.bin, 下载模型文件,文件大小是3.92GB。这个模型下载需要科学上网,我这边下载好了大语言模型,因为CSDN上直接粘贴网盘地址审核不通过,所以需要的同学可以私信或者留言我发你。
第二步:下载代码
第三步:将模型替换到
将gpt4all-lora-quantized.bin放进gpt4all-main下的chat文件夹,注意项目路径为:“gpt/gpt4all-main/gpt4all-training/chat”。
第四步:执行启动命令
在当前目录下执行启动命令,我的电脑是mac,Intel 我使用的最后一个命令。但是我的电脑操作系统版本太低,报错。如下图,要解决这个case有两种方式,一个是升级我电脑系统,需要升级到13版本。 一个是重新生成一个新的客户端。我采用的是后一种方式。
- M1 Mac/OSX: cd chat;./gpt4all-lora-quantized-OSX-m1
- Linux: cd chat;./gpt4all-lora-quantized-linux-x86W
- indows (PowerShell): cd chat;./gpt4all-lora-quantized-win64.exe
- Intel Mac/OSX: cd chat;./gpt4all-lora-quantized-OSX-intel
第五步:生成自己的客户端
如果不想升级电脑的操作系统(也有可能是无奈之举电脑太旧不适合升级)就自定义客户端吧。采用如下命令就可以生成适合自己的客户端。
git clone https://github.com/zanussbaum/gpt4all.cpp
cd gpt4all.cpp
make chat
cp chat ../gpt4all/chat/gpt4all-lora-quantized-OSX-intel-old
第六步:启动
采用如下命令就可以启动了“./gpt4all-lora-quantized-OSX-intel-old*”,奈何本人电脑确实配置太低,直接卡死。就不做演示截图了,感兴趣的同学可以自己尝试练习。
第七步:配置UI
如果你觉得使用终端不舒服可以配合UI尝试。网页打开gpt4all点io 下载安装包。打开安装包点击这个”绿U盘“打开安装程序,选择安装路径安装。(”此组件大约占用您硬盘驱动器3.95GB的空间“)安装之后在你的安装路径下,有一个叫GPT4ALL的文件夹,在里面找到bin 文件夹,打开里面的chat.app,就能用UI交互啦!
https://github.com/nomic-ai/gpt4all
https://github.com/nomic-ai/gpt4all/issues/70