由于DeepSeek近期遭受攻击,又加上用户访问量较大,导致总是服务不可用,让人十分窝火。有没有好的解决办法呢?答案是自己在电脑端部署一套,这样就不用和别人抢着用了。另外本地部署的好处还有保护隐私与减少延迟。
如果下文中涉及的软件下载不了,或者下载速度太慢,则可以直接从网盘下载。
下载链接为:https://pan.quark.cn/s/5bfdf5d28275
一)安装Ollama
Ollama,一个支持很多大模型本地调用的应用程序。
Ollama官方网站:Ollama
直接点击下方的 Download 进行下载安装即可,安装完成后会发现一个羊驼一样的图标。
以Windows电脑为例,安装成功后,在搜索框输入Ollama,可以看到如下图标,则表示安装成功。
二)安装模型
安装好Ollama之后接着就是安装模型.
打开deepseek-r1模型的下载地址是:deepseek-r1
入门级:1.5B版本(4GB内存+核显可运行)
进阶推荐:7B版本(8GB内存+4GB显存)
高性能设备:32B版本(32GB内存+12GB显存)
这里推荐下载7B版本。大部分电脑配置都能跑起来。输入
ollama run deepseek-r1:7b
下载一个7b的模型试试效果。
按下 win+R 输入 cmd 调起命令行
在命令行中输入 ollama list 可以查看有当前机器有哪些模型。
下载完模型之后执行 ollama run deepseek-r1:7b 启动模型。
搞完之后就可以正常体验了,这种能输出结果,但是不方便查看,怎么办呢?搞一个客户端来处理下。
三)安装ChatBox
ChatBox的下载地址:https://chatboxai.app/zh/install?download=win64](https://chatboxai.app/zh/install?download=win64
安装好之后打开ChatBox, 在设置界面 【使用自己的API Key或本地模型】
如果手太快,关闭了这个窗口,可以通过“设置”-“添加自定义提供方”来进入。
进行如下的配置:
保存配置之后,在窗口输入对话测试下。输入你是谁:他可以正常的回答他是 DeepSeek-R1。
注意,到此步骤本地部署的版本是不具备联网功能,联网功能会在后续的文章中介绍。为AI之行迈出关键一步而干杯吧!