一,Deepseek本地部署方式
有UI且简单:LM Studio、Text Generation WebUI。
高效率但无UI:Ollama、LLama.cpp、Tabby。
二,通过Ollama本地部署Deepseek
1,什么是Ollama
Ollama是一个开源的 LLM(大型语言模型)服务工具,用于简化在本地运行大语言模型,降低使用大语言模型的门槛,使得大模型的开发者、研究人员和爱好者能够在本地环境快速实验、管理和部署最新大语言模型,包括如Llama 3、Phi 3、Mistral、Gemma等开源的大型语言模型。
2,下载Ollama
下载地址:https://ollama.com/
下载后直接安装即可,安装完后通过以下命令查看是否安装成功
//通过win+R 输入cmd,打开黑窗口后输入下面命令,可以查看安装的ollama版本号
ollama -v
3,在ollama上安装deepseek
在ollama官网上可以直接下载安装deepseek,根据自己的显卡性能选择不同大小的模型
不建议安装1.5版本,有点弱智,各个版本要求如下
复制deepseek安装命令到黑窗口,等待安装完成就可以对话了
//allama上下载deepseek模型
ollama pull deepseek-r1:8b
//ollama上下载安装并运行deepseek的命令
ollama run deepseek-r1:8b
//暂停deepseek安装命令
Ctrl+C
//退出deepseek模型
Ctrl+D
//查看ollama上安装了那些模型
ollama list
//根据模型版本,运行deepseek模型
ollama run deepseek-r1:8b
4,安装可视化操作界面Chatbox
上面虽然可以和deepseek交互,但是不美观,所以我们需要安装一个可视化界面方便操作。Chatbox就是专为新手设计的免费工具客户端!
Chatbox就像一个「聊天窗口」,界面美观简洁,让你用最直观的方式在本地向DeepSeek等AI模型提问、写代码、翻译文字、实时联网搜索与查询、AI图片生成,而无需懂编程。
Chatbox AI 支持所有的主流 AI 模型和 API,可在 Windows、MacOS、Android、iOS、Linux 和网页版上免费使用。
Chatbox下载地址:https://chatboxai.app/zh