一、下载并安装Ollama
1、为什么要安装Ollama的呢?
Ollama 是一个用于本地部署和管理大型语言模型(LLM)的工具,支持多种模型格式和框架。
它可以帮助用户轻松下载、配置和运行模型,同时提供统一的接口和依赖管理。
1.1 、登录与下载
进入Ollama官网,点击右上角的“Download”按钮。根据你的电脑系统版本(如Windows 10、Windows 11等),选择对应的安装包进行下载。
1.2、安装过程
下载完成后,双击安装包开始安装。在安装过程中,一直点击“下一步”即可,无需更改默认设置。安装完成后,右下角会出现Ollama的提示框,表示安装成功。
验证安装:为了确认Ollama是否安装成功,你可以打开终端(按下Windows键+R,输入“cmd”后回车)并输入命令ollama -v
。如果终端显示出Ollama的版本号,说明安装成功。
二、下载并使用DeepSeek R1
启动模型下载: 在终端中输入命令ollama run deepseek -r1
,然后按回车
这将开始下载DeepSeek R1的默认7B参数规格模型。请耐心等待下载完成,这个过程可能需要至少20分钟,并且不支持断点续传。
选择参数规格:如果你需要其他参数规格的模型,可以在命令后添加:参数量。
例如,要下载14B模型,可以输入ollama run deepseek -r1:14b
。请注意,模型文件的大小会随着参数量的增加而增加,7B模型约4.7G,14B模型约9G。下载完成后,终端会出现>>>符号,表示你可以开始与DeepSeek R1进行交互了。
删除模型:ollama rm deepseek -r1:14