deepseek部署在本地详细教程

最近,DeepSeek爆火,先进的算法、卓越的能力,表现出众,其凭一己之力推动国内Ai大模型跨越式发展。作为一款现象级的Ai产品,用户量暴增,最近服务器又被攻击,使用DeepSeek,经常出现服务器繁忙,将DeepSeek部署在本地电脑就方便很多。

将DeepSeek部署在本地电脑,只需三步即可完成。

一、环境准备

(一)硬件需求

最低配置:CPU(支持AVX2指令集)+ 16GB内存 + 30GB存储。
推荐配置:NVIDIA GPU(RTX 3090或更高)+ 32GB内存 + 50GB存储。

(二)软件依赖

操作系统:Windows、macOS或Linux。
Docker:如果使用Open Web UI,需要安装Docker。

二、下载安装 Ollama

部署DeepSeek要用到 Ollama,它支持多种大模型。

Ollama官网:Ollama

下载安装Ollama,macOS、Linux 和 Windows都可以下载安装,选用Windows系统。

访问Ollama官网:前往Ollama官网,点击“Download”按钮。
下载安装包:根据你的操作系统选择对应的安装包。下载完成后,直接双击安装文件并按照提示完成安装。默认都是安装到C盘
验证安装:安装完成后,在终端输入以下命令,检查Ollama版本:

如果输出版本号(例如ollama version is 0.5.7),则说明安装成功。

二、下载 DeepSeek-R1

1、进入Ollama官网,找到Models。

2、进入就可以看到deepseek-r1模型,如果没有,在搜索栏搜索即可。

3、选择对应的模型来下载,1.5b、7b、8b、14b、32b、70b或671b,这里有很多版本可选,模型越大,要求电脑内存、显卡等的配置越高。老宅这台机子是4060的显卡,选择8b的模型。

选择模型版本:
  • 入门级:1.5B版本,适合初步测试。
  • 中端:7B或8B版本,适合大多数消费级GPU。
  • 高性能:14B、32B或70B版本,适合高端GPU。

4、找到Windows【开始菜单】,鼠标右键点击【终端管理员】。

5、复制下边8b的代码。

6、粘贴到PowerShell(管理员)运行框,然后回车。(这里会默认安装在C盘,注意C盘空间)

出现下载等待窗口,等待下载完成。

7、下载完成后稍微等待,看到success,即部署完成。

8、部署完成,send a message,输入内容即可开始对话。

启动Ollama服务:

在终端运行以下命令启动Ollama服务:

ollama serve

    服务启动后,可以通过访问 http://localhost:11434 来与模型进行交互。

    三、Chatbox前端搭建

    通过第二步的操作,已经部署好DeepSeek,但每次使用都要在终端管理员里操作,相当繁琐。这里可以借助Chatbox,实现网页或客户端操作。

    1、下载安装Chatbox

    Chatbox官网:Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载

    进入官网下载安装Chatbox客户端。

    设置中文

    2、点击设置,选择Ollama API

    3、选择安装好的deepseek r1模型,保存即可

    4、部署完成,就可以正常使用了。

    通过以上三步,DeepSeek就部署在本地电脑上了,有些不方便公开的数据,比如实验数据,可以通过部署大模型到本地的方式进行处理,不用担心数据泄露。

    DeepSeek 登顶苹果中国地区和美国地区应用商店下载排行榜,在美区下载榜上超越了 ChatGPT。其推理能力的强大就不多说了,留给大家自行探索。

    四、使用Open Web UI(可选)


    为了更直观地与DeepSeek模型进行交互,可以使用Open Web UI。以下是安装和使用步骤:

    安装Docker:确保你的机器上已安装Docker。
    运行Open Web UI:
    在终端运行以下命令安装并启动Open Web UI:
    docker run -d -p 3000:8080 \
      --add-host=host.docker.internal:host-gateway \
      -v open-webui:/app/backend/data \
      --name open-webui \
      --restart always \
      ghcr.io/open-webui/open-webui:main

    安装完成后,访问 http://localhost:3000,选择deepseek-r1:latest模型即可开始使用。

    你可以在本地成功部署DeepSeek模型,并通过Ollama、Open Web UI、chartBox与模型进行交互。 

    五、性能优化与资源管理


    资源分配:根据硬件配置选择合适的模型版本。较小的模型(如1.5B到14B)在标准硬件上表现良好,而较大的模型(如32B和70B)需要更强大的GPU支持。
    内存管理:确保系统有足够的内存和存储空间,以避免运行时出现资源不足的问题。


    六、常见问题及解决方法


    模型下载超时:如果在下载模型时出现超时问题,可以尝试重新运行下载命令。
    服务启动失败:确保Ollama服务已正确安装并启动。如果服务启动失败,可以尝试重启Ollama服务。

    七、ollama常用命令:

    退出模型:/bye

    列出模型:

    删除模型:

    本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/18337.html

    如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

    相关文章

    修改OnlyOffice编辑器默认字体

    通过Docker修改OnlyOffice编辑器默认字体 问题描述详细方案1. 删除原生字体文件2. 创建字体目录3. 复制字体文件到容器中4. 执行字体更新脚本5. 重新启动容器 注意事项 问题描述 在OnlyOffice中,编辑器的默认字体可能不符合公司或个人的需求,通常会使用…

    Vue学习笔记4

    Vue学习笔记 一、自定义创建项目 基于VueCli自定义创建项目架子 二、vuex基本认知 1、vuex概述 是什么:是vue的状态管理工具(插件),状态就是数据 大白话:vuex是一个插件,可以帮助我们管理vue通用的数…

    文心一言4月起全面免费,6月底开源新模型:AI竞争进入新阶段?

    名人说:莫听穿林打叶声,何妨吟啸且徐行。—— 苏轼 Code_流苏(CSDN)(一个喜欢古诗词和编程的Coder😊) 目录 一、文心一言免费化的背后:AI成本与应用的双重驱动1️⃣成本下降,推动文心一言普及2…

    SSM课设-学生选课系统

    【课设者】SSM课设-学生选课系统 分为 管理员 和 老师 和 学生端 技术栈 前端: HtmlCssJavaScriptAjax 后端: Spring、Spring MVC、MyBatis、MySQL、JSP 学生端 --选课 选课 搜索 --查看选课结果 --退选 --查看已修课程 --管理个人信息 老师端 --添加教学课程 添加 …

    LabVIEW外腔二极管激光器稳频实验

    本项目利用LabVIEW软件开发了一个用于外腔二极管激光器稳频实验的系统。系统能够实现激光器频率的稳定控制和实时监测,为激光实验提供了重要支持。 项目背景: 系统解决了外腔二极管激光器频率不稳定的问题,以满足对激光器频率稳定性要求较高…

    windows,docker停止所有容器

    CMD命令窗口 你可以尝试使用以下命令来停止所有正在运行的Docker容器: FOR /f "tokens*" %i IN (docker ps -q) DO docker stop %i这条命令的工作原理是: docker ps -q 列出所有正在运行的容器的ID。 FOR /f "tokens*" %i IN (c…

    RedHat8安装postgresql15和 postgis3.4.4记录及遇到的问题总结

    安装包对照版本参考 UsersWikiPostgreSQLPostGIS – PostGIS 如果Red Hat系统上有旧版本的PostgreSQL需要卸载 在较新的Red Hat版本,使用dnf包管理器卸载:sudo dnf remove postgresql-server postgresql 旧版本,使用yum包管理器卸载 sudo y…

    DBeaver clickhouse 时区不对 时间少了8小时

    选择DataBase选择Driver Manager选择clickhouse数据库点中之后,选择编辑添加两个全局属性 use_server_time_zone use_time_zone 鼠标移动到User Properties上,右键即可添加一列空白 然后断开重连

    【vscode】VScode Remote SSH配置

    VScode使用remote ssh 到服务器上的Docker容器中 1. 配置远程服务器docker容器的端口映射,例如将服务器的2222端口映射到container的22端口(默认) 1.1 在容器系统的sshd_config文件中配置参数 #配置文件 vim /etc/ssh/sshd_config #打开端口号 Port 221.2 建立容…

    光谱相机在天文学领域的应用

    天体成分分析 恒星成分研究:恒星的光谱包含了其大气中各种元素的吸收和发射线特征。通过光谱相机精确测量这些谱线,天文学家能确定恒星大气中氢、氦、碳、氮、氧等元素的含量。如对太阳的光谱分析发现,太阳大气中氢元素占比约 71%&#xff0…

    MySQL错误-this is incompatible with sql_mode=only_full_group_by完美解决方案

    项目场景 有时候,遇到数据库重复数据,需要将数据进行分组,并取出其中一条来展示,这时就需要用到group by语句。 但是,如果mysql是高版本,当执行group by时,select的字段不属于group by的字段的…

    Unity 全部版本下载存档【需要梯子】

    首先 挂一个非cn的梯子(因为实测港澳不行,会跳转到cn官网) 然后打开这个网址: Download Archive 最后打开你的Unity Hub 点击下载就可以自动跳转到Hub里下载了

    同为科技智能PDU助力Deepseek人工智能和数据交互的快速发展

    1 2025开年,人工智能领域迎来了一场前所未有的变革。Deepseek成为代表“东方力量”的开年王炸,不仅在国内掀起了技术热潮,并且在全球范围内引起了高度关注。Deepseek以颠覆性技术突破和现象级应用场景席卷全球,这不仅重塑了产业格…

    Linux-C/C++《七、字符串处理》(字符串输入/输出、C 库中提供的字符串处理函数、正则表达式等)

    字符串处理在几乎所有的编程语言中都是一个绕不开的话题,在一些高级语言当中,对字符串的处理支 持度更是完善,譬如 C、 C# 、 Python 等。若在 C 语言中想要对字符串进行相关的处理,譬如将两个字符串进行拼接、字符串查找、两个…

    Golang GORM系列:GORM事务及错误处理

    在数据库管理领域,确保数据完整性至关重要。GORM是健壮的Go对象关系映射库,它为开发人员提供了维护数据一致性和优雅地处理错误的基本工具。本文是掌握GORM事务和错误处理的全面指南。我们将深入研究如何使用事务来保证原子性,并探索有效处理…

    「软件设计模式」工厂方法模式(Factory Method) vs 抽象工厂模式(Abstract Factory)

    前言 在软件工程领域,设计模式是解决常见问题的经典方案。本文将深入探讨两种创建型模式:工厂方法模式和抽象工厂模式,通过理论解析与实战代码示例,帮助开发者掌握这两种模式的精髓。 一、工厂方法模式(Factory Metho…

    给本地模型“投喂“数据

    如何训练本地Deepseek-r1:7b模型 在前面两篇文章中,我在自己的电脑的本地部署了Deepseek的7b的模型,并接入到我Chrome浏览器的插件中,使用起来更方便了。在使用的过程中发现7b的推理能力确实没有671满血版本的能力强,很多问题回答…

    在Spring Cloud项目中集成MySQL、MyBatis-Plus与HikariCP

    一. 小知识 mysql-connector-java 和 mysql-connector-j 的区别 mysql-connector-java 和 mysql-connector-j 实际上指的是同一个MySQL官方提供的JDBC驱动程序,但它们代表了这个驱动在不同时间点的命名。 mysql-connector-java:这是旧的命名方式&#xf…

    利用IDEA将Java.class文件反编译为Java文件:原理、实践与深度解析

    文章目录 引言:当.class文件遇到源代码缺失第一章:反编译技术基础认知1.1 Java编译执行原理1.2 反编译的本质1.3 法律与道德边界 第二章:IDEA内置反编译工具详解2.1 环境准备2.2 三步完成基础反编译2.3 高级反编译技巧2.3.1 调试模式反编译2.…