DeepSeek介绍本地部署保姆级教程

        2025年春节前后,DeepSeek 如滚烫油锅中溅入的一碗水,瞬间激起千层浪,在网络世界里掀起了一场热议风暴,迅速火遍大江南北。无论是互联网行业的前沿先锋,还是传统行业的资深从业者;无论是专注于开发、测试、运维的技术人员,亦或是国企的领导高层,几乎都对这一国产 AI 有所耳闻。一时间,DeepSeek 的访问量激增,以至于常常因过大的访问压力而无法及时解答问题。更有不少公司为了方便员工使用,果断选择在本地部署 DeepSeek 服务。

        那么,DeepSeek 究竟是什么?它具备哪些独特的优点?普通用户该如何使用它?企业又该如何在本地完成部署呢?今天,就让小屁带大家一起深入探寻吧!

现在有很多假的甚至是用deepseek收费盈利的网站出现在搜索引擎中,真正的deepseek官网如下

DeepSeekChat with DeepSeek AI – your intelligent assistant for coding, content creation, file reading, and more. Upload documents, engage in long-context conversations, and get expert help in AI, natural language processing, and beyond. | 深度求索(DeepSeek)助力编程代码开发、创意写作、文件处理等任务,支持文件上传及长文本对话,随时为您提供高效的AI支持。https://chat.deepseek.com/

目录

一、deepseek简介

DeepSeek概述

技术特点

模型发布

应用领域

优势与影响

二、本地部署deepseek

1、安装ollama

2、部署deepseek-r1模型

三、可视化部署Web UI

1、下载Chatbox AI

1.在 Windows 上配置环境变量

3.注意事项

4.Chatbox配置模型

3、效果演示

一、deepseek简介

DeepSeek概述

DeepSeek是由深度求索(北京)科技有限公司开发的一款先进的人工智能模型,基于Transformer架构,具备强大的自然语言处理和多模态交互能力。其目标是通过技术创新和开源策略,推动AI技术的普及和应用。

技术特点

  1. 混合专家模型(MoE)架构:DeepSeek采用MoE架构,通过稀疏激活机制大幅减少计算量,同时保持高性能。

  2. 多头潜在注意力机制(MLA):通过低秩键值联合压缩和解耦旋转位置嵌入,提高计算效率。

  3. 多tokens预测(MTP)技术:允许模型同时预测多个连续位置的token,提高训练效率。

  4. 低精度训练:DeepSeek V3原生支持FP8混合精度训练,显著降低计算和存储需求。

  5. 多模态能力:支持文本、图像、音频等多种数据类型,适用于复杂的多模态任务。

  6. 高效训练框架:采用HAI-LLM框架,支持多种并行策略,降低训练成本。

模型发布

  1. DeepSeek-R1:2025年1月发布,性能与OpenAI的o1正式版持平,开源。支持多模态任务,如文本生成、图像描述生成等。

  2. DeepSeek-V3:2024年12月发布,总参数达6710亿,采用MoE架构和FP8混合精度训练,训练成本仅为557.6万美元。

  3. Janus-Pro:2025年1月发布,支持文生图、图生文等多模态任务,性能强于DALL-E 3。

应用领域

  1. 自然语言处理:包括智能客服、文本生成、翻译、摘要等。

  2. 多模态任务:如图像生成、图像理解、音频处理等。

  3. 代码生成与调试:支持多种编程语言的代码生成和调试。

  4. 金融领域:用于投资研究、产品销售和客户服务。

  5. 教育领域:提升教育产品的智能化水平。

  6. 娱乐购物:如音乐推荐、内容创作等。

  7. 智能制造:工艺优化、设备维护、知识管理。

优势与影响

  1. 高性能与低成本:DeepSeek以极低的成本实现了高性能,打破了传统AI“规模至上”的观念。

  2. 开源生态:通过开源策略,降低了技术门槛,促进了全球开发者社区的参与。

  3. 中文优化:针对中文语境进行了深度优化,适合国内市场。

  4. 推动行业创新:DeepSeek的开源模式为全球AI发展注入新活力,推动了AI技术的普惠化。

  5. 行业应用广泛:在金融、教育、娱乐、智能制造等多个领域展现出强大的应用潜力。

DeepSeek凭借其技术创新和开源策略,正在成为AI领域的重要力量,推动全球AI技术的普及和应用

二、本地部署deepseek

1、安装ollama

ollama官网:Ollama

点击Download下载

选择对应的操作系统,本次以Windows操作系统为例
点击Download for Windows下载。 

下载完成后,打开文件开始安装OllamaSetup

点击Install开始下载,等待下载完成

检查是否安装成功 win+R输入cmd调出命令行进入到命令模式,输入命令ollama -v查看是否安装成功,输入完命令出现了版本号的话就说明安装成功。

2、部署deepseek-r1模型

回到ollama官网点击左上角的Models进入如下界面。并选择第一个deepseek-r1,点击进入

选择适合自己电脑配置的版本

选择好后,复制对应版本后的命令

win+R输入cmd调出命令行进入到命令模式,输入命令 如果觉得下载速度慢,可以Ctrl+C先退出这个命令,然后再输入命令重新进行下载,还是会接着上次的下载进度继续下载,速度会稍微快一些。

下载完成后会出现success,接下来就可以进行对话了

问一个AI经常会出错的问题:9.11和9.9哪个大,deepseek会给出思考过程以及最终结论。

输入命令/bye可以退出对话

输入命令ollama list可以查看下载好的模型

输入ollama run + 对应的模型就可以进入对话

#退出模型
>>> /bye
#查看模型
C:\Users\chk>ollama list
NAME                ID              SIZE      MODIFIED
deepseek-r1:1.5b    a42b25d8c10a    1.1 GB    3 minutes ago#启动模型
ollama run deepseek-r1:1.5b
>>>
#查看帮助
C:\Users\chk>ollama  -h
Large language model runnerUsage:ollama [flags]ollama [command]Available Commands:serve       Start ollamacreate      Create a model from a Modelfileshow        Show information for a modelrun         Run a modelstop        Stop a running modelpull        Pull a model from a registrypush        Push a model to a registrylist        List modelsps          List running modelscp          Copy a modelrm          Remove a modelhelp        Help about any commandFlags:-h, --help      help for ollama-v, --version   Show version informationUse "ollama [command] --help" for more information about a command
​

这里输入ollama run deepseek-r1:latest可以发现再一次进入对话。

这样本地部署deepseek就算完成啦

三、可视化部署Web UI

1、下载Chatbox AI

Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载


设置中文

2、将 Chatbox 连接到远程 Ollama 服务

如何将 Chatbox 连接到远程 Ollama 服务:逐步指南 - Chatbox 帮助中心:指南与常见问题

1.在 Windows 上配置环境变量
在 Windows 上,Ollama 会继承你的用户和系统环境变量。
​
通过任务栏退出 Ollama。
​
打开设置(Windows 11)或控制面板(Windows 10),并搜索“环境变量”。
​
点击编辑你账户的环境变量。
​
为你的用户账户编辑或创建新的变量 OLLAMA_HOST,值为 0.0.0.0; 为你的用户账户编辑或创建新的变量 OLLAMA_ORIGINS,值为 *。
​
点击确定/应用以保存设置。
​
从 Windows 开始菜单启动 Ollama 应用程序。

服务 IP 地址

配置后,Ollama 服务将能在当前网络(如家庭 Wifi)中提供服务。你可以使用其他设备上的 Chatbox 客户端连接到此服务。
​
Ollama 服务的 IP 地址是你电脑在当前网络中的地址,通常形式如下
​
192.168.XX.XX
​
在 Chatbox 中,将 API Host 设置为:
​
http://192.168.XX.XX:11434
3.注意事项
可能需要在防火墙中允许 Ollama 服务的端口(默认为 11434),具体取决于你的操作系统和网络环境。为避免安全风险,请不要将 Ollama 服务暴露在公共网络中。家庭 Wifi 网络是一个相对安全的环境。
4.Chatbox配置模型

3、效果演示

AI 大模型的发展势如破竹,恰似滚滚洪流般不可阻挡,深刻地改变着我们的工作和生活方式。其中,Deepseek 的应用愈发广泛,很多软件和公司官网都对其加以引用,就连用于开发的软件也纷纷引入 DeepSeek,借助其强大的功能来助力代码编写。在此背景下,作为一名运维人员,必须要能够灵活运用 AI 大模型,以此来高效地解决工作中遇到的各种问题,提升运维工作的质量和效率。


想成为大佬,就要从小白开始,从0开始,一点一点的积累,慢慢成长,明天你就是大佬!!想学习更多麒麟操作系统的知识,关注小屁,让你成为运维老鸟~~~~~ 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/17956.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Bash 中的运算方式

目录 概述: 1. (()) 运算符 2. let 命令 3. expr 命令 4. $[] 直接运算 5. bc(计算器,支持浮点数) 6. awk(强大的文本处理工具,也可计算) 概述: Bash 本身只支持整数运算&am…

主动视觉可能就是你所需要的:在双臂机器人操作中探索主动视觉

AV-ALOHA 系统使用用于 AV 的 VR 耳机实现直观的数据收集,并且 用于作的 VR 控制器或引线臂。这有助于捕捉全身和头部 远程作我们的真实和模拟系统的运动,记录来自 6 个的视频 不同的摄像头,并为我们的 AV 仿制学习策略提供训练数据。 加州大…

centos7 nexus3.77 搭建

1.确保安装了JDK sudo yum install -y java-17-openjdk java-17-openjdk-devel java -version 2.下载Nexus最新版 官网地址:Sonatype Nexus Repository Manager Community Edition | Download csdn下载:https://download.csdn.net/download/supercrsky/90384049 上传到nex…

html 点击弹出视频弹窗

一、效果: 点击视频按钮后,弹出弹窗 播放视频 二、代码 <div class="index_change_video" data-video-src="</

10. Hbase Compaction命令

一. 什么是Compaction 在 HBase 中&#xff0c;频繁进行数据插入、更新和删除操作会生成许多小的 HFile&#xff0c;当 HFile 数量增多时&#xff0c;会影响HBase的读写性能。此外&#xff0c;垃圾数据的存在也会增加存储需求。因此&#xff0c;定期进行 Compact操作&#xff…

DeepSeek R1打造本地化RAG知识库

本文将详细介绍如何使用Ollama、Deepseek R1大语音模型、Nomic-Embed-Text向量模型和AnythingLLM共同搭建一个本地的私有RAG知识库。 一. 准备工作 什么是RAG&#xff1f; RAG是一种结合了信息检索和大模型&#xff08;LLM&#xff09;的技术&#xff0c;在对抗大模型幻觉、…

Kafka分区管理大师指南:扩容、均衡、迁移与限流全解析

#作者&#xff1a;孙德新 文章目录 分区分配操作(kafka-reassign-partitions.sh)1.1 分区扩容、数据均衡、迁移(kafka-reassign-partitions.sh)1.2、修改topic分区partition的副本数&#xff08;扩缩容副本&#xff09;1.3、Partition Reassign场景限流1.4、节点内副本移动到不…

使用右侧值现象来处理一个word导入登记表的需求

需求也简单&#xff0c;导word文件用户登记表&#xff0c;有各部门的十几个版本&#xff08;为什么这么多&#xff1f;不知道&#xff09;。这里说下谈下我的一些代码做法&#xff1a; 需求分析&#xff1a; 如果能解决java字段和各项填的值怎么配对的问题&#xff0c;那么就…

【C语言 】C语言 桌游开发数字竞拍(源码)【独一无二】

&#x1f449;博__主&#x1f448;&#xff1a;米码收割机 &#x1f449;技__能&#x1f448;&#xff1a;C/Python语言 &#x1f449;专__注&#x1f448;&#xff1a;专注主流机器人、人工智能等相关领域的开发、测试技术。 【C语言 】C语言 桌游开发数字竞拍&#xff08;源码…

数据结构——红黑树的实现

目录 1 红黑树的概念 1.1 红黑树的规则 1.2 红黑树是如何确保最长路径不超过最短路径的2倍的&#xff1f; 1.3 红黑树的效率 2 红黑树的实现 2.1 红黑树的结构 2.2 红黑树的插入 2.2.1 红黑树插入节点的大概过程 2.2.2 情况1&#xff1a;只变色&#xff0c;不旋转 2.2.3 情况…

Spring Boot中使用Flyway进行数据库迁移

文章目录 概要Spring Boot 集成 FlywayFlyway 其他用法bug错误Flyway版本不兼容数据库存在表了Flyway 的校验和&#xff08;Checksum&#xff09;不匹配 概要 在 Spring Boot 项目开发中&#xff0c;数据库的变更不可避免。手动执行 SQL 脚本不仅容易出错&#xff0c;也难以维…

多态、虚函数、动态绑定、虚指针加虚表是同一件事情。

编译会自动加红色代码 左边拥有右边。由内而外构造、由外到内进行析构。 虚指针跟虚表。当一个类有虚函数的时候&#xff0c;对象里面就会多一个指针。从内存角度思考继承。 静态绑定。现在如果通过指针去调用虚函数&#xff0c;编译器就不会进行静态绑定&#xff0c;而做动态绑…

深入了解Text2SQL开源项目(Chat2DB、SQL Chat 、Wren AI 、Vanna)

深入了解Text2SQL开源项目&#xff08;Chat2DB、SQL Chat 、Wren AI 、Vanna&#xff09; 前言1.Chat2DB2.SQL Chat3.Wren AI4.Vanna 前言 在数据驱动决策的时代&#xff0c;将自然语言查询转化为结构化查询语言&#xff08;SQL&#xff09;的能力变得日益重要。无论是小型创业…

Qwen2-VL 的重大省级,Qwen 发布新旗舰视觉语言模型 Qwen2.5-VL

Qwen2.5-VL 是 Qwen 的新旗舰视觉语言模型&#xff0c;也是上一代 Qwen2-VL 的重大飞跃。 Qwen2.5-VL主要特点 视觉理解事物&#xff1a;Qwen2.5-VL不仅能够熟练识别花、鸟、鱼、昆虫等常见物体&#xff0c;而且还能够分析图像中的文本、图表、图标、图形和布局。 代理性&…

2. grafana插件安装并接入zabbix

一、在线安装 如果不指定安装位置&#xff0c;则默认安装位置为/var/lib/grafana/plugins 插件安装完成之后需要重启grafana 命令在上一篇讲到过 //查看相关帮助 [rootlocalhost ~]# grafana-cli plugins --help //从列举中的插件过滤zabbix插件 [rootlocalhost ~]# grafana…

【Linux】Ubuntu Linux 系统——Node.js 开发环境

ℹ️大家好&#xff0c;我是练小杰&#xff0c;今天星期五了&#xff0c;同时也是2025年的情人节&#xff0c;今晚又是一个人的举个爪子&#xff01;&#xff01; &#x1f642; 本文是有关Linux 操作系统中 Node.js 开发环境基础知识&#xff0c;后续我将添加更多相关知识噢&a…

DeepSeek全方位解读:模型介绍,优势及应用场景

DeepSeek全方位解读&#xff1a;领先科技背后的革新力量 前言1.DeepSeek整体介绍2.DeepSeek-R13.DeepSeek-V34.DeepSeek系列模型之间的关系5.Deepseek优势及应用场景6.模型参数与量化精度的关系7.行业部署Deepseek及应用情况 前言 在当今快速发展的科技世界里&#xff0c;人工…

电脑端调用摄像头拍照:从基础到实现

文章目录 1. 了解navigator.mediaDevices.getUserMedia API2. 创建 HTML 结构3. 编写 JavaScript 代码3.1 打开摄像头3.2 拍照 4. 完整代码5. 测试6. 注意事项及部署 在现代 Web 开发中&#xff0c;调用摄像头进行拍照是一个常见的功能&#xff0c;尤其是在需要用户上传头像、进…

windows平台上 oracle简单操作手册

一 环境描述 Oracle 11g单机环境 二 基本操作 2.1 数据库的启动与停止 启动: C:\Users\Administrator>sqlplus / as sysdba SQL*Plus: Release 11.2.0.4.0 Production on 星期五 7月 31 12:19:51 2020 Copyright (c) 1982, 2013, Oracle. All rights reserved. 连接到:…

Java面试——Tomcat

优质博文&#xff1a;IT_BLOG_CN 一、Tomcat 顶层架构 Tomcat中最顶层的容器是Server&#xff0c;代表着整个服务器&#xff0c;从上图中可以看出&#xff0c;一个Server可以包含至少一个Service&#xff0c;用于具体提供服务。Service主要包含两个部分&#xff1a;Connector和…