使用Ollama本地部署DeepSeek R1

前言

DeepSeek是一款开源的智能搜索引擎,能够通过深度学习技术提高搜索的智能化水平。如果你正在寻找一种方式来将DeepSeek部署在本地环境中,Ollama是一个非常方便的工具,它允许你在本地快速部署并管理各种基于AI的模型。

在本篇博客中,我们将一步一步地指导你如何使用Ollama工具在本地环境中部署DeepSeek模型。

本地部署是指将AI模型部署在用户自己的本地设备上,直接处理数据和任务,无需依赖云端服务器。
这种方式可以确保数据隐私和安全,适合对数据敏感性要求高的场景。

一、Ollama

Ollama是一个支持在WindowsLinuxMacOS上本地运行大语言模型的工具。它允许用户非常方便地运行和使用各种大语言模型,比如Qwen模型等。只需一行命令就可以启动模型。

1.1 下载Ollama

Ollama下载地址
选择对应操作系统进行下载.exe文件,这里以Windows为例:
在这里插入图片描述

1.2 安装Ollama

点击Install一键安装
在这里插入图片描述
安装完成后,查看Ollama版本,执行命令:ollama -vollama --version
查看下载的模型列表,执行命令:ollama list

在这里插入图片描述

1.3 常用命令

在这里插入图片描述
查看已部署的大模型:ollama list
查看正在运行中的大模型:ollama ps
部署或者运行一个大模型:ollama run <model_name>
停止在运行的大模型:ollama stop <model_name>

1.4 修改环境配置

在这里插入图片描述
模型存放地址默认在C:\Users\用户名\.ollama\models,若下载模型过多,会导致C盘存储不够用,建议修改

新建环境变量,OLLAMA_MODELS
在这里插入图片描述
新建环境变量,OLLAMA_HOST,默认端口为11434端口,若有端口冲突,自行修改【可选】
在这里插入图片描述
新建环境变量,OLLAMA_ORIGINS,【可选】
在这里插入图片描述
修改环境变量后,需要重启Ollama

找到Ollama小羊驼图标,右键 Quit Ollama
在这里插入图片描述
搜索找到Ollama,以管理员身份运行
在这里插入图片描述
重启后,黑窗口执行ollama -v检查一下是否启动成功
浏览器查看一下API服务:127.0.0.1:11434
在这里插入图片描述
若配置了OLLAMA_HOST,可在黑窗口执行ipconfig命令,查看本机IP,通过本机IP访问API服务
在这里插入图片描述

若连接不上,则自行检查环境变量,确保无误

二、下载DeepSeek R1模型

https://ollama.com/library/deepseek-r1

访问Ollama官网,点击左上角的Models按钮,找到DeepSeek R1模型
在这里插入图片描述
在黑窗口运行,下载模型,需要耐心等待
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

三、下载可视化界面 - Open WebUI

3.1 下载Chrome浏览器的插件 Page Assist【推荐】

在Chrome浏览器,点击竖着的… > 扩展程序 > 访问 Chrome 浏览器应用商店 > 搜索
在这里插入图片描述
下载完成后,快捷键 Ctrl + Shift + L 即可打开可视化页面【前提:先启动Ollama服务】

点击设置修改语言
在这里插入图片描述
选择模型
在这里插入图片描述
在这里插入图片描述
即可进行对话
在这里插入图片描述

3.2 使用python安装

亲测有效:史上最简单open-webui安装方式!!! ,但有点卡顿

3.3 使用docker安装

该方法最为繁琐,不推荐,但UI要美观些

github源码地址:https://github.com/open-webui/open-webui
在这里插入图片描述
找到Installation with Default Configuration
在这里插入图片描述
如果 Ollama 在您的计算机上

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

如果 Ollama 位于其他服务器上,请使用以下命令:
要连接到另一台服务器上的 Ollama,请将OLLAMA_BASE_URL更改为服务器的 URL:

docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=http://192.168.2.6:11434 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

这里我Ollama 位于其他服务器上,使用第二个命令
在这里插入图片描述

注意:访问不到,记得开放端口,参考Linux-开启端口

初次登录,注册一个账号,该账号默认为管理员
在这里插入图片描述
点击头像 > 设置 > 管理员设置
在这里插入图片描述
点击外部连接 > 设置Ollama API连接
在这里插入图片描述
选择一个模型,即可开始对话
在这里插入图片描述

总结

通过本地部署 DeepSeek R1,我们可以将 AI 模型和搜索引擎直接运行在自己的设备上,从而有效保护数据隐私和安全。在部署过程中,Ollama 提供了简单易用的工具,支持快速下载和管理模型,极大地简化了本地部署的流程。然而,值得注意的是,这种方式需要一定的硬件支持,并且部署过程中可能会涉及到科学上网配置相关问题。

尽管本地部署可能会比较繁琐,但它的优势在于:

  • 数据安全:通过本地环境运行 AI 模型,用户的数据不会暴露给云端服务,确保数据隐私。
  • 灵活控制:用户可以自由管理模型、调整配置、优化性能。
  • 离线使用:无需依赖外部服务,能够在没有网络的情况下使用模型。

对于需要高效且可定制的本地智能搜索引擎,DeepSeek R1 + Ollama + Open-WebUI 无疑是一个值得尝试的解决方案。

博主也在摸索阶段,有问题及时欢迎讨论!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/9768.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

数据结构选讲 (更新中)

参考 smWCDay7 数据结构选讲2 by yyc 。 可能会补充的&#xff1a; AT_cf17_final_j TreeMST 的 F2 Boruvka算法 目录 AT_cf17_final_j Tree MSTP5280 [ZJOI2019] 线段树 AT_cf17_final_j Tree MST link 题意 给定一棵 n n n 个点的树&#xff0c;点有点权 w i w_i wi​&am…

Redis学习之哨兵二

一、API 1.sentinel masters:展示被监控的主节点状态及相关的统计信息 2.sentinel master <master name>:展示指定的主节点的状态以及相关的统计信息 3.sentinel slaves <master name>:展示指定主节点的从节点状态以及相关的统计信息 4.sentinel sentinels <mas…

iperf 测 TCP 和 UDP 网络吞吐量

注&#xff1a;本文为 “iperf 测网络吞吐量” 相关文章合辑。 未整理去重。 使用 iperf3 监测网络吞吐量 Tom 王 2019-12-21 22:23:52 一 iperf3 介绍 (1.1) iperf3 是一个网络带宽测试工具&#xff0c;iperf3 可以擦拭 TCP 和 UDP 带宽质量。iperf3 可以测量最大 TCP 带宽…

Kafka 副本机制(包含AR、ISR、OSR、HW 和 LEO 介绍)

文章目录 Kafka 副本机制&#xff08;包含AR、ISR、OSR、HW 和 LEO 介绍&#xff09;1. 副本的基本概念2. 副本同步和一致性2.1 AR&#xff08;Assigned Replicas&#xff09;2.2 ISR&#xff08;In-Sync Replicas&#xff09;2.3 OSR&#xff08;Out-of-Sync Replicas&#xf…

java求职学习day18

常用的设计原则和设计模式 1 常用的设计原则&#xff08;记住&#xff09; 1.1 软件开发的流程 需求分析文档、概要设计文档、详细设计文档、编码和测试、安装和调试、维护和升级 1.2 常用的设计原则 &#xff08;1&#xff09;开闭原则&#xff08;Open Close Principle…

github制作静态网页

打开gihub并新建仓库 命名仓库&#xff1a;xxx.github.io 点击create repository进行创建 点击蓝色字体“creating a new file”创建文件 文件命名为index.html, 并编写html 右上角提交 找到setttings/pages&#xff0c;修改路径&#xff0c;点击保存&#xff0c;等…

shell脚本

Shell内容讲解 一、Shell 脚本基础概念 什么是 Shell 脚本&#xff1f; Shell 脚本是一个包含一系列 Shell 命令的文本文件&#xff0c;用于自动化执行任务&#xff08;如文件操作、程序调用、系统管理等&#xff09;。 Shell 类型 bash&#xff08;Bourne-Again Shell&#…

python:斐索实验(Fizeau experiment)

斐索实验&#xff08;Fizeau experiment&#xff09;是在1851年由法国物理学家阿曼德斐索&#xff08;Armand Fizeau&#xff09;进行的一项重要实验&#xff0c;旨在测量光在移动介质中的传播速度。这项实验的结果对当时的物理理论产生了深远的影响&#xff0c;并且在后来的相…

16.Word:石油化工设备技术❗【28】

目录 题目 NO1.2 NO3 NO4 题目 NO1.2 F12&#xff1a;另存为将“Word素材.docx”文件另存为“Word. docx”&#xff08;“docx”为文件扩展名&#xff09; 光标来到表格上方→插入→形状→新建画布→单击选中→格式→高度/宽度&#xff08;格式→大小对话框→取消勾选✔锁定…

计算机毕业设计Python+CNN卷积神经网络高考推荐系统 高考分数线预测 高考爬虫 协同过滤推荐算法 Vue.js Django Hadoop 大数据毕设

温馨提示&#xff1a;文末有 CSDN 平台官方提供的学长联系方式的名片&#xff01; 温馨提示&#xff1a;文末有 CSDN 平台官方提供的学长联系方式的名片&#xff01; 温馨提示&#xff1a;文末有 CSDN 平台官方提供的学长联系方式的名片&#xff01; 作者简介&#xff1a;Java领…

DeepSeek-R1本地部署笔记

文章目录 效果概要下载 ollama终端下载模型【可选】浏览器插件 UIQ: 内存占用高&#xff0c;显存占用不高&#xff0c;正常吗 效果 我的配置如下 E5 2666 V3 AMD 590Gme 可以说是慢的一批了&#xff0c;内存和显卡都太垃圾了&#xff0c;回去用我的新设备再试试 概要 安装…

zyNo.19

哈希&#xff08;md5&#xff09;绕过问题 本质上是弱类型问题的延申 题型 登录的哈希验证 $a ! $b Md5($a) md5($b) 解决办法Md5绕过 var_dump ("0e123456" "0e4456789"); //true 0e545993274517709034328855841020//true 参考资料0e开头的哈希…

爬虫基础(一)HTTP协议 :请求与响应

前言 爬虫需要基础知识&#xff0c;HTTP协议只是个开始&#xff0c;除此之外还有很多&#xff0c;我们慢慢来记录。 今天的HTTP协议&#xff0c;会有助于我们更好的了解网络。 一、什么是HTTP协议 &#xff08;1&#xff09;定义 HTTP&#xff08;超文本传输协议&#xff…

XCTF - IllIntentions wp

做 ctf 每天都是踩坑的一天 文章目录 题目概述我的做法frida hook 题目概述 这道题本身逻辑不复杂&#xff0c;有一个 MainActivity 和三个二级 Activity IsThisTheRealOne, ThisIsTheRealOne, DefinitelyNotThis。主 activity 是空白页面&#xff0c;注册了一个 Receiver Sen…

LNMP架构

一、概述 LNMP架构是一种常用于搭建动态网站的服务器架构组合&#xff0c;其名称由以下四个组件的首字母缩写组成&#xff1a; Linux&#xff1a;操作系统。Linux具有开源、稳定、安全、高性能等特点&#xff0c;是服务器领域广泛使用的操作系统。它为其他组件提供了运行环境和…

【Unity3D】实现2D角色/怪物死亡消散粒子效果

核心&#xff1a;这是一个Unity粒子系统自带的一种功能&#xff0c;可将粒子生成控制在一个Texture图片网格范围内&#xff0c;并且粒子颜色会自动采样图片的像素点颜色&#xff0c;之后则是粒子编辑出消散效果。 Particle System1物体&#xff08;爆发式随机速度扩散10000个粒…

芯片AI深度实战:基础篇之langchain

基于ollama, langchain,可以构建一个自己的知识库&#xff0c;比如这个 Build Your Own RAG App: A Step-by-Step Guide to Setup LLM locally using Ollama, Python, and ChromaDB | HackerNoon 这是因为&#xff1a; 以上范例就实现了这样一个流程&#xff1a; 系列文章&…

mybatis(134/134)完结

一级缓存&#xff08;默认情况下开启&#xff09;同一个sqlsession中执行相同的查询语句走一级缓存 二级缓存 &#xff1a;同一个sqlsessionfactory&#xff0c;sqlsession关闭了才会将一级缓存提交到二级缓存中 外部编写的缓存 PageHelper插件&#xff1a;方便进行分页&#x…

C++,STL 简介:历史、组成、优势

文章目录 引言一、STL 的历史STL 的核心组成三、STL 的核心优势四、结语进一步学习资源&#xff1a; 引言 C 是一门强大且灵活的编程语言&#xff0c;但其真正的魅力之一在于其标准库——尤其是标准模板库&#xff08;Standard Template Library, STL&#xff09;。STL 提供了…

不背单词快捷键(不背单词键盘快捷键)

文章目录 不背单词快捷键 不背单词快捷键 ᅟᅠ        ‌‍ᅟᅠ        ‌‍ᅟᅠ        ‌‍ᅟᅠ        ‌‍ᅟᅠ        ‌‍ᅟᅠ        ‌‍ᅟᅠ        ‌‍ᅟᅠ        ‌‍ᅟᅠ        ‌‍ᅟᅠ    …