操作教程丨使用1Panel开源面板快速部署DeepSeek-R1

近期,DeepSeek-R1模型因其在数学推理、代码生成与自然语言推理等方面的优异表现而受到广泛关注。作为能够有效提升生产力的工具,许多个人和企业用户都希望能在本地部署DeepSeek-R1模型。

通过1Panel的应用商店能够简单、快速地在本地部署DeepSeek-R1模型。本教程将按照安装Ollama→安装OpenWebUI→安装并使用DeepSeek-R1的顺序,为您介绍使用1Panel开源面板部署DeepSeek-R1模型的具体步骤。

在部署好DeepSeek之后,用户也可以尝试将其与MaxKB开源知识库问答系统进行对接,构建一个自己的Chatbox,也就是一个与DeepSeek大模型的智能会话界面。

一、从1Panel应用商店安装Ollama

Ollama是一个开源的本地大语言模型运行框架,专门为在本地便捷部署和运行大型语言模型而设计。为了能够正常运行DeepSeek-R1模型,需要先在本地安装Ollama,本章节将介绍具体步骤。

首先,从1Panel首页进入“应用商店”,在“AI/大模型”分类下找到Ollama,点击“安装”按钮进行安装。
在这里插入图片描述

在安装详情页中,您可以自定义端口并勾选“端口外部访问”选项,其他设置保持默认,最后点击“确认”按钮。
在这里插入图片描述

Ollama安装成功后,在1Panel操作界面中返回应用商店的“已安装”标签页,看到Ollama已经安装成功。此时点击“服务端口:11434”按钮,浏览器自动跳转新标签页,若标签页内显示“Ollama is running”,则表示Ollama已成功安装并正常运行。
在这里插入图片描述
在这里插入图片描述

二、从1Panel应用商店安装OpenWebUI

由于Ollama本身没有用户交互界面,为了提升模型的使用体验,我们需要从1Panel的应用商店中安装OpenWebUI。
在这里插入图片描述

OpenWebUI是一款高度可扩展、功能丰富、操作便捷的自托管AI平台,它提供了一个更直观的用户界面,同时增强了安全性和扩展性。OpenWebUI与Ollama相结合,能够方便地管理和使用本地部署的大型语言模型。本章节将介绍安装OpenWebUI的具体步骤。

确认Ollama正常运行后,返回1Panel应用商店,在“AI/大模型”分类中找到OpenWebUI,点击“安装”按钮进行安装。
在这里插入图片描述

在安装详情页中,您需要填写Ollama服务地址和Secret Key,并勾选“端口外部访问”选项,其他设置保持默认,最后点击“确认”按钮。
在这里插入图片描述

OpenWebUI安装成功后,返回1Panel应用商店“已安装”标签页,点击“服务端口:3000”按钮,进入OpenWebUI控制台(注意:如果浏览器未能显示OpenWebUI控制台页面,请在OpenWebUI应用显示的“已安装”时间超过5分钟以后再进行访问)。
在这里插入图片描述

在OpenWebUI控制台中,依次设置“名称”、“电子邮箱”和“密码”,完成设置后,点击“创建管理员账号”按钮。稍等片刻,页面会弹出更新提示窗口,点击“确认,开始使用!”按钮,提示窗口消失后,即可开始使用OpenWebUI。
在这里插入图片描述

三、通过OpenWebUI安装并使用DeepSeek-R1

本章节将介绍如何通过OpenWebUI安装和使用DeepSeek-R1模型。

1.安装DeepSeek-R1模型:返回至OpenWebUI控制台页面,点击页面左上角的“选择一个模型”选项,在搜索框中输入“deepseek-r1:1.5b”,然后点击“从Ollama.com拉取deepseek-r1:1.5b”选项。
在这里插入图片描述

2.使用DeepSeek-R1模型:模型下载完成后,刷新页面,确认页面左上角的模型显示为“deepseek-r1:1.5b”。然后点击屏幕中央的输入框,就可以开始和DeepSeek-R1模型对话了。
在这里插入图片描述

稍等片刻,收到回复后即可确认DeepSeek-R1已通过1Panel成功部署到您的服务器。
在这里插入图片描述

四、使用GPU为DeepSeek- R1加速

使用GPU为DeepSeek-R1加速可以显著提升模型的推理速度。在本章节中,我们以NVIDIA GPU为例,介绍如何在1Panel中为DeepSeek-R1配置加速。

重要提示:在启用GPU加速之前,请确保服务器已经安装GPU卡并配置了相关驱动。

进入1Panel应用商店的“已安装”标签页,点击Ollama应用下的“参数”按钮。
在这里插入图片描述

点击“编辑”按钮进入参数配置页面的“详情”界面,勾选“高级设置”选项,并启用“编辑compose文件”选项。
在这里插入图片描述

此时,在compose内容编辑框中,输入以下与GPU相关的代码:

reservations:devices:-  driver: nvidiacount: allcapabilities: [gpu]

输入完成后,点击编辑页面中的“确认”按钮,Ollama会自动重建。

当重建完成后,Ollama在1Panel应用商店中的状态变更为“已启动”,此时可以使用NVIDIA GPU为DeepSeek-R1提供加速。
在这里插入图片描述

五、企业如何用好DeepSeek?

DeepSeek部署完成后,该如何让各个业务部门使用好这个能力超强的大模型呢?

这时候,MaxKB开源知识库问答系统就可以发挥积极作用了。
在这里插入图片描述

首先,MaxKB可以为本地部署的DeepSeek构建一个Chatbox,也就是一个智能对话的界面,类似于个人用户直接与DeepSeek进行对话。

MaxKB提供的Chatbox可以方便地嵌入到企业OA系统和业务系统,让员工使用更加便捷、安全。
在这里插入图片描述

另一方面,企业内部有非常多的私有知识文档,这些内容是经过长期的积累和不断修订形成的,在企业内部可以形成知识库问答系统为企业的员工、合作伙伴和客户提供服务。
在这里插入图片描述

MaxKB提供开箱即用的RAG(Retrieval-Augmented Generation,检索增强生成)技术,能够结合私有知识库提升问答效果,有效降低大模型幻觉。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/15674.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

免费在腾讯云Cloud Studio部署DeepSeek-R1大模型

2024年2月2日,腾讯云宣布DeepSeek-R1大模型正式支持一键部署至腾讯云HAI(高性能应用服务)。开发者仅需3分钟即可完成部署并调用模型,大幅简化了传统部署流程中买卡、装驱动、配网络、配存储、装环境、装框架、下载模型等繁琐步骤。…

C语言-结构体

1.共用体: union //联合--共用体 早期的时候,计算机的硬件资源有限, 能不能让多个成员变量 公用同一块空间 //使用方式 类似 结构体 --- 也是构造类型 struct 结构体名 { 成员变量名 }; union 共用体名 { 成员变量名 }; //表示构造了一个共用体…

多头自注意力中的多头作用及相关思考

文章目录 1. num_heads2. pytorch源码演算 1. num_heads 将矩阵的最后一维度进行按照num_heads的方式进行切割矩阵,具体表示如下: 2. pytorch源码演算 pytorch 代码 import torch import torch.nn as nn import torch.nn.functional as Ftorch.set…

数据仓库和商务智能:洞察数据,驱动决策

在数据管理的众多领域中,数据仓库和商务智能(BI)是将数据转化为洞察力、支持决策制定的关键环节。它们通过整合、存储和分析数据,帮助组织更好地理解业务运营,预测市场趋势,从而制定出更明智的战略。今天&a…

C++ ——从C到C++

1、C的学习方法 (1)C知识点概念内容比较多,需要反复复习 (2)偏理论,有的内容不理解,可以先背下来,后续可能会理解更深 (3)学好编程要多练习,简…

半导体制造工艺讲解

目录 一、半导体制造工艺的概述 二、单晶硅片的制造 1.单晶硅的制造 2.晶棒的切割、研磨 3.晶棒的切片、倒角和打磨 4.晶圆的检测和清洗 三、晶圆制造 1.氧化与涂胶 2.光刻与显影 3.刻蚀与脱胶 4.掺杂与退火 5.薄膜沉积、金属化和晶圆减薄 6.MOSFET在晶圆表面的形…

Avnet RFSoC基于maltab得5G 毫米波 开发工具箱

使用 MATLAB 连接到 AMD Zynq™ RFSoC 评估板。使用 RF 附加卡执行 OTA 测试。使用 HDL Coder 部署算法 版本要求: 大于 2023b 需要以下支持包之一: 适用于 Xilinx 基于 Zynq 的无线电(R2023b 及更早版本)的通信工具箱支持包适…

第三节 docker基础之---Commit+Dockerfile制作

docker目前镜像的制作两种方法: 1,基于docker Commit制作镜像 2,基于dockerfile制作镜像,Dockerfile 为主流的制作方式 如果不制作镜像删除容器之后则里面配置的文件也随之删除: [rootdocker ~]# docker images 查看…

推荐一个免费的、开源的大数据工程学习教程

在当今信息爆炸的时代,每一个企业都会产生大量的数据,而大数据也已经成为很多企业发展的重要驱动力,然而如何有效得处理和分析这些海量的数据,却是一个非常有挑战的技术。 今天推荐一个免费的数据工程教程,带你系统化…

【文档智能多模态】英伟达ECLAIR-端到端的文档布局提取,并集成阅读顺序方法

笔者在前期一个系列分享了各种文档智能相关的技术方法,可以参考《文档智能系列栏目》,涵盖各种常见方法。 下面直接看看这个端到端的文档智能结构化方法,供参考。 方法 一、架构 ECLAIR 采用了一个较大的视觉编码器(657M 参数…

解锁Netty:Channel更替与HashMap管理的奇妙联动

个人CSDN博客主页: java之路-CSDN博客 ( 期待您的关注 ) 目录 Netty 的 Channel 机制探秘 HashMap 在 Netty 中的角色 创建新 Channel 时的操作步骤 新 Channel 的创建流程 确定老 Channel 的标识 移除老 Channel 的具体方法 从 HashMap 中移除 关闭和回收老…

小白零基础如何搭建CNN

1.卷积层 在PyTorch中针对卷积操作的对象和使用的场景不同,如有1维卷积、2维卷积、 3维卷积与转置卷积(可以简单理解为卷积操作的逆操作),但它们的使用方法比较相似,都可以从torch.nn模块中调用,需要调用的…

12.翻转、对称二叉树,二叉树的深度

反转二叉树 递归写法 很简单 class Solution { public:TreeNode* invertTree(TreeNode* root) {if(rootnullptr)return root;TreeNode* tmp;tmproot->left;root->leftroot->right;root->righttmp;invertTree(root->left);invertTree(root->right);return …

算法之 博弈问题

文章目录 巴什博弈292.Nim 游戏 尼姆博弈斐波那契博弈其他博弈1025.除数博弈 博弈问题,就是双方之间的PK,关注的重点是 谁先?以及A,B各自赢的条件 一般有数学问题,动态规划,搜索进行求解 巴什博弈 下面的这题Nim 游戏,…

Linux 安装 Ollama

1、下载地址 Download Ollama on Linux 2、有网络直接执行 curl -fsSL https://ollama.com/install.sh | sh 命令 3、下载慢的解决方法 1、curl -fsSL https://ollama.com/install.sh -o ollama_install.sh 2、sed -i s|https://ollama.com/download/ollama-linux|https://…

DDR原理详解

DDR原理详解 存储器主要分为只读存储器 ROM 和随机存取存储器 RAM两大类。 ROM:只读存储器 ROM 所存数据,一般是装入整机前事先写好的,整机工作过程中只能读出,ROM所存数据稳定,断电后所存数据也不会改变。 RAM:随机…

推荐一款 免费的SSL,自动续期

支持自动续期 、泛域名 、可视化所有证书时效性 、可配置CDN 的一款工具。免费5个泛域名和1个自动更新。 链接 支持:nginx、通配符证书、七牛云、腾讯云、阿里云、CDN、OSS、LB(负载均衡) 执行自动部署脚本 提示系统过缺少crontab 安装cro…

手写一个C++ Android Binder服务及源码分析

手写一个C Android Binder服务及源码分析 前言一、 基于C语言编写Android Binder跨进程通信Demo总结及改进二、C语言编写自己的Binder服务Demo1. binder服务demo功能介绍2. binder服务demo代码结构图3. binder服务demo代码实现3.1 IHelloService.h代码实现3.2 BnHelloService.c…

将 AMD Zynq™ RFSoC 扩展到毫米波领域

目录 将 AMD Zynq™ RFSoC 扩展到毫米波领域Avnet XRF RFSoC 系统级模块适用于 MATLAB 的 Avnet RFSoC Explorer 工具箱5G mmWave PAAM 开发平台突破性的宽带毫米波波束成形特征:OTBF103 Mathworks Simulink 模型优化毫米波应用中的射频信号路径 用于宽带毫米波上/下…

征程 6 相比征程 5 对算子支持扩展的具体案例讲解

引言 征程 6 相比于征程 5,在整体架构上得到了升级,相对应的,算法工具链的算子支持也得到了扩充,无论是算子支持的数量,还是 BPU 约束条件,征程 6 都有明显的加强,这就使得过去在征程 5 上无法…