【清晰教程】本地部署DeepSeek-r1模型

【清晰教程】通过Docker为本地DeepSeek-r1部署WebUI界面-CSDN博客

目录

Ollama

安装Ollama

DeepSeek-r1模型

安装DeepSeek-r1模型


Ollama

Ollama 是一个开源工具,专注于简化大型语言模型(LLMs)的本地部署和管理。它允许用户在本地计算机上运行各种 AI 大模型(如 Llama、DeepSeek、Mistral 等),而无需依赖云服务。

Ollama 支持多种操作系统,包括 macOS、Linux 和 Windows。安装方式因系统而异,例如在 macOS 上可以通过 Homebrew 安装。基于Ollama,用户可以通过命令行工具或 Web 界面调用模型。能够实现本地部署、模型管理、API支持等功能。

  • 本地部署:支持在本地计算机上运行大型语言模型,确保数据隐私和低延迟。

  • 模型管理:轻松下载、更新和删除模型。

  • 跨平台支持:兼容 macOS、Linux 和 Windows。

  • API 支持:提供 RESTful API,方便与其他应用程序集成。

  • 社区驱动:开源项目,拥有活跃的社区支持。

安装Ollama

访问Ollama官网的下载页面

Download Ollama on Windowsicon-default.png?t=O83Ahttps://ollama.com/download

选择适配操作系统的客户端,单击下载

如下载速度偏慢可考虑科学上网

​下载完成后,双击打开OllamaSetup

点击Install安装

Ollama默认安装在C盘,需要2G以上存储空间

安装完成后,通过命令行检查Ollama的安装情况

​也可通过Win+R,在运行框中键入cmd进入命令行 

在命令行中键入ollama,显示以下信息即为安装成功

ollama

安装完成后,Ollama 会在后台自动运行,默认端口是 11434

DeepSeek-r1模型

 访问Ollama官网的模型页面

Ollamaicon-default.png?t=O83Ahttps://ollama.com/search

选择所需模型,这里选用DeepSeek-r1

在DeepSeek-r1的详细页面包含各种量级的模型以及对应的模型下载命令:

 这里作为演示,选用最小的1.5b-DeepSeek-r1

 下载命令为

ollama run deepseek-r1:1.5b

安装DeepSeek-r1模型

复制对应模型的下载命令

ollama run deepseek-r1:1.5b

进入命令行

​也可通过Win+R,在运行框中键入cmd进入命令行 

键入对应模型的下载命令

下载完成后即可直接使用模型进行交互

至此便已经完成DeepSeek-r1的本地部署。如需GUI界面,可通过Docker部署适配的WebUI。【清晰教程】通过Docker为本地DeepSeek-r1部署WebUI界面-CSDN博客

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/19049.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

相得益彰,Mendix AI connector 秒连DeepSeek ,实现研发制造域场景

在当今快速发展的科技领域,低代码一体化平台已成为企业数字化转型的关键工具,同时,大型语言模型(LLM)如 DeepSeek 在自动生成代码和提供智能建议方面表现出色。 Mendix 于近期发布的 GenAI 万能连接器,目前…

ESP学习-1(MicroPython VSCode开发环境搭建)

下载ESP8266固件:https://micropython.org/download/ESP8266_GENERIC/win电脑:pip install esptools python.exe -m pip install --upgrade pip esptooo.py --port COM5 erase_flash //清除之前的固件 esptool --port COM5 --baud 115200 write_fla…

LLM大模型学习资料整理

LLM工具 LlamaIndex Llama Hub 文档 模型微调 LlamaFactory 推理 - LLaMA Factoryhttps://llamafactory.readthedocs.io/zh-cn/latest/getting_started/inference.htmlGitHub - hiyouga/LLaMA-Factory: Unified Efficient Fine-Tuning of 100 LLMs & VLMs (ACL 2024)Uni…

goland2022.3.3 安装过程

到csdn下载安装包 开始安装 安装完后,安装中文包

大模型开发实战篇5:多模态--文生图模型API

大模型文生图是一种基于人工智能大模型的技术,能够将自然语言文本描述转化为对应的图像。目前非常火的AI大模型赛道,有很多公司在此赛道竞争。详情可看这篇文章。 今天我们来看下如何调用WebAPI来实现文生图功能。我们一般都会将OpenAI的接口&#xff0…

乘积最大 之 连续与非联系子数组

文章目录 152.乘积最大子数组2708.一个小组的最大实力值 乘积的最大情况分为两种,一种是 要求子数组是连续的,一种是要求数组是不用连续的 连续可以使用动态规划求解,非连续则使用贪心 152.乘积最大子数组 152.乘积最大子数组 思路分析&…

使用 Ansys Fluent 进行电池热滥用失控传播仿真

电池热失控传播是电池系统中一个严重的问题。Ansys Fluent 提供了在此类条件下仿真电池热行为的工具,以帮助了解和降低与热失控相关的风险。 电池热滥用的挑战 电池热失控传播是电池系统中的一个严重问题,尤其是锂离子电池和其他高能量密度电池。这种现…

基于SpringBoot实现的大学社团平台系统实现功能六

一、前言介绍: 1.1 项目摘要 随着高校社团活动的日益丰富和多样化,学生对于社团管理和参与的需求也在不断增加。传统的社团管理方式往往存在效率低下、信息不透明等问题,无法满足现代学生对于便捷、高效社团管理的需求。因此,利…

STM32、GD32驱动TM1640原理图、源码分享

一、原理图分享 二、源码分享 /************************************************* * copyright: * author:Xupeng * date:2024-07-18 * description: **************************************************/ #include "smg.h"#define DBG_TAG "smg&…

LabVIEW利用CANopen的Batch SDO写入

本示例展示了如何通过CANopen协议向设备写入Batch SDO(批量服务数据对象)。Batch SDO允许用户在一次操作中配置多个参数,适用于设备的批量配置和参数设置。此方法能够简化多个参数的写入过程,提高设备管理效率。 主要步骤&#xf…

luoguP8764 [蓝桥杯 2021 国 BC] 二进制问题

luogu题目传送门 题目描述 小蓝最近在学习二进制。他想知道 1 到 N 中有多少个数满足其二进制表示中恰好有 K 个 1。你能帮助他吗? 输入格式 输入一行包含两个整数 N 和 K。 输出格式 输出一个整数表示答案。 输入输出样例 输入 #1 7 2 输出 #1 3 说明/提示 对于…

Linux:深入了解进程信号(上)

目录 1. 什么是信号 1.1 引入 1.2 概念 1.3 特性 1.4 信号的三个方面 2. 信号的产生 2.1 键盘按键产生 2.2 signal捕捉信号函数 2.3 发送信号原理 2.4 硬件中断 2.5 指令和函数接口 2.5.1 kill指令 2.5.2 kill函数 2.5.3 raise与abort函数 2.6 软件条件 2.7 异…

rustdesk远程桌面自建服务器

首先,我这里用到的是阿里云服务器 centos7版本,win版客户端。 准备工作 centos7 服务器端文件: https://github.com/rustdesk/rustdesk-server/releases/download/1.1.11-1/rustdesk-server-linux-amd64.zip win版客户端安装包&#xff1…

PostgreSQL有undo表空间吗?

PostgreSQL有undo表空间吗 PostgreSQL 没有单独的 Undo 表空间,其事务回滚和多版本并发控制(MVCC)机制与 Oracle 等数据库有显著差异。 一 PostgreSQL 的 MVCC 实现 PostgreSQL 通过 多版本并发控制(MVCC) 管理事务…

Java项目《苍穹外卖》BUG修复记录

一、订单详情地址显示为null 原因:查看订单详情接口中,未设置收货地址信息,故地址返回为null。 解决方案: 1、OrderServiceImpl中创建一个私有方法专门获取订单收货地址 /*** 获取订单收获地址* param addressBookId* return*/…

NO.18十六届蓝桥杯备战|循环嵌套|乘法表|斐波那契|质数|水仙花数|(C++)

循环嵌套 循环嵌套的使⽤ while , do while , for ,这三种循环往往会嵌套在⼀起才能更好的解决问题,就是我们所说的:循环嵌套。这三种循环都可以任意嵌套使⽤ ⽐如: 写⼀个代码,打印⼀个乘法⼝…

【第6章:强化学习基础与深度强化学习—6.4 强化学习在游戏、自动驾驶等领域的应用案例】

你是否想过,为什么《王者荣耀》的AI总能预判你的走位?特斯拉的Autopilot如何实现复杂路况的决策?这背后都藏着一个改变人工智能格局的技术——强化学习。今天我们将深入这个让机器学会"思考"的黑科技,揭开它从基础理论到工业应用的全貌。 一、强化学习的"…

【Linux内核】进程管理(上)

一、进程简介 关于进程相关内容直接看我的操作系统专栏,在这里不再赘述。我们直接快进到Linux中的进程管理部分 二、Linux中的进程描述符 晋城市操作系统中调度的实体,因此需要对进程的信息、所持有的资源进行描述,这种抽象描述称之为进程…

类和对象(5)——抽象类和接口

目录 1. 抽象类 1.1 抽象类的概念 1.2 抽象类语法:abstract关键字 1.3 抽象类的特性 1.4 抽象类的作用 2. 接口 2.1 接口的概念 2.2 接口语法:interface关键字 2.3 接口的实现:implements关键字 2.4 接口的特性 2.5 实现多个接口 …

利用租用的GPU进行训练

对于大模型的微调以及推理,对显卡的要求较高,我们就可以通过租一台来进行训练,这里我租用的是:AutoDL算力云 | 弹性、好用、省钱。租GPU就上AutoDL 推荐博客:新手小白如何租用GPU云服务器跑深度学习_gpu租用-CSDN博客…