如何在Window计算机本地部署DeepSeek-r1模型

如何在Window计算机本地部署DeepSeek-r1模型

  • 安装Ollama
  • 配置GPU加速(可选)
  • 部署DeepSeek-r1模型
  • 1.5b模型效果演示

本文介绍了如何使用Ollama在Windows计算机本地部署DeepSeek-r1模型。

安装Ollama

访问Ollama官网下载对应操作系统的安装包(支持Windows/macOS/Linux)。

使用图形界面安装,安装时建议修改默认路径至大容量磁盘。

验证安装:在CMD或者PowerShell终端输入ollama -v,显示版本号即成功。

PS C:\Users\xqc> ollama -v
ollama version is 0.5.7

配置GPU加速(可选)

确保已安装显卡驱动和CUDA/ROCm库(NVIDIA显卡需CUDA,AMD需ROCm)。

由于我使用的是出厂自带Nvidia RTX显卡的Windows计算机,已经安装了最新的显卡驱动,因此只需要下载安装CUDA就行。

访问Nvidia官网下载Nvidia CUDA库的安装包。

使用图形界面安装,建议安装在C盘。

部署DeepSeek-r1模型

下面是ollama官网提供的几种不同大小的DeepSeek模型:

模型大小
1.5b1.1GB
7b4.7GB
8b4.9GB
14b9.0GB
32b20GB
70b43GB
671b404GB

总的来说,模型越大,效果越好,但是对算力的要求也就越高。

根据显存选择模型版本(这里我们选最小的1.5b模型),运行命令下载到本地:

ollama pull deepseek-r1:1.5b

查看已经下载好的模型:

ollama list

运行模型:

ollama run deepseek-r1:1.5b

成功运行后可通过终端直接交互,输入/bye退出。

DeepSeek模型思考过程中可以通过任务管理器观察到GPU使用率有非常明显的飙升,说明模型使用到了GPU的算力。

1.5b模型效果演示

以下是1.5b模型效果的演示:

PS C:\Users\xqc> ollama run deepseek-r1:1.5b
>>> 你好,你是谁?
<think></think>您好!我是由中国的深度求索(DeepSeek)公司开发的智能助手DeepSeek-R1。如您有任何任何问题,我会尽我所
能为您提供帮助。>>> 帮我写一个500字左右的童话故事,必须涉及猴子和松鼠两种动物,结尾要表达一定的寓意和哲理。
<think>
好的,用户之前让我扮演一个AI助手,并回应了关于自己是谁的回答。现在他给出了一个新的查询请求,要求我帮
他写一个500字左右的童话故事,主题是包含猴子和松鼠,结尾要有一定的寓意和哲理。首先,我要理解他的需求。他需要一个充满生动想象力的故事,涉及到两只动物——猴子和松鼠。故事需要有合理
的情节发展,并且以某种隐喻或哲理结尾,可能是关于团结、和谐还是牺牲与合作的主题。接下来,我得考虑如何将猴子和松鼠作为主角来表现他们各自的特点和性格。猴子通常聪明机智,喜欢独断专行;
而松鼠则温和耐心,擅长合作。因此,故事中可以展示他们之间的矛盾和冲突,并最终通过解决达成平衡。结尾部分需要有一个深刻的寓意或哲理。可能涉及友谊、牺牲精神,或者团队的力量。我需要确保结局既有温暖又
带有一点思考,让读者在阅读后有所感悟。然后,我会构思故事的结构:开头引入两个动物,中间描述他们各自的特点和冲突,高潮部分展示如何解决问题,
以及结尾传达寓意。同时,要注意语言的生动性和形象性,使故事更具吸引力。最后,我需要检查故事是否符合字数要求,并确保情节连贯、情感自然地展开。如果有任何不通顺或者不符合主题
的地方,我会及时调整以确保最终的作品达到用户的要求。
</think>## 猴子和松鼠赛跑记记得那是一个寒冷的冬天,我的家在远山深处。外面下着零星下的雪,树枝上积了一层薄雾,仿佛什么都没有飘过
。Inside 我们住的木屋里,月光透过窗户洒进来,在地板上投下斑驳的影子。我常常坐在木椅上,仰望着窗外飞速
而过的白鸽,它们在空中划出优美的弧线,像是在跳舞。"小兔子,慢点走吧。"妈妈的声音从身后传来。我抬头一看,那只被关在笼子里的小兔子正蜷缩在角落里,用那双
雪白的眼睛盯着外面的一切。它似乎有点儿困惑,又好像不太明白什么。我把头扭向天空,看到天上的雪覆盖着一层薄纱,远处的山峦被拉得很低矮,像是用绳子绑在一起的一根链子。我
的手指有些发抖地摸了摸腿下的积雪,突然想到,也许这就是故事的目标——让他们找到回家的路。松鼠总是特别善于合作,在这里我认识的松鼠们每天都会带着它们的新食物过来找我们。它们总是热情地和小动物
们分享食物,甚至会主动帮助我们解决困难。可是,有时候它们也会因为太热而睡着,这样就会浪费食物。猴子则比较聪明,总能想出一些让人感到困惑的办法来解决问题。比如,每当我看到他们总是独自跑在最后,我会
想起那个传说中的故事——猴子和松鼠赛跑的故事。那是从前的一个森林里,有一只大猴子因为怕吃掉一堆松果而
躲在树上,而一只小松鼠则会负责把松果搬过来。后来,大猴子学会了分治的方法,每次遇到困难都会 Divide 和 Conquer 的策略。不过,即使这样,当所有的成
员都离开后,他仍然会在最后跑过这最后一个障碍。相比之下,那只小松鼠总是先跑在前面,而最终会因为太累而
退缩。回到我现在的家,在月光下,我发现两只动物的脚印已经模糊了。我的小手在冰凉中不自觉地摩挲着毛发。突然,
我的心跳声变得异常快,仿佛有什么东西在我面前晃动起来。"小兔子,快点跑过去吧!"我抬头看着那只松鼠,它已经从自己的笼子里蹦了起来,像一个活跃的舞者一样,动作轻盈而优雅。它的背影让我
想起了很久以前那个故事——猴子和松鼠一起奔跑时的默契。"我来你家吧。"小兔子转身走向我的小屋。我走到它身边,看着它们合作在一起的样子。渐渐地,我发现它们之间
的距离在缩小,阳光透过窗户洒进来,在他们的身上反射出光点。一个月亮高悬天际,我看到一只黑色的大鸟掠过天空,留下一道银白色的影子。那是一只会飞的兔子,它的耳朵上
沾着一层薄雾,像是被风吹破了一样。它优雅地落在了小松鼠的肩上,轻轻地说:"我们来一起回家吧。"最终,它们终于在一片雪中相遇。阳光暖暖地洒在我的脚底,我的手触到了他们的脚印。它们继续向前跑,在月光
里交织在一起,就像故事里的那条神奇的路。那一刻,我忽然明白了一个道理:即使是最出色的个体,也难以独自完成任何事情。只有当他们团结一致、智慧运
用时,才能找到出路。>>> /bye

😢 嗯…看这个效果,如果自己没有很高端的显卡来运行8b或是更大的模型的话,建议还是使用官网的吧。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/12755.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

DIY Shell:探秘进程构建与命令解析的核心原理

个人主页&#xff1a;chian-ocean 文章专栏-Linux 前言&#xff1a; Shell&#xff08;外壳&#xff09;是一个操作系统的用户界面&#xff0c;它提供了一种方式&#xff0c;使得用户能够与操作系统进行交互。Shell 是用户与操作系统之间的桥梁&#xff0c;允许用户通过命令行…

新春贺岁,共赴AGI之旅

点击蓝字 关注我们 AI TIME欢迎每一位AI爱好者的加入&#xff01; 往期精彩文章推荐 季姮教授独家文字版干货 | 面向知识渊博的大语言模型 关于AI TIME AI TIME源起于2019年&#xff0c;旨在发扬科学思辨精神&#xff0c;邀请各界人士对人工智能理论、算法和场景应用的本质问题…

FastAPI之参数传递和参数校验

FastAPI之参数传递 一、请求URL传参1、URL传参2、一个参数名&#xff0c;多个值3、参数校验3.1、默认值设置&#xff0c;和参数接口描述3.2、字符串长度校验3.3、正则表达式校验3.4、数值大小校验 二、请求体传参1、请求体单个传参 一、请求URL传参 1、URL传参 url请求参数是…

Vue Dom截图插件,截图转Base64 html2canvas

安装插件 npm install html2canvas --save插件使用 <template><div style"padding: 10px;"><div ref"imageTofile" class"box">发生什么事了</div><button click"toImage" style"margin: 10px;&quo…

C语言:深入了解指针3

1.回调函数是什么&#xff1f; 基本概念 回调函数就是⼀个通过函数指针调⽤的函数。 如果你把函数的指针&#xff08;地址&#xff09;作为参数传递给另⼀个函数&#xff0c;当这个指针被⽤来调⽤其所指向的函数 时&#xff0c;被调⽤的函数就是回调函数。回调函数不是由该函…

llama.cpp GGUF 模型格式

llama.cpp GGUF 模型格式 1. Specification1.1. GGUF Naming Convention (命名规则)1.1.1. Validating Above Naming Convention 1.2. File Structure 2. Standardized key-value pairs2.1. General2.1.1. Required2.1.2. General metadata2.1.3. Source metadata 2.2. LLM2.2.…

【C++】STL——vector底层实现

目录 &#x1f495; 1.vector三个核心 &#x1f495;2.begin函数&#xff0c;end函数的实现&#xff08;简单略讲&#xff09; &#x1f495;3.size函数&#xff0c;capacity函数的实现 &#xff08;简单略讲&#xff09; &#x1f495;4.reserve函数实现 &#xff08;细节…

Pinia状态管理

1、为什么要使用Pinia&#xff1f; Pinia 是 Vue 的存储库&#xff0c;它允许跨组件/页面共享状态 Pinia 最初是为了探索 Vuex 的下一次迭代会是什么样子&#xff0c;结合了 Vuex 5 核心团队讨论中的许多想法。最终&#xff0c;我们意识到 Pinia 已经实现了我们在 Vuex 5 中想…

TCP | RFC793

注&#xff1a;本文为 “ RFC793” 相关文章合辑。 RFC793-TCP 中文翻译 编码那些事儿已于 2022-07-14 16:02:16 修改 简介 翻译自&#xff1a; RFC 793 - Transmission Control Protocol https://datatracker.ietf.org/doc/html/rfc793 TCP 是一个高可靠的主机到主机之间…

VMware Workstation Pro安装了Ubuntu 24.04实现与Windows10之间的复制粘贴

windows10安装了VMware Workstation Pro&#xff0c;虚拟机上安装Ubuntu 24.04&#xff0c;想Ubuntu和windows之间实现复制粘贴&#xff0c;便于互相执行下面命令&#xff1a; sudo apt-get autoremove open-vm-tools //卸载已有的工具 sudo apt-get install open-vm-tools …

idea分析sql性能

idea对sql进行解析&#xff0c;可有效展示sql的性能问题&#xff0c;比直接看命令好。&#xff08;专业版才有数据库功能&#xff0c;可以在淘宝买&#xff0c;10块就好了&#xff09; 如下&#xff1a; 发现一个全表扫描&#xff0c;耗时6s&#xff0c;对应sql语句可以查看&…

智慧园区系统集成解决方案提升管理效率与智能化水平的新探索

内容概要 随着科技的不断进步&#xff0c;智慧园区管理系统已成为现代园区管理的重要组成部分。在众多系统中&#xff0c;快鲸智慧园区(楼宇)管理系统凭借其独特的优势&#xff0c;获得了广泛关注。该系统通过全面整合园区内各类智能设备&#xff0c;大幅提升了管理效率和智能…

Linux 的 sysfs 伪文件系统介绍【用户可以通过文件操作与内核交互(如调用内核函数),而无需编写内核代码】

1. 什么是 sysfs伪文件系统&#xff1f; sysfs 是 Linux 内核提供的 伪文件系统&#xff0c;用于向用户空间暴露内核对象的信息和控制接口。它是 procfs 的补充&#xff0c;主要用于管理 设备、驱动、内核子系统 等信息&#xff0c;使用户可以通过文件操作&#xff08;如用户空…

TCP编程

1.socket函数 int socket(int domain, int type, int protocol); 头文件&#xff1a;include<sys/types.h>&#xff0c;include<sys/socket.h> 参数 int domain AF_INET: IPv4 Internet protocols AF_INET6: IPv6 Internet protocols AF_UNIX, AF_LOCAL : Local…

springboot+vue+uniapp的校园二手交易小程序

开发语言&#xff1a;Java框架&#xff1a;springbootuniappJDK版本&#xff1a;JDK1.8服务器&#xff1a;tomcat7数据库&#xff1a;mysql 5.7&#xff08;一定要5.7版本&#xff09;数据库工具&#xff1a;Navicat11开发软件&#xff1a;eclipse/myeclipse/ideaMaven包&#…

【PyQt】使用PyQt5和Matplotlib实现的CSV数据可视化工具

使用PyQt5和Matplotlib实现的CSV数据可视化工具 界面展示 代码 import sys from PyQt5.QtWidgets import (QApplication, QMainWindow, QWidget, QVBoxLayout,QHBoxLayout, QPushButton, QComboBox, QFileDialog,QLabel, QMessageBox) import pandas as pd from matplotlib.f…

软件工程导论三级项目报告--《软件工程》课程网站

《软件工程》课程网站 摘要 本文详细介绍了《软件工程》课程网站的设计与实现方案&#xff0c;包括可行性分析、需求分析、总体设计、详细设计、测试用例。首先&#xff0c;通过可行性分析从各方面确认了该工程的可实现性&#xff0c;接着需求分析明确了系统的目标用户群和功能…

数据结构-堆和PriorityQueue

1.堆&#xff08;Heap&#xff09; 1.1堆的概念 堆是一种非常重要的数据结构&#xff0c;通常被实现为一种特殊的完全二叉树 如果有一个关键码的集合K{k0,k1,k2,...,kn-1}&#xff0c;把它所有的元素按照完全二叉树的顺序存储在一个一维数组中&#xff0c;如果满足ki<k2i…

Spring @Lazy:延迟初始化,为应用减负

在Spring框架中&#xff0c;Lazy注解的作用非常直观&#xff0c;它就是用来告诉Spring容器&#xff1a;“嘿&#xff0c;这个Bean嘛&#xff0c;先别急着创建和初始化&#xff0c;等到真正需要用到的时候再弄吧&#xff01;” 默认情况下&#xff0c;Spring容器在启动时会立即创…

SynchronousQueue 与 LinkedBlockingQueue区别及应用场景

文章目录 前言认识SynchronousQueue基本对比及比较1. **基本特性**2. **内部实现**3. **性能特点**4. **使用场景**5. **总结对比** SynchronousQueue案例JDK应用案例案例1&#xff1a;SynchronousQueue的简单用例案例2&#xff1a;SynchronousQueue公平锁、非公平锁案例案例3&…