DeepSeek+Dify本地部署私有化知识库

1.Windows安装docker

Windows安装Docker-CSDN博客

2.安装olloma

https://ollama.com/

安装完成,可以在桌面右下角看到olloma图标

3.安装deepseekR1模型

ollama官网(deepseek-r1),找到deepseek模型

 选择合适大小的模型,然后复制对应的脚本

在命令行窗口 ,执行脚本,就可以把对应的模型,下载到本地电脑。

显示success,表示模型安装完成。

4.安装dify

github下载dify包

https://github.com/langgenius/dify

由于github访问比较慢,我已经把下载好的包,放在csnd,可以直接下载

https://download.csdn.net/download/liangmengbk/90487779?spm=1001.2014.3001.5501

将zip解压,得到如下文件

找到docker目录中的 .env.example文件,将文件名称改为.env

用记事本打开这个文件,在最下面增加配置:

#启用自定义模型
CUSTOM_MODEL_ENABLED=true
#指定ollama的api地址
OLLAMA_API_BASE_URL=host.docker.internal:11434

文件编辑完成后保存。

在docker目录中,按住Shift+鼠标右键,打开

 执行docker compose up -d命令,运行容器。

发现运行失败,这是因为网络原因导致的,解决方法是配置国内的镜像源。

操作步骤如下:

"https://hub-mirror.c.163.com", 
"https://mirror.ccs.tencentyun.com",
"https://docker.m.daocloud.io", 
"https://mirror.baidubce.com", 
"https://docker.mirrors.ustc.edu.cn"

配置完成,点击Apply,再次执行docker compose up -d命令

在docker中可以看到已经安装的容器。

到此,dify所依赖的环境都安装好了。

开始安装dify项目

浏览器输入 http://127.0.0.1/signin

如果出现了这种情况,在docker面板中重启nginx

 然后通过下图的地方,再次访问。

第一次加载需要设置邮箱、用户名和密码信息 

登录成功

5.在dify中关联大模型

找到设置

选择模型供应商

 安装完成,刷新页面,点击添加模型

模型名称,可以通过命令 ollama list 查看已经安装的模型。

 基础URL,在安装dify时,docker文件夹中env文件配置的OLLAMA_API_BASE_URL参数值。

点击保存按钮

点击保存按钮后,页面无响应,F12控制台返回超时。

处理方法:

1.控制台设置ollama_host参数

set OLLAMA_HOST=0.0.0.0

2.重启Ollama服务

以上操作完成,重新添加模型。

添加成功,会在这里显示模型

系统模型配置中,也可以看到

创建聊天助手

到此,dify就和本地大模型关联起来了。

6.安装Embedding模型,为创建知识库做准备

选择BGE-M3模型作为Embedding模型

在本地安装模型

在dify中添加模型,操作与前面的添加deepseek模型相似。

添加完成

到此,嵌入模型就安装好了。

7.创建知识库

在dify中选择知识库

选择文件 

保存,会显示嵌入处理中,等待嵌入完成。

知识库已经创建完毕了。

也就是说通过bge-m3模型,已经把员工手册这个资料向量化了。

8.关联知识库

 在前面创建的测试助手中添加知识库

 从文档中分析出了每月的发薪日期。

点击这里,可以看到对文档的引用情况。

点击发布,发布更新,可以将当前的配置进行保存。

到此,deepseek+dify,部署本地知识库就完成了。 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/34690.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

[Linux][经验总结]Ubuntu6.11.0 docker更换镜像源(实操可用的正确方法)

一、前言 关于Ubuntu更换docker镜像源,网上有很多的教程,但在实操中发现,更换的源无法生效——原因是我的docker是在系统安装时,选择附加安装的package的方式安装的。 现将处理过程记录如下。 二、获取镜像源 在网上随便找个几…

NHANES指标推荐:BRI!

文章题目:Association of body roundness index with cardiovascular disease in patients with cardiometabolic syndrome: a cross-sectional study based on NHANES 2009-2018 DOI:10.3389/fendo.2025.1524352 中文标题:心脏代谢综合征患者…

3.水中看月

前言 这篇文章讲解套接字分配IP地址和端口号。这部分内容也相对有些枯燥,但并不难,而 且是学习后续那些有趣内容必备的基础知识(计算机网络基础)。 一、分配给套接字的IP地址与端口号 IP是InternetProtocol(网络协议…

Linux驱动开发-①pinctrl 和 gpio 子系统②并发和竞争③内核定时器

Linux驱动开发-①pinctrl 和 gpio 子系统②并发和竞争③内核定时器 一,pinctrl 和 gpio 子系统1.pinctrl子系统2.GPIO子系统 二,并发和竞争1.原子操作2.自旋锁3.信号量4.互斥体 三,按键实验四,内核定时器1.关于定时器的有关概念1.…

奇安信二面

《网安面试指南》https://mp.weixin.qq.com/s/RIVYDmxI9g_TgGrpbdDKtA?token1860256701&langzh_CN 5000篇网安资料库https://mp.weixin.qq.com/s?__bizMzkwNjY1Mzc0Nw&mid2247486065&idx2&snb30ade8200e842743339d428f414475e&chksmc0e4732df793fa3bf39…

Python库安装报错解决思路以及机器学习环境配置详细方案

文章目录 概要第三方库gdalpymoltalibmahotasgraphviznltk-datalazypredictscikit-surprisenb_extensionspyqt5-toolsspacy、en_core_web_sm 机器学习GPU-torch安装torch_geometric安装ubuntu安装显卡驱动dlib安装torch-cluster、torch-scatter、torch-sparse和torch-geometric…

Power Apps 技术分享:连接SharePoint列表数据源

前言 在使用Power Apps的时候,使用列表作为数据源是非常方便和经济的,列表创建简单,SharePoint的存储也不像Dataverse需要按照容量付费。 正文 1.我们先在SharePoint中建一个列表,添加一些测试数据,如下图:…

【Linux】learning notes(4)cat、more、less、head、tail、vi、vim

文章目录 catmore 查看整个文件less 查看整个文件head 查看部分文件tail 查看部分文件vim / vi cat cat 命令在 Linux 和 Unix 系统中非常常用,它用于连接文件并打印到标准输出设备(通常是屏幕)。虽然 cat 的基本用法很简单,但它…

C++11函数包装器

目录 std::function 注意事项 包装静态成员函数 包装非静态成员函数 std::bind 用法 应用场景 std::function function是C11引入的类,可以用任何可调用对象作为参数,构造出一个新对象。 可调用对象有函数指针,仿函数,lamb…

maven的安装配置

目录 一、官网下载压缩包 二、配置环境变量 设置 MAVEN_HOME 添加 MAVEN_HOME\bin 到 PATH 三、配置本机仓库和远程仓库 四、配置idea 一、官网下载压缩包 Download Apache Maven – Maven 如上图。选择这个压缩包 选择好文件,下载完后,配置环境变…

分布式事务

1 事务 众所周知,事务具有ACID四大特性: 原子性(Atomicity):事务作为一个整体被执行,包含在其中的对数据库的操作要么全部被执行,要么都不执行。 一致性(Consistency)&a…

Postman中Authorization和Headers的区别

案例 笔者在进行token验证的时候碰到的问题 一般如果是进行token验证,大部分是在Headers下面添加token名称及token的值 这样:后端提取请求头的token即可 还有一种是,左侧选择Bearer Token,右侧添加token的值,后端传递的 大概…

1.备战SISAP 2025挑战:调研2024挑战

简介 紧张刺激的SISAP 2025 challenge发布了,此博客用于记录备战的一些准备,思路和实验。 25年挑战介绍 详细信息参考SISAP Indexing challenge 2025 Task 1:内存受限索引 这项任务要求参与者开发具有reranking(重排&#xf…

FPGA学习(二)——实现LED流水灯

FPGA学习(二)——实现LED流水灯 目录 FPGA学习(二)——实现LED流水灯一、DE2-115时钟源二、控制6个LED灯实现流水灯1、核心逻辑2、代码实现3、引脚配置4、实现效果 三、模块化代码1、分频模块2、复位暂停模块3、顶层模块 四、总结 一、DE2-115时钟源 DE2-115板子包含一个50MHz…

进程间通信--匿名管道

进程间通信介绍 进程间通信目的 数据传输:一个进程需要将它的数据发送给另一个进程资源共享:多个进程之间共享同样的资源。通知事件:一个进程需要向另一个或一组进程发送消息,通知它(它们)发生了某种事件&…

【鸿蒙开发】Hi3861学习笔记-Visual Studio Code安装(New)

00. 目录 文章目录 00. 目录01. Visual Studio Code概述02. Visual Studio Code下载03. Visual Studio Code安装04. Visual Studio Code插件05. 附录 01. Visual Studio Code概述 vscode是一种简化且高效的代码编辑器,同时支持诸如调试,任务执行和版本管…

人工智能 Day06 pandas库进阶

1.处理缺失数据 总体流程是这样的, 归根在于如何处理NAN,接下来详细赘述 1.1. 处理缺失值的相关函数 判断缺失值 pd.isnull(df):用于判断 DataFrame df 中的元素是否为缺失值(NaN ),返回一个与df 形状相同…

【Tools】Visual Studio Code安装保姆级教程(2025版)

00. 目录 文章目录 00. 目录01. Visual Studio Code概述02. Visual Studio Code下载03. Visual Studio Code安装04. Visual Studio Code配置05. 附录 01. Visual Studio Code概述 Visual Studio Code(简称 VS Code)是由微软开发的一款免费、开源且跨平台…

14.使用各种读写包操作 Excel 文件:辅助模块

一 各种读写包 这些是 pandas 在底层使用的各种读写包。无须安装 pandas,直接使用这些读写包就能够读写 Excel 工作簿。可以尽可能地使用 pandas 来解决这类问题,只在 pandas 没有提供你所需要的功能时才用到读写包。 表中没有 xlwings ,因为…

AI赋能实时安全背带监测解决方案

背景:安全背带检测的行业刚需与技术痛点 在建筑施工、石油化工、仓储物流等高危行业中,安全背带是保障作业人员生命安全的最后一道防线。据统计,超过30%的高空坠落事故与未正确佩戴安全背带直接相关。传统依赖人工巡检的监督方式存在效率低、…