【openwebui 搭建本地知识库(RAG搭建本地知识库)】

安装准备

openwebui

这个本地安装之前写过使用python安装。也可以直接用docker 命令

docker run --rm -d \-p 3080:8080 \-p 3081:8081 \-e WEBUI_AUTH=true \-e DEFAULT_LOCALE=cn \-e GLOBAL_LOG_LEVEL="INFO" \-e AIOHTTP_CLIENT_TIMEOUT=100 \--privileged=true \-v /opt/app/test/ai/ollama/modelfile:/root/modelfile \-v /opt/app/test/ai/dev_open-webui_test/ollama:/root/.ollama \-v /opt/app/test/ai/dev_open-webui_test/data:/app/backend/data \-v /opt/app/test/ai/dev_open-webui_test/open_webui-0.4.8/backend/open_webui:/app/backend/open_webui \--name dev_open-webui_test \ghcr.io/open-webui/open-webui:ollama
docker logs -f dev_open-webui_test

启动的时候,会因为huggingface加载sententranformer的模型报错,但是应该不影响启动openwebui。
sententranformer是个语义小模型,如果只是使用openwebui与后台的聊天可以忽略这个错误,但是做知识库,而且使用默认的sententranformer进行语义分析,就需要安装
先从别的途径下载这个模型,魔塔等国内资源都可以获取到。

windows下装sententranformer

windows可以直接放到对应目录然后openwebui启动的时候,自动加载,windows目录
C:\Users\用户名.cache\huggingface\hub\models–sentence-transformers–all-MiniLM-L6-v2

linux下装sententranformer

linux的docker安装的话,可以拷贝到可以进入容器查看 环境变量SENTENCE_TRANSFORMERS_HOME配置的位置,我的是在 /app/backend/data ,所以看到docker启动的时候,也挂载了这个目录

配置 语义向量模型

在这里插入图片描述
当然语义模型也可以换其他ollama或者openai接口
当然基础的聊天模型是需要配置好,这个基础
在这里插入图片描述

配置知识库

首页侧边栏,工作空间 -》知识–》+ 增加知识库
在这里插入图片描述
创建知识库
在这里插入图片描述
点击知识库,进入可以点击+ 上传文档,就可以上传知识了。

配置知识库的模型

知识库是基础模型上知识库,还是得进入工作模型-》模型
在这里插入图片描述
选上基础模型 ,添加刚建立的数据库,保存。比如我们保存的模型叫test_model

测试本地知识库

进入对话窗口,模型选择刚才建立的 test_model,然后对话的时候,就会显示如下:
在这里插入图片描述

下面红框会显示从知识库中查出来的内容链接,当然这些内容也会传给后台消息,后台可以总结这些信息做一下输出。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/33111.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Linux 提权

文章目录 前言1. 内核漏洞提权脏牛(CVE-2016-5195) 2. 不安全的系统配置项2.1 SUID/SGID提权2.2 sudo提权2.3 定时任务提权2.4 capabilities提权 3. 第三方软件提权Tomcat managerNginx本地提权(CVE-2016-1247)Redis未授权 4. 参考…

谷粒商城:性能压测JVM堆区

目录 Kit Apache JMeter VisualVM 堆内存 jvm内存模型 垃圾回收(Garbage Collection, GC) 新对象分配内存 GC步骤 MinorGC 性能优化 影响因素 优化 nginx动静分离 优化三级分类获取 Jvm参数配置堆区 测试 Kit Apache JMeter 压力测试&…

TCP协议支持全双工原因TCP发送接收数据是生产者消费者模型

一、TCP支持全双工的原因 TCP协议支持全双工,即使用TCP协议进行通信时,服务端和客户端可以同时进行数据的发送和接收,互不干扰,实现同时双向传输数据。 这是因为使用TCP协议通信时,读写套接字的文件描述符既用来发送…

观成科技:​加密C2框架Platypus流量分析

一、工具介绍 Platypus 是一款支持多会话的交互式反向 Shell 管理器。在实际的渗透测试中,为了解决 Netcat/Socat 等工具在文件传输、多会话管理方面的不足,该工具在多会话管理的基础上增加了在渗透测试中能更好发挥作用的功能(如:交互式 Sh…

在 C# 中,is null 和 == null ‌不完全等价‌

最近遇到了一个看似奇怪的问题,判断一个对象是否为null,我使用了null来判断,结果他是null但是仍然进入了判断。 经过讨论和验证,发现使用is null 可以解决问题,于是查阅了资料。 在 C# 中,is null 和 nul…

go语言zero框架拉取内部平台开发的sdk报错的修复与实践

在开发过程中,我们可能会遇到由于认证问题无法拉取私有 SDK 的情况。这种情况常发生在使用 Go 语言以及 Zero 框架时,尤其是在连接到私有平台,如阿里云 Codeup 上托管的 Go SDK。如果你遇到这种错误,通常是因为 Go 没有适当的认证…

VBA+FreePic2Pdf 找出没有放入PDF组合的单个PDF工艺文件

设计部门针对某个项目做了一个工艺汇总报告,原先只要几十个工艺文件,组合成一个PDF,但后来要求要多放点PDF进去,但工艺文件都混在一起又不知道哪些是重复的,找上我让我帮忙处理一下,我开始建议让她重新再组…

Webservice如何调用

webservice调用方式: (1)http方式调用 请求头增加Content-type:text/xml 或application/soapxml SOAPAction:方法名 请求body以xml字符串传递,xml格式定义 返回以xml字符串返回,xml某个字段是一个json字符串。 入…

2025-03-10 吴恩达机器学习1——机器学习概述

文章目录 1 监督学习1.1 回归1.2 分类 2 无监督学习2.1 聚类2.2 异常检测2.3 降维 3 使用 Jupyter Notebook ​ 1959 年,Arthur Samuel 将机器学习定义如下: ​ Field of study that gives computers the ability to learn without being explicitly pro…

Python 进程与线程-分布式进程

目录 分布式进程 小结 分布式进程 在Thread和Process中,应当优选Process,因为Process更稳定,而且,Process可以分布到多台机器上,而Thread最多只能分布到同一台机器的多个CPU上。 Python的multiprocessing模块不但支…

使用 Excel 实现绩效看板的自动化

引言 在日常工作中,团队的绩效监控和管理是确保项目顺利进行的重要环节。然而,面临着以下问题: ​数据分散:系统中的数据难以汇总,缺乏一个宏观的团队执行情况视图。​看板缺失:系统本身可能无法提供合适…

Unity中WolrdSpace下的UI展示在上层

一、问题描述 Unity 中 Canvas使用World Space布局的UI,想让它不被3d物体遮挡,始终显示在上层。 二、解决方案 使用shader解决 在 UI 的材质中禁用深度测试(ZTest),强制 UI 始终渲染在最上层。 Shader "Custo…

uni-app学习笔记——自定义模板

一、流程 1.这是一个硬性的流程,只要按照如此程序化就可以实现 二、步骤 1.第一步 2.第二步 3.第三步 4.每一次新建页面,都如第二步一样;可以选择自定义的模版(vue3Setup——这是我自己的模版),第二步的…

网络安全防护总体架构 网络安全防护工作机制

1 实践内容 1.1 安全防范 为了保障"信息安全金三角"的CIA属性、即机密性、完整性、可用性,信息安全领域提出了一系列安全模型。其中动态可适应网络安全模型基于闭环控制理论,典型的有PDR和P^2DR模型。 1.1.1 PDR模型 信息系统的防御机制能…

tomato靶场通关攻略

1.打开tomato靶机和kali虚拟机 2.运用kali扫描靶机ip 3.浏览器访问靶机ip 4.kali dirb扫描敏感文件 5.依次查看这几个文件,发现antibot_image下有文件info.php,发现一个被注释的get型文件包含漏洞,参数为image 6.查看日志文件 http://192.…

玩转云服务器——阿里云操作系统控制台体验测评

在云服务器日益普及的背景下,运维人员对操作系统管理工具的要求不断提高。我们需要一款既能直观展示系统状态,又能智能诊断问题,提供专业指导的控制台。阿里云操作系统管理平台正是基于API、SDK、CLI等多种管理方式,致力于提升操作…

Spring boot3-WebClient远程调用非阻塞、响应式HTTP客户端

来吧&#xff0c;会用就行具体理论不讨论 1、首先pom.xml引入webflux依赖 <dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-webflux</artifactId> </dependency> 别问为什么因为是响应式....…

Qt/C++音视频开发82-系统音量值获取和设置/音量大小/静音

一、前言 在音视频开发中&#xff0c;音量的控制分两块&#xff0c;一个是控制播放器本身的音量&#xff0c;绝大部分场景都是需要控制这个&#xff0c;这个不会影响系统音量的设置。还有一种场景是需要控制系统的音量&#xff0c;因为播放器本身的音量是在系统音量的基础上控…

十三、OSG学习笔记-osgDB文件读写

上一章节&#xff1a; 十二、OSG学习笔记-Control-CSDN博客https://blog.csdn.net/weixin_36323170/article/details/146082287?spm1001.2014.3001.5501 一、文件读取原理 ReadNodeFile,读取流程&#xff1a; 二、实现一个简单的读取器 仿造ReaderWriterOSG.CPP原码&#x…

05.基于 TCP 的远程计算器:从协议设计到高并发实现

&#x1f4d6; 目录 &#x1f4cc; 前言&#x1f50d; 需求分析 &#x1f914; 我们需要解决哪些问题&#xff1f; &#x1f3af; 方案设计 &#x1f4a1; 服务器架构 &#x1f680; 什么是协议&#xff1f;为什么要设计协议&#xff1f; &#x1f4cc; 结构化数据的传输问题 …