AGI 之 【Dify】 之 使用 Docker 在 Windows 端本地部署 Dify 大语言模型（LLM）应用开发平台

AGI 之 【Dify】 之  使用 Docker 在 Windows 端本地部署 Dify 大语言模型（LLM）应用开发平台

目录

AGI 之 【Dify】 之  使用 Docker 在 Windows 端本地部署 Dify 大语言模型（LLM）应用开发平台

一、简单介绍

二、Docker 下载安装

三、Dify 下载安装，及部署

附录：一些报错问题处理

一、启动容器报错 Get "https://registry-1.docker.io/v2/": net/http: request canceled

二、docker compose up -d 的时候，docker-db-1 总是重启 Restarting，无法正常 Running

一、简单介绍

AGI，即通用人工智能（Artificial General Intelligence），是一种具备人类智能水平的人工智能系统。它不仅能够执行特定的任务，而且能够理解、学习和应用知识于广泛的问题解决中，具有较高的自主性和适应性。AGI的能力包括但不限于自我学习、自我改进、自我调整，并能在没有人为干预的情况下解决各种复杂问题。

Dify 是一个开源的大语言模型（LLM）应用开发平台，它旨在简化和加速生成式 AI 应用的创建和部署。这个平台结合了后端即服务（Backend as Service, BaaS）和 LLMOps 的理念，为开发者提供了一个用户友好的界面和一系列强大的工具，使他们能够快速搭建生产级的 AI 应用。

Dify 的核心功能包括：

  1. 低代码/无代码开发：通过可视化的方式允许开发者轻松定义 Prompt、上下文和插件等，无需深入底层技术细节。
  2. 模块化设计：采用模块化的设计，每个模块都有清晰的功能和接口，可以根据需求选择性地使用。
  3. 丰富的功能组件：包括 AI 工作流、RAG 管道、Agent、模型管理、可观测性功能等，帮助开发者从原型到生产的全过程。
  4. 支持多种大语言模型：已支持 OpenAI GPT 系列等模型，并计划进一步扩展。
  5. 数据处理和特征工程工具：提供了数据清洗、特征选择、特征变换等功能，帮助开发者更好地准备数据。
  6. 集成外部知识源：允许自定义 API 接入外部知识源，让大型语言模型深入理解企业知识和业务。

Dify 提供了四种基于 LLM 构建的应用程序，可以针对不同的应用场景和需求进行优化和定制，包括聊天助手、文本生成、智能代理和工作流程。此外，Dify 还支持从 Notion 导入数据，并设置同步，使得数据在 Notion 更新后便自动同步到 Dify。Dify 中存在知识库数据集的单独 API，这与他的服务 API 不同，可以单独使用数据集的 API。

Dify 适合各种技术背景的开发者使用，即使是没有编程基础的用户也能快速上手并参与到 AI 应用的定义和数据运营过程中。作为一个开源项目，Dify 在 GitHub 上有活跃的社区支持，鼓励用户贡献和分享经验。

Docker 是一个开源的应用容器引擎，它允许开发者打包他们的应用以及应用的依赖包到一个可移植的容器中，然后发布到任何流行的 Linux 机器上，也可以实现虚拟化。容器是完全使用沙箱机制，相互之间不会有任何接口。

Docker 的主要特点包括：

  1. 轻量级：Docker 容器与其他虚拟化技术相比，占用的资源更少，启动速度更快。

  2. 可移植性：Docker 容器可以在不同的机器、数据中心或云服务提供商之间轻松移动。

  3. 环境一致性：Docker 确保应用在不同环境之间具有一致性，从而减少了“在我机器上可以运行”的问题。

  4. 快速部署：Docker 容器的启动时间通常只需几秒钟，这使得部署应用变得更加迅速。

  5. 微服务架构：Docker 容器非常适合微服务架构，每个服务可以独立运行在自己的容器中。

  6. 版本控制和团队协作：Docker 容器可以与现代的 DevOps 工具链紧密结合，支持持续集成和持续部署（CI/CD）。

  7. 隔离性：每个容器都是相互隔离的，运行在自己的环境中，拥有自己的文件系统。

  8. 安全性：容器提供了一个额外的安全层，因为它们运行在用户空间，并且可以利用 Linux 内核的安全特性。

Docker 使用客户端-服务器架构，使用 Docker 守护进程来管理容器。Docker 客户端与守护进程通信，而守护进程负责构建、运行和分发容器。用户可以通过命令行接口（CLI）、Docker Compose（用于定义和运行多容器 Docker 应用的工具）或图形用户界面（GUI）与 Docker 交互。

注意 Dify Docker部署有部署要求，不过目前一般的电脑都符合要求：

二、Docker 下载安装

Docker Windows 版本下载地址：Windows | Docker Docs

为了在 Windows 系统上部署 Dify，你需要先安装 Docker Desktop。

Windows 中的 Docker 可以依赖于两种环境：Hyper-V（虚拟环境）和 WSL（Windows Linux 子系统）。

其中，利用 WSL 环境的部署方案，这需要你从 Microsoft Store 下载一个 Linux 发行版。

如果你的电脑无法使用 Microsoft Store 下载，比如生产环境电脑，那么可以选择使用基于 Hyper-V 的部署方法。启用 Hyper-V 环境的两种方法，下面介绍启用 Hyper-V 环境的方法，任选其一操作即可：

1、以管理员权限打开 PowerShell 控制台

2、输入如下命令即可

Enable-WindowsOptionalFeature -Online -FeatureName Microsoft-Hyper-V -All

3、或者使用 “启用或关闭 Windows 功能”，找到并勾选“Hyper-V”，然后点击“确定”按钮以启用该功能

4、开启 Hyper-V 功能，会提示重启电脑，这时候重启电脑即可

5、下载 Docker ，根据需要选择下载即可

6、下载好Docker ，双击安装即可

值得注意的是如果使用 Hyper-V ，则需要取消勾选第一项

三、Dify 下载安装，及部署

Dify 官网：Dify.AI · 生成式 AI 应用创新引擎

Dify 进行 Docker Compose 部署可以参考：https://docs.dify.ai/zh-hans/getting-started/install-self-hosted/docker-compose

1、进入 Dify  官网，如图点击进入 Github ，克隆或者下载代码

2、下载好后，Shift + 鼠标右键，打开 Powershell

3、在 Powershell 中，进入 Dify 源代码的 Docker 目录 ，复制环境配置文件

命:1：cd .\docker\

命令2：cp .env.example .env

4、这里就要启动 Docker，确定当前的 Docker  版本

根据你系统上的 Docker Compose 版本，选择合适的命令来启动容器。

你可以通过命令：docker compose version 检查版本

  •     如果版本是 Docker Compose V2，使用以下命令：docker compose up -d
  •     如果版本是 Docker Compose V1，使用以下命令：docker-compose up -d

5、这里是 V2 版本，使用 docker compose up -d 命令来启动容器

运行命令后，开始会拉取数据，然后会看到类似以下的输出，显示所有容器的状态和端口映射：

6、运行完之后，输入 命令可以看到运行的服务

命令：docker compose ps

7、docker 界面也运行正常

8、在浏览器上，输入 http://localhost/install ，这时候也会正常显示设置管理员账号界面

输入信息，配置登录账号

9、在浏览器上，输入 http://localhost/signin，这时候也会正常显示登陆界面，登陆即可

10、登录之后，在工作室创建你的应用，开始玩转 Dify 吧

附录：一些报错问题处理

一、启动容器报错 Get "https://registry-1.docker.io/v2/": net/http: request canceled

Error response from daemon: Get "https://registry-1.docker.io/v2/": net/http: request canceled while waiting for connection (Client.Timeout exceeded while awaiting headers)

分析可能原因：

1）这个是因为源的问题，我们可以使用国内的镜像源。具体操作为：找到C:\Users\Administrator.docker\daemon.json（或者C:\Users\你的用户名.docker\daemon.json）文件

（如果.docker文件下没有daemon.json文件，就自己手动新增）

2）然后添加以下内容：

{"registry-mirrors": ["https://docker.211678.top","https://docker.1panel.live","https://hub.rat.dev","https://docker.m.daocloud.io","https://do.nark.eu.org","https://dockerpull.com","https://dockerproxy.cn","https://docker.awsl9527.cn"]
}

3）保存后重启docker，重启操作为在打开docker Desktop的前提下，点击电脑右小角的小图标，点击“Restart ”，版本不同可能显示不同。

二、docker compose up -d 的时候，docker-db-1 总是重启 Restarting，无法正常 Running

此时 http://localhost/install 界面也一直在转圈，网页一直加载中

docker-db-1 相关日志如下：

running bootstrap script ... 2024-10-14T04:20:59.355405500Z The files belonging to this database system will be owned by user "postgres".
2024-10-14 12:20:59 This user must also own the server process.
2024-10-14 12:20:59 
2024-10-14 12:20:59 The database cluster will be initialized with locale "en_US.utf8".
2024-10-14 12:20:59 The default database encoding has accordingly been set to "UTF8".
2024-10-14 12:20:59 The default text search configuration will be set to "english".
2024-10-14 12:20:59 
2024-10-14 12:20:59 Data page checksums are disabled.
2024-10-14 12:20:59 
2024-10-14 12:20:59 fixing permissions on existing directory /var/lib/postgresql/data/pgdata ... ok
2024-10-14 12:19:58 2024-10-14 04:19:58.620 UTC [63] FATAL:  data directory "/var/lib/postgresql/data/pgdata" has invalid permissions
2024-10-14 12:19:58 2024-10-14 04:19:58.620 UTC [63] DETAIL:  Permissions should be u=rwx (0700) or u=rwx,g=rx (0750).
2024-10-14 12:19:58 child process exited with exit code 1
2024-10-14 12:19:58 initdb: removing contents of data directory "/var/lib/postgresql/data/pgdata"
2024-10-14 12:20:59 creating subdirectories ... ok
2024-10-14 12:20:59 selecting dynamic shared memory implementation ... posix
2024-10-14 12:20:59 selecting default max_connections ... 20
2024-10-14 12:21:00 selecting default shared_buffers ... 400kB
2024-10-14 12:21:00 selecting default time zone ... UTC
2024-10-14 12:21:00 creating configuration files ... ok
2024-10-14 12:21:00 2024-10-14 04:21:00.539 UTC [63] FATAL:  data directory "/var/lib/postgresql/data/pgdata" has invalid permissions
2024-10-14 12:21:00 2024-10-14 04:21:00.539 UTC [63] DETAIL:  Permissions should be u=rwx (0700) or u=rwx,g=rx (0750).
2024-10-14 12:21:00 child process exited with exit code 1
2024-10-14 12:21:00 initdb: removing contents of data directory "/var/lib/postgresql/data/pgdata"
2024-10-14 12:21:00 running bootstrap script ...

解决方式之一如下

1、在 dify/docker 文件夹下找到 docker-compose.yaml

2、找到文件夹中的 volumes/db/data ，替换为 postgres-data，如下图

（不同版本，内容可能有些不一样）

3、最后在末尾，添加上 postgres-data

4、保存上面修改，然后在 powershell down 一下 容器

命令：docker compose down -v

5、之后，再次重新启动一下容器

命令：docker compose up

6、docker-db-1 运行正常了

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.rhkb.cn/news/29108.html

如若内容造成侵权/违法违规/事实不符，请联系长河编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

外键 FK enable constraints enq:TM lock

外键 FK enable constraints enq:TM lock

ALTER TABLE X ENABLE NOVALIDATE CONSTRAINT XX； 如果referenced 表在DML 就会出现 enq:TM lock
阅读更多...
深度学习语义分割数据集全景解析

深度学习语义分割数据集全景解析

一、语义分割任务概述 语义分割是计算机视觉领域的核心任务之一，目标是通过算法将图像中的每个像素精准划分到对应的语义类别（如道路、车辆、行人等）。高质量标注数据集是推动该领域发展的关键因素。本文将系统梳理主流数据集的技术特征与适…
阅读更多...
【芯片设计】处理器芯片大厂前端设计工程师面试记录·20250307

【芯片设计】处理器芯片大厂前端设计工程师面试记录·20250307

面试问题和ds的参考答案 好的，我现在需要处理用户的请求，他们希望我扩展之前的回答，使其更详细、更丰富。首先，我需要回顾之前的回答，看看哪些部分可以进一步展开。用户提到“回答多说一些！”，这意味着他们希望每个问题的回答内容更深入，包含更多的技术细节、实际案例…
阅读更多...
C++特殊类设计

C++特殊类设计

目录 不能被拷贝的类 只能在堆上创建对象的类 构造函数私有化： 析构函数私有化： 只能在栈上创建对象的类 不能被继承的类 只能创建一个对象的类(单例模式) 设计模式： 单例模式： 饿汉模式： 懒汉模式： 线程…
阅读更多...
Linux系统之配置HAProxy负载均衡服务器

Linux系统之配置HAProxy负载均衡服务器

Linux系统之配置HAProxy负载均衡服务器 前言一、HAProxy介绍1.1 HAProxy简介1.2 主要特点1.3 使用场景二、本次实践介绍2.1 本次实践简介2.2 本次实践环境规划三、部署两台web服务器3.1 运行两个Docker容器3.2 编辑测试文件3.3 访问测试四、安装HAProxy4.1 更新系统软件源4.2 安…
阅读更多...
从零开始学机器学习——什么是机器学习

从零开始学机器学习——什么是机器学习

这个系列的文章旨在为初学者提供机器学习知识，避免使用专业术语和复杂的概念，以便更好地理解和应用。 首先给大家介绍一个很好用的学习地址：https://cloudstudio.net/columns 机器学习 在这里简要介绍机器学习：它利用真实世界或…
阅读更多...
AI驱动的消费者体验优化——DeepBI如何用智能策略助力亚马逊卖家“俘获”消费者的心

AI驱动的消费者体验优化——DeepBI如何用智能策略助力亚马逊卖家“俘获”消费者的心

在亚马逊这个竞争异常激烈的电商平台上，消费者体验已经成为决定卖家成败的关键因素之一。优质的消费者体验不仅能够提升客户满意度，还能加速口碑传播，带动销量持续增长。 今天，我们就来深入解析，DeepBI如何依托 AI 驱动…
阅读更多...
Devart dbForge Studio for MySQL Enterprise 9.0.338高效数据库管理工具

Devart dbForge Studio for MySQL Enterprise 9.0.338高效数据库管理工具

Devart dbForge Studio for MySQL Enterprise 9.0.338 是一款功能强大的 MySQL 数据库管理工具，专为数据库开发人员和管理员设计。它提供了丰富的功能，帮助用户更高效地管理、开发和维护 MySQL 数据库 Devart dbForge Studio for MySQL Enterprise 9.0.…
阅读更多...
SQL_语法

SQL_语法

1 数据库 1.1 新增 create database [if not exists] 数据库名; 1.2 删除 drop database [if exists] 数据库名; 1.3 查询 (1) 查看所有数据库 show databases; (2) 查看当前数据库下的所有表 show tables; 2 数据表 2.1 新增 (1) 创建表 create table [if not exists…
阅读更多...
PX4中的UAVCAN_V1的实现库libcanard与数据格式DSDL

PX4中的UAVCAN_V1的实现库libcanard与数据格式DSDL

libcanard简介 libcanard 是用于嵌入式实时系统的 UAVCAN 协议的缩减版实现库。 在 PX4 中，在 src/drivers/uacvan_v1 目录中，与 0.9 版本的相比，名称更改了(v0.9版本为 libuavcan)： 此库有几个点需要注意： 1&#…
阅读更多...
物联网系统搭建

物联网系统搭建

实验项目名称 构建物联网系统 实验目的 掌握物联网系统的一般构建方法。 实验要求： 1．构建物联网系统，实现前后端的交互。 实验内容： CS模式MQTT（不带数据分析处理功能） 实现智能设备与应用客户端的交…
阅读更多...
SpringBoot优雅关机，监听关机事件，docker配置

SpringBoot优雅关机，监听关机事件，docker配置

Spring Boot 提供了多种方法来实现优雅停机（Graceful Shutdown），这意味着在关闭应用程序之前，它会等待当前正在处理的请求完成，并且不再接受新的请求。 一、优雅停机的基本概念 优雅停机的主要步骤如下： …
阅读更多...
Docker 学习（二）——基于Registry、Harbor搭建私有仓库

Docker 学习（二）——基于Registry、Harbor搭建私有仓库

Docker仓库是集中存储和管理Docker镜像的平台，支持镜像的上传、下载、版本管理等功能。 一、Docker仓库分类 1.公有仓库 Docker Hub：官方默认公共仓库，提供超过10万镜像，支持用户上传和管理镜像。 第三方平台：如阿里…
阅读更多...
java环境部署

java环境部署

java环境部署 一、准备工作 jrejdkeclipse jdk下载：21和1.8-----官网：Oracle：Java 下载 |神谕 该处选择要依据自身的系统类型选择下载 idea的下载安装：IntelliJ IDEA | Other Versions 二、安装 三、环境配置 四、使用 五、i…
阅读更多...
从0开始的操作系统手搓教程21：进程子系统的一个核心功能——简单的进程切换

从0开始的操作系统手搓教程21：进程子系统的一个核心功能——简单的进程切换

目录 具体说说我们的简单RR调度 处理时钟中断处理函数 调度器 schedule switch_to 我们下面，就要开始真正的进程切换了。在那之前，笔者想要说的是——我们实现的进程切换简单的无法再简单了——也就是实现一个超级简单的轮询调度器。 每一个进程按照…
阅读更多...
【办公类-99-03】养老护理初级考题抽取（2套大题抽1+7小套题抽2——共有42种可能）

【办公类-99-03】养老护理初级考题抽取（2套大题抽1+7小套题抽2——共有42种可能）

背景需求 三八妇女节当天就要考养老护理实操了。这几天晚上都在疯狂练习。 考试时，两套大题抽一题。七套小题抽两题。会有多少种不重复的排列方式呢？ 手机版本"通义万象” 有432。 这是我在公交车上用通义AI写的。 回家后继续用我熟悉的“星火讯…
阅读更多...
Spring统一格式返回

Spring统一格式返回

目录 一：统一结果返回 1：统一结果返回写法 2：String类型报错问题 解决方法 二：统一异常返回 统一异常返回写法 三：总结 同志们，今天咱来讲一讲统一格式返回啊，也是好久没有讲过统一格式返…
阅读更多...
Redis数据结构，渐进式遍历，数据库管理

Redis数据结构，渐进式遍历，数据库管理

1.Redis的其他数据结构 前面我们主要讲述了Redis中比较常用的集中数据结构String，List，Hash，Set，Zset，但这并不代表Redis只用这几种数据结构还有如Streams，Geospatial，Hyperloglog，…
阅读更多...
DeepSeek DeepEP学习（二）normal notify dispatch

DeepSeek DeepEP学习（二）normal notify dispatch

背景 相对于low latency的追求延迟，normal版本追求更高的带宽，传统all2all算子在发送到同一台机器的不同rank时，会存在重复token的发送，而DeepSeek团队使用的机型的机内带宽大于机间带宽，因此DeepSeek提出了两阶段的a…
阅读更多...
立即释放 Mac 空间！Duplicate File Finder 8 重复文件高速清理工具

立即释放 Mac 空间！Duplicate File Finder 8 重复文件高速清理工具

Duplicate File Finder 专业的 Mac 重复文件清理工具。查找并删除重复的文件、文件夹，甚至相似的照片。 不要让无用的文件占用磁盘上的宝贵空间。 整理你的 Mac。用最好的重复文件查找器来管理你的文件集合。 扫描任何磁盘或文件夹 主文件夹、照片/音乐库、外部磁…
阅读更多...
最新文章
推荐文章

Copyright @ 2022~2023