本周六【社区百宝箱市集】学会五分钟创建一个Serverless ChatGPT App

OpenAI 在2023年3月发布了 ChatGPT 的官方 API ，且于今天发布了Plugin开发使用资格，许多开发者和创业者都兴致勃勃地想办法将其整合到自己的业务运营中。

但是，想要做到这一点，仍然困难重重：

OpenAI为 ChatGPT 提供了一个简单的无状态API。开发者需要在应用程序管理的缓存或数据库中跟踪每个对话的历史和上下文。开发者还需要管理和保护API密钥。这里有很多与应用程序业务逻辑无关的样板代码。
ChatGPT API 应用程序的“自然”用户界面是 thread 聊天。但在传统的网络或应用程序框架中创建“聊天界面”是非常困难的。实际上，最常用的聊天界面已经存在于诸如 Slack、Discord 乃至论坛（例如 GitHub Discussions）这样的消息应用中。我们需要一种简单的方法将 ChatGPT 的 API 响应连接到现有的消息服务中。

本文，我将展示如何创建 serverless GitHub 机器人。有了这个机器人， GitHub 用户就能在 GitHub Issues 中与 ChatGPT 进行对话。可以通过提新的 issue 或在已有的 issue 的下面发表评论，来试试和 ChatGPT 聊天。换句话说，这个项目使用 GitHub Issues 的 thread 消息 UI 作为它聊天的 UI。

图1. 用 ChatGPT学习Rust编程。查看 https://github.com/second-state/chat-with-chatgpt/issues/31

该机器人是用 Rust 编写的 serverless 函数。只需 fork 该 example 模版，将你的 fork 部署到 flows.network 上，并将其配置你的 GitHub repo 和 OpenAI 密钥。只需 5 分钟，就能拥有一个功能齐全的 GitHub 机器人。无需为 GitHub API 或缓存/数据库服务器设置 Web 服务器或 Webhook。

理解模板 Repo

首先，从GitHub fork该模版repo。src/lib.rs 文件包含 bot 应用 (也称为 flow 函数)。run() 函数在启动时就被调用。它从 GitHub repo owner/repo 监听事件 issue_comment 和 issues。当在 repo 中创建新 issue 或新 issue 评论时，会启用这些事件。

#[no_mangle]
#[tokio::main(flavor = "current_thread")]
pub async fn run() {
// Setup variables for
//   owner: GitHub org to install the bot
//   repo: GitHub repo to install the bot
//   openai_key_name: Name for your OpenAI API key
// All the values can be set in the source code or as env vars
listen_to_event(&owner, &repo, vec!["issue_comment", "issues"], |payload| {
handler(&owner, &repo, &openai_key_name, payload)
})
.await;
}

handler() 函数处理 listen_to_event() 接收到的事件。如果事件是 issue 中的新评论，则机器人会调用 OpenAI 的 ChatGPT API 将评论文本添加到由 issue.number 标识的现有对话中。它收到来自 ChatGPT 的响应，并在 issue 中添加评论。

此处的 flow 函数自动透明地管理本地存储中与 ChatGPT API 的对话历史记录。 OpenAI API 密钥也存储在本地存储中，因而可以通过 openai_key_name 中的字符串名称来识别密钥，而不必将密钥放在源代码中。

EventPayload::IssueCommentEvent(e) => {
if e.comment.user.r#type != "Bot" {
if let Some(b) = e.comment.body {
if let Some(r) = chat_completion (openai_key_name,
&format!("issue#{}", e.issue.number),
&b,
&ChatOptions::default(),
) {
if let Err(e) = issues.create_comment(e.issue.number, r.choice).await {
write_error_log!(e.to_string());
}
}
}
}

如果事件是一个新的 issue，flow 函数创建一个新的对话，由 issue.number识别，并向 ChatGPT 请求响应。

EventPayload::IssuesEvent(e) => {
if e.action == IssuesEventAction::Closed {
return;
}
let title = e.issue.title;
let body = e.issue.body.unwrap_or("".to_string());
let q = title + "\n" + &body;
if let Some(r) = chat_completion (openai_key_name,
&format!("issue#{}", e.issue.number),
&q,
&ChatOptions::default(),
) {
if let Err(e) = issues.create_comment(e.issue.number, r.choice).await {
write_error_log!(e.to_string());
}
}
}

如何部署 Serverless Flow 函数

可以看到，flow 函数代码调用 SDK API 来执行复杂的操作。例如

listen_to_event() 函数通过 GitHub API 注册一个 webhook URL，从而 handler() 函数会在 GitHub 发生特定事件时被调用。
The chat_completion() 函数使用命名的 API 密钥和指定对话的历史（上下文）调用 ChatGPT API。 API 密钥和对话历史记录存储在 Redis 缓存中。

Webhook 服务器和 Redis 缓存都是 SDK 依赖的外部服务。这意味着 flow 函数必须在提供此类外部服务的托管 host 环境中运行。 Flows.network 是 flow 函数SDK 的 PaaS（平台即服务）host。

为了在 flows.network 上部署 flow 函数，只需将其源代码导入 PaaS。

首先，从你的 GitHub 帐户登录 flows.network。导入你刚刚 fork 的包含 flow 函数源代码的 GitHub repo，并选择“ Advanced”。

请注意，不是选要部署机器人的 GitHub repo；而是选择你 fork 的 flow函数源代码的 repo chatgpt-github-app。

图 2. 把你 fork 的 flow 函数模板 repo 导入 flows.network。

设置环境变量以将 flow 函数指向 OpenAI API 密钥名称 (openai_name_key) 和 GitHub repo (owner 和 repo)。

此处的 GitHub owner 和 repo 变量指向你要部署机器人的 GitHub repo，而不是 flow 函数源代码的 repo。

图 3. 为要部署机器人的 GitHub repo 设置环境变量，以及 OpenAI API 密钥名称。

Flows.network 将 fetch 源代码并使用标准的 cargo 工具链将 Rust 源代码构建为 Wasm 字节码。然后在 WasmEdge Runtime 中运行 Wasm flow 函数。

如何将 Flow 函数连接到 GitHub 和 OpenAI

虽然 flow 函数需要连接到 OpenAI 和 GitHub API，但源代码没有写死的 API 密钥、访问令牌或 OAUTH 逻辑。 flow 函数 SDK 使开发者可以轻松、安全地与外部 SaaS API 服务进行交互。

Flows.network 发现 flow 函数需要连接到 OpenAI 和 GitHub API。flows 平台为开发者提供了 UI 工作流，让开发者能够：

登录 GitHub，授权访问事件，并将 flow 函数注册为用于接收这些事件的 webhook。
将 OpenAI API 密钥与名称 openai_key_name 相关联。

图 4. flow 函数所需的外部服务

外部 SaaS API 成功连接并得到授权后，它们会在 flow 函数 dashboard 上将显示为 “Connected”。 flow 函数现在将接收 listen_to_event() 的事件。它还将获得对 Redis 的透明访问以获取指定的 OpenAI API 密钥和缓存的对话上下文，从而支持 chat_completion() SDK 函数。

下一步

flows.network 支持连接各种 SaaS 的不同机器人，GitHub 机器人只是其中之一。通过将 flow 函数连接到 Slack 频道，就可以获得 ChatGPT 来参与你的小组讨论。下面是一个基于 Slack 的 ChatGPT 机器人的示例。

https://github.com/flows-network/collaborative-chat
图 5. Slack ChatGPT 机器人

另一个例子是让 ChatGPT 在 Slack 频道中回答法律问题。 flow 函数里面可以规定好 prompt ——说明 ChatCPT 需要充当法律顾问回答法律咨询。

https://github.com/flows-network/robo-lawyer
图 6. Slack 律师机器人

除了 GitHub 和 Slack，还有许多 SaaS 产品可以通过其 API 集成到 flows.network 中。

在这里插入图片描述

国内首个面向 to D Marketing、开发者运营、开发者关系从业者的交流活动 Dev.Together 中国开发者生态峰会将于 3 月 25 日在北京开办啦！
在本次的开发者生态峰会现场，我们设置了一个开放的社区百宝箱市集，邀请到开源问答社区软件 Answer、X-Lab 实验室、TiDB、flows.network、Fork.ai，ONES 以及 Pando Proto 等团队参展，为大家一站式展示实用、有趣的运营工具，助你事半功倍，升职加薪！

除了实用工具，展商们也准备了有趣好玩的互动机制和周边，欢迎大家一起来玩耍。此外，现场设有护照打卡盖章任务，快来市集做一个行走的盖章君，感受**“集邮”**的快乐。集满一定数量的印章，还可以兑换大会官方定制周边和惊喜盲盒，记得来寻找隐藏的印章兑换礼物哦！

flows.network

flows.network 是一个低代码 serverless 平台。以 developer 常用的工具为切入点，flows.network 将赋能开发者与 DevRel 自动化工作流，降低开发者的负担与沟通成本，打造更加活跃的开发者社区。在 flows.network，你将了解如何自动化 DevRel 的工作流，节省时间与精力。快来体验 ChatGPT 的魔法世界，并赢取精美奖品。
展位任务： 参会者选在体验 ChatGPT 的 demo 或者参与添加我们的微信群，完成任一一项任务即可到 flows.network 展位领取签章。除此之外，参会者还可以选择我们其它的互动任务赢取精美奖品：听取 Demo 讲解将获得三合一充电线；观看预约演示并提交反馈问卷可以获得帽子一个或一个搪瓷杯；成功部署应用可以现场领取 T-shirt 一件。

需要在活动页面报名噢：https://www.bagevent.com/event/dev-together-2022