两条命令搞定 ChatGPT API 的调用问题

自2022年11月30日 OpenAI 发布 ChatGPT 以来,虽然时有唱衰的声音出现,但在OpenAI不断推陈出新,陆续发布了OpenAPI、GPT-4、ChatGPT Plugins之后,似乎让大家看到了一个聊天机器人往操作系统入口进军的升纬之路。

ChatGPT能被认为是操作系统级别的入口平台,那么必然会催生各行各业应用的重新入局。对此,作为一名开发者来说,面对这样的变革,应该尽早的去了解与实践,在蓝海里更容易找到一份自己的位置。目前DD知道的就有不少小伙伴在基于其API做一些出海的应用。

最近,DD也花了不少时间去研究和体验了一些有趣的内容。比如:尝试跑了一些基于其API实现的类ChatGPT应用:

7883fed93e314f4a1e7f568911c20a84.png

还有比如下面这个通过拖拽就能轻松调试和构建智能聊天应用的开源工具:

5d2141103a882dbc045c340e15edaeab.png

在这几天的不断尝试过程中,DD发现一个比较麻烦的问题,就是这些应用都需要OpenAI的API Key。

22532801fcf5a4956140432d8353bb2a.png

作为开发者来说,相信不少小伙伴知道如何获取了,这里就不细节说了,大家可以Google一下,有大量的资料。

这里具体说说另外一个问题:由于我们本地调试、服务器部署等原因,在请求 https://api.openai.com 的时候,很容易造成IP混乱,稍有不慎就有可能被封号。所以,我们最好还是有一个稳定的位于国外的调用来源,这样日常开发调试就能更效率一些。

那么如何快捷方便的来搞定呢?下面就给大家分享一个利用阿里云函数计算(有大量免费试用额度)来实现的方案。

命令行部署

准备工作

  1. 点击下方链接,进入“管理控制台”,开通函数计算FC

https://t.aliyun.com/U/nb5Ka1

77ffd96f685ef4c9d464bf80b660a3a3.png
  1. 在本地安装最新版本的nodejs,不会的可以看官网:https://nodejs.org/

  2. 执行命令安装Serverless Devs Tool

npm安装:
$ npm install @serverless-devs/s -gyarn安装:
$ yarn global add @serverless-devs/s
  1. 通过该链接(https://usercenter.console.aliyun.com/#/manage/ak ),获取阿里云的AccessKey。一定要把这里获取的AccessKey ID和AccessKey Secret记下来,下面马上要用。

  2. 为Serverless Devs Tool配置阿里云的AccessKey

$ s config add 
? Please select a provider: Alibaba Cloud (alibaba)
🧭 Refer to the document for alibaba key:  http://config.devsapp.net/account/alibaba
? AccessKeyID 此处填写AccessKeyID
? AccessKeySecret 此处填写AccessKeySecret
? Please create alias for key pair. If not, please enter to skip alibaba-accessAlias: alibaba-access
AccountID: 自动获取AccountID
AccessKeyID: 此处填写AccessKeyID
AccessKeySecret: 此处填写AccessKeySecret✔ Configuration successful

两行命令实现部署

在完成了上面的准备工作之后,接下来我们只需要两行命令即可完成代理服务的部署!

第一步:初始化项目。执行命令s init openai-proxy,创建openai-proxy项目。

$ s init openai-proxy🚀  More applications: https://registry.serverless-devs.com? Please input your project name (init dir) openai-proxy
✔ file decompression completed
创建应用所在的地区
? 地域 us-west-1
? please select credential alias aliyun-key🏄‍  Thanks for using Serverless-Devs
👉  You could [cd /Users/zhaiyongchao/IdeaProjects/test/openai-proxy] and enjoy your serverless journey!
🧭️  If you need help for this example, you can use [s -h] after you enter folder.
💞  Document ❤ Star: https://github.com/Serverless-Devs/Serverless-Devs
🚀  More applications: https://registry.serverless-devs.com

会有几个选项,一直回车就好。

第二步:一键部署。进到初始化好的openai-proxy目录下,然后执行命令s deploy直接部署到阿里云上。不要怀疑,就是这么丝滑,一键完成!

$ s deploy📑 Config check:
Online status => Target StatusrouteConfig: [0: {+ qualifier: undefined}]? Domain [auto] was changed, please confirm before deployment:* You can also specify to use local configuration through --use-local during deployment)  use local
✔ Generated auto custom domain...
✔ Generated custom domain (3.78s)
⠙ Generated auto custom domain...
注意:当前域名并非阿里云官方域名,由 CNCF Project Serverless Devs 社区提供,仅供测试使用。
Note: The current domain name is not the official domain name of Alibaba Cloud. It is provided by the CNCF Project Serverless Devs community for testing purposes only
✔ Generated domain (23.38s)
✔ Checking Service, Function, Triggers (1.53s)
✔ Creating Service, Function, Triggers (9.57s)
✔ Creating custom domain (1.7s)Tips for next step
======================
* Display information of the deployed resource: s info
* Display metrics: s metrics
* Display logs: s logs
* Invoke remote function: s invoke
* Remove Service: s remove service
* Remove Function: s remove function
* Remove Trigger: s remove trigger
* Remove CustomDomain: s remove domain...
59d0ca8120274e7de529816f1db8e66b.png
img

在部署完成之后,最后面会有上图这样的一段输出,记住红线部分的域名,这是可以直接访问。你可以尝试访问一下,如果返回如下信息,说明部署成功了。

{"error": {"message": "Invalid URL (GET /)","type": "invalid_request_error","param": null,"code": null}
}

同时,我们也可以通过这个链接 https://fcnext.console.aliyun.com/us-west-1/services 去阿里云的控制台找到创建的这个函数服务:

c21ec28098c0a18276b28b55030dc20e.png

应用中心部署

如果你不喜欢命令行的部署方式的话,还可以通过应用中心实现部署,方法更简单!

第一步:点击下方链接,进入“管理控制台”,开通函数计算FC

https://t.aliyun.com/U/nb5Ka1

c8228240293a47399bd4c8fa666ec987.png

第二步:访问应用中心的openai-proxy

http://www.devsapp.cn/details.html?name=openai-proxy

第三步:点击“一键部署”按钮

fa94f09e8ba2fcaa334cc916ec50f9cb.png
img

第四步:点击“创建并部署默认环境”

09336946ec36e5d7d005d7d5aa884aad.png

接下来就是等着阿里云的精彩表演:

4c911aea867174402ab9e7d3630bd1af.png

完成部署之后,可以看到如下图的操作列中,有“访问域名”链接,点击后就可以获取到用来代理的域名了。

59e80f031609a391613a49807c695fa9.png

使用代理访问API

通过简单的五步操作,我们已经完成了一个OpenAI调用的代理搭建,还记得上面最后配置的域名不?接下来就可以随便找一个开源项目来使用一下试试。

比如可以用这个项目来验证一下:

https://github.com/ddiu8081/chatgpt-demo

方法很简单,只需要

  1. 拉取代码:git clone git@github.com:ddiu8081/chatgpt-demo.git

  2. 安装依赖:npm install

  3. 复制.env.example文件,命名为.env文件,把申请的OPENAI_API_KEY填上,再把OPENAI_API_BASE_URL填写上面配置好的代理地址,比如:http://openai-proxy.abc123.com

d6f46b99fe73128f30d9180f8ab84d8a.png

  1. 启动应用:npm start,控制台输出如下信息,代表启动成功

> chatgpt-api-demo@0.0.1 start
> astro dev🚀  astro  v2.1.7 started in 209ms┃ Local    http://localhost:3000/┃ Network  use --host to expose
  1. 打开浏览器,访问:http://localhost:3000/,可以看到如下页面:

a3c3856be2217bde53bac1786b3839b1.png

尝试给他设定一个角色,然后发几句话试试吧,如果可以收到AI回复,那就代表已经完成代理。

当然,你也可以选择很多其他的应用来验证和使用,比如下面这些有趣的项目:

  • https://github.com/mckaywrigley/chatbot-ui

  • https://github.com/logspace-ai/langflow

总结

通过本文的方法搭建之后,由于已经有一个位于海外的调用来源,所以在本地开发和线上测试的时候,可以都直接用同一个API Key即可,本地日常使用也不需要采用其他特殊手段了,是不是安逸不少呢?

最后,聊聊为什么选择函数计算来部署,主要还是几个方面的考虑:

  1. 轻松部署:可以看到只需要简单几步,就完成了,非常适合这类轻量级的应用部署。

  2. 免运维:几乎不需要运维,大大减少了日常繁琐的精力投入,可以更专注业务开发了。

  3. 省钱利器:函数计算拥有弹性伸缩的能力,最小可以缩为零,也就是如果不调用,都不会产生费用。

进一步思考下,函数计算还是非常适合于开发ChatGPT应用的。由于OpenAPI的API Key是按量计费的,函数计算也是按量计费的,那么这样的按量计费模式可以继续传递到用户侧。如果用户侧的调用实现采用函数计算的方式来部署,那么可以说除了基础控制模块存在固定成本之外,用户侧的成本和收益是强绑定关系。只要架构合理,充分利用函数计算的弹性伸缩能力,那就可以构建出一个低成本运行但却又能自动应对突发大流量的强壮应用。

其实,巧妙的应用函数计算来构建偏向用户侧的应用,不光对于ChatGPT有用。对于一些SaaS应用的场景来说,也可以深入思考和尝试,除了弹性伸缩的能力之外。借助函数计算提供的API能力,还能利用其实现SaaS租户的资源隔离。写着写着似乎又偏题了…

回到ChatGPT的正题,如果你还在纠结,未来ChatGPT是否会淘汰程序员的话,那就一起行动起来吧!与其被ChatGPT取代,不如征服ChatGPT,做它的主人!

参考资料

  1. https://github.com/Ice-Hazymoon/openai-scf-proxy/

  2. https://www.aliyun.com/product/fc

  3. https://github.com/ddiu8081/chatgpt-demo

点击阅读原文直达“阿里云函数计算

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/6574.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

xxxxx.com 将您重定向次数过多

** 重定向次数过多 ** 在C#的学习中再配置了iis站点,引入项目之后,在浏览器输入域名显示该错误, 首先根据提示,清楚缓存之后仍然没有用,可能是自己的Login与Main冲突,形成不断重定向的死循环,…

将您的重定向次数过多

在使用spring security框架实现安全访问控制时出现异常&#xff0c;如图&#xff1a; 这个问题的根本原因时网页跳转中出现了死循环&#xff0c;在登录项我们需要设置security“none”&#xff0c;如&#xff1a; <http pattern"/login.html" securyty"non…

ChatGPT专业应用:生成产品分析

正文共 903 字&#xff0c;阅读大约需要 5 分钟 产品经理必备技巧&#xff0c;您将在5分钟后获得以下超能力&#xff1a; 生成产品分析 Beezy评级 &#xff1a;A级 *经过寻找和一段时间的学习&#xff0c;一部分人能掌握。主要提升效率并增强自身技能。 推荐人 | Kim 编辑者 …

ChatGPT 的背后:OpenAI 创始人Sam Altman如何用微软的数十亿美元打造了全球最热门技术...

内容来自 MoPaaS 编者按&#xff1a; ChatGPT产生的影响还在继续&#xff0c;ChatGPT 以及其创造者 OpenAI 背后的故事却鲜为人知。OpenAI 是怎样偏离其初心坚持商业化&#xff1f;凭什么 Altman可以让微软早期押注他们? OpenAI原来的安全团队为什么分家与他们分庭抗争&#x…

李开复加入“中文版 ChatGPT”大战:宣布筹组新公司,招募世界级人才!

整理 | 郑丽媛 出品 | CSDN&#xff08;ID&#xff1a;CSDNnews&#xff09; 刚过去的一周&#xff0c;对于技术圈而言&#xff0c;实在是太“热闹”了&#xff1a; OpenAI 发布史上最强模型 GPT-4&#xff0c;谷歌开放大语言模型 PaLM API&#xff0c;百度「文心一言」正式亮相…

ChatGPT让Nature一周发两文探讨:学术圈使用不可避免,是时候明确使用规范

明敏 发自 凹非寺量子位 | 公众号 QbitAI 在科技巨头为了ChatGPT大打出手的另一边&#xff0c;学术圈对于ChatGPT的关注也在升高。 一周时间内&#xff0c;Nature连发两篇文章探讨ChatGPT及生成式AI。 毕竟ChatGPT最早还是在学术圈内掀起风浪&#xff0c;先后有学者拿它写论文摘…

chatgpt赋能python:用Python写优质SEO文章的方法

用Python写优质SEO文章的方法 Python语言是当前广泛应用于程序开发的最流行的高级编程语言之一。Python能够通过结构化和面向对象编程的方式&#xff0c;帮助开发者快速地开发各种类型的应用程序。但是&#xff0c;Python的使用不仅限于程序开发。最近&#xff0c;Python在SEO…

ChatGPT专业应用:撰写英文SEO文章

正文共 561 字&#xff0c;阅读大约需要 2 分钟 品牌营销/活动运营必备技巧&#xff0c;您将在2分钟后获得以下超能力&#xff1a; 快速生成英文SEO文章 Beezy评级 &#xff1a;B级 *经过简单的寻找&#xff0c; 大部分人能立刻掌握。主要节省时间。 推荐人 | Alice 编辑者 |…

如何用Chatgpt来做SEO?分享3个技巧

目录 一、使用prompt(引导词)一键生成关键词 &#xff08;一&#xff09;案例&#xff1a;关键词调研 &#xff08;二&#xff09;案例&#xff1a;翻译关键词列表 &#xff08;三&#xff09;使用chatgpt进行关键词调研的局限性 1.真实性待验证 2.时效性有限 二、在Goo…

ChatGPT会颠覆SEO内容创作吗

近几年 AI 的发展日新月异。除了搜索算法本身大规模应用人工智能&#xff0c;我也一直关注着 AI 用于写作的进展。 上篇关于 Google 有用内容更新的帖子还在说&#xff0c;高质量内容创作是 SEO 最难的事之一&#xff0c;对某些网站来说&#xff0c;如果能有工具帮助&#xff…

「译文」用ChatGPT助力SEO工作

大家好&#xff0c;我是可夫小子&#xff0c;《小白玩转ChatGPT》专栏作者&#xff0c;关注AIGC、读书和自媒体。 那些使用ChatGPT的先进人士&#xff0c;也没还能完全掌握它内容生成的能力&#xff0c;特别是像博客那样的长文写作能力。 现在&#xff0c;跟大家介绍 一下SEO优…

ChatGPT 辅助生成PPT

前言 介绍 ChatGPT 与 MindShow 结合高效生成 PPT。 文章目录 前言一、准备工具二、使用步骤1. 内容生成2. 制作 PPT三、小节一、准备工具 ChatGPT:MindShow:MindShow网站 MindShow 内置了丰富的模板、图表和设计元素。具有自动排版功能,可根据输入内容智能调整布局。二、使…

让chatgpt自己生成提示词的骚操作

欢迎关注微信公众号&#xff1a;小生听雨园 &#xff0c;获取最新消息&#xff0c;欢迎您的到来。 亲爱的读者您好&#xff0c;需要注意一下嗷: ChatGPT是一个自然语言处理模型&#xff0c;他不是翻译工具&#xff0c;要翻译的话可以使用deepl&#xff0c;这个的效果会更好&am…

【ChatGPT】ChatGPT指令生成器 - 知识点目录

【ChatGPT指令生成器】 使用方法&#xff1a;点击模板开始编辑&#xff0c;根据具体情境替换占位符[_XXXXXX_]中的内容 1. 程序开发

【LLM】离线部署ChatGLM-6B模型

目录 前言 准备环境 打包环境 下载/上传模型 部署模型 前言 甲方出手&#xff0c;天下我有&#x1f929;。圆梦了圆梦了~一直想整一台GPU服务器尝尝鲜&#xff0c;奈何钱包空空&#xff0c;虽然有可以在CPU上部署的方案&#xff0c;但效果却不是让人那么满意&#xff0c…

ChatGPT-Next-Web:Vercel 和 Cloudflare 的快速部署

本文介绍了如何将 ChatGPT-Next-Web 部署到 Vercel 并在 Cloudflare 上加速&#xff0c;使用 SSL、CDN 和缓存等功能。 ChatGPT Next Web是一个免费的一键部署私人ChatGPT网页应用程序&#xff0c;具有精心设计的UI、响应式设计和支持深色、浅色两种主题等功能。它还提供了海量…

使用 ONLYOFFICE 宏借助 ChatGPT 生成文章

AI 技术在过去几年中得到了显著提升&#xff0c;同时也成为了我们日常生活中必不可少的一部分。现在&#xff0c;我们会将这种高科技功能纳入到文档撰写过程。在本文中&#xff0c;我们将展示如何构建一个宏来使用 ChatGPT API 生成文章。 关于 ChatGPT ChatGPT 是由 OpenAI 开…

探索AI知识:我的思考与实践(ChatGPT)

探索AI知识&#xff1a;我的思考与实践&#xff08;ChatGPT&#xff09; 前言 随着人工智能技术的迅速发展&#xff0c;越来越多的人开始探索如何将AI知识。我也是其中之一&#xff0c;通过自己的实践和思考&#xff0c;我总结出了一些成功的经验&#xff0c;现在分享给大家。…

《自然语言处理实战入门》 ---- 【重制版】总目录

文章大纲 前言综论第 一 部分 &#xff1a;NLP 前置知识开发环境基础技术网络爬虫机器学习必知必会开源库深度学习基础常用资源 第 二 部分&#xff1a;NLP 基础理论序列标注与分词算法词嵌入&#xff08;分布式文本表示&#xff09; 第 三 部分 &#xff1a; NLP 进阶技术文本…

chatGPT 学习笔记

学习笔记&#xff1a;chatGPT chatGPT 概述 什么是 chatGPT &#xff1f;(要说明定义、来源、功能和特点) ChatGPT 是 OpenAI 开发的一个大型预训练语言模型&#xff0c;它基于 GPT-3.5 模型&#xff0c;可以在对话中生成类似人类的文本响应&#xff0c;简称对齐。它使用自监…