使用 Azure OpenAI 打造自己的 ChatGPT

一.前言#

当今的人工智能技术正在不断发展,越来越多的企业和个人开始探索人工智能在各个领域中的应用。其中,在自然语言处理领域,OpenAI 的 GPT 系列模型成为了研究热点。OpenAI 公司的 ChatGPT 带起了一波 AI 应用的浪潮,一些科技公司都在努力跟进,比如百度的文心一言,Google 的 Bard 以及 Notion AI。就目前体验来说还是 OpenAI ChatGPT 表现最好。

作为 OpenAI 公司的大股东,Microsoft 当然是使用其服务的一等公民,陆续推出了 GitHub Copilot、New Bing、Office 365 Copilot 和 Github Copilot X 等等。目前 Microsoft Azure 是独一家的提供 OpenAI 云服务的云厂商,Azure OpenAI 提供的 API 服务使得构建和部署自己的 ChatGPT 成为了可能。

二.对比#

Azure OpenAI 和 OpenAI 官方提供的服务基本是一致的,但是目前前者还是处于预览版的状态,一些功能还没有完全开放。

注意:需要使用 Azure 国际版,点此进行申请

优点:

  • 不受地域限制,国内可以直接调用。
  • 可以自己上传训练数据进行训练(据说很贵)。
  • Azure 多语言 SDK 支持。
  • 更适合企业私有化,数据可完全控制删除。

缺点:

  • 部分功能未开放,但 ChatGPT 的功能是没问题的。
  • 和 OpenAI 官方的 API 标准有差异,无法直接用一些只支持 OpenAI 官方API 的开源项目。

Azure OpenAI 也已经支持 GPT-4 了,需要单独进行申请,博主的申请还没通过本文暂时以 GPT-3.5 进行演示。

三.使用 Auzre OpenAI#

1.创建服务#

进入 Azure 后,直接搜索 "Azure OpenAI"。

image-20230330103819049

选择你已经申请通过的订阅进行创建。

image-20230330103929103

如果该订阅没有启动则不能创建。

2.创建模型部署#

在资源管理->模型部署 选择需要的模型进行创建,每个模型只能创建1个部署。

image-20230330104600507

2.Azure OpenAI Studio#

模型创建完成以后,我们可以直接使用 Azure OpenAI Studio 来进行快速的测试。

image-20230330104111648

ChatGPT 测试。

image-20230330104238578

上传自己的数据集。

image-20230330104733421

四.API 调用#

在 资源管理->密钥和终结点 可以获取 API 地址以及调用密钥。

image-20230330104847592

查看 API 文档

image-20230330105131925

使用 POSTMAN 进行调用测试。

image-20230330105302854

五.打造自己的 ChatGPT#

1.Azure OpenAI Proxy#

打造自己的 ChatGPT 推荐直接使用 GitHub - Chanzhaoyu/chatgpt-web: 用 Express 和 Vue3 搭建的 ChatGPT 演示网页 这个项目。

image-20230324163357406

前面我们说到 API 调用是有差异的,此项目目前还没用直接支持 Azure OpenAI。我尝试修改过这个项目,可以调用了但是有个问题,无法正常的自动结束对话,跟了代码发现有 Bug:

GitHub - Chanzhaoyu/chatgpt-web: 用 Express 和 Vue3 搭建的 ChatGPT 演示网页 -> GitHub - transitive-bullshit/chatgpt-api: Node.js client for the official ChatGPT API. 🔥 -> GitHub - rexxars/eventsource-parser: Streaming, source-agnostic EventSource/Server-Sent Events parser

最终在 eventsource-parser 这个 package 里,无法适应 Azure OpenAI 返回的结果,做过对比发现 Azure OpenAI 返回的调用最后少了一个换行 \n

最终我便想了个方法,自己实现一个 Proxy 转换 OpenAI 官方 API 标准到 Azure OpenAI 标准,这样就能让 Azure OpenAI 直接对接到任何支持 OpenAI 的任何项目中,并且可以顺便修复上面所说的差异,让 chatgpt-web 直接使用 Azure OpenAI。

项目地址:GitHub - stulzq/azure-openai-proxy: Azure OpenAI Service Proxy. Convert OpenAI official API request to Azure OpenAI API request. Support GPT-4,Embeddings. 希望大家点点 star。

2.搭建#

最快的方式当然是使用 Docker,以下是 docker compose 脚本:

version: '3'services:chatgpt-web:image: chenzhaoyu94/chatgpt-webports:- 3002:3002environment:OPENAI_API_KEY: <Auzre OpenAI API Key>OPENAI_API_BASE_URL: http://azure-openai:8080AUTH_SECRET_KEY: ""MAX_REQUEST_PER_HOUR: 1000TIMEOUT_MS: 60000depends_on:- azure-openailinks:- azure-openainetworks:- chatgpt-nsazure-openai:image: stulzq/azure-openai-proxyports:- 8080:8080environment:AZURE_OPENAI_ENDPOINT: <Auzre OpenAI API Endpoint>AZURE_OPENAI_MODEL_MAPPER: <Auzre OpenAI API Deployment Mapper>AZURE_OPENAI_API_VER: 2023-03-15-previewnetworks:- chatgpt-nsnetworks:chatgpt-ns:driver: bridge

启动有 3 个环境变量需要配置:

变量名说明
OPENAI_API_KEYAzure 密钥和终结点 里提供的 Key
AZURE_OPENAI_ENDPOINTAzure 密钥和终结点 里提供的终结点
AZURE_OPENAI_MODEL_MAPPERAzure 部署模型名称映射到 OpenAI 官方模型名称

特别说明一下 AZURE_OPENAI_MODEL_MAPPER使用 OpenAI 官方标准发起的请求里包含的模型名称是固定的,在这里可以查询,而在 Azure OpenAI 模型部署时是可以自定义名称的,请求 Azure yes需要提供这个部署模型的名称,所以建立了一个映射关系。

比如我在 Azure 部署了一个 gpt-3.5-turbo模型,我设置的部署名称为:xc-gpt-35,此时我的设置:

AZURE_OPENAI_MODEL_MAPPER: gpt-3.5-turbo=xc-gpt-35

image-20230330111358140

六.结束#

Azure OpenAI 平台为开发人员提供了一个强大的工具,可以轻松地创建和训练 ChatGPT 模型。随着 ChatGPT 技术的不断发展,它将在越来越多的应用场景中发挥重要作用,为人们提供更加智能和个性化的服务和体验。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/15628.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

腾讯被曝投大模型初创公司MiniMax:后者估值12亿美元

雷递网 乐天 6月5日 AI的火热&#xff0c;正刺激一波投资浪潮。 日前知情人士称&#xff0c;中国初创公司MiniMax将完成超过2.5亿美元的融资&#xff0c;估值约为12亿美元&#xff0c;腾讯将参与投资。此前&#xff0c;米哈游已先后对MiniMax有过多轮投资。 MiniMax的应用程序G…

EasyExcel 带格式多线程导出百万数据(实测好用)

大家好&#xff0c;我是宝哥&#xff01; 前言 以下为结合实际情况作的方案设计&#xff0c;导出阈值以及单sheet页条数都可以根据实际情况调整 大佬可直接跳过新手教程&#xff0c;直接查看文末代码 1. 背景说明 针对明细报表&#xff0c;用户会选择针对当前明细数据进行导出&…

面对当下各种不确定性,如何面对,每天很忙碌,不慌

&#xff08;点击即可收听&#xff09; 疫情时期,都难,疫情之后,发现还更难 随着互联网的热度的下降,各大小公司纷纷勒紧裤腰带,受打击最大的无疑是底层打工人 每天一打开手机,会发现,一些大厂裁员信息霸榜头条,年龄也是一道坎 刚刚看到一个大v发的&#xff1a; 一个原先是跨国…

剑桥华人团队搞出多模态医学大模型!单个消费级显卡就能部署,借鉴斯坦福「羊驼」而来...

衡宇 发自 凹非寺量子位 | 公众号 QbitAI ChatGPT、AutoGPT能干那么些事&#xff0c;好想知道大模型啥时候才能看病&#xff0c;救我本人狗命&#xff1f; 带视觉的多模态医学基础大模型&#xff0c;它来啦&#xff5e; 名为Visual Med-Alpaca&#xff0c;官宣即开源。 这个专为…

技术动态 | 也看大模型在事理图谱中的有趣表现:从概率链式因果搜索到因果抽取再到指令驱动的图谱构建评测...

转载公众号 | 老刘说NLP 事理图谱是过去一年来比较火的一个方向&#xff0c;其靠着主打推理预测这一特点&#xff0c;通过构建以事件为核心&#xff0c;事件之间因果等关系&#xff0c;形成传导推理链&#xff0c;一度被认为大有可为。 但目前大模型席卷之下&#xff0c;事理图…

PPO算法基本原理及流程图(KL penalty和Clip两种方法)

PPO算法基本原理 PPO&#xff08;Proximal Policy Optimization&#xff09;近端策略优化算法&#xff0c;是一种基于策略&#xff08;policy-based&#xff09;的强化学习算法&#xff0c;是一种off-policy算法。 详细的数学推导过程、为什么是off-policy算法、advantage函数…

达摩院用128张GPU烧出“中文版GPT-3”,我试了下,这文风不是开往幼儿园的车…...

杨净 子豪 发自 凹非寺 量子位 报道 | 公众号 QbitAI 首先&#xff0c;请先看一段“正经”的文字&#xff1a; 他笑意中的那份温柔&#xff0c;只想给她好好珍藏&#xff0c;即便这一切不会发生&#xff0c;至少在他的世界里&#xff0c;她是无忧无虑的快乐的。就连他对她的关心…

洞察ChatGPT巨大价值,云知声积极推动行业版ChatGPT落地

近日&#xff0c;ChatGPT的风越刮越猛&#xff0c;不由让人好奇&#xff0c;作为“能说会道”的ChatGPT&#xff0c;能够运用在专业性更高的行业&#xff1f;遗憾的是&#xff0c;从目前ChatGPT给出的答案来看&#xff0c;它距离运用在医疗等专业领域尚有距离。对此&#xff0c…

ChatGPT提示词工程师教程-迭代

不要奢求“一针见血”&#xff0c;要不断打磨&#xff0c;形成良好的提示词迭代流程。多维度&#xff0c;多样本。就像用搜索引擎一样&#xff0c;第一次搜索没有得到想要的结果&#xff0c;就要对搜索的关键词进行修。参考“指南”&#xff0c;想想是否提示词不够清晰&#xf…

ChatGPT 提示的艺术 —— 如何编写清晰有效提示指南

ChatGPT 提示的作用 正如我们之前提到的那样&#xff0c;ChatGPT 对话中使用的提示的质量可以显著影响对话的成功。定义清晰的提示可以确保对话保持在正确的轨道上&#xff0c;并涵盖用户感兴趣的主题&#xff0c;从而产生更引人入胜和信息丰富的体验。 那么什么样的 ChatGPT…

给开发者的ChatGPT提示词工程指南

【中文完整版全9集】第1集 引入-ChatGPT提示词工程师教程 吴恩达xOpenAI官方 【OpenAI官方 | 中文完整版】 吴恩达ChatGPT提示工程师初级到高级&#xff08;AI大神吴恩达教你写提示词&#xff09; ChatGPT Prompt Engineering for Development 基础大语言模型和指令精调大语言…

量子退火?这又是啥?居然撑起了第一家量子计算公司

组合优化问题&#xff0c;在应用数学和理论计算机科学领域&#xff0c;指的是在一个有限的对象里集中找出最优对象的一类课题。这类问题特征是可行解的集是离散或者可以简化到离散结果&#xff0c;并且目标是要找到最优解。当前&#xff0c;常见的组合优化问题通用版上包括旅行…

光量子计算公司宣布成立加拿大首个量子网络,大力推进量子创新

加拿大量子网络 光子量子计算的领导者Xanadu今天宣布与MaRS和Creative Destruction Lab&#xff08;CDL&#xff09;合作创建加拿大量子网络&#xff08;CQN&#xff09;。 CQN着手于加拿大多伦多的Xanadu、MaRS和CDL三个节点&#xff0c;为合作组织提供量子测试平台&#xf…

谷歌用量子处理器发现:光子能在混沌中保持稳健的束缚态

一圈超导量子比特可以容纳微波光子的“束缚态”&#xff0c;其中光子往往聚集在相邻的量子比特位点上。图片来源&#xff1a;Google Quantum AI 使用量子处理器&#xff0c;研究人员可以使微波光子具有异常的“粘性”。在诱使它们聚集成束缚态后&#xff0c;他们发现这些光子簇…

基于量桨搭建AI量子通信模拟平台,优化量子通信协议

点击左上方蓝字关注我们 项目背景 现阶段量子通讯协议的设计和优化依然停留在人工处理的阶段&#xff0c;距离迈向系统化工程处理依然有着不小的距离。导致目前量子通讯协议从研发到实验验证这一整套流程面临着周期长、成本高等问题。系统化的搭建模拟平台和引入先进的人工智能…

量子模拟器中的“弯曲时空”

光子盒研究院出品 当你想解释宇宙尺度的现象时&#xff0c;相对论很有效&#xff1a;比如黑洞碰撞时产生的引力波&#xff1b;量子理论在描述粒子尺度的现象时效果很好&#xff08;比如原子中单个电子的行为&#xff09;。但是&#xff0c;将这两者以一种完全令人满意的方式结合…

量子保密通信应用与技术探讨

源自&#xff1a; 信息通信技术与政策 作者&#xff1a;程明 张成良 唐建军 量子密钥在线与离线结合分发模式的应用范围不再局限于QKD网络的覆盖和能力&#xff0c;使得量子保密通信的应用场景得到较大拓展。 摘要 近年来,基于量子密钥分发的量子保密通信在应用方面进行了…

Infleqtion与Morningstar合作探索量子计算的新途径

&#xff08;图片来源&#xff1a;网络&#xff09; 量子计算服务商Infleqtion宣布&#xff0c;将Infleqtion的旗舰量子软件SuperstaQ整合到Morningstar投资和投资组合分析平台Morningstar Direct中。借助SuperstaQ的整合&#xff0c;通过Morningstar的实验室分析模块&#xff…

量子通信是不是伪科学?潘建伟这样回应

来源&#xff1a;科技日报 “墨子号”发射快三年了&#xff0c;到底有什么新发现&#xff1f;量子通信和公众有什么关联&#xff0c;到底是不是伪科学&#xff1f;10日&#xff0c;在全国政协十三届二次会议举行的记者会上&#xff0c;全国政协委员、中国科学技术大学常务副校长…

“走近”量子模拟

来源&#xff1a;中国军网 作者&#xff1a;张媛、张远、达平 当下&#xff0c;量子计算在先进材料以及生物化学模拟方面正崭露头角。因为量子力学解释了这些材料的基本物理特性&#xff0c;量子计算非常适合进行模拟。那么&#xff0c;什么是量子模拟&#xff1f;量子模拟有什…