ChatGPT 不仅是 AI 的成功,也是云计算的成功

5e7f8a53a7d95420cbdab5ce9234a1b7.gif

作者 | 多颗糖       责编 | 梦依丹

出品 | CSDN(ID:CSDNnews)

最近 ChatGPT 占据了各大新闻板块头条,国内外各大公司陆续跟进。无论是不是AI相关人士,都跃跃欲试要搞个账号来玩一把。一时之间,ChatGPT 点燃了整个互联网,人们为之兴奋,讨论着如科幻小说里的未来,OpenAI 这家公司一时风光无两。

作为一个非 AI 从业者,我不懂 ChatGPT 用到的算法和模型,但我尝试从一些我了解的方向——云计算和分布式系统——来谈谈 OpenAI 的架构和技术路线。

首先,根据公开资料,OpenAI 的 ChatGPT 和其他关键 AI 产品依赖于微软 Azure 云计算服务,多年来微软共对 OpenAI 进行了共上百亿的投资,这些资金帮助 OpenAI 在 Azure 云平台上运行和训练其模型(有传闻说微软一部分投资以云计算服务交付的,但我没有找到具体的资料)。

2fdf0fad85f99aad045b753143202dc7.jpeg

OpenAI 的所有模型和算法——包括 ChatGPT、Codex(类似于 Github Copilot)和 Dall-E 2(人工智能绘画)都独家运行在 Azure 上,通过 Azure 的 HPC、弹性、数据存储和计算服务来完成模型计算和算法调试;当 OpenAI 的产品成熟后,除了可以公开 to c 使用,还可以作为 Azure 的一项 PaaS 服务 Azure OpenAI Service 来售卖,企业或个人可以通过 OpenAI 的 API 来开发自己的人工智能应用——而微软当然是首先吃螃蟹的人,最近微软已经宣布全线产品整合 ChatGPT,并且已经推出基于 ChatGPT 的 New Bing(这显然吓坏了 Google),和基于 Dall-E 2 的 Microsoft Designer。

这是一种完美的相辅相成、合作共赢的商业模式。

也许我们可以这么理解,OpenAI 基于 Cloud Native 来做应用开发,基于云计算提供的方便的高性能计算来运算模型和打磨算法,并对外销售产品和 API;而微软基于 AI Native 来提升搜索、绘画、Github 等产品,未来我们应该还可以在 Office,Teams,甚至操作系统等微软产品中用到 OpenAI 提供的能力。

一边是 Cloud Native 做开发,一边是 AI Native 做产品。

3b0c54f000011205d9c1a7969e43f71b.jpegnew Bing with AI 让 Google 彻底慌了

这种 Cloud + AI 的商业模式,其实也并不新鲜,我们在开源数据库、开源中间件上就见过 Cloud + Infra 模式,但由于 AI 对于大量算力的需求使其从开始就考虑 Cloud Native(开源软件的研发并不强需要云,开发者在自己的电脑上也能编译运行),而由于其产品可以直达普通用户(开源软件难以引起如此轰动),组合起来才产生了如此巨大的影响力,以至于各大全公司纷纷跟进 AI Native。

据传 OpenAI 运算一次成本非常昂贵,我们可以想象自建一个算力如此巨大、GPU 如此之多的数据中心需要多大的成本,以及需要额外付出多少运维运营成本,而直接“租用” Azure 的基础设施,按量付费,可以有效地节省早期的支出,并且缩短早期创业启动期,将研发的时间投入到真正有价值的事情。

f993ca9545453e70c7cad00fe10d2895.jpeg

2ec100a15a9c9304a44961d11a159f41.jpeg图示为 AI 场景下各家云厂商 VM 性能对比,Azure占优。

我们可以根据公开资料看看 ChatGPT 会用到哪些云服务(网络、安全组等等就不说了)。首先是高性能计算 HPC 作为算力基础。其次 ChatGPT 作为一个 web 服务,会使用一些基础的云服务器,并且受益于云的弹性,作为一个 to c 服务,ChatGPT 可以根据请求流量自动弹性伸缩计算、存储和网络资源;当请求减弱时,可以适当释放资源以节省成本。

另外,根据资料,ChatGPT 还使用了云数据存储和计算服务,包括:

  • Azure SQL Database 和 PostgreSQL,数据库用来存储结构化数据,例如模型相关的语料和文本;

  • Azure Blob Storage,用来存储非结构化数据;

  • 以及数据湖存储 Azure Data Lake Storage,用来存储各种非结构化数据、半结构化和结构化数据;
    同时 OpenAI 还可以使用云上类似 Hadoop 之类的计算引擎来进行分布式计算,以加速模型计算任务和提升负载。

想象一下,在没有云计算的时代,干这么一件事所需要的成本,不仅需要自建机房提供计算、存储和网络,还要自己维护一堆 PaaS 服务,其启动成本让人望而却步。

OpenAI 不仅展示了 AI 的强大,也从底层展现了云计算的重要性。要是没有云计算,我想 OpenAI 没有这么快做出 ChatGPT。

也许,未来的互联网应用在服务上 Cloud Native,在产品上 AI Native。

参考资料:

[1] Azure OpenAI Service: https://azure.microsoft.com/en-us/products/cognitive-services/openai-service

[2] ChatGPT and OpenAI’s use of Azure’s Cloud Infrastructure: https://dgtlinfra.com/chatgpt-openai-azure-cloud/

本文转载自公众号「多颗糖」,经作者授权发布!

 
 

8e6bf41109fd1c728044fcfd4397bf90.gif

 

ee5e639e5b71d188dab6213b23dac641.png

☞马斯克称计划今年底卸任推特CEO;腾讯回应微信将进军外卖服务;C++23 提上日程 | 极客头条
☞火山引擎DataTester:A/B测试,让企业摆脱广告投放“乱烧钱”
☞低成本复制 ChatGPT 训练流程,仅需 1.68GB GPU 即可使用,方法现已开源!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/14323.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

ChatGPT评中国最好的十大高校,网友:啊这....

编辑 | 募格学术 点击下方卡片,关注“自动驾驶之心”公众号 ADAS巨卷干货,即可获取 ChatGPT大家想必已经知道是什么了,那么在ChatGPT眼中「中国最好的十大高校」是那些呢?以下是ChatGPT所列出的学校名单。(来源www.goo…

大模型时代下智能文档处理核心技术大揭秘

​强烈推荐一个大神的人工智能的教程:http://www.captainai.net/zhanghan 大模型时代下智能文档处理核心技术大揭秘 前言一张图全览文档图像分析与预处理图像预处理的整体架构核心技术点应用场景 版面分析与还原整体架构核心技术点应用场景 AI安全文档图像篡改检测…

吴恩达与 OpenAI 强强联手,《ChatGPT 提示工程》中英教程,来了!(附脑图笔记)

大家好,我是 Kevin。 不知道五一你去哪玩耍还是怎么安排了呢?吴恩达老师在五一前发布了新课程,于是我花了些时间来学习这个重磅大礼。课程虽然只有短短 90 分钟,但是干货十足!比起那些必备提示词什么的真是强太多了。正…

揭秘 ChatGPT 背后天价超算!上万颗英伟达 A100,烧光微软数亿美元

视学算法报道 编辑:Aeneas 好困 【新智元导读】ChatGPT背后,是微软超级昂贵的超级计算机,耗资数亿美元,用了英伟达数万颗芯片。 ChatGPT能成为如今火遍全球的顶流模型,少不了背后超强的算力。 数据显示,Cha…

揭秘ChatGPT背后的AI“梦之队”【附报告全文下载】

点击蓝字 关注我们 AI TIME欢迎每一位AI爱好者的加入! 2022年11月30日,OpenAI公司(美国致力于人工智能研究的非营利机构)发布了由大型语言模型驱动的自然语言处理工具ChatGPT。该工具通过学习和理解人类语言,能够与用户…

揭秘ChatGPT的流式返回

107. 揭秘ChatGPT的流式返回 ChatGPT是一种强大的语言模型,可以生成自然语言响应。在传统的请求/响应模型中,客户端发送请求,服务器处理请求后返回响应。但是,使用流式返回可以实现持续的数据流,使得客户端能够实时接…

chatgpt赋能python:Python选择排序算法图解

Python选择排序算法图解 选择排序是计算机科学中经典的排序算法之一,它的原理是从待排序的数据中选择最小的元素然后排在最前面,接着从剩下未排序的数据中继续这个过程,直到所有的数据都排好序。 在本篇文章中,我将深入探讨Pyth…

【AI帮我写代码,上班摸鱼不是梦】手摸手图解CodeWhisperer的安装使用

IDEA插件 除了借助ChatGPT通过问答的方式生成代码,也可以通过IDEA插件在写代码是直接帮助我们生成代码。 目前,IDEA插件有CodeGeeX、CodeWhisperer、Copilot。其中,CodeGeeX和CodeWhisperer是完全免费的,Copilot是收费的&#x…

企业级ChatGPT开发入门实战直播21课

课程名称:企业级ChatGPT开发入门实战直播21课 Throughout this course, we firmly believe that the true power and distinctiveness of language model applications lie in their ability to connect with external data sources and actively interact with the…

通过几张图看懂chatGPT发展史

目录 通过几张图看懂chatGPT发展史01 OpenAl 的 ChatGPT 是一种什么样的技术?02 ChatGPT 技术演进经历了哪几个过程03 ChatGPT 发布后市场影响力如何?04 ChatGPT 都能做什么事情?05 ChatGPT 具备哪些先进的特性?公众号文章链接 通…

ChatGPT: 世界杯征文活动

混个勋章… 文章目录 用代码画出足球并且上面有典型的足球的纹路或者其他世界杯相关元素运行效果 踢球和软件团队开发软件有什么异同?球队的教练相对于公司的什么职位呢?如何拥有自己的一个QQ ChatGPT 用代码画出足球并且上面有典型的足球的纹路或者其他…

蔚来全系降价3万元,取消终身免费换电;GPT-4两句话复刻DeepMind最快排序算法?Node.js20.3.0发布|极客头条...

「极客头条」—— 技术人员的新闻圈! CSDN 的读者朋友们早上好哇,「极客头条」来啦,快来看今天都有哪些值得我们技术人关注的重要新闻吧。 整理 | 梦依丹 出品 | CSDN(ID:CSDNnews) 一分钟速览新闻点&#…

开放原子开发者工作坊圆满举办:大语言模型与开源,历史的巨轮正在扬帆起航

4月1日,由开放原子开源基金会(以下简称“基金会”)举办的首期“开放原子开发者工作坊”在北京圆满举办。“开放原子开发者工作坊”旨在让志同道合的开发者们相互交流开发经验、分享开发心得、获取前沿技术趋势,是基金会特别发起的…

深杭对话:实在智能携AGI数字员工出席,探讨ChatGPT后时代人工智能产业发展方向

深圳,粤港澳大湾区的一颗璀璨明珠。作为改革开放的前沿阵地,大湾区的核心引擎之一,这座创客之城以其高效、开放、蓬勃的姿态吸引了大批创业者,孕育出许多在国内外具有影响力的先进企业,造就了闻名遐迩的“深圳速度”。…

微软总裁称中国将是 ChatGPT 主要对手;曝苹果 M3 芯片下半年量产;Linux 6.3 正式发布|极客头条...

「极客头条」—— 技术人员的新闻圈! CSDN 的读者朋友们早上好哇,「极客头条」来啦,快来看今天都有哪些值得我们技术人关注的重要新闻吧。 整理 | 梦依丹 出品 | CSDN(ID:CSDNnews) 一分钟速览新闻点&#…

“开源 · 开放 · 共享 · 创新” 「2022 木兰峰会」议程公布!

数字化转型浪潮下,我国开源技术发展逐渐进入“深水区”。近年来,随着开源软件在各行业重要基础软件领域的广泛应用,越来越多的国内企业将开源纳入构建信息系统的重要首选,共建开源开放新生态正在成为大趋势。 作为整个开源生态新技…

2023全球数字化营销洞察报告

报告显示ChatGPT、Dall.E、Midjourney、Stablediffusion和Synthesia等工具只是“创意性”人工智能发展的开始。我们可以期待,未来将出现更优化、更强大的工具。相关的合法性、道德、避免滥用等讨论也将更加丰富与完善。 关注公众号:【互联互通社区】&…

盘点一下电子嵌入式相关的公司

点击上方“小麦大叔”,选择“置顶/星标公众号” 福利干货,第一时间送达 大家好,我是小麦。 最近入坑电子信息工程专业的表弟问我毕业能去干什么? 于是在这里盘点了一下电子嵌入式相关的公司。在这里和大家分享一下 1.芯片行业 目前…

普通人如何不被 OpenAI 取代?

NewBeeNLP干货 作者 | Tw93 整理| Datawhale 知乎:https://www.zhihu.com/people/tw93 Github:https://github.com/tw93 今天试了试OpenAI的一些功能,通过主题来记录一下使用场景,发现了不少它强于普通人的地方,那…

ChatGPT训练营来啦,手把手带你玩转ChatGPT~

ChatGPT的出现为测试行业带来了新的机遇和挑战。尽管许多人担心它的强大可能会取代测试人员,但实际上ChatGPT可以成为测试人员的强大助手,提高测试工作的效率和准确性。那么,我们应该如何借助 ChatGPT,让我们的测试工作更高效呢&a…