微软工程师带你解密大模型 ChatGPT

29ccdaa75990b717f81b0e2c1e6782b4.gif

ChatGPT 是如何做到打破聊天机器人“人工智障”的刻板印象?在众多实测体验中,它已具备轻松通过图灵测试的能力(即让人误以为是与真人对话),且其回答的详实程度、说服力与连续逻辑推理能力远超当前主流会话机器人。

传统认知里,我们觉得难以被替代的创意、研究、代码类工作,都有可能受到这位背靠海量高质量参数的AI新贵的挑战。

ChatGPT 如何为过亿用户创造 Wow moment 的?其背后 OpenAI 这家公司又是何方来历,为何可以一骑绝尘,独领风骚?

063db27115cbedeee8d729243919b907.png

▍OpenAI 与微软

2015 年 12 ⽉

Elon Musk  和  Greg Brockman(前 Stripe CTO,现董事长&总裁)、Sam Altman(前 YC 总裁,现 CEO) 以及  Ilya Sutskever (师从神经网络之父  Geoffery Hinton,现首席科学家)等人在旧金山创立  OpenAI。

2018 年

OpenAI 与 Microsoft  合作,推出了 Azure AI Platform,这是⼀个新的项⽬,旨在让开发⼈员更容易构建和部署 AI 应⽤程序。

2019 年 7 月

微软向 OpenAI 注资10亿美元。这笔战略投资使微软 Azure 成为 OpenAI 的“独家”云计算服务提供商。

2022 年 11 月 30 日

OpenAI 发布 ChatGPT,一周时间内吸引过百万用户,可回答知识性与开放性问题,也可根据上下文持续互动,可创作流畅的诗歌、小说,乃至代码内容。

2023 年 1 月

微软宣布以 290 亿美元估值加注投资 OpenAI 100 亿美元,其旗下所有产品将全线整合 ChatGPT,除此前宣布的搜索引擎 Bing、Office 外,微软还将在云计算平台 Azure 中整合 ChatGPT,Azure 的 OpenAI 服务将允许开发者访问 AI 模型。微软 CEO 纳德拉表示,微软的的每个产品都将具备相同的 AI 能力,彻底改头换面。

2df53549317ef31bb12c34c043dc8985.jpeg

OpenAI 商业模式| 图源:FourWeekMBA Blog

▍ChatGPT 能做什么

ChatGPT 能结合不同的场景做不同的事,拯救了万千网友,让我们来看看它给出的10个回答吧!

a11f99b85332c8a51d86a7441531989b.png
  • 按照人提出的问题或者指令给予回复的能力

 ChatGPT 除了可以用狭义的基于「问答」形式交互以外,还能够按照输入的要求进行回复。

例如,在应对「文本生成」这类指令式的要求时,它同样也展现出了优秀的能力。这种能力让它不仅是一个提供答案的「高级搜索引擎」,更是一种可以用自然语言来交互的文字处理工具。

6c1cbbe75bd314bd0b8b4700c51bfacf.jpeg

  • 文字创作职业的效率倍增

ChatGPT 的核心能力在于文本输出,包含优质的逻辑,举例与论述,这对于所有需要文本输出的办公室白领职业都有所影响,可以预见的是,未来能灵活运用的 AIGC 的创作者将具备更强的生产力与职场竞争力。

7fd70ae7a1ff2c1dbb5e21182cb10565.jpeg

  • 强大的编程能力

目前 ChatGPT 已显示出强大的编程能力,甚至可以输出完整的 APP 编程,且在 debug 上也有所建树,程序员完全可以利用 ChatGPT 来搭建基础架构,并在其基础上通过不断提示新的需求来让 ChatGPT 优化代码或者人工优化代码。

ac2a2599a55d096be421845861fbafa2.jpeg

▍ChatGPT 背后的大模型

f2c6399f10a05c44b9ccaf8970b97062.jpeg

  • “模型”是什么?“大”在哪里?

2018年,OpenAI  出品了一个初代  GPT( Generative Pre-Training) 模型。

GPT 主要出论文《Improving Language Understanding by Generative Pre-Training》,GPT  是"Generative Pre-Training"的简称,从名字看其含义是指的生成式的预训练。

aa12a2ec4bf2f110d72be24dbafb1937.jpeg

简单地说,语言模型就是用来计算一个句子的概率的模型,也就是判断一句话是否是“人话”的概率?就像下图的“提示语”为古诗“床前明月”,输入模型,根据概率判断输出“光”或者“亮”等其他字。由于现实生活中,“光”字出现的概率最大,所以模型会输出“光”字。

8871d362b025984a5adb1c9f3f5d6a92.jpeg

从 2001 年,首次使用神经网络对自然语言进行建模,根据前 N 个词对第 N+1 个词进行预测;2013 年出现了一种新的训练方法,使用自然标签,不需要数据标注,提升了词嵌入的效果,在各种任务中使用通用知识成为主流。随后慢慢发展出了基于 Transformer 的大规模语言模型 GPT ……

ChatGPT 所拥有的丰富知识储备,来自于它的训练数据,以及它足够大的体量,得益于互联网的普及,它可以轻松地获得海量的由真人写出的文本内容,以便在训练中学会这些内容。

e4bc80fe0ef7ee4477fff9fcc936104d.jpeg

可想而知,ChatGPT 的出现大大降低了 NLP 技术的应用门槛。但它目前还不是全能的。最重要的一点在于它缺乏准确可靠的垂直领域知识,为了让它的回答更可靠,最直接的方式是为它提供外部的知识来源,比如微软将 Bing 的搜索结果作为它回答的信息来源等。

更多 AI 课程欢迎关注我们,带你学习更多 AI 前沿知识!

欢迎关注微软ATP官方账号

微软ATP一手资讯抢先了解

195e2ce15ce7f920ec2e52192b48570d.png

68d32a22866cf08cf9bf03b90148ff8c.png

24dc9976de33c2719309e029d0b116d4.png

d362fbe33e104e1e2c15e512be27790c.png

73a547d02c8160e2069d15f48ceac052.gif

点击“阅读原文” | 更多AI赋能案例

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/12555.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

《花雕学AI》21:ChatGPT能否应对脑筋急转弯?逻辑推理和创造性思维的大考验!

当我们谈到脑筋急转弯时,很多人都会感到兴趣和好奇。脑筋急转弯是一种智力游戏,可以锻炼我们的思维能力以及解决问题的能力。然而,对于许多人来说,脑筋急转弯也是一项相当具有挑战性的任务。在这个过程中,我们需要运用…

ChatGPT技术原理

ChatGPT技术原理 ChatGPT技术原理概要第一阶段:冷启动阶段的监督策略模型第二阶段:训练回报模型,reward model第三阶段:强化学习增强预训练模型的能力 ChatGPT技术相关简介L2R(learning to rank) 相关引用 ChatGPT技术原理概要 第…

【NLP】万字拆解!追溯ChatGPT各项能力的起源

来源:公众号【李rumor】 作者:符尧等 最近,OpenAI的预训练模型ChatGPT给人工智能领域的研究人员留下了深刻的印象和启发。毫无疑问,它又强又聪明,且跟它说话很好玩,还会写代码。它在多个方面的能力远远超过…

i茅台app登录分析

本文旨在经验交流,如若侵犯利益,请联系删除。 工具:Xposed、justTrustMePlush、packetcapture、jadx、雷电模拟器 给模拟器安装Xposed框架,激活justTrustMePlush用于绕过APP的证书鉴于 之后可以正常抓到包,如下图 简…

下载讲稿 | 从控制论到人机结合的元宇宙(纪念钱学森诞辰111周年)

Peter Ye 乐生活与爱IT Plus 2022-12-11 22:44 发表于北京 微信公众号 乐生活与爱IT Plus 编者按 关注这个公众号,输入1211,即可获取讲稿PPT(PDF版),有效期30天 ---开始--- 2022年12月11日下午,元宇宙产…

随笔01 我的创作纪念日(128天)

机缘 (●◡●)幸会~这是我成为创作者的第128天~预计2023年,我的写作主题依然以阅读量惨淡的考研、AI安全的内容为主;毕竟简历已经被拒绝到麻木,可能不得不走上考研的道路啦~ 互联网受到疫情的影响和国外的封杀,加上自身的泡沫&a…

迁移学习入门(读王晋东博客)

1.TCA 映射使两个域边缘分布相近,限制条件为散度(衡量两个数据集的差异程度,最大化差异) 2.JDA 在TCA基础上加入条件分布相近,此时为联合分布(两个概率分布,并非概率论中的"联合分布"…

突发!美团王兴躬身入局,AI大模型赛道还有谁?

‍数据智能产业创新服务媒体 ——聚焦数智 改变商业 3月8日,美团创始人王兴在朋友圈中透露,将以个人身份参与王慧文创业公司“光年之外”的A轮投资,并出任董事。 他表示:“AI大模型让我既兴奋于即将创造出来的巨大生产力&#xf…

刺激!ChatGPT给我虚构了一本书?

ChatGPT很强大,可以帮我们处理很多问题,但这些问题的答案的正确性您是否有考证过呢? 昨晚,DD就收到了一个有趣的反馈: 提问:有什么关于数据权限设计的资料推荐吗? ChatGPT居然介绍了一本根本不存…

chatgpt赋能python:Python如何考证?

Python 如何考证? Python 是一种高级编程语言,由于其易读易学和灵活性,越来越受到开发者和企业的青睐。因此,掌握 Python 编程技能能够为您的职业发展带来很大的帮助。但是,如何证明您真正精通 Python 编程呢&#xf…

chatgpt赋能python:Python考证在社会怎么报名

Python考证在社会怎么报名 Python是当今世界上最为流行和应用广泛的编程语言之一。在各种行业和领域中,Python都是一个不可或缺的工具。为了证明python编程水平的专业性和可靠性,越来越多的人选择参加Python考试。这篇文章将介绍Python考证相关的信息以…

chatGPT智能AI4.0版本正式上线!GPT4.0和3.5版本你会怎么选?

经过多轮技术升级和产品稳定测试,我们的技术团队终于成功上线了chatGPT智能AI4.0版本。这是一项具有里程碑意义的成就,因为GPT4.0版本是目前公认的最强大的自然语言处理模型之一,能够生成更高质量的自然语言文本,包括文章、对话、…

井底之蛙管中窥世界,狂野少年静耕自家田

我的研究方向是机器视觉,去年加入到我们课题组以来,已经过去了一年的时间。正如王国维《人间词话》所说:“古今之成大事业、大学问者,必经过三种之境界”,不知是我天生热爱探索的性格,还是受到了中华传统国…

OpenAI CEO亮相“AI春晚”,与张宏江隔空问答:10年内会有超强AI

《AI未来指北》栏目由腾讯新闻推出,邀约全球业内专家、创业者、投资人,探讨AI领域的技术发展、商业模式、应用场景、及治理挑战。 文 / 腾讯科技 苏扬 、郝博阳 凭借ChatGPT走红的OpenAI,成为行业争相追逐的对象,刚刚,…

诸神之战!一文盘点中国“大模型”玩家们

开年以来,全球 AI 大模型行业,鲜花着锦,比肩继踵。微软、Google、Meta、百度等科技巨头你追我赶,掀开了大模型“军备竞赛”时代的序幕。新的挑战者入局,大模型概念不断走高,众多 AI 企业纷纷宣告进军&#…

Chat的提问工程师,要上线了你慌不慌?

一、什么是Prompt? (1)Prompt的概念 我们在使用GPT的时候,给GPT发送的消息就是Prompt. 例如,当我们问ChatGPT"WPS是什么软件?"时: 其中,"WPS是什么软件?"这句话就是Prompt. (2)为什么要学习Prompt? Prompt是我们和GPT交流的方式,我们需要让GPT了解…

前端已死?全栈当立?取法于中,仅得其下。

开篇明义,前端已死?根本就是扯淡。前端技术精微渊深,驳杂宽广,除了基础的 HTML、CSS 和 JavaScript 技术外,前端技术还涉及到许多其他相关技术和工具,比如前端框架、UI 库、自动化构建工具、代码管理工具等…

我发现ChatGPT的一个规律,只要向他确认它就可能否定自己先前的回答

今年以来ChatGPT火爆了,我也经常使用它来做一些文案优化,很多时候确实挺聪明的。 例如: 我的问题:玉皇大帝住平流层还是对流层 它的回答:玉皇大帝是道教中的神明,关于他的居住地在道教经典中并没有明确的…

985本科生虽然水,但学历还是很管用!

原文链接: https://www.zhihu.com/question/354234322 01 前言 最近网上有个话题比较有争议:「为什么有些 985、211 的本科学生即使在大学里混得很水,在找工作时学历却那么管用?」考上了重点大学,就真的能够高枕无忧了…

Stable Diffusion云端部署只需三步, 不吃电脑配置, 模型快速部署

牙叔教程 简单易懂 我是小白, 小白跟我一步一步做就可以了, 鼠标点两下就OK了, 学点新东西, 好吗? 不想学的就走吧, 离我远点. Stable Diffusion是什么 Stable diffusion是一个基于Latent Diffusion Models(潜在扩散模型,LDMs)的文图生成…