『文心一言』发布,对标 ChatGPT 差距大,百度股价大跳水

公众号关注 「奇妙的 Linux 世界」

设为「星标」,每天带你玩转 Linux !

38709f819b28956738f08178765f95d5.png

GPT-4发布一天之后,压力全部给到百度这边。

就在刚刚,百度交卷。

文心一言,百度全新一代知识增强大语言模型,正式在百度总部“挥手点江山”会议室里发布。

在一片静寂的氛围里,李彦宏小步登场,语气里带着点紧张:

大家的期望值,是我们对标ChatGPT,对标GPT-4,这个门槛有点高(笑)。

十月怀胎,我们就带大家来看看这个AI大模型文心一言长什么样。

ad3e82514ac9f5e6a79e38a30f27a86c.gif

此前,有人狂转meme图把百度比作GPT-4旁边的垃圾箱。

7cfb576b217f52746235bdd9341e5af0.png

也有人鼓吹百度是全村的希望。

而在发布会进行的同时,百度港股市值大幅下跌,相关话题还冲上了微博热搜。

30238b58a58866a7d6e7212c08938090.png

但直播弹幕中也有网友点赞:

0c7b3205dd7c32b80fa8b229665fa738.png

那么这个中国版ChatGPT到底实力如何?

咱们就用百度发布会演示的预录制Demo,对比一下崭新出炉的GPT-4,先凭实力说话。

文心一言 vs GPT-4

和GPT-4一样,文心一言是一个多模态大模型

李彦宏开场就展示了文心一言具备的5种能力,包括文学创作、商业文案创作、数理逻辑推算、中文理解、多模态生成

文心一言甚至还现场秀了一口接地气的四川话,现场网友发出一片笑声:

其他能力如何?我们具体展开来看。

文学创作

在文学创作上,李彦宏一开场就搬出了《三体》作者刘慈欣坐镇。

先让文心一言介绍一下大刘,“毕竟我也是刘慈欣老乡嘛”:

73a0d6792c0c462fa91f91086f9734cd.gif

看起来没什么问题。同样的问题问问GPT-4呢?

8291fd9529300f3c0b3da2dac9f1c9cb.png

嗯???直接把刘慈欣的老家挪到了湖北省洪湖市。湖北人狂喜55fd0c87484a313d3f009168354a11e4.png

随后,李彦宏又展示了从哲学的角度对这段文章进行续写的demo:

1d8a5cfa0503f8efafdfccae0d9cea97.gif

看起来中规中矩,比较理性。老样子,我们也来与GPT-4进行一波对比:

b325b7a97c7059d9d422570c8896aa08.png

这波你是想看GPT-4续写的《三体》,还是文心一言的?

再来看看《三体》电视剧中扮演史强和汪淼的老搭档,于和伟和张鲁一,有什么共同点?

79fa44b5460740abea7163b2b67c1111.gif

也没什么问题。

就是看起来展示的速度有点快,比李彦宏的语速还要快上那么一点点(手动狗头)。

4341dc63c6342c9e414d7a79a58f91c6.gif

商业文案创作

接下来,李彦宏又展示了一下文心一言在商业文案创作上的能力。

比如给新公司起个名字。

78de62071bdc3447b45b5ea536b30ca1.gif

并且这个名字它还不是瞎起的:

30598c211622f59ec9439d535442a4a2.png

再来看看GPT-4起名的效果?

8cf1670be5297ed108f250e9d923ada9.png

看起来,GPT-4对中文的掌控能力相比之下还是少了一点精髓。

至于写个公司成立的新闻稿?对文心一言来说似乎也不成问题:

22db8048656c1accb29faf490b77501c.png

数理逻辑推算

数学能力,是考验生成式大模型的一大难题。ChatGPT刚上线时,也翻了不少车。

不过在现场,文心一言处理的数学问题不算复杂,是小学数学竞赛常见的鸡兔同笼问题。

7e99645dfd96b2a9636f1b990db05111.gif

彩蛋是,李彦宏现场展示的第一题,引得文心一言说出了《狂飙》里高启盛的经典台词:这题出得不对。

44e9ea8259d0ca2cd74176dca0162f98.png

修改一下题目,OK,再扔给文心一言试试:

4baa48cd3ceb2c6ed2a1afb6d5c9645d.png

看起来,答案还算是有理有据,一步步逻辑推理出来的那种。

李彦宏表示,这些题“不敢说百分之一百能做对,但至少体现了文心一言的思考历程”。

中文理解

接下来,李彦宏着重展示了一下文心一言对中文的理解能力,并特意强调:

文心一言对中国文化的了解,理应超出任何一个预训练大模型。

一上来就是一个成语,“洛阳纸贵。到底有多贵?”

4ebfa0be2ac5fdf73d032e9e00d081e2.gif

这是文心一言的效果展示:

48237104abf8e3986be03c0e7f44ab6a.png

还解释了一下这个成语背后的经济学原理:

514addecda310ca369624c9dced7a7e7.png

那么,将这个问题抛给GPT-4呢?首先问问它,知不知道洛阳纸贵是什么意思:

dcf6bfc4f5131d296a80b25c8732071d.png

接下来,再问问他对应的经济学理论是什么:

4ad09d51dd2e2fbb720cd7574ee63b9a.png

这波看起来,GPT-4的中文理解似乎也不输文心一言啊。

那么,再来看看二者写藏头诗的能力?

首先是文心一言的效果展示:

05bb049e3e3102e5c64d83d518e1dc2c.png

接下来,我们再看看GPT-4怎么说:

5f5fd3a0e80c3382426f4c0041b0d445.png

诶,看起来反而是GPT-4没有真正理解“藏头诗”的含义。

这波文化理解上,属实是文心一言“小胜一筹”了。

不过在英文上,李彦宏也承认,虽然文心一言也能处理,但能力是显著不如中文的。

这也和百度目前能用到的训练数据有关。

多模态生成

最后,李彦宏还简单展示了一下文心一言多模态生成的能力。

首先来看看,为即将到来的2023世界智能交通大会创作海报——

b52541bc865e44679593475f204e95f1.png

而除了前文展示过的文字转四川话能力,文心一言还能文字转视频

李彦宏一句指令“将以上内容生成视频”,很快啊,不到几秒钟,文心一言就把字幕和视频做好了:

efd00426f346f165285b966214096c42.gif

有些遗憾的是,在ChatGPT被频频称赞的编程方面,文心一言并没有现场展示相关能力。

但王海峰透露,文心一言的训练数据中同样包括代码。

文心一言如何“跑通”?

正如ChatGPT脱胎于OpenAI的GPT系列,百度这次推出的文心一言(ERNIE Bot),背后也正是基于文心大模型技术打造。

据王海峰介绍,文心一言主要脱胎于两大模型:

百度ERNIE系列知识增强千亿大模型,以及百度大规模开放域对话模型PLATO。

在此基础上,主要采用了六项核心技术

其中三个是广为人知的大模型技术,包括有监督精调、人类反馈强化学习(RLHF)和提示构建。

p.s. 人类反馈强化学习也是ChatGPT的关键技术。

另外三个,则是“百度比较有特色”的技术,包括知识增强、检索增强和对话增强技术。

0e93d8bc75dd049c25331cc2dc0d37c4.png

首先来看与ChatGPT类似的技术:有监督精调、RLHF和提示构建。

有监督精调,尤其指中文方面的数据精调。百度基于对中国语言文化和中国应用场景的理解,筛选了特定的数据来训练模型。

bd3062a2975b1fde658566dd512876db.png

至于人类反馈的强化学习(RLHF)和提示构建,操作上也与ChatGPT大差不差。

cc25f5ab268a52985c2800930f76dff6.png

随后是百度提出的、用于进一步改善模型效果的技术。

知识增强,包括知识内化和知识外用两个部分。其中,知识内化即将知识“渗透”进模型参数中;知识外用指的是模型可以直接使用外部的知识。

8c4105772f324fa1482e90f1ca7e4fca.png

检索增强,则与百度搜索引擎积累的检索技术有关。

百度将把检索技术和生成技术结合起来,先对内容进行检索后,将比较有用的部分用于生成,再整合输出结果:

66abe476d7b1051694688ddee7e79ea0.png

最后是对话增强部分,包括之前百度积累的记忆机制、上下文理解和对话规划等技术:

f015574d6e271fbba709f5b844d3b9cc.png

概括来看,文心一言表现出的能力,被李彦宏称为“智能涌现”:

当参数达到千亿量级,训练语料达到足够多的情况下,这种现象就会发生。

目前,百度拥有的AI技术可以分为四个部分,芯片(昆仑芯)、框架(飞桨)、模型(文心)和应用。

之所以软硬件都要布局,百度称,是为了降低成本

生成式AI需求的算力非常高,费用相当昂贵。

因此,如果在四层架构之间相互进行协同优化,就能让它的效率比别人更高,从而显著降低成本。

李彦宏认为,这也正是百度的优势所在:

四层都有领先产品的公司,绝无仅有。

fe0d2ec750aa36fd9e9257d575ddf723.png

这次文心大模型背后的硬件算力,也是通过百度智能云提供服务。

目前,文心一言已经接入百度搜索,目的在于提升搜索资源效率。

同时,包括小度和自动驾驶Apollo等产品,以及爱奇艺等公司也已经接入百度的文心一言模型。

5522205854cd819037166f8b22fd5d0b.png

网友:看来还不用提前退休

截至发稿,百度港股股价在一波明显下跌之后,有所回弹。

26a211f43b668c4f21eb6d406a96a69a.png

发布会结束,网友反应最多的是“提前录制有点败好感”:

00355bc2ca75e0bf42e8dbbc0c6d0068.png
c99c8d1a92235a2f6bc8c44f6ae208f2.png

对于这一点,李彦宏的解释是,给出的问题都比较长,为了节约现场时间,所以才用了提前录制的形式。

还有不少网友对文心一言展示出的能力不太满意。有人调侃,看完之后感觉“提前退休的日子看起来还可以缓一缓”:

5b7c3dc344131ceb9656a37d41aacbce.png

离GPT-4还差了20个老胡。

ea20d0384d64ced238a796c36e121eb3.png

还有网友感觉,文心一言的发布会像极了毕业答辩的自己(doge):

4fa49197f2fa4e897a75ce65a905b0d1.png

不过也有网友表示,希望能给国产产品一点时间一点耐心。

8a8cb8c5c5f647dbbee053f55abc9e10.png

发布会末尾,王海峰宣布,文心一言将从今天开始对外进行测试,包括个人用户和企业用户。

是骡子是马,相信接下来,会得到更多验证。搜一搜

本文转载自:「量子位」,原文:https://tinyurl.com/n5swsyfu,版权归原作者所有。欢迎投稿,投稿邮箱: editor@hi-linux.com。

3daf2d0f0aad4560182845e3f4d3968c.gif

最近,我们建立了一个技术交流微信群。目前群里已加入了不少行业内的大神,有兴趣的同学可以加入和我们一起交流技术,在 「奇妙的 Linux 世界」 公众号直接回复 「加群」 邀请你入群。

76244e499cdb4b3fe7518ed5d9668646.png

你可能还喜欢

点击下方图片即可阅读

fef7d1faf1398272daacb9f7486deb12.png

OpenAI 重磅发布 GPT-4 !ChatGPT 炸裂大升级,直接能考上哈佛,抢先体验后我慌了

efeba4fc1f8ae87e4dfb5d6e37a508e0.png
点击上方图片,『美团|饿了么』外卖红包天天免费领

fd90099712b2cf5c24e2bcd938ec881f.png

更多有趣的互联网新鲜事,关注「奇妙的互联网」视频号全了解!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/14781.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

快讯 | OpenAI 亏损翻倍;李彦宏:“文心一言跟 ChatGPT 差距两个月”的说法有点被断章取义

一分钟速览新闻点 李彦宏:“文心一言跟 ChatGPT 差距两个月”的说法有点被断章取义 山东大学仿生两栖软体机器人 OpenAI 亏损翻倍 假冒 ChatGPT 恶意软件激增,已屏蔽多个链接 消息称谷歌正为移动端开发聊天机器人Bard 俄罗斯莫斯科宣布禁飞无人…

超强联手!SAP与微软合作,通过ChatGPT简化招聘流程

沃尔多夫时间5月15日,全球ERP领导者SAP宣布与微软达成技术合作,通过Microsoft 365 Copilot、Azure OpenAI等生成式AI,帮助企业客户简化招聘等业务流程。 通过此次合作,SAP将微软的多项类ChatGPT功能集成在人力资源解决方案SAP Su…

阿里版ChatGPT通义千问上线,你拿到邀请码了吗?

阿里版ChatGPT的通义千问上线了,官网:https://tongyi.aliyun.com/ 阿里云的二级域名,你拿到邀请码了吗? 阿里云通义千问邀请码 阿里云通义千问大模型能力测试体验,人工智能语言大模型,还没拿到邀请码的同学…

阿里版ChatGPT已进入测试,中文聊天截图曝光!

大家好,我是老赵 谷歌硬刚ChatGPT消息一出,科技圈全坐不住了。 就在昨晚,阿里百度网易京东一众公司全宣布要推出类ChatGPT新产品,战况那叫一个激烈。 阿里内测中的达摩院版ChatGPT,也被提前曝光。 竟然连画画技能都具备…

【ChatGPT】数据科学 ChatGPT Cheat Sheet 书籍分享(阿里云盘下载)

封皮 以下为书中部分内容的机器翻译 我们的重要提示指南 1. 以 AI 角色的描述开始提示。 例如,“你是{x}”或“我希望你扮演{x}”。如果您不确定,请尝试“你是一个有帮助的助手”。 例如,您是 OpenAI 的数据科学家,您正在研究大型…

阿里版ChatGPT通义千问上线了,拿到邀请码了吗?

阿里版ChatGPT的通义千问上线了,官网:https://tongyi.aliyun.com/ 阿里云的二级域名,拿到邀请码了吗? 1、

阿里技术专家:ChatGPT 来了,AIGC将改变人类未来

题图:达摩院文生图大模型绘制的一张照片 2022 年是科技圈艰难的一年,很少有振奋人心的消息。惊喜的是年底 OpenAI 开放的 ChatGPT,一下点燃了整个科技圈,体验后感觉有点像人脑,智能化程度惊艳。 曾经我和朋友常调侃人工…

阿里版 ChatGPT 突然官宣!16 个提问,火速进行了测评!

整理 | 郑丽媛 出品 | CSDN(ID:CSDNnews) 平地一声雷!今天中午阿里版类 ChatGPT 「通义千问」突然官宣: 没错,就这 3 行简短介绍 1 个官网地址,再无其他“剧透”。 好在,CSDN 有幸拿…

太阳升起和落下(长文警告)

今天分享一个太阳升起落下的动画场景。 有朋友问我为什么只发代码不做说明,今天我们尝试下对代码进行注解说明一下。 首先这个场景大致的可拆分为4个部分:太阳/月亮,右下角的按钮,天上的云和最显眼的建筑。 我们先做一个按钮&am…

解读Toolformer

【引子】读论文Toolformer: Language Models Can Teach Themselves to Use Tools,https://arxiv.org/pdf/2302.04761.pdf,再阅读了几篇关于Toolformer的网络热文,于是“无知者无畏”,开始自不量力地试图解读Toolformer。 大语言模…

数影周报:假冒ChatGPT的恶意软件激增,谷歌开启无密码登录

本周看点:假冒ChatGPT的恶意软件激增;谷歌开启无密码登录;京东申请注册Chat相关商标;Flexport收购 Shopify Logistics...... 数据安全那些事 Meta:假冒ChatGPT的恶意软件激增 美东时间周三,Facebook的母公司…

【自然语言处理】【大模型】BLOOM:一个176B参数且可开放获取的多语言模型

BLOOM:一个176B参数且可开放获取的多语言模型 《BLOOM: A 176B-Parameter Open-Access Multilingual Language Model》 论文地址:https://arxiv.org/pdf/2211.05100.pdf 相关博客 【自然语言处理】【大模型】BLOOM模型结构源码解析(单机版) 【自然语言处…

华为云发起元宇宙 Web3.0联盟,风口上的 AI 计算平台Deepbrain Chain再次登台亮相...

这是白话区块链的第1867期原创 作者 | Bob出品|白话区块链(ID:hellobtc) 近来,亚太地区元宇宙与Web3.0主题相关的政策高频推出,各类活动高潮迭起,看点十足。继新加坡、香港之后,2月2…

BigScience bloom模型

简介 项目叫 BigScience, 模型叫 BLOOM, BLOOM 的英文全名代表着大科学、大型、开放科学、开源的多语言语言模型。 拥有 1760 亿个参数的模型. BLOOM 是去年由 1000 多名志愿研究人员,学者 在一个名为“大科学 BigScience”的项目中创建的. BLOOM 和今天其他可用大型语言模型存…

全新代码编辑器,集成ChatGPT4

给大家推荐一款全新的代码编辑器,集成ChatGPT4,自动编写代码,自动反编译,自动代码审计,主要是免费! 官网地址: Cursor | Build Fast

军事医学研究院应晓敏组招聘博士后

军事医学研究院应晓敏组诚聘博士后 应晓敏研究员,1997年本科毕业于国防科技大学自动控制系,2003年毕业于国防科技大学计算机学院并获得博士学位,此后一直在军事医学科学院(现军事医学研究院)从事生物信息学研究工作。课…

如何高效学习和阅读源码?

作者:明明如月学长, CSDN 博客专家,蚂蚁集团高级 Java 工程师,《性能优化方法论》作者、《解锁大厂思维:剖析《阿里巴巴Java开发手册》》、《再学经典:《EffectiveJava》独家解析》专栏作者。热门文章推荐&…

lora:low-rank adaption of large language models

THUNLP 领读 ICLR 低秩微调大模型(LoRA)【OpenBMB论文速读】第3期_哔哩哔哩_bilibili💡用脑图!⏰十分钟!OpenBMB【论文速读】第3 期来了!本期领读人是清华大学自然语言处理实验室的本科生,带大家高效读完一…

ChatGPT训练流程复现

本篇文章着重于chatGPT训练流程的复现 来自:无数据不智能 进NLP群—>加入NLP交流群 环境安装 虚拟环境创建 conda create -n chatgpt python3.10 conda activate chatgpt 依赖包安装 git clone https://github.com/LAION-AI/Open-Assistant.git cd Open-Assista…

【试用科研好物】GPT辅助科研神器?AI助力科研?ChatPDF、有道速读

前言 近期需要阅读的论文很多,偶然间在微博刷到许多人推荐科研利器ChatPDF和有道速读。使用后的结论是不推荐使用,下面分别给出理由。 使用&评价 网页版,无需安装任何东西,两款都支持中文。 ChatPDF有道速读 下面太长不看…