暂停GPT-5研发呼吁引激战!吴恩达、LeCun带头反对,Bengio站队支持

【导读】千人签名的AI不扩散条约发布一天后,各路大佬纷纷有了后续回应,言谈间耐人寻味。「AI吹哨人」:不封杀超强AI研发,我们都得死!

昨天,千位大佬写的暂停超强AI训练六个月的联名信,如同一枚炸弹一般,在国内外的互联网上炸响。

经过了一天的唇枪舌剑,几位关键人物以及其他各路大牛,都纷纷出来公开回应。

有的非常官方,有的十分个性,也有人并没有直面问题。但有一点可以肯定,不论这些大佬自己的观点,还是背后所代表的利益集团,都值得细品。

有趣的是,在图灵三巨头中,一位带头签名,一位强烈反对,还有一位不发一言。

Bengio签名、Hinton沉默、LeCun反对

吴恩达(反对派)

此次事件中,前谷歌大脑成员、在线教育平台Coursera创始人吴恩达是旗帜鲜明的反对派。

他明确亮出了自己的态度:把「让AI取得超越GPT-4的进展」暂停6个月,这个想法很糟糕。

他表示,自己已经在教育、医疗保健、食品等领域看到了许多新的AI应用,许多人将因此受益。而改进GPT-4也会有好处。

我们该做的,应该是在AI创造的巨大价值与现实风险之间,取得一个平衡。

对于联名信中提到的「如果不能迅速暂停对超强AI的训练,就应该让政府介入」,吴恩达也表示这种想法很糟糕。

他表示,让政府暂停他们不了解的新兴技术是反竞争的,这树立了一个糟糕的先例,是一个很可怕的政策创新。

他承认,负责任的AI很重要,AI也的确有风险。

但媒体渲染的「AI公司正在疯狂发布危险的代码」,显然是太夸张了。绝大多数AI团队,都非常重视负责任的AI和安全。不过他也承认,「遗憾的是,不是全部」。

最后他再次强调:

6个月的暂停期,不是一个切实可行的建议。为了提高人工智能的安全性,围绕透明度和审计的法规将更加实用,并产生更大的影响。在我们推进技术的同时,让我们也更多地投资于安全,而不是扼杀进步。

而他的推特下面,已经网友表示强烈反对:大佬之所以云淡风轻,大概是因为失业的痛苦不会落到他们头上。

LeCun(反对派)

联名信一发出,就有网友奔走相告:图灵奖巨头Bengio和LeCun都在信上签了名!

而时时冲浪在网络第一线的LeCun,立马辟谣:没,我没签,我不同意这封信的前提。

有网友表示,我也不同意这封信,但我很好奇:你不同意这封信的原因,是觉得LLM不够先进,根本威胁不到人类吗,还是其他原因?

但LeCun对于这些问题,都没有回答。

在谜一般地沉默了20小时后,LeCun忽然转发了一位网友的推文:

「OpenAI足足等了6个月,才发布了GPT4!他们甚至为此还写了一份白皮书....」

对此,LeCun大赞道:说得对,所谓「暂停研发」,不过就是「秘密研发」罢了,这与一些签名者所希望的恰恰完全相反。

看来,什么都瞒不过LeCun的慧眼啊。

之前提问的网友也表示同意:这就是我什么反对这个请愿书的原因——没有哪个「坏人」会真正停止。

「所以这就像一项没有人遵守的武器条约?历史上这样的例子不多吗?」

过一会,他又转发了一位大佬的推特。

这位大佬说,「我也没签。这封信充斥着一堆可怕的修辞和无效/不存在的政策处方。」 LeCun说,「我同意」。

 Bengio和Marcus(赞成派)

公开信署名的第一位大佬,便是赫赫有名的图灵奖得主Yoshua Bengio。

当然了,纽约大学教授马库斯也投了赞成票。他似乎是最早曝光这次公开信的人。

而讨论声逐渐喧嚣之后,他也火速发了一篇博客解释自己的立场,依然充满亮点。

突发新闻:我之前提到的那封信现在公开了。这封信呼吁暂停「比GPT-4更强大」的AI的训练6个月。许多知名人士签了名。我也加入了。

我没有参与起草它,因为还有一些别的事需要大惊小怪(例如,比GPT-4更强大的AI,究竟是指哪些AI?既然GPT-4的架构或训练集的细节还没公布,那我们从何得知呢?)——但这封信的精神是我所支持的:在我们能更好地处理风险和收益之前,我们应该谨慎行事。

看看接下来会发生什么,将会非常有趣。

而刚刚马库斯表示百分之百赞同的另一个观点,也非常有趣,这一观点称:

GPT-5不会是AGI。几乎可以肯定,没有GPT模型会是AGI。我们今天使用的方法(梯度下降)优化的任何模型完全不可能成为AGI。即将问世的GPT模型肯定会改变世界,但过度炒作是疯狂的。

Altman(不置可否)

截至目前,对于这封公开信,Sam Altman并未作出明确表态。

不过呢,他倒是发表了一些关于通用人工智能的观点。

构成好的通用人工智能的要素:

1.对齐超级智能的技术能力

2.大多数领先的AGI工作之间的充分协调

3. 一个有效的全球监管框架

有网友质疑:「与什么对齐?和谁对齐?与某些人对齐,就意味着与另外一些人不对齐。」

这个评论亮了:「那你倒是让它Open啊。」

而OpenAI的另一位创始人Greg Brockman转发了Altman的推文,再次强调OpenAI的使命「是确保AGI惠及全人类。」

再次有网友指出华点:你们这些大佬整天说「与设计者的意图对齐」,但除此之外谁都不知道究竟对齐是指什么。

Yudkowsky(激进派)

还有一位名叫Eliezer Yudkowsky的决策理论家,态度更为激进:

暂停AI开发是不够的,我们需要把AI全部关闭!全部关闭!

如果继续下去,我们每个人都会死。

公开信一发布,Yudkowsky立马写了一篇长文发表于TIME杂志上。

他表示,自己没有签字,原因是在他看来,这封信太温和了。

这封信低估了事态的严重性,要求解决的问题太少了。

他说,关键问题并不在于「与人类竞争」的智能,很显然,当AI变得比人更聪明,这一步是显然的。

关键在于,包括他在内的许多研究人员都认为,构建一个拥有超人智慧的AI最有可能导致的后果就是,地球上的每个人都会死去。

不是「或许可能」,而是「必然会」。

如果没有足够的精确度,最有可能的结果就是,我们造出的AI不会做我们想做的事,也不会关心我们,也不会关心其他有知觉的生命。

理论上,我们应该可以教会AI学会这种关怀,但现在我们并不知道该怎么做。

如果没有这种关怀,我们得到的结果就是:AI不爱你,也不恨你,你只是一堆原子组成的材料,它可以拿来做任何事。

而如果人类想要反抗超人AI,必然会失败,就好比「11世纪试图打败21世纪」,「南方古猿试图打败智人」。

Yudkowsky表示,我们想象中会做坏事的AI,就是一个住在互联网上、每天给人类发送恶意邮件的思想家,但实际上,它可能是一个充满敌意的超人AI,一个思考速度数百万倍于人类的外星文明,在它看来,人类很愚蠢,很缓慢。

当这个AI足够智能后,它不会只待在计算机中。它可以把DNA序列通过邮件发给实验室,实验室将按需生产蛋白质,然后AI就拥有了生命形式。随后,地球上的所有生物都会死亡。

这种情况下,人类该如何生存?目前我们毫无计划。

OpenAI只是公开呼吁,未来的AI需要对齐。而另一个领先的AI实验室DeepMind,根本没有任何计划。

来自OpenAI官方博客

不管AI有没有意识,这些危险都存在。它强大的认知系统可以努力优化,并计算满足复杂结果的标准输出。

的确,当前的AI可能只是从训练数据中模仿了自我意识。但我们实际上对这些系统的内部结构知之甚少。

如果我们依然对GPT-4无知,并且GPT-5进化出了惊人的能力, 就像从GPT-3到GPT-4一样,那我们很难知道,究竟是人类创造了GPT-5,还是AI自己。

在2月7号,微软CEO纳德拉还幸灾乐祸地公开表示,新必应逼得谷歌只能「出来跳一段舞」了。

他的行为很不理智。

早在30年前,我们就该思考这个问题了,6个月并不足以弥合差距。

从AI的概念提出到今天,已经有60多年了。我们应该至少用30年来保证超人AI「不会杀死任何一个人」。

我们根本无法从错误中吸取教训,因为一旦错了,你就已经死了。

如果暂停6个月,就能让地球存活下来,我会赞同,但并不会。

我们要做的事情,是这些:

1. 新的大语言模型的训练不仅要无限期暂停,还要在全球范围内实施。

而且不能有任何例外,包括政府或军队。

2. 关闭所有大型GPU集群,这些都是训练最强大AI的大型计算设施。

暂停所有正在训练大型AI的模型,为所有人在训练AI系统时使用的算力设置上限,并在未来几年逐渐降低这个上限,以补偿更高效的训练算法。

政府和军队也不例外,立即制定多国协议,以防止被禁行为转移到其他地方。

追踪所有售出的GPU,如果有情报显示协议之外的国家正在建设GPU集群,应该通过空袭摧毁这家违规的数据中心。

比起国家间的武装冲突,更应该担心的是暂停被违反。不要把任何事情都看作是国家利益之间的冲突,要清楚任何谈论军备竞赛的人都是傻子。

在这方面,我们所有人要么共存,要么共亡,这不是政策,而是一项自然事实。

由于签名太过火爆,团队决定暂停先暂停显示,以便让审核可以跟上。(名单顶部的签名都是直接经过验证的)

参考资料:

https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/

https://twitter.com/AndrewYNg/status/1641121451611947009

https://garymarcus.substack.com/p/a-temporary-pause-on-training-extra

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/15377.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Yann LeCun:ChatGPT缺乏创新,没什么革命性;

来源:机器之心 在外界看来,ChatGPT 是一项巨大突破,但图灵奖得主、Meta 首席人工智能科学家 Yann LeCun 不这么认为。 自从去年底推出以来,对话式 AI 模型 ChatGPT 火遍了整个社区。 用过 ChatGPT 的人都能体会到,它是…

LeCun和马库斯齐喷ChatGPT:大语言模型果然是邪路?

点击下方卡片,关注“CVer”公众号 AI/CV重磅干货,第一时间送达 点击进入—>【计算机视觉】微信技术交流群 转载自:新智元 【导读】大语言模型在祛魅,媒体忽然开始追捧起了LeCun,而马库斯跳出来说,他的观…

LeCun再爆金句:ChatGPT?连条狗都比不上!语言模型喂出来的而已

【导读】LeCun昨天在一场辩论中再贬ChatGPT!形容这个AI模型的智力连狗都不如。 图灵三巨头之一的LeCun昨日又爆金句。 「论聪明程度,ChatGPT可能连条狗都不如。」 这句话来自本周四LeCun在Vivatech上和Jacques Attalie的一场辩论,可谓精彩…

提高工作效率 | ChatGPT效率神器推荐

司马阅(SmartRead) 基于ChatGPT技术的PDF解读工具可以让用户像与人类交互一样与PDF文档进行交互。这款解读工具利用ChatGPT技术,可以实现对PDF文档的自然语言处理和理解。用户可以直接对话式地与PDF文档进行交互,获得更加直观和深入的文件解读和分析。 …

ChatGPT和New Bing两大神器在手,天下我有

ChatGPT和New Bing两大神器在手,天下我有 终于搞定了两个神器,极大的解放生产力 ! 从中可以看到两个工具的区别

李开复:我亲自筹组Project AI 2.0 不仅仅要做中文版ChatGPT

雷递网 乐天 3月19日 创新工场董事长、CEO李开复今日称,其正在亲自筹组 Project AI 2.0,一个致力打造 AI 2.0全新平台和 AI-first 生产力应用的全球化公司。 这是一家由技术愿景驱动,拥有卓越中国工程底蕴的创新企业,在全球范围号…

ChatGPT-4 表现不佳(变笨)?开发者解释原因并承认存在不稳定性

最近,OpenAI 开发的大模型 GPT-4 出现了一些问题,被质疑是否变笨了。根据 Hacker News 上的一篇帖子,发帖人称 GPT-4 生成的代码错误更多了,给出的答案不再有深度了。这个帖子引发了许多人对 GPT-4 的怀疑和不信任。 然而&#xf…

chatgpt赋能python:Python截图快捷键:让你的截图过程更高效简便

Python截图快捷键:让你的截图过程更高效简便 作为一名Python工程师,你时常需要对自己编写的程序进行调试和测试,有时需要将程序的运行结果截图给同事或客户看。除此之外,你可能也经常需要截取网页、软件界面等信息。不论场景如何…

chatgpt赋能python:Python屏幕截图:完美的方法记录你的屏幕

Python屏幕截图:完美的方法记录你的屏幕 Python作为一种高级编程语言,被广泛用于开发各种应用程序和游戏,其中之一就是屏幕截图。 在本文中,我们将介绍使用Python进行屏幕截图的方法和技巧。 什么是屏幕截图? 屏幕截…

chatgpt赋能python:Python自动截屏教程

Python 自动截屏教程 介绍 Python 是一种高级程序设计语言,已广泛用于各种应用中,从 Web 开发到机器学习都有很多案例。其中,Python 的截屏功能得到了越来越多的关注,因为在很多应用场景中,自动截屏可以帮助我们更有…

[MATLAB粒子模拟笔记]归一化输入系数

%********renormalization归一化系数ren.*实际/模拟(归一化指的是网格距归一,其他参数并不归一而是等比例变化)*********% function [prm,ren]renorm(prm)ren.xprm.dx %网格距系数ren.tprm.dt/2 %时间步长系数 ren.vr…

【活动回顾】2023 年 1 月 Scala Meetup

第八期 Scala Meetup 于上周六顺利结束,三位 Scala 资深使用者与 2000 在线用户分享了三大话题: Tubi 的 gRPC 演进之路Scala 与函数式编程交互式笔记本中的 Scala 同时,应粉丝提问,大家也对“ Scala 入门和进阶路径、Akka 在分…

3月1日第壹简报,星期三,农历二月初十

3月1日第壹简报,星期三,农历二月初十坚持阅读,静待花开1. 《2022年国民经济和社会发展统计公报》发布:全年国内生产总值超121万亿元,比上年增长3.0%,全国居民人均可支配收入中位数31370元,增长4…

“数智化 让经济复苏按下快进键” ——2023成长型企业商业创新峰会深圳第三站隆重召开

以“数智化 让经济复苏按下快进键”为主题的2023成长型企业商业创新峰会,第三站于3月10日在深圳盛大开幕。深圳不仅在经济领域具备着强大的竞争力,同时也在数智化方面拥有着巨大的发展潜力和活力。来自业界的专家学者、优秀企业家、生态伙伴及媒体代表共…

chatgpt+mj+did生成会说话的头像

chatgptmjdid生成会说话的头像 当我们有了 ChatGPT 生成的内容,有了 stable-diffusion、midjourney 或者 dalle2 生成的人像,如果还能让人像动起来,替我们朗诵或者播报一下 ChatGPT 的内容,不就是一个数字人了么? D-…

对比CahtGPT Bard Claude2对中文的理解

对比CahtGPT Bard Claude2对中文的理解 今天简单测试了一下目前这三个很火的模型对中文的理解能力 简单问题 鲁迅和周树人的关系 Bard CahtGPT Claude 介绍一下平凡的世界这本书 Bard CahtGPT

chatgpt赋能python:Python和Geany的完美结合——快速高效的编程助手

Python和Geany的完美结合——快速高效的编程助手 什么是Python? Python是一种高级编程语言,由荷兰人Guido van Rossum于1989年圣诞节期间创建。它具有简单易学的语法和清晰优雅的语言结构,并且非常适合快速开发应用程序和系统脚本。 Pytho…

用 ChatGPT 解答 2023年四川高考语文作文题 - 时间掌控的边界:自由与仆役的交织

光阴似箭,距离我当年参加高考,已经 23 年过去了。 虽然我接触 ChatGPT 还不到半年,但它已经深刻改变了我的工作和思考方式。我不知道 ChatGPT 的出现,是不是让我变得越来越懒,越来越离不开它了。 今天看到群里讨论起…

chatgpt赋能python:Python加入高考:重塑高考科目格局

Python加入高考:重塑高考科目格局 自2021年起,Python作为一门新兴的科目,已经正式加入中国高考科目之列。这一决定引起了广泛的关注和讨论,有赞成的声音,也有反对的声音。本文将为大家介绍Python加入高考的理由和影响…

让ChatGPT做当年的高考现代文阅读

最近ChatGPT火出天际,我突发奇想,如果用ChatGPT来做高考现代文阅读会怎样。 于是找到了当年非常火的一篇文章,叫《一种美味》,这个名字大家可能不太熟,但是提到其中一句话,你可能立马就想起来了。 「眼里…