GPT-5 不能停!吴恩达 LeCun 直播回怼马斯克:汽车都还没发明,要什么安全带

转自:量子位 | 公众号 QbitAI

大模型研究不能停!

吴恩达和LeCun为了这事儿,甚至亲自搞了场直播。毕竟再不出手,事态眼看着越来越严重了:

马斯克等人叫停GPT-5研发的事态再次升级,已从千人联名发展到超过13500人签署。

两人还直言,暂停AI研究就是反理性:

AI研究暂停6个月,才是真正巨大的伤害。

应该受监管的是AI产品,而不是背后的研究

947898bd07ac064a9d443c1bb47b9e5f.png

此前暂停比GPT-4强大的AI试验的呼吁,已得到深度学习三巨头中的Yoshua Bengio签名支持,Hinton未签名但表示“要比6个月更长才行”。

此次吴恩达与LeCun两人, 除了直播阐述各自的观点外,还回应了网友关心的更多问题。

观看了直播和视频回放的网友们则表示,视频出境比推特发言提供了更多的上下文背景和微妙的语气差异。

cd5e826dd98f4d508d1f44b3100caa4f.png

AGI逃出实验室,需要担心吗?

LeCun认为,现在人们对AI的担忧和恐惧应分为两类:

一、与未来有关的,AI不受控制、逃离实验室、甚至统治人类的猜测。

二、与现实有关的,AI在公平、偏见上的缺陷和对社会经济的冲击。

对第一类,他认为未来AI不太可能还是ChatGPT式的语言模型,无法对不存在的事物做安全规范。

汽车还没发明出来,该怎么去设计安全带呢?

对第二类担忧,吴恩达和LeCun都表示监管有必要,但不能以牺牲研究和创新为代价。

吴恩达表示,AI在教育、医疗等方面创造巨大价值,帮助了很多人。

暂停AI研究才会对这些人造成伤害,并减缓价值的创造。

LeCun认为,“AI逃跑”或者“AI统治人类”这种末日论还让人们对AI产生了不切实际的期待。

ChatGPT给人带来这种想法是因为它语言流利,但语言并不是智能的全部。

语言模型对现实世界的理解非常表面,尽管GPT-4是多模态的,但仍然没有任何对现实的“经验”,这就是为什么它还是会一本正经地胡说八道。

而且这个问题,4年前LeCun已经在《科学美国人》上与冷泉港实验室神经科学家Anthony Zador一起撰文回应过了,标题就叫《不必害怕终结者》

在直播节目中LeCun再次重申了文章的主要观点。

统治的动机只出现在社会化物种中,如人类和其他动物,需要在竞争中生存、进化。

而我们完全可以把AI设计成非社会化物种,设计成非支配性的(non-dominant)、顺从的(submissive)、或者遵守特定规则以符合人类整体的利益。

ed94a37c31b6407a60d8d1b843d791d0.png

吴恩达则用生物科学史上的里程碑事件“阿希洛马会议”来比较。

1975年,DNA重组技术刚刚兴起,其安全性和有效性受到质疑。世界各国生物学家、律师和政府代表等召开会议,经过公开辩论,最终对暂缓或禁止一些试验、提出科研行动指南等达成共识。

80acfaa4a02ae655eb6d1f4f29d7e946.png

吴恩达认为,当年的情况与今天AI领域发生的事并不一样,DNA病毒逃出实验室是一个现实的担忧,而他没有看到今天的AI有任何逃出实验室的风险,至少要几十年甚至几百年才有可能。

在回答观众提问“什么情况下你会同意暂停AI研究?”时,LeCun也表示应该区分“潜在危害、真实危害”与“想像中的危害”,当真实危害出现时应该采取手段规范产品。

第一辆汽车并不安全,当时没有安全带、没有好的刹车、也没有红绿灯,过去的科技都是逐渐变安全的,AI也没什么特殊性。

而对于“如何看待Yoshua Bengio签署了联名?”这个问题,LeCun表示他和Bengio一直是朋友,他认为Bengio担心的点在于“公司为了盈利掌握科技本质上就是坏的”,但他自己不这么看待,两人观点一致之处在于AI研究应该公开进行。

326543b47f483400d1f5270690c2e597.png

Bengio最近也在个人网站详细解释了他为什么会签署。

随着ChatGPT到来,商业竞争激烈了十多倍,风险在于各公司会急于开发巨大的AI系统,把过去十几年间开放的透明的习惯抛在脑后。

直播结束后,吴恩达与LeCun两人还在与网友做进一步交流。

b9f6e7741011b295359e7a5a55137bf4.png

对于“你为什么不相信AI会逃出实验室”,LeCun表示让AI在一个特定硬件平台上保持运行都很难了。

e0ef5c5c7b30b4cba896f1ceeca9318c.png

对于“AI达到奇点发生突变、不受控制”的回应则是,在现实世界中每个进程都会有摩擦力,指数增长会迅速变成Sigmoid函数。

fa2fca6b03bff9d93b7721b25a2cc922.png

还有网友开玩笑说,语言模型经常被形容为“随机吐出词汇的鹦鹉”,但真实的鹦鹉危险多了,有喙、爪子和伤害人的意图。

999d609ba9fdf593b3d7a169264f3c98.png

LeCun补充道,澳大利亚凤头鹦鹉更凶狠,我呼吁对凤头鹦鹉实施6个月的管制。

6a4161c9b340ee102166208aaf2a015e.gif

One More Thing

对于影响力越来越大的AI暂停6个月提案,也有越来越多的人表达自己的观点。

比尔盖茨对路透社表示“我不认为让一个特定的组织暂停就会解决这些问题。在一个全球性的行业中,暂停很难执行”。

据福布斯报道,谷歌前CEO埃里克施密特认为“监管部门大多数人对科技的理解还不足以正确规范其发展。另外如果在美国暂停6个月,只会让别的国家受益。”

与此同时,AI研究界另一股声音的影响力也逐渐加大。

由非赢利组织LAION-AI(Stable Diffusion训练数据提供者)发起的请愿书也有超过1400人签署。

这个项目呼吁建设公众资助的国际化超级AI基础设施,配备10万最先进的AI加速芯片,确保创新和安全。

就相当于粒子物理学界的CERN(欧洲核子研究组织)。

支持者包括LSTM之父Jürgen Schmidhuber,HuggingFace联合创始人Thomas Wolf等知名研究者。

db04a2638078385d3e43961692b20487.png

完整视频回放:
https://www.youtube.com/watch?v=BY9KV8uCtj4&t=33s

AI转写文本:
https://gist.github.com/simonw/b3d48d6fcec247596fa2cca841d3fb7a

参考链接:
[1]https://twitter.com/AndrewYNg/status/1644418518056861696
[2]https://blogs.scientificamerican.com/observations/dont-fear-the-terminator/

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/33527.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

GPT-5 不能停!吴恩达回怼马斯克:汽车都还没发明,要什么安全带?

转自:量子位 | 公众号 QbitAI 大模型研究不能停! 吴恩达和LeCun为了这事儿,甚至亲自搞了场直播。毕竟再不出手,事态眼看着越来越严重了: 马斯克等人叫停GPT-5研发的事态再次升级,已从千人联名发展到超过135…

【LLMs】第 1 章:大型语言模型概述

🔎大家好,我是Sonhhxg_柒,希望你看完之后,能对你有所帮助,不足请指正!共同学习交流🔎 📝个人主页-Sonhhxg_柒的博客_CSDN博客 📃 🎁欢迎各位→点赞…

通过准确性、可解释性、校准度和忠实度,对ChatGPT的能力进行全面评估

作者:李博,方格翔,杨洋,王泉森,叶蔚,赵文,张世琨单位:北京大学知识计算实验室(KCL)论文:https://arxiv.org/abs/2304.11633代码和数据开源&#x…

无论BlockCity是否并购的天涯社区,请保留住我们的青春回忆

这几天,网上疯传着天涯社区将被BlockCity收购的消息,我也看了很多人发表的文章和观点,可我真正关心的,不是传闻是否可信,也不是这两个平台合作后会有怎样的表现,以及BlockCity区块城市能不能成为元宇宙时代…

6种互联网创业副业策略

今天给大家分享几个实操项目,不需要太多成本,尤其是最后一个项目,让你轻松上手,直接赚钱。1、AI工具近期非常火的ChatGPT,有些人可能不知道这是什么,但另一些人已经利用它每天赚钱。他们通过买卖账号赚取差…

【C#基础】简单的双色球彩票模拟介绍

欢迎大家一起交流学习 目录 前言 一、双色球原理介绍 二、具体实现 1.买票函数 2.创建机选球 3.比较函数 三.主函数 四、测试 总结 前言 本文介绍了简单的双色球彩票模拟介绍的基础内容。 提示:以下是本篇文章正文内容,下面案例可供参考 一、双…

java模拟双色球统计红球篮球出号

本人由于连续多个月买双色球未中,气愤之下突发奇想,自己写了个双色球统计算法(菜鸟写得不好忘包涵) 该功能只是程序自动生成的选号,原本打算用网络爬虫来从360彩票网站爬取数据。即从360网站彩票随机工具随机生成100-…

chatgpt赋能python:Python词性分析:一步步了解自然语言处理技术

Python词性分析:一步步了解自然语言处理技术 Python是一种高级编程语言,拥有广泛的应用领域。自然语言处理技术是其中一个重要的领域,它包含了词性分析、命名实体识别、句法分析等多项任务。词性分析是自然语言处理中的基本任务之一&#xf…

SCI论文降重技巧盘点 - 易智编译EaseEditing

要想顺利发布SCI论文,首先就是要保证论文的原创性和创新性。要知道论文写作当中对于文献和资料的引用是必不可少的,所以论文的重复率很有可能会超标,对于这点要留意。 免费的查重网站有PaperYY、百度学术查重、Freecheck、Paperpass等等&…

chatgpt赋能python:Python降重:让数据更干净,让SEO更有效

Python降重:让数据更干净,让SEO更有效 在数据处理过程中,数据重复性是一个很常见的问题。而在SEO优化中,数据质量则直接关系到搜索结果的准确性和排名效果。因此,降重是一个非常重要的步骤,让数据更加干净…

工程数学参考用书应用概率统计(陈魁)部分答案1~6章

今天把研究生课程工程数学的作业全部写完了,作业答案就此丢掉未免有点可惜,不如留在此处,留待有缘人! 第一章 随机事件及其概率 习题1.3、1.4、1.5、1.8、1.9、1.12,答案见下图 第二章 离散型随机变量 习题2.1、2.…

二十种题型带你复习《概率论与数理统计》得高分(高数叔)

题型一 事件及概率的运算 知识点 注意: 1 互斥与对立事件 2 事件的差 注意: 1 德摩根律注意: 1 加法公式 2 减法公式(事件的差)题目 注意: 1 填空题注意: 1 德摩根律 2 三个事件的和的公式 3 两个事件的积事件为…

Edexcel ALevel数学P2考题解析

数学是很多学科的基础,同时也是A Level中一门非常重要的课程。是基本所有中国学生会选择的科目,A Level的数学,就学科内容来说,内容的跨度很大,从简单的国内初中知识一直延伸到大学的微积分内容。而且有些下属科目如统…

留学生可以用ChatGPT来钻空子吗?

OpenAI在11月30日发布了ChatGPT,仅在一周内,用户数量就超出了100万人,可以说是爆火出圈了! 然而,很多人也正在试图利用ChatGPT来钻空子。大学生开始用ChatGPT写Essay,科研人用ChatGPT写论文,这让…

深度学习实战7-电商产品评论的情感分析

文章目录 一、前期工作 导入库包导入数据数据处理 二、神经网络模型构建 三、训练模型与测试 大家好,我是微学AI,今天给大家带来一个京东商品评论的情感分析与预测实战案例。 进几年网上购物越来越流行,在加上疫情的缘故,很多…

PHP对接阿里云虚拟号-号码隐私保护

博主使用的fastadmin 封装框架 实现功能:AXN隐私号绑定、解绑; 场景:为店铺手机号开通虚拟号,用户联系店铺展示虚拟号码; 官方开放文档地址:https://help.aliyun.com/document_detail/59655.html?spma2…

在虚拟机里虚拟打电话的代码

首先在布局文件中添加打电话所需要的必要的控件&#xff0c; 以最简单的为例 <RelativeLayout xmlns:android"http://schemas.android.com/apk/res/android" xmlns:tools"http://schemas.android.com/tools" android:layout_width"match_parent&q…

【汇正财经顾晨浩】沪深创继续调整

盘面回顾&#xff1a; 周五早盘沪指顶住压力基本红盘震荡&#xff0c;但是到了午后未能幸免继续下调&#xff0c;创业板则是全天弱势领跌&#xff0c;截止收盘沪指跌0.77%&#xff0c;深成指跌1.61%&#xff0c;创业板指跌2.51%。创业板权重权重宁德时代跌逾5%&#xff0c;拖累…

【汇正财经】创强沪弱,资金扎堆流入AI、ChatGPT

盘面回顾&#xff1a; 周五指数分化&#xff0c;呈现出创强沪弱&#xff0c;300价值跌超1%&#xff0c;300成长涨0.4%&#xff0c;中字头个股走低&#xff0c;上证50权重低迷&#xff0c;三大运营商集体调整&#xff0c;ChatGPT概念股连续大涨&#xff0c;算力、游戏等应用方向…

文案改写神器软件-文案改编神器

文案改写神器软件 文案改写神器软件通常致力于通过人工智能技术将一篇已有文案进行改写和改编&#xff0c;以达到复用或优化的目的。以下是文案改写神器软件通常可以做的事情&#xff1a; 改写原文&#xff1a;文案改写神器可以通过自定义规则、语法分析和文本相似性匹配等功能…