GPT-5不能停!吴恩达和LeCun直播回怼马斯克:汽车都还没发明,要什么安全带......

点击下方卡片,关注“CVer”公众号

AI/CV重磅干货,第一时间送达

点击进入—>【计算机视觉】微信技术交流群

梦晨 发自 凹非寺
转载自:量子位(QbitAI)

大模型研究不能停!

吴恩达和LeCun为了这事儿,甚至亲自搞了场直播。毕竟再不出手,事态眼看着越来越严重了:

马斯克等人叫停GPT-5研发的事态再次升级,已从千人联名发展到超过13500人签署。

两人还直言,暂停AI研究就是反理性:

AI研究暂停6个月,才是真正巨大的伤害。

应该受监管的是AI产品,而不是背后的研究

483b3af74d647c55687d6ae57452df71.png

此前暂停比GPT-4强大的AI试验的呼吁,已得到深度学习三巨头中的Yoshua Bengio签名支持,Hinton未签名但表示“要比6个月更长才行”。

此次吴恩达与LeCun两人, 除了直播阐述各自的观点外,还回应了网友关心的更多问题。

观看了直播和视频回放的网友们则表示,视频出境比推特发言提供了更多的上下文背景和微妙的语气差异。

a8f20e9c8f1bd396d82d547d2374a92f.png

AGI逃出实验室,需要担心吗?

LeCun认为,现在人们对AI的担忧和恐惧应分为两类:

一、与未来有关的,AI不受控制、逃离实验室、甚至统治人类的猜测。

二、与现实有关的,AI在公平、偏见上的缺陷和对社会经济的冲击。

对第一类,他认为未来AI不太可能还是ChatGPT式的语言模型,无法对不存在的事物做安全规范。

汽车还没发明出来,该怎么去设计安全带呢?

对第二类担忧,吴恩达和LeCun都表示监管有必要,但不能以牺牲研究和创新为代价。

吴恩达表示,AI在教育、医疗等方面创造巨大价值,帮助了很多人。

暂停AI研究才会对这些人造成伤害,并减缓价值的创造。

LeCun认为,“AI逃跑”或者“AI统治人类”这种末日论还让人们对AI产生了不切实际的期待。

ChatGPT给人带来这种想法是因为它语言流利,但语言并不是智能的全部。

语言模型对现实世界的理解非常表面,尽管GPT-4是多模态的,但仍然没有任何对现实的“经验”,这就是为什么它还是会一本正经地胡说八道。

而且这个问题,4年前LeCun已经在《科学美国人》上与冷泉港实验室神经科学家Anthony Zador一起撰文回应过了,标题就叫《不必害怕终结者》

在直播节目中LeCun再次重申了文章的主要观点。

统治的动机只出现在社会化物种中,如人类和其他动物,需要在竞争中生存、进化。

而我们完全可以把AI设计成非社会化物种,设计成非支配性的(non-dominant)、顺从的(submissive)、或者遵守特定规则以符合人类整体的利益。

084a4366f4a925ec6d4f15a62a5301db.png

吴恩达则用生物科学史上的里程碑事件“阿希洛马会议”来比较。

1975年,DNA重组技术刚刚兴起,其安全性和有效性受到质疑。世界各国生物学家、律师和政府代表等召开会议,经过公开辩论,最终对暂缓或禁止一些试验、提出科研行动指南等达成共识。

04649f64895b528574523e2dbb0add56.png

吴恩达认为,当年的情况与今天AI领域发生的事并不一样,DNA病毒逃出实验室是一个现实的担忧,而他没有看到今天的AI有任何逃出实验室的风险,至少要几十年甚至几百年才有可能。

在回答观众提问“什么情况下你会同意暂停AI研究?”时,LeCun也表示应该区分“潜在危害、真实危害”与“想像中的危害”,当真实危害出现时应该采取手段规范产品。

第一辆汽车并不安全,当时没有安全带、没有好的刹车、也没有红绿灯,过去的科技都是逐渐变安全的,AI也没什么特殊性。

而对于“如何看待Yoshua Bengio签署了联名?”这个问题,LeCun表示他和Bengio一直是朋友,他认为Bengio担心的点在于“公司为了盈利掌握科技本质上就是坏的”,但他自己不这么看待,两人观点一致之处在于AI研究应该公开进行。

8172d8720ab9b6fe639a348cef7057e4.png

Bengio最近也在个人网站详细解释了他为什么会签署。

随着ChatGPT到来,商业竞争激烈了十多倍,风险在于各公司会急于开发巨大的AI系统,把过去十几年间开放的透明的习惯抛在脑后。

直播结束后,吴恩达与LeCun两人还在与网友做进一步交流。

914fdbed40a4e13ac5d261430cc3cd12.png

对于“你为什么不相信AI会逃出实验室”,LeCun表示让AI在一个特定硬件平台上保持运行都很难了。

d0392dae07a5be4a2373c8686f4d9690.png

对于“AI达到奇点发生突变、不受控制”的回应则是,在现实世界中每个进程都会有摩擦力,指数增长会迅速变成Sigmoid函数。

35f5cd0d04ea8f05bdd26e28d99a070c.png

还有网友开玩笑说,语言模型经常被形容为“随机吐出词汇的鹦鹉”,但真实的鹦鹉危险多了,有喙、爪子和伤害人的意图。

bb4e4fa83dd13b31410141b6b55922e7.png

LeCun补充道,澳大利亚凤头鹦鹉更凶狠,我呼吁对凤头鹦鹉实施6个月的管制。

ff2974b31f81612f2a56ac73f7482903.gif

One More Thing

对于影响力越来越大的AI暂停6个月提案,也有越来越多的人表达自己的观点。

比尔盖茨对路透社表示“我不认为让一个特定的组织暂停就会解决这些问题。在一个全球性的行业中,暂停很难执行”。

据福布斯报道,谷歌前CEO埃里克施密特认为“监管部门大多数人对科技的理解还不足以正确规范其发展。另外如果在美国暂停6个月,只会让别的国家受益。”

与此同时,AI研究界另一股声音的影响力也逐渐加大。

由非赢利组织LAION-AI(Stable Diffusion训练数据提供者)发起的请愿书也有超过1400人签署。

这个项目呼吁建设公众资助的国际化超级AI基础设施,配备10万最先进的AI加速芯片,确保创新和安全。

就相当于粒子物理学界的CERN(欧洲核子研究组织)。

支持者包括LSTM之父Jürgen Schmidhuber,HuggingFace联合创始人Thomas Wolf等知名研究者。

9862587fce97dcfd2a0a842abcee395d.png

完整视频回放:
https://www.youtube.com/watch?v=BY9KV8uCtj4&t=33s

AI转写文本:
https://gist.github.com/simonw/b3d48d6fcec247596fa2cca841d3fb7a

参考链接:
[1]https://twitter.com/AndrewYNg/status/1644418518056861696
[2]https://blogs.scientificamerican.com/observations/dont-fear-the-terminator/

点击进入—>【计算机视觉】微信技术交流群

最新CVPP 2023论文和代码下载

 

后台回复:CVPR2023,即可下载CVPR 2023论文和代码开源的论文合集

后台回复:Transformer综述,即可下载最新的3篇Transformer综述PDF

目标检测和Transformer交流群成立
扫描下方二维码,或者添加微信:CVer333,即可添加CVer小助手微信,便可申请加入CVer-目标检测或者Transformer 微信交流群。另外其他垂直方向已涵盖:目标检测、图像分割、目标跟踪、人脸检测&识别、OCR、姿态估计、超分辨率、SLAM、医疗影像、Re-ID、GAN、NAS、深度估计、自动驾驶、强化学习、车道线检测、模型剪枝&压缩、去噪、去雾、去雨、风格迁移、遥感图像、行为识别、视频理解、图像融合、图像检索、论文投稿&交流、PyTorch、TensorFlow和Transformer等。
一定要备注:研究方向+地点+学校/公司+昵称(如目标检测或者Transformer+上海+上交+卡卡),根据格式备注,可更快被通过且邀请进群▲扫码或加微信号: CVer333,进交流群
CVer计算机视觉(知识星球)来了!想要了解最新最快最好的CV/DL/AI论文速递、优质实战项目、AI行业前沿、从入门到精通学习教程等资料,欢迎扫描下方二维码,加入CVer计算机视觉,已汇集数千人!▲扫码进星球
▲点击上方卡片,关注CVer公众号
整理不易,请点赞和在看

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/33022.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

GPT-5不能停!吴恩达和 LeCun:汽车都没发明要什么安全带

整理 | 朱珂欣 出品 | CSDN程序人生(ID:coder_life) 自从 3 月 30 日,马斯克等人叫停 GPT-5 研发至少 6 个月,各路大佬纷纷有了后续回应,伴随着“支持”和“反对”各站一派。 (图源&#xff…

chatgpt赋能python:Python查错完全指南:如何快速诊断和解决常见的错误

Python查错完全指南:如何快速诊断和解决常见的错误 Python是一种高级编程语言,它被广泛用于数据科学、机器学习、Web开发和自动化等领域。虽然Python具有易于学习和易于使用的特点,但是在编写复杂的应用程序时,错误和异常情况经常…

chatgpt赋能python:Python中输入怎么写?完整教程

Python中输入怎么写?完整教程 如果你正在学习Python编程,那么输入是你必须掌握的重要概念之一。在Python中,输入是指将数据从用户的键盘输入到程序中。这些数据可以是字符串、整数、浮点数或其他任何类型的值。本文将提供有关Python中输入的…

chatgpt赋能python:如何隐藏Python控制台:全面指南

如何隐藏Python控制台:全面指南 Python是一种广泛使用的编程语言,在网站开发、科学计算、数据分析等领域都有广泛应用。但是,调试代码时,Python控制台会显示出程序运行时产生的日志信息和错误提示。这在某些情况下可能会影响用户…

工作总结之全网最全的103个Verilog关键字总结(下)

目录 Verilog所有关键字的作用和用法 总结 Verilog和C/C语言类似,关键字(或关键词)也叫保留字,Verilog中有许多关键字,其中always、and、assign、begin、buf、bufif0和bufif1是常用的关键字。这些保留字是识别语法的…

12张PPT看懂中国虚拟数字人产业现状:应用不止于虚拟偶像,2030年市场达2700亿|量子位智库(附下载)...

荣伟 发自 凹非寺量子位 报道 | 公众号 QbitAI 这位小姐姐,真不是人。 仅仅出道一年,已经拍了VogueMe杂志,上了央视综艺,还接了特斯拉的代言。 (卑微的打工人看着她的履历,流下了委屈的眼泪。) …

Barracuda 邮件网关遭 0day 漏洞利用攻击

聚焦源代码安全,网罗国内外最新资讯! 编译:代码卫士 邮件和网络安全解决方案公司 Barracuda 提醒客户称,一些邮件安全网关 (ESG) 设备上周遭攻击,目前用于攻击的 0day 漏洞已修复。 5月19日,邮件附件扫描模…

bug:您的连接不是私密连接攻击者可能会试图从localhost窃取您的信息(例如:密码、通讯内容或信用卡信息)。了解详情

今日运行项目到浏览器报错: 解决:找到manifest.json里面的视图源码,把这个https改成false

今年全网活跃得高危漏洞跟踪记录表

第一季度 2020 年一季度(1 月-3 月),安恒应急响应中心公众号共发了 15 篇高危漏洞风 险提示,其中 3 篇提供了漏洞验证截图,3 篇提供了全球网络空间受影响资产测绘数 据。年初,由于新冠疫情(COV…

记一次修改响应包绕过登录验证漏洞

记一次修改响应包绕过登录验证漏洞 今天碰到一个某平台的修改响应包绕过登录验证漏洞,记录一下 登录页面 输入任意用户名密码,BP截取数据包 选择Action > Do Intercept > Response to this request,之后Forward 放包 成功截取到响应包…

Smartbi内置用户登陆绕过漏洞复现

0x01 产品简介 Smartbi大数据分析产品融合BI定义的所有阶段,对接各种业务数据库、数据仓库和大数据分析平台,进行加工处理、分析挖掘和可视化展现;满足所有用户的各种数据分析应用需求,如大数据分析、可视化分析、探索式分析、复杂…

使用Golang实现Typora图片上传插件

使用Golang实现Typora图片上传插件 描述 golang 1.20 除了服务端有个gin没有用别的库,理论上跨平台没问题的,自行测试吧 只支持自建服务器,包含了Typora编辑器插件以及服务端,整个代码以及逻辑都是CHATGPT生成的,我仅…

chatgpt赋能python:Python考证:让你成为真正的专家

Python考证:让你成为真正的专家 作为一名有10年Python编程经验的工程师,我认为Python考证是成为真正专家的必备条件之一。Python是目前最为流行的编程语言之一,而考证是证明自己的专业知识和技能的重要手段之一,特别是在日益激烈…

可解释机器学习导论

可解释机器学习公开课,包含人工智能可解释性、显著性分析领域的导论、算法综述、经典论文精读、代码实战、前沿讲座。由B站知名人工智能科普UP主“同济子豪兄”主讲。 课程主页:https://github.com/TommyZihao/zihao_course/blob/main/XAI 一起打开AI的黑…

【蓝桥真题】——2022年蓝桥pythonB组省赛真题+解析+代码(通俗易懂版)

大家好,我是爱分享的小蓝,欢迎大家来对答案~ 全文目录 🏆混奖感言 ⭐试题 A: 排列字母 💡思路点拨 🍞代码详解 ⭐试题 B: 寻找整数 💡思路点拨 🍞代码详解 ⭐试题 C: 纸张尺寸 &…

计算机随机试题是这么随机的,用 Excel 生成随机抽题的考试试卷

随机抽题是目前非常流行的一种组卷形式,不仅现在的计算机考试系统基本上都具有随机抽题组卷功能,纸笔考试也是如此。因为现在强调教考分离,就学校内部而言,很多都是有现成的试题库,考试时根据要求在试题库中随机抽题组…

深度洞见|品牌如何布局微信生态,玩转私域运营?

这是神策研究院深度洞见系列文章的第三期,重点介绍微信生态的基础能力、微信作为私域运营主战场的优势及主要趋势。本文共计 3340 字,阅读时间约 10 分钟。 近两年消费市场的低迷、疫情的反复让零售难上加难,私域运营逐渐承担起了品牌零售商…

企业微信服务商代开发自建应用配置以及对接

目录 1.代开发应用模板创建与配置 1.1创建代开发应用模板 1.2模板配置开发信息 1.3模板回调处理微信后台通知事件 1.4应用回调URL配置 1.5获取代开发应用secret(permanent_code) 2.代开发应用上线 3.代开发应用获取企业微信用户信息 1.代开发应用模板创建与配置 1.1创建…

从“在哪儿”到“去哪儿”,广和通5G+Cat1+GNSS模组全面赋能定位应用场景

从日常导航寻路,到信息定位,再到资产追踪,现代生活与工作几乎都无法离开“位置信息”而运作。无论是物联网应用场景的实现,还是物联网商业模式的创新,都需要定位信息作为数据支撑。根据Market Insight Reports报告预测…

再记公式弱爆了!用 ChatGPT 将 Excel 工作效率提高 10 倍

公众号关注 「奇妙的 Linux 世界」 设为「星标」,每天带你玩转 Linux ! 在未来,精通 Excel 或许不再是简历亮点了。 ChatGPT 自去年 11 月 30 日 OpenAI 重磅推出以来,这款 AI 聊天机器人迅速成为 AI 界的「当红炸子鸡」。 一经发…