GPT-5不能停!吴恩达直播回怼马斯克:汽车都还没发明,要什么安全带?

省时查报告-专业、及时、全面的行研报告库

省时查方案-专业、及时、全面的营销策划方案库

【免费下载】2023年3月份热门报告合集

【限时免费】ChatGPT4体验,无需翻墙直接用

ChatGPT:AI模型研究框架

ChatGPT团队背景研究报告

ChatGPT的发展历程、原理、技术架构及未来方向

ChatGPT使用总结:150个ChatGPT提示此模板

ChatGPT数据集之谜

《ChatGPT:真格基金分享.pdf》

2023年AIGC发展趋势报告:人工智能的下一时代

大模型研究不能停!

吴恩达和LeCun为了这事儿,甚至亲自搞了场直播。毕竟再不出手,事态眼看着越来越严重了:

马斯克等人叫停GPT-5研发的事态再次升级,已从千人联名发展到超过13500人签署。

两人还直言,暂停AI研究就是反理性:

AI研究暂停6个月,才是真正巨大的伤害。

应该受监管的是AI产品,而不是背后的研究

25b5260f45789b36089de784a6fa55b0.png

此前暂停比GPT-4强大的AI试验的呼吁,已得到深度学习三巨头中的Yoshua Bengio签名支持,Hinton未签名但表示“要比6个月更长才行”。

此次吴恩达与LeCun两人, 除了直播阐述各自的观点外,还回应了网友关心的更多问题。

观看了直播和视频回放的网友们则表示,视频出境比推特发言提供了更多的上下文背景和微妙的语气差异。

c2383f9b8851a701ee7f9c0b7c7cb67b.png

AGI逃出实验室,需要担心吗?

LeCun认为,现在人们对AI的担忧和恐惧应分为两类:

一、与未来有关的,AI不受控制、逃离实验室、甚至统治人类的猜测。

二、与现实有关的,AI在公平、偏见上的缺陷和对社会经济的冲击。

对第一类,他认为未来AI不太可能还是ChatGPT式的语言模型,无法对不存在的事物做安全规范。

汽车还没发明出来,该怎么去设计安全带呢?

对第二类担忧,吴恩达和LeCun都表示监管有必要,但不能以牺牲研究和创新为代价。

吴恩达表示,AI在教育、医疗等方面创造巨大价值,帮助了很多人。

暂停AI研究才会对这些人造成伤害,并减缓价值的创造。

LeCun认为,“AI逃跑”或者“AI统治人类”这种末日论还让人们对AI产生了不切实际的期待。

ChatGPT给人带来这种想法是因为它语言流利,但语言并不是智能的全部。

语言模型对现实世界的理解非常表面,尽管GPT-4是多模态的,但仍然没有任何对现实的“经验”,这就是为什么它还是会一本正经地胡说八道。

而且这个问题,4年前LeCun已经在《科学美国人》上与冷泉港实验室神经科学家Anthony Zador一起撰文回应过了,标题就叫《不必害怕终结者》

在直播节目中LeCun再次重申了文章的主要观点。

统治的动机只出现在社会化物种中,如人类和其他动物,需要在竞争中生存、进化。

而我们完全可以把AI设计成非社会化物种,设计成非支配性的(non-dominant)、顺从的(submissive)、或者遵守特定规则以符合人类整体的利益。

e089f17f75c826ea59c16ab776ca0a82.png

吴恩达则用生物科学史上的里程碑事件“阿希洛马会议”来比较。

1975年,DNA重组技术刚刚兴起,其安全性和有效性受到质疑。世界各国生物学家、律师和政府代表等召开会议,经过公开辩论,最终对暂缓或禁止一些试验、提出科研行动指南等达成共识。

6a252d67a439bf6a5f5832ed71905341.png

吴恩达认为,当年的情况与今天AI领域发生的事并不一样,DNA病毒逃出实验室是一个现实的担忧,而他没有看到今天的AI有任何逃出实验室的风险,至少要几十年甚至几百年才有可能。

在回答观众提问“什么情况下你会同意暂停AI研究?”时,LeCun也表示应该区分“潜在危害、真实危害”与“想像中的危害”,当真实危害出现时应该采取手段规范产品。

第一辆汽车并不安全,当时没有安全带、没有好的刹车、也没有红绿灯,过去的科技都是逐渐变安全的,AI也没什么特殊性。

而对于“如何看待Yoshua Bengio签署了联名?”这个问题,LeCun表示他和Bengio一直是朋友,他认为Bengio担心的点在于“公司为了盈利掌握科技本质上就是坏的”,但他自己不这么看待,两人观点一致之处在于AI研究应该公开进行。

27b0fed08c5e63c2753bfa47241449c1.png

Bengio最近也在个人网站详细解释了他为什么会签署。

随着ChatGPT到来,商业竞争激烈了十多倍,风险在于各公司会急于开发巨大的AI系统,把过去十几年间开放的透明的习惯抛在脑后。

直播结束后,吴恩达与LeCun两人还在与网友做进一步交流。

c4416c68110eb8dd33ff2ff1fe61daa0.png

对于“你为什么不相信AI会逃出实验室”,LeCun表示让AI在一个特定硬件平台上保持运行都很难了。

86a9ddac64ba0aa35f9b3efb9f84379b.png

对于“AI达到奇点发生突变、不受控制”的回应则是,在现实世界中每个进程都会有摩擦力,指数增长会迅速变成Sigmoid函数。

9eb09f804405967f0fca1982c7fcae7d.png

还有网友开玩笑说,语言模型经常被形容为“随机吐出词汇的鹦鹉”,但真实的鹦鹉危险多了,有喙、爪子和伤害人的意图。

2492ccd964ccdd7c7e720e371c59fb59.png

LeCun补充道,澳大利亚凤头鹦鹉更凶狠,我呼吁对凤头鹦鹉实施6个月的管制。

b12eef5c06e3111a76d31623dcd1b35d.gif

One More Thing

对于影响力越来越大的AI暂停6个月提案,也有越来越多的人表达自己的观点。

比尔盖茨对路透社表示“我不认为让一个特定的组织暂停就会解决这些问题。在一个全球性的行业中,暂停很难执行”。

据福布斯报道,谷歌前CEO埃里克施密特认为“监管部门大多数人对科技的理解还不足以正确规范其发展。另外如果在美国暂停6个月,只会让别的国家受益。”

与此同时,AI研究界另一股声音的影响力也逐渐加大。

由非赢利组织LAION-AI(Stable Diffusion训练数据提供者)发起的请愿书也有超过1400人签署。

这个项目呼吁建设公众资助的国际化超级AI基础设施,配备10万最先进的AI加速芯片,确保创新和安全。

就相当于粒子物理学界的CERN(欧洲核子研究组织)。

支持者包括LSTM之父Jürgen Schmidhuber,HuggingFace联合创始人Thomas Wolf等知名研究者。

ac5b3f92655d57f7d4c6dc978ba6f567.png

完整视频回放:
https://www.youtube.com/watch?v=BY9KV8uCtj4&t=33s

更多干货请点击:

 
 
【免费下载】2023年3月份热门报告盘点【限时免费】ChatGPT4体验,无需翻墙直接用ChatGPT:AI模型研究框架罗振宇2023年跨年演讲PPT原稿吴晓波2022年年终秀演讲PPT原稿

《底层逻辑》高清配图

清华大学256页PPT元宇宙研究报告.pdf(附下载链接)

2022抖音种草ATOM方法论.pdf
经纬张颖:给科研技术背景创始人的10条建议ChatGPT调研报告ChatGPT团队背景研究报告ChatGPT的发展历程、原理、技术架构及未来方向2022-2023年B站平台营销报告小红书爆文笔记进阶指南2023年AIGC发展趋势报告:人工智能的下一时代

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/33528.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

GPT-5 不能停!吴恩达 LeCun 直播回怼马斯克:汽车都还没发明,要什么安全带

转自:量子位 | 公众号 QbitAI 大模型研究不能停! 吴恩达和LeCun为了这事儿,甚至亲自搞了场直播。毕竟再不出手,事态眼看着越来越严重了: 马斯克等人叫停GPT-5研发的事态再次升级,已从千人联名发展到超过135…

GPT-5 不能停!吴恩达回怼马斯克:汽车都还没发明,要什么安全带?

转自:量子位 | 公众号 QbitAI 大模型研究不能停! 吴恩达和LeCun为了这事儿,甚至亲自搞了场直播。毕竟再不出手,事态眼看着越来越严重了: 马斯克等人叫停GPT-5研发的事态再次升级,已从千人联名发展到超过135…

【LLMs】第 1 章:大型语言模型概述

🔎大家好,我是Sonhhxg_柒,希望你看完之后,能对你有所帮助,不足请指正!共同学习交流🔎 📝个人主页-Sonhhxg_柒的博客_CSDN博客 📃 🎁欢迎各位→点赞…

通过准确性、可解释性、校准度和忠实度,对ChatGPT的能力进行全面评估

作者:李博,方格翔,杨洋,王泉森,叶蔚,赵文,张世琨单位:北京大学知识计算实验室(KCL)论文:https://arxiv.org/abs/2304.11633代码和数据开源&#x…

无论BlockCity是否并购的天涯社区,请保留住我们的青春回忆

这几天,网上疯传着天涯社区将被BlockCity收购的消息,我也看了很多人发表的文章和观点,可我真正关心的,不是传闻是否可信,也不是这两个平台合作后会有怎样的表现,以及BlockCity区块城市能不能成为元宇宙时代…

6种互联网创业副业策略

今天给大家分享几个实操项目,不需要太多成本,尤其是最后一个项目,让你轻松上手,直接赚钱。1、AI工具近期非常火的ChatGPT,有些人可能不知道这是什么,但另一些人已经利用它每天赚钱。他们通过买卖账号赚取差…

【C#基础】简单的双色球彩票模拟介绍

欢迎大家一起交流学习 目录 前言 一、双色球原理介绍 二、具体实现 1.买票函数 2.创建机选球 3.比较函数 三.主函数 四、测试 总结 前言 本文介绍了简单的双色球彩票模拟介绍的基础内容。 提示:以下是本篇文章正文内容,下面案例可供参考 一、双…

java模拟双色球统计红球篮球出号

本人由于连续多个月买双色球未中,气愤之下突发奇想,自己写了个双色球统计算法(菜鸟写得不好忘包涵) 该功能只是程序自动生成的选号,原本打算用网络爬虫来从360彩票网站爬取数据。即从360网站彩票随机工具随机生成100-…

chatgpt赋能python:Python词性分析:一步步了解自然语言处理技术

Python词性分析:一步步了解自然语言处理技术 Python是一种高级编程语言,拥有广泛的应用领域。自然语言处理技术是其中一个重要的领域,它包含了词性分析、命名实体识别、句法分析等多项任务。词性分析是自然语言处理中的基本任务之一&#xf…

SCI论文降重技巧盘点 - 易智编译EaseEditing

要想顺利发布SCI论文,首先就是要保证论文的原创性和创新性。要知道论文写作当中对于文献和资料的引用是必不可少的,所以论文的重复率很有可能会超标,对于这点要留意。 免费的查重网站有PaperYY、百度学术查重、Freecheck、Paperpass等等&…

chatgpt赋能python:Python降重:让数据更干净,让SEO更有效

Python降重:让数据更干净,让SEO更有效 在数据处理过程中,数据重复性是一个很常见的问题。而在SEO优化中,数据质量则直接关系到搜索结果的准确性和排名效果。因此,降重是一个非常重要的步骤,让数据更加干净…

工程数学参考用书应用概率统计(陈魁)部分答案1~6章

今天把研究生课程工程数学的作业全部写完了,作业答案就此丢掉未免有点可惜,不如留在此处,留待有缘人! 第一章 随机事件及其概率 习题1.3、1.4、1.5、1.8、1.9、1.12,答案见下图 第二章 离散型随机变量 习题2.1、2.…

二十种题型带你复习《概率论与数理统计》得高分(高数叔)

题型一 事件及概率的运算 知识点 注意: 1 互斥与对立事件 2 事件的差 注意: 1 德摩根律注意: 1 加法公式 2 减法公式(事件的差)题目 注意: 1 填空题注意: 1 德摩根律 2 三个事件的和的公式 3 两个事件的积事件为…

Edexcel ALevel数学P2考题解析

数学是很多学科的基础,同时也是A Level中一门非常重要的课程。是基本所有中国学生会选择的科目,A Level的数学,就学科内容来说,内容的跨度很大,从简单的国内初中知识一直延伸到大学的微积分内容。而且有些下属科目如统…

留学生可以用ChatGPT来钻空子吗?

OpenAI在11月30日发布了ChatGPT,仅在一周内,用户数量就超出了100万人,可以说是爆火出圈了! 然而,很多人也正在试图利用ChatGPT来钻空子。大学生开始用ChatGPT写Essay,科研人用ChatGPT写论文,这让…

深度学习实战7-电商产品评论的情感分析

文章目录 一、前期工作 导入库包导入数据数据处理 二、神经网络模型构建 三、训练模型与测试 大家好,我是微学AI,今天给大家带来一个京东商品评论的情感分析与预测实战案例。 进几年网上购物越来越流行,在加上疫情的缘故,很多…

PHP对接阿里云虚拟号-号码隐私保护

博主使用的fastadmin 封装框架 实现功能:AXN隐私号绑定、解绑; 场景:为店铺手机号开通虚拟号,用户联系店铺展示虚拟号码; 官方开放文档地址:https://help.aliyun.com/document_detail/59655.html?spma2…

在虚拟机里虚拟打电话的代码

首先在布局文件中添加打电话所需要的必要的控件&#xff0c; 以最简单的为例 <RelativeLayout xmlns:android"http://schemas.android.com/apk/res/android" xmlns:tools"http://schemas.android.com/tools" android:layout_width"match_parent&q…

【汇正财经顾晨浩】沪深创继续调整

盘面回顾&#xff1a; 周五早盘沪指顶住压力基本红盘震荡&#xff0c;但是到了午后未能幸免继续下调&#xff0c;创业板则是全天弱势领跌&#xff0c;截止收盘沪指跌0.77%&#xff0c;深成指跌1.61%&#xff0c;创业板指跌2.51%。创业板权重权重宁德时代跌逾5%&#xff0c;拖累…

【汇正财经】创强沪弱,资金扎堆流入AI、ChatGPT

盘面回顾&#xff1a; 周五指数分化&#xff0c;呈现出创强沪弱&#xff0c;300价值跌超1%&#xff0c;300成长涨0.4%&#xff0c;中字头个股走低&#xff0c;上证50权重低迷&#xff0c;三大运营商集体调整&#xff0c;ChatGPT概念股连续大涨&#xff0c;算力、游戏等应用方向…