GPT-5不能停!吴恩达和 LeCun:汽车都没发明要什么安全带

整理 | 朱珂欣   

出品 | CSDN程序人生(ID:coder_life)

自从 3 月 30 日,马斯克等人叫停 GPT-5 研发至少 6 个月,各路大佬纷纷有了后续回应,伴随着“支持”和“反对”各站一派。

468d4124405d63395c3fb7e67a308529.png

(图源:Twitter 截图)

先是吴恩达在 Twitter 上罗列出了四个理由,直球式反对 GPT-4 研究暂停 6 个月。

随后,深度学习三巨头的表态也很引人关注,当 Yoshua Bengio 的名字赫然列在联名者的第一位, Geoffrey Hinton 选择“沉默”之后,Yann LeCun 却直接在 Twitter 上表态:“我没有签署这封信。”一时之间,大家议论纷纷。

眼看着事态愈演愈烈,4 月 7 日,吴恩达和 Yann LeCun 这两位“反对者”还亲自在 YouTube 搞了场名为“ Why the 6-month AI Pause is a Bad Idea”的直播,对话涵盖了与人工智能发展、其社会影响和该领域未来相关的一系列主题,吸引了数千名观众。

dff33f8c7c64fccf7647292580f7e6c2.png

(图源:Twitter 截图)

来自现实和未来的双重焦虑

d65c5472e5397bf64de99ce33d2be7a2.png

(图源: YouTube 截图)

在直播开场白中,吴恩达就简明扼要的阐述了观点:“我们对‘为期六个月的暂停提案’进行了长时间的思考,并认为这是一个重要的话题。如果政府实施这个提案,想必会造成重大伤害。因此,Yann LeCun 和我想和大家聊聊这件事。”

首先,吴恩达站在过去 AI 历史发展的角度上表示:AI 领域在近几十年来取得了显著的进步,尤其是在过去几年中。ChatGPT、LLaMa 、Midjourney 、Stable Diffusion 和 Dall-E 的出现,为新应用带来了希望,但也存在潜在危害和风险。

因此,人们担忧的聚焦点主要在两个方面:一方面是现实问题,例如:公平、偏见和社会经济下滑。另一方面是对未来的猜测,例如通用人工智能(AGI)造成的一些不可控、意外的后果。

而 Yann LeCun 在直播中坦言:签署“联名信”的人士可能主要基于这几个动机。一部分较为不理性的人,会担心 AGI 被打开后,将在短时间内消灭人类。另一部分较理性的人,会认为有真正的潜在危险需要处理 。

Yann LeCun 坦言:“我同意 AI 存在潜在危险的看法,它的确存在很多问题,因此需要让其变得可控。”

打消顾虑,而并非对 AI 杞人忧天

直播中,吴恩达和 Yann LeCun 为了打消人们对 AI 不切实际的期待后产生的“焦虑”,分别做出了自己的阐述。

吴恩达举例了 1975 年的 Asilomar 会议。该会议是基于 DNA 新技术提供了相当大的机会,但存在潜在的健康和环境风险的情况下召开的。因此,通过 Asilomar 会议最终对重组 DNA 技术发展初步达成共识、确立了重组 DNA 实验研究的指导方针或准则、就一些暂缓或严令禁止的实验达成共识、提出生物科学家和科研机构的行动指南等。

但吴恩达表示,与传染病的传播不同,他没有看到人工智能逃跑的任何现实风险。如果 AGI 将带来显示的风险,至少需要几十年,甚至几个世纪。

Yann LeCun 则引用了 4 年前在《科学美国人》上与冷泉港实验室神经科学家 Anthony Zador 一起编写的文章《 Don’t Fear the Terminator 》中的观点。

75dcfffbd1f9f83396f59dd7c4882645.png

(图源:scientificamerican 截图)

他表示:统治的动机只出现在社会化物种中,如人类和其他动物,需要在竞争中生存、进化。而我们完全可以把 AI 设计成非社会化物种,设计成非支配性的、顺从的、或者遵守特定规则以符合人类整体的利益。

值得一提的是,他们在直播中还表示:GPT-4 接受过一点训练,但他们对世界是极其肤浅的,还没有那么接近人类水平的智能。也许在未来几十年内,我们会拥有智能水平等于或超过人类的智能系统,但毫无疑问,这不会在明天发生。因此,关于如何正确使它们安全的讨论有些为时过早。毕竟如果汽车没有,怎么能为汽车设计安全带?

适当监管产品,但不能停止研发

基于人们对 AI 可能被滥用产生的担忧,吴恩达和  Yann LeCun 表示:一些监管是必要的,但不能以牺牲研究和创新为代价。

他们一致认为,暂停开发或部署模型是不现实的,往往最后会适得其反。同时,还呼吁研究人员、政府和企业之间加强合作和透明度,以确保人们可以使用负责任的 AI 。

Yann LeCun 坦言在看到“联名信”的第一反应是:呼吁推迟研发带有一丝蒙昧主义,也减缓了知识和科学的进步。

就产品问题而言, Yann LeCun 他赞成监管人们手中的“大模型”,但不赞成监管研发。他认为除了减少我们可以用来使技术更好、更安全的知识之外,没有任何目的。虽然 AI 有一些伤害的风险,比如偏见、公平、权力集中,但生成式人工智能在教育、医疗、教育辅导上创造的价值比比皆是。

Yann LeCun 还表示:“构建比 GPT-4 更好的模型将有助于这些应用程序帮助很多人,因此,暂停将会造成很大的伤害,组织有价值的东西产生。”

直播播出后, YouTube 的留言区也是热闹非凡,许多站“支持派”的网友纷纷表示:“这是有启发性的,感谢你们表现出勇气并分享真实的观点”;“人工智能研究需要继续不受限制地发展”;“ 6 个月 AI 暂停有点为时过早,也许不是一个好主意”。也有站“反对派”的网友称:“滥用和造成的严重社会混乱的风险很高”;“我们不能把安全放在没有保障的东西上”……对此,你怎么看,可以在评论区留言和讨论。

参考链接:

https://venturebeat.com/ai/titans-of-ai-industry-andrew-ng-and-yann-lecun-oppose-call-for-pause-on-powerful-ai-systems/
https://www.youtube.com/watch?v=BY9KV8uCtj4
https://gist.github.com/simonw/b3d48d6fcec247596fa2cca841d3fb7a

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/33021.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

chatgpt赋能python:Python查错完全指南:如何快速诊断和解决常见的错误

Python查错完全指南:如何快速诊断和解决常见的错误 Python是一种高级编程语言,它被广泛用于数据科学、机器学习、Web开发和自动化等领域。虽然Python具有易于学习和易于使用的特点,但是在编写复杂的应用程序时,错误和异常情况经常…

chatgpt赋能python:Python中输入怎么写?完整教程

Python中输入怎么写?完整教程 如果你正在学习Python编程,那么输入是你必须掌握的重要概念之一。在Python中,输入是指将数据从用户的键盘输入到程序中。这些数据可以是字符串、整数、浮点数或其他任何类型的值。本文将提供有关Python中输入的…

chatgpt赋能python:如何隐藏Python控制台:全面指南

如何隐藏Python控制台:全面指南 Python是一种广泛使用的编程语言,在网站开发、科学计算、数据分析等领域都有广泛应用。但是,调试代码时,Python控制台会显示出程序运行时产生的日志信息和错误提示。这在某些情况下可能会影响用户…

工作总结之全网最全的103个Verilog关键字总结(下)

目录 Verilog所有关键字的作用和用法 总结 Verilog和C/C语言类似,关键字(或关键词)也叫保留字,Verilog中有许多关键字,其中always、and、assign、begin、buf、bufif0和bufif1是常用的关键字。这些保留字是识别语法的…

12张PPT看懂中国虚拟数字人产业现状:应用不止于虚拟偶像,2030年市场达2700亿|量子位智库(附下载)...

荣伟 发自 凹非寺量子位 报道 | 公众号 QbitAI 这位小姐姐,真不是人。 仅仅出道一年,已经拍了VogueMe杂志,上了央视综艺,还接了特斯拉的代言。 (卑微的打工人看着她的履历,流下了委屈的眼泪。) …

Barracuda 邮件网关遭 0day 漏洞利用攻击

聚焦源代码安全,网罗国内外最新资讯! 编译:代码卫士 邮件和网络安全解决方案公司 Barracuda 提醒客户称,一些邮件安全网关 (ESG) 设备上周遭攻击,目前用于攻击的 0day 漏洞已修复。 5月19日,邮件附件扫描模…

bug:您的连接不是私密连接攻击者可能会试图从localhost窃取您的信息(例如:密码、通讯内容或信用卡信息)。了解详情

今日运行项目到浏览器报错: 解决:找到manifest.json里面的视图源码,把这个https改成false

今年全网活跃得高危漏洞跟踪记录表

第一季度 2020 年一季度(1 月-3 月),安恒应急响应中心公众号共发了 15 篇高危漏洞风 险提示,其中 3 篇提供了漏洞验证截图,3 篇提供了全球网络空间受影响资产测绘数 据。年初,由于新冠疫情(COV…

记一次修改响应包绕过登录验证漏洞

记一次修改响应包绕过登录验证漏洞 今天碰到一个某平台的修改响应包绕过登录验证漏洞,记录一下 登录页面 输入任意用户名密码,BP截取数据包 选择Action > Do Intercept > Response to this request,之后Forward 放包 成功截取到响应包…

Smartbi内置用户登陆绕过漏洞复现

0x01 产品简介 Smartbi大数据分析产品融合BI定义的所有阶段,对接各种业务数据库、数据仓库和大数据分析平台,进行加工处理、分析挖掘和可视化展现;满足所有用户的各种数据分析应用需求,如大数据分析、可视化分析、探索式分析、复杂…

使用Golang实现Typora图片上传插件

使用Golang实现Typora图片上传插件 描述 golang 1.20 除了服务端有个gin没有用别的库,理论上跨平台没问题的,自行测试吧 只支持自建服务器,包含了Typora编辑器插件以及服务端,整个代码以及逻辑都是CHATGPT生成的,我仅…

chatgpt赋能python:Python考证:让你成为真正的专家

Python考证:让你成为真正的专家 作为一名有10年Python编程经验的工程师,我认为Python考证是成为真正专家的必备条件之一。Python是目前最为流行的编程语言之一,而考证是证明自己的专业知识和技能的重要手段之一,特别是在日益激烈…

可解释机器学习导论

可解释机器学习公开课,包含人工智能可解释性、显著性分析领域的导论、算法综述、经典论文精读、代码实战、前沿讲座。由B站知名人工智能科普UP主“同济子豪兄”主讲。 课程主页:https://github.com/TommyZihao/zihao_course/blob/main/XAI 一起打开AI的黑…

【蓝桥真题】——2022年蓝桥pythonB组省赛真题+解析+代码(通俗易懂版)

大家好,我是爱分享的小蓝,欢迎大家来对答案~ 全文目录 🏆混奖感言 ⭐试题 A: 排列字母 💡思路点拨 🍞代码详解 ⭐试题 B: 寻找整数 💡思路点拨 🍞代码详解 ⭐试题 C: 纸张尺寸 &…

计算机随机试题是这么随机的,用 Excel 生成随机抽题的考试试卷

随机抽题是目前非常流行的一种组卷形式,不仅现在的计算机考试系统基本上都具有随机抽题组卷功能,纸笔考试也是如此。因为现在强调教考分离,就学校内部而言,很多都是有现成的试题库,考试时根据要求在试题库中随机抽题组…

深度洞见|品牌如何布局微信生态,玩转私域运营?

这是神策研究院深度洞见系列文章的第三期,重点介绍微信生态的基础能力、微信作为私域运营主战场的优势及主要趋势。本文共计 3340 字,阅读时间约 10 分钟。 近两年消费市场的低迷、疫情的反复让零售难上加难,私域运营逐渐承担起了品牌零售商…

企业微信服务商代开发自建应用配置以及对接

目录 1.代开发应用模板创建与配置 1.1创建代开发应用模板 1.2模板配置开发信息 1.3模板回调处理微信后台通知事件 1.4应用回调URL配置 1.5获取代开发应用secret(permanent_code) 2.代开发应用上线 3.代开发应用获取企业微信用户信息 1.代开发应用模板创建与配置 1.1创建…

从“在哪儿”到“去哪儿”,广和通5G+Cat1+GNSS模组全面赋能定位应用场景

从日常导航寻路,到信息定位,再到资产追踪,现代生活与工作几乎都无法离开“位置信息”而运作。无论是物联网应用场景的实现,还是物联网商业模式的创新,都需要定位信息作为数据支撑。根据Market Insight Reports报告预测…

再记公式弱爆了!用 ChatGPT 将 Excel 工作效率提高 10 倍

公众号关注 「奇妙的 Linux 世界」 设为「星标」,每天带你玩转 Linux ! 在未来,精通 Excel 或许不再是简历亮点了。 ChatGPT 自去年 11 月 30 日 OpenAI 重磅推出以来,这款 AI 聊天机器人迅速成为 AI 界的「当红炸子鸡」。 一经发…

最新AI创作系统+支持ai绘画+支持GPT4.0+实时语音识别输入+文章资讯发布功能+用户会员套餐+后台一键版本更新!

最新AI创作系统支持ai绘画支持GPT4.0实时语音识别输入文章资讯发布功能用户会员套餐后台一键版本更新! AI创作系统一、源码系统介绍二、AI创作系统程序下载三、安装教程四、主要功能展示五、更新日志 AI创作系统 AI创作系统: 1、提问:程序已经支持GPT3.…