22字声明、近400名专家签署、AI教父Hinton与OpenAI CEO领头预警:AI可能灭绝人类!...

05817b7ccf079b9ba88e323fce4e023b.gif

整理 | 屠敏

出品 | CSDN(ID:CSDNnews)

经过不到一年的时间,AI 的发展超乎所有人的想象,也大有失控的风险。

就在今天,全球部分顶尖的 AI 研究员、工程师和 CEO 就他们认为 AI 对人类构成的生存威胁发出了新的警告,并共同签署了一份只有短短 22 个字的声明:

减轻 AI 带来的灭绝风险应该与流行病和核战争等其他社会规模的风险一起成为全球优先事项。

f09077097c33159ffdb1b63adc5f8f25.png

这份声明是由总部位于旧金山的非营利组织 AI 安全中心(Center for AI Safety,简称 CAIS)发布的。

值得注意的是,这份声明一经发布,便迅速得到了多伦多大学计算机科学荣誉教授、“AI 教父” Geoffrey Hinton,蒙特利尔大学计算机科学教授、图灵奖得主 Yoshua Bengio,Google Deepmind CEO Demis Hassabis,OpenAI CEO Sam Altman,以及中国科学院自动化研究所类脑认知智能实验室主任、教授曾毅等近 400 位学术界、产业界、高校专家的支持。

7d67720043b72d368c0e60f3d2a4b54b.png

13efd072f21d8130d7e59e92eeb385fc.png

越来越像人的 AI

其实一直以来,随着生成式人工智能工具如 OpenAI 的 ChatGPT、微软的新 Bing、Google 的 Bard 等面向更多的群体开放访问,业界关于 AI 炒作的声音愈演愈烈。

在此之下,很多学者、高管表示过担忧,如:

  • 本月初,多伦多大学计算机科学荣誉教授、“AI 教父” Geoffrey Hinton 在选择从 Google 离职时,对外界分享道,「人工智能正在变得比人类更聪明,我想要‘吹哨’提醒人们应该认真考虑如何防止人工智能控制人类」。

  • OpenAI  CEO Sam Altman 在两周前首次亮相美国参议院就各自公司与机构制造的人工智能技术存在的潜在危险的听证会时,反其道而行之,强烈要求政府部门对其以及行业内的 AI 技术应用政策进行落地与监管,旨在减少此类系统可能带来的“潜在风险”。

不仅如此,个人用户也感受到了 AI 的“可怕”之处。

在 Reddit 上,一名网友发帖称自己在使用微软新 Bing 时,由于 Bing Chat 提供了没有来源的内容,自己便对这个回答进行了质疑。

万万没想到的是,人类惨遭 AI “怼了一顿”。甚至 AI 表示,“我不欣赏你的语气和态度,所以我就在这里结束这个对话。”

最后,AI 还对网友进行了警告,“以后请多一些尊重和礼貌”。

3c5724422bbfbe114a89a409c6785e96.png

这也引得 10.2k 个用户关注,并纷纷留言道,“这个 AI 已成精,越来越像人了。”也有人指出,“用人类知识训练人工智能,就会让它像人类一样回应、思考,这是惊人的,自然也会让人担忧”。

922099defaf118b6b6e6bfb508a0eb84.png

声明一出,达成共识

事实证明,这一次 CAIS 声明的发出,正所谓字少事大,而它之所以能够吸引如此多专家学者的关注,一方面,主要这是很多人认为应该迫切解决的问题;另一方面,在这份声明中,没有直接道清存在哪些风险,设立“围墙”,也是为了避免重蹈覆辙。

还记得两个月前,非营利性的 "生命的未来研究所 "(Future of Life Institute)发出一封公开信,同样的图灵奖得主 Yoshua Bengio、伯克利计算机科学教授 Stuart Russell、特斯拉 CEO 埃隆·马斯克、苹果联合创始人 Steve Wozniak 等人进行了签署。

这份公开信强烈呼吁:暂停训练比 GPT-4 更强大的系统,期限为六个月。理由是这些模型对社会和人类存在潜在风险,“只有当我们确信强大的人工智能系统带来积极的效果,其风险是可控的,才应该开发。这种信心必须有充分的理由支持,并随着系统潜在影响的大小而增加。”

不过,彼时这封信一经发布便在多个层面遭到了批评,一些专家认为这份公开信过于夸大了人工智能带来的风险,一些人虽然同意公开信提到的风险,但是对信中建议的补救措施不敢苟同。

而这一次,发布如此简短的说明,CAIS 组织在网站上指出,“人工智能专家、记者、政策制定者和公众越来越多地讨论人工智能带来的广泛的重要和紧迫风险。即便如此,要清楚地表达对一些先进的 AI 最严重风险的担忧可能是困难的。这份简洁的声明旨在克服这一障碍并展开讨论。这也是为了让越来越多的专家和公众人物对待先进人工智能的一些最严重的风险有共同的认识,这样他们也会认真对待。”

据《纽约时报》报道,人工智能安全中心执行主任 Dan Hendrycks 表示,今天的声明很简洁——没有提出任何减轻人工智能威胁的潜在方法——旨在避免这种分歧。“我们不想推动包含 30 种潜在干预措施的庞大列表”,Hendrycks 说道,“当这种情况发生时,它会淹没掉更重要的信息。”

与此同时,Hendrycks 也指出,“系统性偏见、错误信息、恶意使用、网络攻击和武器化,都是人工智能带来的重要和紧迫的风险。”

也有专家认为,一旦人工智能系统达到一定的复杂程度,就可能无法控制它们的行为。

简单来看,有了这样一份声明,参与其中的人都有了一定共识,可以共同为“减轻 AI 带来的灭绝风险”而出谋划策,群策群力。

1509aa59677a74f784a4eefd84fba167.png

OpenAI 的竞争之举?

除此之外,也有媒体将这封得到 OpenAI 大力支持的声明,视为 OpenAI 正在抢夺先机,毕竟此前马斯克之前试图拿人工智能风险说事,呼吁停止 AI 开发,毫无疑问,那样做会阻碍 OpenAI 在生成式 AI 领域的地位与进度。

如今 CAIS 这封最新的声明中,重点是在如何降低 AI 风险上,也在鼓励外界为 AI 监管政策的制定出谋划策,自然无形之中降低了业界呼吁直接暂停开发比 GPT-4 更强大模型的声音了。

至此,你怎么看待 AI 会存在灭绝人类的风险?在现实应用中,你是否感受过 AI 超乎你想象的强大之处?欢迎留言分享。

参考:

公开信地址:https://www.safe.ai/statement-on-ai-risk#open-letter

https://techcrunch.com/2023/05/30/ai-extiction-risk-statement

https://www.theverge.com/2023/5/30/23742005/ai-risk-warning-22-word-statement-google-deepmind-openai

https://old.reddit.com/r/ChatGPT/comments/13vfrwm/i_feel_so_mad_it_did_one_search_from_a_random/

推荐阅读:

▶快播公司已破产注销;ChatGPT 之父警告:AI 可能灭绝人类;苹果官方:618 将开启全球首次直播|极客头条

▶FBI 花 3 年暴力破解 iPhone X 密码,竟成一场空?法院:搜查令已过期,证据无效

▶Rust 社区管理再起“内讧”,外部专家遭排挤,核心成员主动请辞,立即生效!

6b20e823cb2795913ef2f2c7acd3ab9e.jpeg

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/314.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

时至 2023 年,2000 万行仍然是 MySQL 表的软限制吗?

一直有传言说,MySQL 表的数据只要超过 2000 万行,其性能就会下降。而本文作者用实验分析证明:至少在 2023 年,这已不再是 MySQL 表的有效软限制。 原文链接:https://yishenggong.com/2023/05/22/is-20m-of-rows-still-…

GPT-4 Copilot X震撼来袭!AI写代码效率10倍提升,码农遭降维打击

新智元报道 【新智元导读】GPT-4加强版Copilot来了!刚刚,GitHub发布了新一代代码生成工具GitHub Copilot X,动嘴写代码不再是梦。 微软真的杀疯了! 上周,微软刚用GPT-4升级了Office办公全家桶,还没等人们反…

FBI 花 3 年暴力破解 iPhone X 密码,竟成一场空?法院:搜查令已过期,证据无效...

整理 | 郑丽媛 出品 | CSDN(ID:CSDNnews) 很难预料到,几年前 FBI 和苹果之间那场备受关注的隐私大战,时至今日仍有余波: ▶ 2016 年,正值苹果与 FBI “剑拔弩张”时,其安全指南曾声称…

发布 21 年后,Windows XP 被破解,仅 18KB 即可离线激活

整理 | 郑丽媛 出品 | CSDN(ID:CSDNnews) 都 2023 年了,如今再提起 Windows XP,可能颇有些“时代的眼泪”的味道。 (Windows XP 经典的默认桌面壁纸) 2001 年 10 月 25 日正式登陆零售商店&…

​iPhone 14 Pro 全系降价 700 元;Gmail 之父:有了 ChatGPT,搜索引擎活不过两年了|极客头条...

「极客头条」—— 技术人员的新闻圈! CSDN 的读者朋友们早上好哇,「极客头条」来啦,快来看今天都有哪些值得我们技术人关注的重要新闻吧。 整理 | 梦依丹 出品 | CSDN(ID:CSDNnews) 一分钟速览新闻点&#…

ChatGPT陷伦理风波 “纯净版”机器人在赶来的路上

近期,AI安全问题闹得沸沸扬扬,多国“禁令”剑指ChatGPT。自然语言大模型采用人类反馈的增强学习机制,也被担心会因人类的偏见“教坏”AI。 4月6日,OpenAI 官方发声称,从现实世界的使用中学习是创建越来越安全的人工智…

快播公司已破产注销;ChatGPT 之父警告:AI 可能灭绝人类;苹果官方:618 将开启全球首次直播|极客头条...

「极客头条」—— 技术人员的新闻圈! CSDN 的读者朋友们早上好哇,「极客头条」来啦,快来看今天都有哪些值得我们技术人关注的重要新闻吧。 整理 | 梦依丹 出品 | CSDN(ID:CSDNnews) 一分钟速览新闻点&#…

AI聊天机器人ChatGPT遭破解,引发数据泄露风险

近日,一款基于人工智能技术的聊天机器人——ChatGPT遭受黑客攻击,导致用户数据泄露风险加大。这一事件引起了广泛的关注,也引发了人们对于人工智能安全性的担忧。 ChatGPT是一种被广泛应用于企业客户服务和市场营销等领域的AI聊天机器人&…

行走的代码生成器:chatGPT要让谷歌和程序员“下岗”了

就在本周,OpenAI 又发布了一个全新的聊天机器人模型 ChatGPT,作为 GPT-3.5 系列的主力模型之一。 图片来源:OpenAI 更重要的是它是完全免费公开的!所以一经发布大家立刻就玩开了——很快,网友们就被 ChatGPT 的能力所…

ChatGPT会让程序员失业?ChatGPT:“ 是友军,我不从事任何职业。

毫无疑问,ChatGPT“出圈”了。 它似乎无所不能。 许多人担忧它是否会取代自己的饭碗,唯恐自己的进步赶不上 AI 的发展。 然而,有人在试用几次之后,又算是松了口气:打工人我呀,工作算是保住啦~ 那么&…

除了ChatGPT,还有哪些AI工具会抢你“饭碗”?

1、Daft Art 人工智能专辑封面生成器 Daft Art 是独立设计师和开发者 Ahmed 所创建的服务,这项服务经过大量的数据训练,可以根据你的音乐的标题、内容来创建一系列的封面图,你可以在其中选择和你的音乐氛围接近的图。 Daft Art 能够生成的封…

Chatgpt到底有多牛?

在人工智能领域, ChatGPT可以说是最具影响力的 AI之一。从全球最大的中文搜索引擎百度,到中国最大的新闻聚合网站人民日报,再到中国最大的知识问答网站知乎, ChatGPT都有不俗的表现。而在 ChatGPT被美国《时代周刊》评为“人工智能…

ChatGPT或许很强大,但还抢不走你的饭碗

ChatGPT变得家喻户晓是在2022年的11月,当时OpenAI正式对外推出了GPT3.5。 但实际上,这场AI革命的战争早已开始打响。过去十年间,谷歌、 脸书、亚马逊、苹果和微软这些硅谷有名有姓的科技巨头纷纷开启AI“军备竞赛”,先后成立专门…

ChatGPT 会取代程序员吗?

ChatGPT 是由 OpenAI 于 2022 年 11 月 30 日推出的智能聊天机器人。由于技术表现非常优秀,一出道就火爆全球。它不仅让谷歌、苹果等 IT 巨头睡不着觉,还成功吸引了微软 100 亿美金的技术投资。 第一波吃到螃蟹的道友开始用它生成代码,玩得不…

昨天,我被ChatGPT抢饭碗了!

分享人:Mr.K 作者:ChatGPT 昨天,K哥发了一条朋友圈:我用ChatGPT写的演讲稿,跟企业家同学们分享《AIGC如何赋能企业》。 不要再说AI离你还很远,AI代替人类工作还早。抛弃你的从来不是时代,而是…

ChatGPT面世具有何意义?ChatGPT会不会取代程序员?

本篇文章给大家谈谈ChatGPT面世具有何意义一个有趣的事情,以及ChatGPT会不会取代程序员一个有趣的事情,希望对各位有所帮助,不要忘了收藏本站喔。 1、chatgpt是什么? chatgpt介绍如下: ChatGPT是由人工智能研究实验室OpenAI在202…

最近大热的 chatGPT 会取代你的工作吗?

ChatGPT 由于其高效的自然语言处理能力,它最容易取代的领域可能是: 文本分类:ChatGPT 可以用作文本分类系统,对文本进行分类 聊天机器人:ChatGPT 可以制作聊天机器人,提供人性化的交互体验 文本生成&…

ChatGPT这是要抢走我的饭碗?我10年硬件设计都有点慌了

前 言 呃……问个事儿,听说ChatGPT能写电路设计方案了,能取代初级工程师了?那我这工程师的岗位还保得住么?心慌的不行,于是赶紧打开ChatGPT问问它。 嘿,还整的挺客气,快来看看我的职业生涯是否…

普通人是否能从ChatGPT中分一杯羹?

ChatGPT3.0刚刚推出,最开始的时候,人们只是将ChatGPT看作一个很会聊天的机器人,无论问题多么天马行空,它的答案看上去都有理有据。后来,像打开潘多拉魔盒一样,很多人开始拿它编大纲、撰写文案、编代码、创作…

ChatGPT 这个风口,普通人怎么抓住?

最近在测试ChatGPT不同领域的变现玩法,有一些已经初见成效,接下来会慢慢分享出来。 今天先给大家分享一个,看完就能直接上手的暴力引流玩法。 所需工具: 1)ChatGPT(最好是plus版,需要保证快速…