AI可能造成人类灭绝,真的还是炒作?

bdbbaea8d6a56da50a46a659430b218c.png

作者 | 王瑞平

5月30日,一封由非营利组织人工智能安全中心(Center for AI Safety)发布的简短声明轰动了AI界,导致人工智能的地位可能会被动摇。

b2c6028334466d548321959e0f11866f.png

我们在该组织的官网上找到了这份声明。声明中仅有22个单词,却饱含了专家对AI的“控诉”:需要减轻人工智能可能导致的人类灭绝风险,并将其放在与流行病、核战等社会问题的同一高度,并作为全球优先事项推进。

倡议已获得多位AI行业大佬支持,截至目前,已有超过350位AI领域高管和专家签署了这份声明。其中的主要签署者包括Google DeepMind首席执行官戴米斯·哈萨比斯(Demis Hassabis)、OpenAI首席执行官山姆·奥特曼(Sam Altman)、“AI教父”杰弗里·辛顿(Geoffrey Hinton)、2018年图灵奖得主约书亚·本希奥(Youshua Bengio)、Anthropic的首席执行官达里奥·阿莫代(Dario Amodei)。

ChatGPT引发了AI热,也造成人们对该项技术潜在风险的担忧持续增加。其实,今年早些时候,包括特斯拉CEO马斯克在内的1000多名行业高管和专家就签署了公开信,呼吁6个月内暂停高级AI的开发。此事件在当时对AI造成了一定的冲击。

3ed8a310c85596a18b9611298ba113f9.png

AI可能造成人类灭绝

AIGC、AGI以势如破竹的速度席卷几乎每一个领域,但是,狂热过后,人们也开始理性的思考AI是否会干扰人类活动。上述高管和专家们的声明也并非空穴来风,他们主要的目的是警告:AI可能为人类带来灭绝风险。

人工智能安全中心执行主任丹·亨德里克斯(Dan Hendrycks)在接受《纽约时报》采访时表示:“声明很简洁,没有提出减轻人工智能威胁的潜在方法,旨在避免分歧。”

签署声明的专家则认为,如果人工智能发展失控、缺乏相应的对策与管理措施,很可能导致人类灭绝。这需要相关企业与人类保持警惕,需要采取必要措施以确保其安全发展。

由人类灭绝问题,我们也可以引申到如何平衡个人利益与社会利益问题,特别是AI企业与研究机构,需要避免过于片面的追求利益,忽视可能造成的影响。

eaaa0e9cf1e21d52cc99248322142be6.png

AI失控、过度替代人工

如果AI失控,超出了人类的理解与管理范围,将可能造成灾难性后果,这是最严重的情况。此外,由AI失控引发的技术被恶意利用或者出于非理性目的使用,也可能造成毁灭性的结果。

再有就是AI过度替代人工。如果人工智能过快并广泛地替代人类劳动,那么可能导致大规模失业与社会动乱,这同样具有毁灭性风险。

在战争方面,当人工智能作为武器使用也可能导致灭绝级后果,这需要严格限制与管理。而当人工智能技术被判断失误、产生偏差的时候,也可能导致灾难性结果。这也需要在开发过程中增加必要的控制与监督。

7640684b02bb46e5745f2018cd4c35b0.png

AI诈骗层出不穷

针对AI造成的另一种负面影响,当属最近发生的AI诈骗事件。近日,包头警方发布一起利用人工智能(AI)实施电信诈骗的典型案例,福州市某科技公司法人代表郭先生10分钟内被骗430万元。

4月20日中午,郭先生的好友突然通过微信视频联系他,自己的朋友在外地竞标,需要430万保证金,且需要公对公账户过账,想要借郭先生公司的账户走账。

基于对好友的信任,加上已经视频聊天核实了身份,郭先生没有核实钱款是否到账,就分两笔把430万转到了好友朋友的银行卡上。郭先生拨打好友电话才知道被骗。骗子通过智能AI换脸和拟声技术,佯装好友对他实施了诈骗。

继此前“10分钟被AI换脸骗走430万元”事件引发关注之后,5月22日,又一起AI换脸诈骗发生,此次金额高达132万,且整个诈骗过程时间只有9秒钟。

5月22日,安徽安庆的何先生接到熟人视频电话,让他帮忙转一笔账。但9秒之后,对方以“在开会”为由,迅速挂断了电话,还称“微信和电话不能说,加一下QQ”。

“因为打了视频电话,又是熟人,我就没多想,就转账了。”何先生回忆被骗经历时说。

f71c030c32d9f29713aa90ea20b06f3b.png

面对AI诈骗,我们能做些什么?

面对AI诈骗,我们能做些什么来应对呢?可以参考如下措施:减少自己照片与音视频的曝光度,防止被骗子收集用于AI换脸或拟声。此外,在与对方沟通时,可以询问共同知晓的信息,真信息中掺假信息,让对方多与你沟通,看是否有破绽。

视频时让对方多做一些面部表情或肢体语言,看是否有失真现象。观察视频通话中对方的眼睛,多数假脸都是使用睁眼照片合成,假脸极少甚至不会眨眼,缺少眨眼是判断一个视频真假的好方法。注意语音和嘴唇运动的同步状况、情绪不符合、模糊的痕迹、画面停顿或变色等异常现象,这些可能是AI换脸的痕迹。

总之,防范人工智能风险需要全社会共同努力。政府、企业与个人都需要各自发挥作用,通过科学管理、安全防范、认知提高与人类发展来确保人工智能的安全与可控发展。

a9ab8bd251eb7af119b4a24899ec1c28.png

用户评价:AI界又一次集体刷存在感

9b4c84f9891cf2fda24caa45d2025965.png

对于此事,有的网友认为,人类最终有可能被自己创造的机器人灭绝,也有的网友认为这绝不可能,既然人类早有预料,那一定有预防措施。

客观、清醒的网友则认为,这是AI界又一次集体刷存在感、博人眼球,大家也别太当真,至少国内的研究如果真停下来,那才是掉进坑里了。

有网友指出,研究可控制、可解释、可信赖、安全的人工智能当然是值得关注的事情,但将AI灭绝人类严重程度和流行病、核武器提升到一个层面真是一个可笑的比喻。

但是,也有网友认为,这个声明的发布总体来说是好事,让更多的人意识到AI的潜在风险,需要尽快制定监管政策。

f991f4b5ff20d08bb8d705bb673e3790.png

写在最后:专家怎么认为?

前天,谷歌首席执行官桑德尔·皮查伊(Sundar Pichai)在布鲁塞尔与欧盟官员会晤讨论AI政策,他的观点比较中立:“需要对技术进行适当监管且不会扼杀创新。”

Sam Altman可能是名单上最有趣的签署者,毕竟公司在将AI推向现实世界方面所做的比几乎任何其他公司都多,这有点讽刺意味。 

自从ChatGPT在2022年底爆火,Altman一再表示人工智能的未来让他大吃一惊,同时“吹嘘着”人工智能将使世界变得多么美好。 

现在,他签署了公开信件,前后不同的言论和行动确实让人感觉有些矛盾。 

5b7446ceab1fddc3249e52ebe60036f3.png

微软(Microsoft)联合创始人比尔·盖茨(Bill Gates)则警告称,人工智能助手可能很快就会彻底改变用户的在线行为,从而淘汰谷歌等搜索引擎和亚马逊。

据美国全国广播公司财经频道(CNBC)报道,盖茨本周在旧金山举行的高盛人工智能活动上表示:“获得了AI个人助理(personal agent),你不会再去搜索网站,也不会浏览亚马逊。”

他说,人工智能助手可以“阅读你没有时间阅读的东西”,让用户无需使用谷歌等搜索引擎就能获取信息。

观网小伙伴,对于这项声明你怎么看?你觉得AI会导致人类灭绝吗?

参考资料:

https://futurism.com/the-byte/bill-gates-ai-poised-destroy-search-engines-amazon

https://www.zhihu.com/question/603797685

https://www.wired.com/story/runaway-ai-extinction-statement/

https://futurism.com/the-byte/bill-gates-ai-poised-destroy-search-engines-amazon

往期推荐

裁员10%,暴跌14%,这家IT独角兽正在被抛弃!

从元宇宙到生成式AI:炒作、现实和未来前景

Google DeepMind、OpenAI等联合发文:AI大模型的极端风险,如何评估?

微信占用内存怎么越来越大?

黄仁勋演讲: 不论是追逐食物,或不被他人当作食物而跑,都要保持奔跑,别缓步前进

曝特斯拉超100GB数据泄露,安全不容忽视

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/14105.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

文心一言一把火,百度智能云盈利了!李彦宏诚不欺我?

鱼羊 发自 凹非寺量子位 | 公众号 QbitAI 文心一言发布后,百度的首份财报来了。 先说结论:以文心一言为代表的大模型技术,正在给百度带来新的增长契机。 文心一言发布前,李彦宏就曾判断: 中国AI市场即将迎来爆发性的需…

警惕AI换脸技术:近期诈骗事件揭示的惊人真相

大家好,我是可夫小子,《小白玩转ChatGPT》专栏作者,关注AIGC、读书和自媒体。 目录 1. deepswap 2. faceswap 3. swapface 总结 📣通知 近日,包头警方公布了一起用AI进行电信诈骗的案件,其中福州科技公…

研报精选230215

目录 【行业230215开源证券】电力设备行业投资策略:特高压建设有望迎来高峰期,解决清洁能源跨区互济瓶颈 【行业230215浙商证券】计算机行业【AIGC算力时代系列报告】:ChatGPT研究框架 【个股230215国信证券_公牛集团】民用电工行业领军者&am…

巴比特 | 元宇宙每日必读:科技巨头们下场自研AI芯片,微软、谷歌、亚马逊已推出或计划发布8款服务器和AI芯片,Meta也在路上...

摘要:据澎湃新闻报道,当下,英伟达还是当之无愧的“AI算力王者”,A100、H100系列芯片占据金字塔顶尖位置,是ChatGPT这样的大型语言模型背后的动力来源。然而,不管是为了降低成本,还是减少对英伟达…

第十六届全国大学生信息安全竞赛创新实践赛初赛部分WP AGCTF战队

持续两天的比赛,打的很累,web没有出太多的题,比赛被pwn师傅带飞了,希望下此加油,下边是此次比赛排名。 文章目录 MISC签到卡被加密的生产流量国粹调查问卷pyshell CRYPTO基于国密SM2算法的密钥密文分发可信度量Sign_i…

AI 理论之父出生 | 历史上的今天

整理 | 王启隆 透过「历史上的今天」,从过去看未来,从现在亦可以改变未来。 今天是 2023 年 4 月 28 日,在 1994 年的今天,美国克林顿政府公布了一项价值数百万美元的计划,以帮助那些制造平板显示屏的美国公司维持生计…

公司老板 10 分钟被骗 430 万!骗子用 AI 换脸 + 换声,网友:这我怎么防啊!

整理 | 郑丽媛 出品 | CSDN(ID:CSDNnews) 在 ChatGPT 的“点火”下,这趟名为 AI 的列车已逐渐从幕后驶向台前,吸引了不少人的关注和“搭乘”——而科技,向来是一把双刃剑。 俗语有言,“耳听为虚…

华为MetaERP全球上线,15小时完成全球88个子公司切换;微软Win12最快明年问世;FerretDB 1.2发布|极客头条...

「极客头条」—— 技术人员的新闻圈! CSDN 的读者朋友们早上好哇,「极客头条」来啦,快来看今天都有哪些值得我们技术人关注的重要新闻吧。 整理 | 梦依丹 出品 | CSDN(ID:CSDNnews) 一分钟速览新闻点&#…

科技周报 | AI诈骗430万,ChatGPT有APP版了

2023年5月17日 ~ 2023年5月24日 5月24日 | 历史上的今天 1954年5月24日,晶体管电子计算机诞生。 产业动态 01 AI诈骗10分钟骗走430万 5月22日,一起“AI网聊10分钟骗走430万”的典型案例冲上热搜。 据内蒙古包头警方发布,4月20日中午&…

马斯克宣布将卸任推特CEO:转战技术岗位 ;王坚正式回归阿里云;科大讯飞否认星火大模型套壳ChatGPT|极客头条...

「极客头条」—— 技术人员的新闻圈! CSDN 的读者朋友们早上好哇,「极客头条」来啦,快来看今天都有哪些值得我们技术人关注的重要新闻吧。 整理 | 梦依丹 出品 | CSDN(ID:CSDNnews) 一分钟速览新闻点&#…

人工智能轨道交通行业周刊-第39期(2023.3.20-3.26)

本期关键词:综合运维智控中心、现场防护员、模型先验知识、机器视觉照明、国铁统计公报 1 整理涉及公众号名单 1.1 行业类 RT轨道交通人民铁道世界轨道交通资讯网铁路信号技术交流北京铁路轨道交通网上榜铁路视点ITS World轨道交通联盟VSTR铁路与城市轨道交通Rai…

电费竟然占了数据中心运维总成本的7成?

作为企业IT运维工作人员,我们最关心的往往是数据中心各项服务是否稳定运行,系统是否安全。然而,数据中心的运维人员、甚至公司领导和业务部门都几乎很少关心数据中心的能耗。 据相关单位统计,中国数据中心的电费竟然占了数据中心运…

USA获取实时电价数据

http://www.engieresources.com/ historical-data两次注册完成后可以调取实时电价,PJM电力市场的数据比较好 Hourly Real Time

4G无线预付费电表系统设计及其应用

摘要 针对目前市场上普遍以射频卡作为售电介质的预付费售电系统存在的问题,介绍 了一种新型的无线预付费售电系统及其构成,并给出了整个系统设计的完整方案。整个系统包括用户终端和电力管理系统端,它之前间通过RS485、NB、2G、4G、lora等通…

工大助手电费查询接口讲解

工大助手电费查询接口讲解 本人是工大的一名学生,平时没事就喜欢写写代码,今天我来教大家解析学校电费查询接口中的参数,首先打开工大助手的web端https://huthelper.cn/,先登录,进入电费查询栏,进去networ…

chatgpt赋能python:Python电费计算:简单高效的解决方案

Python电费计算: 简单高效的解决方案 随着智能家居技术的不断发展,人们越来越依赖电力。对于居家的人们来说,控制电费成本是一个重要的问题。智能计算机语言Python可以用来解决这个问题,为您的电费账单带来显著的改进。 简介 Python是一门…

chatgpt赋能python:Python计算电费

Python计算电费 电费是我们生活中必须面对的问题,尤其是在家庭和企业中,电费成为了必须要关注和计算的重要问题。本文将介绍如何使用Python计算电费,并为读者提供一个可靠的计算模型。 Python简介 Python是一种计算机编程语言,…

「AMD史上最大芯片」炸场CES:1460亿晶体管,可大幅压缩ChatGPT训练时间

鱼羊 Alex 发自 凹非寺量子位 | 公众号 QbitAI 一颗芯片塞进1460亿个晶体管。 还号称能将ChatGPT、DALLE等大模型的训练时间,从几个月缩短到几周,节省百万美元电费。 就在科技春晚CES 2023上,苏妈带着AMD“迄今为止最大芯片”来炸场子了。 这…

tomcat的配置

学习目标: tomcat配置 疑难杂症: 刚开始时候,下载的版本是tomcat 10版本,start.bat启动时,会出现一闪而过的情况,代表着没有配置成功,后来换成了tomcat 9版本,一下子就成功了&#…

为AI大模型打破算力瓶颈,腾讯云的第三次网络架构进化

毫无疑问,2023年正式进入了AIGC元年。从2019年3亿参数的Bert打开了预训练大模型之门,到2020年1750亿参数GPT-3,再到2021年1.6万亿参数的Switch Transformer,以及2022年底正式上线的ChatGPT,人类就此打开了AI预训练大模…