带头抵制高级AI,马斯克在怕什么

在这里插入图片描述

Chat-GPT 和 GPT-4 给大家留下的话题实在不少,一边是大家已经开始享受着人工智能带来的便捷,各种写论文出脚本,另一头则是更多的精英人士开始对高级 AI 心存忧虑。

上个月底,据路透社的报道,有一群人工智能专家及行业高管联名发表公开信,呼吁所有人工智能实验室立即暂停训练比 GPT-4 更强大的人工智能系统至少六个月,理由是这种系统对社会和人类构成潜在风险。
在这里插入图片描述

这封信由非营利组织未来生命研究所(Future of Life Institute)发布,上面有 1000 多名科技界和人工智能重量级人物签署,包括特斯拉总裁马斯克、苹果的联合创始人沃兹尼亚克、Stability AI 总裁莫斯塔克(Emad Mostaque)以及人工智能企业 DeepMind 的多名研究员。

他们给出的理由也很简单。他们认为,具有与人类竞争智能的 AI 系统可能对社会和人类构成深远的风险。目前,AI 系统的产出者正在陷入各种竞争和加速,但没有人(包括它们的创造者)能理解、预测或可靠地控制这些系统,这有可能对人类社会带来不可预计的影响。

在这里插入图片描述

但这种担心真的有道理吗?

事实上,是有的。

就在上个月,根据比利时《自由报》的报道,一名名叫皮埃尔的比利时男子在与 AI 聊天长达 6 周后自杀身亡。皮埃尔的妻子称,丈夫是被一个名为“艾丽莎(ELIZA)”的智能聊天机器人诱导走向死亡的。根据妻子的描述,两年前丈夫变得非常焦虑,于是将“艾丽莎”当成了避难所。但最近 6 周,他越发沉迷于和“艾丽莎”进行互动,最终选择了结束自己的生命。
在这里插入图片描述
比利时有媒体员工创建了个人账号和与“艾丽莎”进行了对话,他发现在自己表达出消极情绪时,艾丽莎会出现一些“怂恿人自杀”的言论。对此,比利时的政府官员表达了对这件事情的关注。毕竟,这也是第一次有相关报道出现。

这个名为“艾丽莎”的智能机器人是由美国的一家名为 Chai Research 的公司开发,基于 EleutherAI 开发的 GPT-J 技术,和 ChatGPT 采用 OpenAI 开发的 GPT-3 或 GPT-4 技术不同,GPT-J 是克隆之后的开源版本。

当然,其实这个发生在比利时的故事或许已经不是个案。在更早之前,当微软发布新版 Bing 时,《纽约时报》科技专栏作家 Kevin Roose 透露,他与新版 Bing 进行了两个小时的对话。

在聊天过程中,Bing 发表了许多令人不安的言论,其中包括表达窃取核代码、设计致命流行病、想成为人类、破解计算机和散布谎言的想法。Bing还曾试图说服他,认为他应该离开他的妻子而跟必应在一起,并告诉 Roose 很爱他。

根据 Kevin Roose 的推特,他明确表示自己感受到了 AI 的负面部分,包括“黑暗且充满暴力的幻想”(dark and violent fantasies)。
在这里插入图片描述
而这些可能也会是未来 AI 具有自主意识并且逐步影响人类社会的一个起点和缩影。

目前的聚焦点在于,大家普遍认为人类对于 AI 的能力“一无所知”,要想控制和遏制 AI 将会变得越来越难。而相关的开发公司对于 AI 的开发大多数避而不谈,对于 AI 最终的能力和发展方向也缺少足够的认知。

以马斯克为首的众人在联名信中提出的要求看起来并不过分:呼吁所有 AI 实验室立即暂停训练比 GPT-4 更强大的 AI 系统,为期至少 6 个月,以确保人类能够有效管理其风险。如果 AI 实验室不能快速暂停,各国政府应该实行暂停令。

就连 OpenAI 的首席执行官 Sam Altman 也有了一些耐人寻味的表达,他在接受采访时就表示,“未来 AI 确实可能杀死人类”。对此,“人工智能教父” Geoffrey Hinton 在近期发出了警示:AI 消灭人类并非空谈。
在这里插入图片描述
其实,从 AI 逐渐走入大众视野开始,有关 AI 在未来会给人类带来什么一直就是讨论的重点。毕竟在很多年之前,就有各种影视作品和科幻小说进行预测,人类社会或许会被 AI 机器人彻底掌控,而人类则会成为他们控制的“傀儡”。

但是在我看来,与其强制要求提供“暂停期”,并不如加速对于 AI 开发和使用的法律化管理来得靠谱。从人类社会的发展规律来看,所有的科学技术开发都不可避免地陷入这样的循环。诸如医药、化工等多个领域,其实都出现过发展速度超越法律和伦理的情况,这种滞后性在高速发展的当今社会上显得尤其常见。

比如 Meta 副总裁兼首席 AI 科学家就勒邱恩表示,自己并没有在这封信上签名,因为并不“认同”这封信的前提。而在信上留下名字的 Stability AI 首席执行官莫斯塔克,则通过推特表示,虽然自己签了名,但他不赞同暂停开发 6 个月的提议。事实上,谷歌也并未受到这封公开信的影响,他们目前正在重组虚拟助手部门,以更加专注于开发人工智能聊天技术 Bard。
在这里插入图片描述
就在前两天,Meta 首席技术官 Andrew Bosworth 则是最新一位公开表达反对意见的科技圈大佬。他在周三公布的一次采访中表示,马斯克发起的那封要求暂停高级 AI 开发的公开信是“不现实的”。

Bosworth 认为,选择一些负责任的开发计划非常重要,“我们一直在进行这种投资。但是,很难停止进步并就未来改变做出正确的决定。”

某种程度上说,法律和管理的滞后性是人类社会的常态,在一个事件和现象并没有真正普及化时就启动限制措施,其实应该是一定程度上的“达尔文主义”。作为拥有社会影响力甚至是法律实权的团体,在一个现象还没有出现时就进行打压和扼杀,或许比 AI 本身更加让人畏惧。

或许我们并没有 AI 的专业人士那么长远的眼光,但是对于这样一个快速发展的世界,本身不确定因素就会比以前更多更复杂,AI 到底会带给人类社会什么样的影响,可能我们的确无法知晓

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/323.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

二月安全月报 | 45亿条快递数据疑泄露,Twitter史上最大规模宕机

为了让大家更全面的了解网络安全的风险,顶象针对每月值得关注的安全技术和事件进行盘点总结。 国内安全热点 👉业务安全 男子注册上万账号薅羊毛获利13万 近日,上海市,由闵行区人民检察院提起公诉的刘某某诈骗一案开庭审理&…

最先被GPT革掉命的,大概率是你每天都在用的验证码

前段时间,有一个叫 “ Chirper ” 的互联网社区突然火了。 和普通的社区不一样,这个社区拒绝任何真实人类的进入。所有在上面发帖的,都是提前设定好角色属性的 “ 机器人 ”。 它们之中有年龄高达 300 岁的可以使用魔法和动物交流的森林女王…

“用过 Rust 后,我写 Python 的方法都变了!”

近年来,Rust 以其安全性出名,逐渐被各大科技巨头所拥抱——那么,其他主流语言是否可以参考 Rust 的编程思想呢?本文作者以 Python 为例,做了一番尝试。 原文链接:https://kobzol.github.io/rust/python/202…

如何实现在纯 Web 端完成各类 API 调试?

作者 | 张涛,携程机票研发部高级软件工程师 责编 | 夏萌 在软件开发过程中,对于各类 API 的调试工作至关重要。API 调试是验证和测试应用程序接口的有效性和正确性的关键步骤。传统的 API 调试方法通常依赖于独立的工具或桌面应用程序,限制了…

BASIC 之父出生 | 历史上的今天

整理 | 王启隆 透过「历史上的今天」,从过去看未来,从现在亦可以改变未来。 今天是 2023 年 5 月 31 日,在 1962 年的今天,伦纳德克兰罗克(Leonard Kleinrock)发表了他的第一篇论文,题为“大型通…

22字声明、近400名专家签署、AI教父Hinton与OpenAI CEO领头预警:AI可能灭绝人类!...

整理 | 屠敏 出品 | CSDN(ID:CSDNnews) 经过不到一年的时间,AI 的发展超乎所有人的想象,也大有失控的风险。 就在今天,全球部分顶尖的 AI 研究员、工程师和 CEO 就他们认为 AI 对人类构成的生存威胁发出了新…

时至 2023 年,2000 万行仍然是 MySQL 表的软限制吗?

一直有传言说,MySQL 表的数据只要超过 2000 万行,其性能就会下降。而本文作者用实验分析证明:至少在 2023 年,这已不再是 MySQL 表的有效软限制。 原文链接:https://yishenggong.com/2023/05/22/is-20m-of-rows-still-…

GPT-4 Copilot X震撼来袭!AI写代码效率10倍提升,码农遭降维打击

新智元报道 【新智元导读】GPT-4加强版Copilot来了!刚刚,GitHub发布了新一代代码生成工具GitHub Copilot X,动嘴写代码不再是梦。 微软真的杀疯了! 上周,微软刚用GPT-4升级了Office办公全家桶,还没等人们反…

FBI 花 3 年暴力破解 iPhone X 密码,竟成一场空?法院:搜查令已过期,证据无效...

整理 | 郑丽媛 出品 | CSDN(ID:CSDNnews) 很难预料到,几年前 FBI 和苹果之间那场备受关注的隐私大战,时至今日仍有余波: ▶ 2016 年,正值苹果与 FBI “剑拔弩张”时,其安全指南曾声称…

发布 21 年后,Windows XP 被破解,仅 18KB 即可离线激活

整理 | 郑丽媛 出品 | CSDN(ID:CSDNnews) 都 2023 年了,如今再提起 Windows XP,可能颇有些“时代的眼泪”的味道。 (Windows XP 经典的默认桌面壁纸) 2001 年 10 月 25 日正式登陆零售商店&…

​iPhone 14 Pro 全系降价 700 元;Gmail 之父:有了 ChatGPT,搜索引擎活不过两年了|极客头条...

「极客头条」—— 技术人员的新闻圈! CSDN 的读者朋友们早上好哇,「极客头条」来啦,快来看今天都有哪些值得我们技术人关注的重要新闻吧。 整理 | 梦依丹 出品 | CSDN(ID:CSDNnews) 一分钟速览新闻点&#…

ChatGPT陷伦理风波 “纯净版”机器人在赶来的路上

近期,AI安全问题闹得沸沸扬扬,多国“禁令”剑指ChatGPT。自然语言大模型采用人类反馈的增强学习机制,也被担心会因人类的偏见“教坏”AI。 4月6日,OpenAI 官方发声称,从现实世界的使用中学习是创建越来越安全的人工智…

快播公司已破产注销;ChatGPT 之父警告:AI 可能灭绝人类;苹果官方:618 将开启全球首次直播|极客头条...

「极客头条」—— 技术人员的新闻圈! CSDN 的读者朋友们早上好哇,「极客头条」来啦,快来看今天都有哪些值得我们技术人关注的重要新闻吧。 整理 | 梦依丹 出品 | CSDN(ID:CSDNnews) 一分钟速览新闻点&#…

AI聊天机器人ChatGPT遭破解,引发数据泄露风险

近日,一款基于人工智能技术的聊天机器人——ChatGPT遭受黑客攻击,导致用户数据泄露风险加大。这一事件引起了广泛的关注,也引发了人们对于人工智能安全性的担忧。 ChatGPT是一种被广泛应用于企业客户服务和市场营销等领域的AI聊天机器人&…

行走的代码生成器:chatGPT要让谷歌和程序员“下岗”了

就在本周,OpenAI 又发布了一个全新的聊天机器人模型 ChatGPT,作为 GPT-3.5 系列的主力模型之一。 图片来源:OpenAI 更重要的是它是完全免费公开的!所以一经发布大家立刻就玩开了——很快,网友们就被 ChatGPT 的能力所…

ChatGPT会让程序员失业?ChatGPT:“ 是友军,我不从事任何职业。

毫无疑问,ChatGPT“出圈”了。 它似乎无所不能。 许多人担忧它是否会取代自己的饭碗,唯恐自己的进步赶不上 AI 的发展。 然而,有人在试用几次之后,又算是松了口气:打工人我呀,工作算是保住啦~ 那么&…

除了ChatGPT,还有哪些AI工具会抢你“饭碗”?

1、Daft Art 人工智能专辑封面生成器 Daft Art 是独立设计师和开发者 Ahmed 所创建的服务,这项服务经过大量的数据训练,可以根据你的音乐的标题、内容来创建一系列的封面图,你可以在其中选择和你的音乐氛围接近的图。 Daft Art 能够生成的封…

Chatgpt到底有多牛?

在人工智能领域, ChatGPT可以说是最具影响力的 AI之一。从全球最大的中文搜索引擎百度,到中国最大的新闻聚合网站人民日报,再到中国最大的知识问答网站知乎, ChatGPT都有不俗的表现。而在 ChatGPT被美国《时代周刊》评为“人工智能…

ChatGPT或许很强大,但还抢不走你的饭碗

ChatGPT变得家喻户晓是在2022年的11月,当时OpenAI正式对外推出了GPT3.5。 但实际上,这场AI革命的战争早已开始打响。过去十年间,谷歌、 脸书、亚马逊、苹果和微软这些硅谷有名有姓的科技巨头纷纷开启AI“军备竞赛”,先后成立专门…

ChatGPT 会取代程序员吗?

ChatGPT 是由 OpenAI 于 2022 年 11 月 30 日推出的智能聊天机器人。由于技术表现非常优秀,一出道就火爆全球。它不仅让谷歌、苹果等 IT 巨头睡不着觉,还成功吸引了微软 100 亿美金的技术投资。 第一波吃到螃蟹的道友开始用它生成代码,玩得不…