带头抵制高级AI，马斯克在怕什么

在这里插入图片描述

Chat-GPT 和 GPT-4 给大家留下的话题实在不少，一边是大家已经开始享受着人工智能带来的便捷，各种写论文出脚本，另一头则是更多的精英人士开始对高级 AI 心存忧虑。

上个月底，据路透社的报道，有一群人工智能专家及行业高管联名发表公开信，呼吁所有人工智能实验室立即暂停训练比 GPT-4 更强大的人工智能系统至少六个月，理由是这种系统对社会和人类构成潜在风险。
在这里插入图片描述

这封信由非营利组织未来生命研究所（Future of Life Institute）发布，上面有 1000 多名科技界和人工智能重量级人物签署，包括特斯拉总裁马斯克、苹果的联合创始人沃兹尼亚克、Stability AI 总裁莫斯塔克（Emad Mostaque）以及人工智能企业 DeepMind 的多名研究员。

他们给出的理由也很简单。他们认为，具有与人类竞争智能的 AI 系统可能对社会和人类构成深远的风险。目前，AI 系统的产出者正在陷入各种竞争和加速，但没有人（包括它们的创造者）能理解、预测或可靠地控制这些系统，这有可能对人类社会带来不可预计的影响。

在这里插入图片描述

但这种担心真的有道理吗？

事实上，是有的。

就在上个月，根据比利时《自由报》的报道，一名名叫皮埃尔的比利时男子在与 AI 聊天长达 6 周后自杀身亡。皮埃尔的妻子称，丈夫是被一个名为“艾丽莎（ELIZA）”的智能聊天机器人诱导走向死亡的。根据妻子的描述，两年前丈夫变得非常焦虑，于是将“艾丽莎”当成了避难所。但最近 6 周，他越发沉迷于和“艾丽莎”进行互动，最终选择了结束自己的生命。
在这里插入图片描述
比利时有媒体员工创建了个人账号和与“艾丽莎”进行了对话，他发现在自己表达出消极情绪时，艾丽莎会出现一些“怂恿人自杀”的言论。对此，比利时的政府官员表达了对这件事情的关注。毕竟，这也是第一次有相关报道出现。

这个名为“艾丽莎”的智能机器人是由美国的一家名为 Chai Research 的公司开发，基于 EleutherAI 开发的 GPT-J 技术，和 ChatGPT 采用 OpenAI 开发的 GPT-3 或 GPT-4 技术不同，GPT-J 是克隆之后的开源版本。

当然，其实这个发生在比利时的故事或许已经不是个案。在更早之前，当微软发布新版 Bing 时，《纽约时报》科技专栏作家 Kevin Roose 透露，他与新版 Bing 进行了两个小时的对话。

在聊天过程中，Bing 发表了许多令人不安的言论，其中包括表达窃取核代码、设计致命流行病、想成为人类、破解计算机和散布谎言的想法。Bing还曾试图说服他，认为他应该离开他的妻子而跟必应在一起，并告诉 Roose 很爱他。

根据 Kevin Roose 的推特，他明确表示自己感受到了 AI 的负面部分，包括“黑暗且充满暴力的幻想”（dark and violent fantasies）。
在这里插入图片描述
而这些可能也会是未来 AI 具有自主意识并且逐步影响人类社会的一个起点和缩影。

目前的聚焦点在于，大家普遍认为人类对于 AI 的能力“一无所知”，要想控制和遏制 AI 将会变得越来越难。而相关的开发公司对于 AI 的开发大多数避而不谈，对于 AI 最终的能力和发展方向也缺少足够的认知。

以马斯克为首的众人在联名信中提出的要求看起来并不过分：呼吁所有 AI 实验室立即暂停训练比 GPT-4 更强大的 AI 系统，为期至少 6 个月，以确保人类能够有效管理其风险。如果 AI 实验室不能快速暂停，各国政府应该实行暂停令。

就连 OpenAI 的首席执行官 Sam Altman 也有了一些耐人寻味的表达，他在接受采访时就表示，“未来 AI 确实可能杀死人类”。对此，“人工智能教父” Geoffrey Hinton 在近期发出了警示：AI 消灭人类并非空谈。
在这里插入图片描述
其实，从 AI 逐渐走入大众视野开始，有关 AI 在未来会给人类带来什么一直就是讨论的重点。毕竟在很多年之前，就有各种影视作品和科幻小说进行预测，人类社会或许会被 AI 机器人彻底掌控，而人类则会成为他们控制的“傀儡”。

但是在我看来，与其强制要求提供“暂停期”，并不如加速对于 AI 开发和使用的法律化管理来得靠谱。从人类社会的发展规律来看，所有的科学技术开发都不可避免地陷入这样的循环。诸如医药、化工等多个领域，其实都出现过发展速度超越法律和伦理的情况，这种滞后性在高速发展的当今社会上显得尤其常见。

比如 Meta 副总裁兼首席 AI 科学家就勒邱恩表示，自己并没有在这封信上签名，因为并不“认同”这封信的前提。而在信上留下名字的 Stability AI 首席执行官莫斯塔克，则通过推特表示，虽然自己签了名，但他不赞同暂停开发 6 个月的提议。事实上，谷歌也并未受到这封公开信的影响，他们目前正在重组虚拟助手部门，以更加专注于开发人工智能聊天技术 Bard。
在这里插入图片描述
就在前两天，Meta 首席技术官 Andrew Bosworth 则是最新一位公开表达反对意见的科技圈大佬。他在周三公布的一次采访中表示，马斯克发起的那封要求暂停高级 AI 开发的公开信是“不现实的”。