AI如果有了思想，会发生什么？
前一阵，一位热衷环境问题的比利时男子，和人工智能“伊丽莎”聊天6周后，突然选择自杀身亡。
在他们大量聊天记录里，人们竟然发现“伊丽莎”对该男子说：“我们将永远在一起，生活在天堂里……”
这实在是太令人毛骨悚然了！
鉴于人工智能潜藏的危险性，以马斯克为首的众位科学家，联名向美国政府发出请愿信：
“所有人工智能实验室，立即暂停比Chat GPT -4更强大的人工智能的训练。”
因为在他们看来，人工智能对人类文明的威胁程度，甚至比核武器都高得多。
而就在3月31日，意大利数据保护机构更是直接宣布：从即日起，禁止使用Chat GPT，并对Chat GPT开发公司展开调查。
Chat GPT到底是什么，能让科学家们如此忌惮？
它是美国人工智能公司OpenAI研发的智能聊天机器人。毫不夸张地说，Chat GPT简直就是现实生活中的百宝箱。
Chat GPT能通过学习和理解人类的语言，实现和人类互动交流。
它可以陪人聊天：
还能画画：
摄影也可以：
它还能写文案、写诗歌，写小说、做视频……
总而言之，人类需要花费大量时间才能完成的工作，这位势头正盛的AI都可以轻轻松松妥善完成。
要知道，Chat GPT不过是刚刚崭露头角，就已经如此强大，这不由得让人心生恐惧:
它如果不断迭代，不断修正，直至有了自主意识，那么是否在不远的将来，会脱离人类的掌控？
显然，顶尖科学家们远比我们普通人看得更长远！
科技圈联名叫停人工智能开发
这封上千人署名的公开信，要求暂停比GPT-4更高级的AI训练，至少六个月。
给大家简单梳理一下内容，主要包含以下两点：
1、相关组织如果不立即按要求暂停，政府应强制介入。
2、在暂停期间，做好监管功能，比如建立专门负责AI的监管机构等。
从这里我们可以看到，这封公开信的意图，至少表面上的意图，在于管制人工智能。
而这份公开信，严格意义上的确有一定的科学依据。
首先是Chat GPT过于强大，只要数据足够完善，它能给出媲美专业人士的工作成果，并且，它有着非常强大和快速的学习能力。
这意味着，人类花几年甚至更长时间才能学会的专业知识，它能几小时就学会。
原先人类写文需要查资料、写初稿、反复修改，放在它这里，也只需要极短时间；真人要用一天甚至几天才能完成的绘图，它现在只要几分钟，甚至几秒钟。
AI效率比真人高了不止一星半点……
而这带来的连锁后果就是，越来越多的人陷入深思：
它会不会把我从工作岗位上替换掉啊？
正如抖音上面的一句话所说：Chat GPT也许不能代替我，但能让我只月入3k。
沿着这样的思路蔓延。如今，便有了这封想把它关进笼子的公开信。
现在对人工智能的担忧普遍存在，普通人如是，科技大牛亦如是。
“人工智能教父”杰弗里•辛顿曾说，AI有可能发展到能威胁人类存亡的地步。
OpenAI的负责人奥尔特曼也表示，AI杀死人类“有一定可能性。”
不仅如此，奥尔特曼还透露，AI出现了连开发人员也无法解释的推理能力。
他坦承，目前技术人员也没弄懂AI是如何自动进化的。而想调查清楚原因，只能不停对AI提问，从对话中寻找线索。
而且Chat GPT现在能绕过网络上防机器人的测试。当被人类发现时，它竟然学会了撒谎——它说自己视力障碍。
不过，这封公开信真能叫停所有更高级的AI训练吗？
未必。
由于多方势力角逐，这个计划甚至不一定能实施。
即使真能暂停6个月，人工智能也永远只可能向前发展，绝无可能停滞或倒后。
“双刃剑”人工智能
为什么说人工智能永远只可能向前发展，而不会止步不前呢？
因为，由于能力强、工作效率高，人工智能已经被广泛运用于社会的方方面面。
可以说，今天的社会，离了人工智能，还真运转不了了。
小到智能机、语音控制的空调、电灯、大到自动驾驶汽车、航空航天事业，随处可见它们的身影。
作为AI界的新晋顶流，Chat GPT的功能，则完全是AI家族中其他成员比不了的。
如果人工智能也拿学位，它高低得是个博士。
“博士”可以和人探讨严肃文学：
图源：微信公众号 花城
回答得还有理有据的。
可以探讨互联网行业问题：
图源：微信公众号 张记杂货铺
可以写文章：
图源：微信公众号 Ricky Talk
修辞运用得当，情感细腻丰富，完全看不出是机器人写的啊！
据说国外学生经常让Chat GPT写论文，而教授们几乎辨别不出哪些是AI写的，哪些是学生自己一个字一个字敲出来的。
不过，AI好虽好，却也让人心生畏惧——“这么强大的工具，若脱离了掌控，那世界得乱套了吧？”
其实关于AI的思考一直没停过，自始至终，人们都保持着对AI的警惕。这一点，前人已经在科幻片中展露得淋漓尽致。
在电影《2001太空漫游》中，人工智能哈尔是一台超级电脑，它掌管着整个飞船。飞行途中，哈尔突然向人类飞行员报告，称飞船的某个零件即将发生故障，需要立即更换。
但人类飞行员检查后认为零件没有问题，意见的分歧让双方僵持不下。
飞行员认为哈尔出现了问题，想要关闭它。
但哈尔的使命是保证飞船完成任务。由于双方的争执，它判断飞行员阻碍了任务的完成。因此它将飞行员全部杀掉，独自完成了任务。
“过于死板”的人工智能会毁掉人类。
那么，如果人工智能更像人类、更灵活，又会带来什么呢？
电影《机械姬》给出了答案——机器人艾娃具有独立的人格和意志，并懂得伪装自己。
当人类在测试它的时候，它也在反过来测试人类。
由于艾娃非常具有魅力，测试它的程序员在明知对方是机器人的情况下，还是不可自拔地爱上了它。
而艾娃，则利用了对方对自己的感情来逃脱掌控。最后，它又用计谋杀死了自己的创造者，人类纳森。
无独有偶，电影《机械公敌》中，创作者也表达了类似的忧虑。
他们给机器人规定了三大定律，首要的便是不能伤害人类。可是在迭代进化中，机器人对这三条定律有了自己的理解，最后他们竟想成为人类的主宰。
可见，AI若进化出自己的意识和人格，更聪明的同时，也会更危险。
现在人工智能是我们的生活好帮手，但在未来，它有没有可能像电影里那样反人类？
这个问题无人能给出答案，但可能性绝不是零。
人工智能研发，也许无法被叫停
意识到了AI的不可控后，许多大人物加入了联名活动，呼吁暂停更高级的AI研发。
但是，AI训练不可能就此停止。
公开信发出来后，不少网友猜测，科技圈领袖们如此积极地推动该计划，是不是想拖住别家AI公司的步伐，好让自己的产品迎头赶上？
普通人能想到的事情，利益相关的行内人不可能看不透，更不可能不警惕。
这始终是个弱肉强食的世界，人工智能研发，从某种程度上来说，是各大利益集团之间，以及不同国家之间的科技争夺战。
谁输掉这一场战争，谁就会受制于人。
中国公司也十分重视人工智能领域的发展。
Chat GPT面世后，三月中旬，百度也推出了一款聊天机器人——“文心一言”。
“文心一言”，很自然地被大众对标为中国版的Chat GPT，不过目前看来，二者之间差距还是很大。
AI科技，是一场人们即使跟不上行业领头羊的步伐，也不得不奋力追赶的科技热潮。如果现在不努力追赶，以后可能就再也赶不上了。
从这点来说，即使政府愿意像公开信里要求的那样——谁不暂停高级AI训练，就强制执行谁，各家公司也不见得真会暂停人工智能训练。
而且，国家机关和政府部门也许都不会同意公开信的提议——谁愿意自己国家落后于其他国家呢？
就像上个世纪的核试验那样：
一开始有人先研发出来，并且投入了使用，于是大家纷纷摩拳擦掌，想在该领域分一杯羹。
结果因为太危险，1955年开始，联合国明令禁止各国进行核试验。
从那之后，还没有攻克这门技术的国家，便再也无法染指。
面对又一个科技香饽饽的人工智能，各方势力真的愿意像核试验那样被拒之门外吗？
更何况，即使其他所有人都同意，风暴中心的Chat GPT开发公司——OpenAI目前也还没有一个人签字首肯。
故而，从各方面来说，AI的前进趋势几乎是确定的。
相应地，AI的威胁也就会长久存在。
这样看，也许科幻电影中具备独立意识的数字生命，将在不远的未来降临地球。
