能体验GPT-4模型的ChatGPT，因需求量太大而暂停了升级为Plus的功能，算力似乎爆表了。

这下，有钱都没地儿充会员了，用户们暂时需要回到“GPT-3.5时代”。这或许留给人类一个空窗期，可以好好思考一下前段时间上千名科技精英签名呼吁暂停“比GPT-4更强的大模型实验”的事儿，他们希望能提前应对AI的风险问题。

当前，人们肉眼可见的AI风险是造假，生成式AI大模型在人类的脑洞下，给教皇“穿上了巴黎世家的羽绒服”，让马斯克陷入了“和通用汽车女CEO约会”的绯闻中，还凭空捏造了“2001年俄勒冈州9.1级大地震”……

随着AI生图的效果越来越优秀，真实与虚假的界限正在模糊，无论光影、人物神态、年代质感，AI生成的图几乎能达到以假乱真的程度。当有人用AI 制造假新闻、假历史时，我们该如何区分真伪，应对虚假造成的影响？

当GPT-4因算力爆表有限地向人类开放时，我们或许该冷静的看看，当前的AI风险线构建到了哪种程度。

造假潮

86岁的罗马教皇方济各“身着束腰白色羽绒服”的图片，在引发几千万次浏览后被AI生图应用Midjourney澄清，这是利用该应用创建并发布在Reddit上的假照片。

特斯拉CEO 埃隆·马斯克也亲自下场辟谣自己的绯闻照，“我永远都不会穿（图片中）那件外套”。那张图片里，他和通用汽车的CEO玛丽·芭拉“被十指紧扣，街头约会”。这张图在几小时内传播了超过700万次。

有关教皇（左）与马斯克的假图

知名模特 Chrissy Teigen 都被“时尚教皇”的图片骗到了，“我以为教皇的羽绒服照片是真的，完全没有多想，”她不禁感慨，“在高科技的未来我简直活不下去。”

如果这两张图片尚处于名人“花边”的范畴里，那么接下来的AI造假图带来的影响就大得多了。

在Reddit论坛上，有网友分享了一组画面和质感偏向20年前的“新闻图片”。

图片里，人们在机场里露出惊恐的表情；

街道上空的大桥坍塌，有车辆被压在了桥下；

城市的废墟里，救灾人员忧虑地面对着镜头；

这组照片被描述为“2001年卡斯卡迪亚9.1级大地震，引发的海啸摧毁了俄勒冈州”。但事实上，这场灾难并不存在，图片是网友用Midjourney生成的。

而这种“生造历史”的图片在Reddit论坛的Midjourney板块中正在成为潮流。

网友Arctic_Chilean就伪造了“2012年7月超级太阳风暴造成大规模停电”的场景。真实历史是，太阳在2012年7月23日确实产生过强烈的日冕物质抛射，但这次抛射与地球擦肩而过。造图的网友假设“如果地球没有这么幸运”，那么“全球电网和卫星等设施将遭受严重破坏”，“长达数月的大规模停电”就会发生，“北半球还会出现美丽的极光”。

网友制作的假“太阳风暴致停电”图

Arctic_Chilean试图将这些假设利用AI生图应用变成可视化的场景，搞了20多张虚构的图片。太阳风暴的图片有明显的渲染痕迹，工作人员监控城市电网的图片很像电影场景，但NASA的发布会和机场的人群照，一般人看上去很难辨别真伪。

另一位Reddit网友kawaiilovecraft选择了更遥远的年代，生造了“1977年苏联蓝色瘟疫事件”的组图。照片中，田野和树木呈现蓝色，人类穿着白色防护服行动，俄罗斯风格的城市里浓烟四起。

网友制作的假“苏联蓝色瘟疫事件”组图

或许是因为70年代苏联的照片库存较少、无法为Midjourney提供足够的训练，这组“历史照片”虽然做旧了，但在画面上反倒呈现出一种诡异的不真实感。

制作“太阳风暴致停电”组图的在Arctic_Chilean事后总结，Midjourney善于捕捉2012年的新闻画面的风格，在生成天际线和地标上的极光照片方面也能达到逼真效果，但无法生成城市断电的场景；而“苏联蓝色瘟疫”图组的评论里出现了为图片效果“找补”的评论， “冷战时期铁幕的另一边发生过很多不为人知的事，到现在也没有解密。你的图片提供了一个不错的脑洞”。

我们不排除网友的动机是试验Midjourney生图到底有多逼真，如果这些图片用于虚构的文学、影视等创作，至少观众还能在“知假”的底线上品评创作意义；但我们也不能排除这些假图在不断传播的过程中“失假”，被当成真事儿贴进维基百科。

假信息恐慌

假图文进入维基百科被当成真事儿，这可不是危言耸听。

去年6月，一起发生在中文维基百科上的造价事件被揭露后，网友直呼“大无语”。

用户 “折毛”编造了100多万字图文并茂的“古罗斯史”，3年都没人发现。直到一位爱好俄罗斯历史的网文作者“伊万”查找背景资料时，对词条“卡申银矿”存疑，多方查证后发现“拥有300多年历史的银矿资源”根本不存在，顺腾摸瓜，“伊万”揭露了这个存在严重造假的“古罗斯史”。而这3年里，“折毛”被不少用户视为领域权威，胡编的历史词条甚至被评为“典范条目”或“优良条目”，还获得了网站审查的“巡查豁免”。

“折毛”被封号，他也在网上为造假道了歉。

想象一下，假如这里面还有生成类AI参与，把文本和图片大数据真真假假地混杂一下，没个专业的人士，假历史可能更难被发现。如果无人矫正，一直这么流传下去，假的也没准变成真的，作假者甚至会伪装成权威。

人们常说“有图有真相”，而AI终于让“有图也不见得是真相”成了现实，一些人也开始积累辨别AI图片的技巧，比如看手指、看光影细节等。

但是，上个月发布的Midjourney V5 版本已经基本解决了画不好手指的问题。一位正在使用该应用的画师表示，新版本生成的图片中仍有手部不自然的情况，但此前版本中的手指数量错误和形态扭曲等问题已经消失。

如果再不树立“标注规则”，分辨真实与伪造或许会越来越难。而AI制图的另一个问题是，制作图片的门槛低到约等于没有。

用户只需要发出指令，各种 AI 生图工具就可以迅速生成海量的逼真图片。在全网各个AI图片社区，人们讨论最多的是，如何写指令才能得到预期效果。当然，人们想得到理想的图片还需要较为复杂的指令，但即便如此，AI制图的门槛仍然比绘画和PS小得多。

比如，火爆全网的“时装教皇”就是一个普通人的娱乐之作。创作者巴勃罗·泽维尔（Pablo Xavier）是一名31岁的建筑工人，在采访中，他称完全没料这张图会走红。谈到创作历程，泽维尔说，灵感来自于“嗑药时产生的幻觉”，“我忽然想生成一张教皇的图，接着各种想法像潮水一样涌来，巴黎世家的羽绒服、巴黎或罗马的街道等等”。

生成虚假图片的技术在互联网上存在了很久，但一直都只在小范围内引起讨论。在知乎上就有这样一个问题——有哪些匪夷所思的合影？网友纷纷贴出不为人知的名人合影，如特朗普和迈克尔·杰克逊，普京和里根，卓别林和梅兰芳等等。