5月24日午后，A股公司科大讯飞的股价突然走出深V造型，闪崩8%。科大讯飞回应称，股价下跌系某生成式AI写作虚假小作文导致，谣传风险为不实消息。

网传的一篇“小作文”谣称“科大讯飞被曝采集用户隐私数据研究人工智能引发争议”，后被网友举证系AI撰写、微博博主发布；另一篇称“美国正在考虑将科大讯飞列入禁止使用美国组件或软件的实体名单”，实际上，科大讯飞2019年10月就在名单上了。

AI时代的又一个“黑色幽默”就此诞生：科技公司创造出来的“魔法”开始攻击科技公司了。还好，写作文的AI不是科大讯飞自家刚推出“星火认知大模型”，不然这个幽默就更黑了。

事实上，这一幕2天前已在美国上演：一张华盛顿五角大楼爆炸的图片在推特上疯传时，美股市场的道指、标普500指数双双短时下跌，后被证明这张图是AI生成的假图。

当生成式AI被科技企业释放给众人时，“生产力革命”开始了，反噬也开始了。

科大讯飞股价闪崩 AI小作文搞得鬼？

5月24日下午13时许，科大讯飞的股价不到半小时内从58.3元跳水至53.5元，短时下挫8%，15分钟后修复至56.5元附近。

股价闪崩后，科大讯飞回应红星新闻等媒体称，股价下跌系某生成式AI写作虚假小作文导致，公司未发生相关事件，谣传风险为不实消息。

很快，网友开始上线“侦查”，想看看打击科大讯飞股价的“小作文”到底是谁写的。

有多名微博博主发图称，有微博用户在5月24日13时44分发文称，“科大讯飞被曝涉嫌大量采集用户隐私数据，并将其用于人工智能研究.....”

 网友扒出的假消息来源

目前，传播这一消息的微博账号已无法搜到，从搜索引擎检索该账号过往信息时显示为“根据博主设置，该内容不可见”，该账号的关注人数在去年就超66万。

另有网友找到了微博消息的疑似出处，“市场疯传的原来是文心一言生成的”，该网友发布的图片显示，百度文心一言大模型对“写一篇科大讯飞出现重大风险的警示文”的回复内容，其中有一整段与传闻信息完全相同。

网传的科大讯飞“小作文”还不止一篇，另一篇还加上了“有外媒援引知情人士”的这样的信源，称美国正在考虑是否将科大讯飞、美亚柏科等加入“实体名单”，禁止它们使用美国的组件或软件。

券商国联海外对此发文辟谣：科大讯飞已于2019年10月被列入实体清单，对公司日常经营未产生重大影响。

网友、券商们纷纷举证，加入打击市场谣言的队列。科大讯飞也表示，公司法务部已对相关信息取证。吃瓜群众只能等个后续结果，希望能让大众看清生成式AI到底是如何打击科技公司的股价。

今年5月初，科大讯飞也推出了生成式AI产品“星火认知大模型”，号称要在今年10月24日前让自家的大模型在中文能力上超越ChatGPT，英文能力与之相当。结果，埋头忙超越的科大讯飞，先被生成式AI搞了股价。

自己吃了亏，“星火”创造者或许能从遭遇中吸取经验，打造出一道谣言防火墙。好在“小作文”没显示出自“星火”，不然这事儿就变得更讽刺了。

“五角大楼爆炸”假图震动美股

无独有偶，就在2天前，美股也被人用AI生成的假消息整跌了。

当地时间5月22日到23日间，一条“华盛顿特区五角大楼大楼附近发生大爆炸”图文消息在推特上疯传，图片里，美国国防总部附近出现了一大团烟雾。图文内容出自认证账号@Bloombergfeed 。

 AI生成的五角大楼假图

到了5月23日上午，这条图文已经到处扩散，而且只用了几分钟，就让美国股市出现了短暂震荡。当日上午，道琼斯指数在10 点06分到10点10分之间下跌80点；标准普尔500指数在10点06分至10点09分的3分钟内下跌了0.26%。不过，两大指数都在下跌的2、3分钟后收阳。

这条消息还直接惊动了阿林顿的消防局和警局。当日上午10点27分，阿灵顿消防局在推特上表示，它和五角大楼部队保护局已“知道社交媒体在网上流传的关于五角大楼附近发生爆炸的报道。”阿灵顿警局则迅速辟谣称，图片和文字都是假的，“五角大楼保留地或附近没有发生爆炸或事故，对公众没有直接危险或危害。”

很快，各种新闻媒体们也开始打假：这张图片是由 AI 软件生成的。加州大学教授哈尼·法里德 (Hany Farid) 也对美媒体指出，“这张图片显示了人工智能合成的典型迹象：建筑物和围栏上存在结构性错误。”

此后，发布图片的帐户@Bloombergfeed被推特暂停。但人们到现在也不知道这张图片是从哪个AI生成软件上来的。

特蕾莎·佩顿是乔治·W·布什政府的前首席信息官，她就此事接受媒体采访表示，一些检测图像真伪的方法是在谷歌上反向查找，比较图像首次发布的时间和它开始传播的时间，并注意是否可以在图像上发现新闻媒体水印，“这次的假五角大楼照片里就没有。”

佩顿承认，凭借当今的技术，“谎言确实比真相传播得更快。”她还提示公众，“虽然政府组织试图解决这个问题，但作为公民，我们将不得不在某种程度上先自我保护，因为政府和法律需要很长时间才能赶上，”她说，“例如，当你看到类似的事情时，在你做出任何重大财务决定之前，要关注新闻媒体机构，看看他们在报道什么。”

但讽刺的是，“五角大楼爆炸”的假消息传播链条上，还真有新闻媒体。分享该图文的各种推特帐户里出现了RT，这是一家拥有300万粉丝的俄罗斯国营媒体。事后，该媒体账号删除了转发的推文。

无论中外，生成式AI已经在人类的驱使下打扰到现实了。造谣中伤搞网暴，仿声仿影骗钱财，AI滥用事件前两天还登上了微博热搜榜首，这两天开始影响金融市场了。

科技公司们打开的“潘多拉魔盒”目前还没有关上的迹象。现在，“魔法”开始反噬制造它的一方了，他们打算如何应对呢？