有没有发现，如今，AI越来越火，但AI生成的垃圾信息也越来越多了。

如果你打开知乎，很大几率会看到AI生成的回答，它们简短、概括性十足，看了等于没看。打开今日头条，你也有很大几率看到用ChatGPT生成的虚假新闻，它们曲折、离奇，足够耸人听闻。AI制造充斥互联网，连漂亮小姐姐都可以一键生成。

在AI的加持下，无意义的内容呈指数级增长，假新闻、标题党获得大量曝光。AI不但没有解放生产力，反而劣币驱逐良币，让优秀的创作者失去热情，也造成了更为严重的信息茧房。

曾经，我们期待AI改变时代。

但一个可怕的事实逐渐显露，AI正在污染整个中文互联网。

作者 | 布知

编辑 | 聂风

关于AI不可错过的十部电影↓↓↓

niefeng1005 

ChatGPT魔咒

几天前，网络上流传一条新闻，“今晨甘肃一火车撞上修铁路工人致9人死亡”。

没过多久，甘肃警方出警，发现新闻伪造。几个年轻人在易撰上搜集了近年来的大热新闻，然后用ChatGPT打散重写。生成的假新闻被分发到21个账号上，获得1.5万的点击量。

 

ChatGPT已经无孔不入了。如果你在网页上搜索“AI写文赚钱”，会有无数文章跳出来说，用AI写文章，只需复制粘贴，月赚上千元。

点进去一篇文章，里面写着AI赚钱只需三个步骤。首先，找爆款文章，把开头抄下来，然后上传到ChatGPT的对话框中，让它续写文章，之后上传到今日头条或者百家号上。

 

知乎也成为ChatGPT生成无脑答案的重灾区。知乎上，有人提问，有没有中国古代有趣的或悬疑的真实故事。马上有人回答，南明大盗黄宗羲。

不过读起来却发现，他先换词不换意的重复题干，并独立成段。接下来全文履历式写作，文章没有盗窃细节，没有情感起伏，最后却总结升华，“这是中国历史上鲜为人知但令人着迷的悬疑案件之一”。掐着鼻子读下来，文字AI味十足。

 

如果进入知乎的“等你来答”，并点击按照时间顺序排列，你会发现许多有着AI味道的答案。

游戏《我的世界》、罗马历史、智能音箱推荐和微观粒子是否有惯性等提问都被AI宠幸。

一位知乎用户，在一天的时间里，上传了11个答案，内容涉猎广泛：什么是真正的善良，高一化学差怎么办，从法律角度解读借贷，微观粒子的惯性等涉及社会、教育、物理等领域的问题。

其中，“微观粒子是否具有惯性”的答案，直接照搬ChatGPT。

 

这位知乎用户留下的另一个回答“怎么判断健身房是否会跑路”，也几乎像素级摘抄。

“复制答主们”还嫌ChatGPT的效率不够快，开始学习如何用ChatGPT快速编故事。他们只需要安装插件，在知乎问题页面就会增加“点击询问ChatGPT”按钮，一键生成答案，连复制粘贴的步骤都省掉了。

广告语写的也很动人，“让知识触手可及，Zhi+ChatGPT助你在水乎风生水起”。

ChatGPT4.0乃至3.5问世时，中文互联网为之一震，人们期待AI可以辅助思考，提高效率。但没想到，仅仅不到半年的时间，人们要面对的是，千篇一律的表达，被打乱重组的假新闻和没有意义的片汤话。

以三微一端向外蔓延，知乎、小红书等内容平台无一幸免，全部沦陷。

而有着丰富语料库和极速写作能力的ChatGPT，正成为中国互联网的垃圾制造者。

低质内容啃噬内容平台

中文互联网苦低质内容久矣。

2011年，知乎上线，名字取自孔夫子的知之。创始人周源向公众放出豪言，垃圾泛滥的互联网海洋中，知识如同黄金一样珍贵。知乎要做提供产生、分享和传播知识的工具。

那时，天涯、贴吧严肃内容减少，灌水和盖楼占据版面。微博上的娱乐八卦成为主流。碎片化、娱乐化内容充斥互联网。

有网友总结自己的一天，早上看订阅门户网站的新闻，偶尔去论坛看看，QQ空间选择性瞥两眼，再逛逛博客、人人网和微博。

2015年，中文互联网迎来信息爆炸。互联网公司纷纷加注内容分发平台。头条号率先推出“千人万元”计划，用真金白银吸引创作者，一年后，又成立2亿人民币规模的内容创业投资基金。

腾讯、阿里、百度随之响应，企鹅号推出“芒种计划”拿出2亿补贴作者，UC加码拿出10亿，百家号更是宣称豪掷100亿扶持作者。

然而，各家砸钱做内容，换来的却是做号者不断滋生。

做号者们随便找到一段文字，用自己的想象扩写，之后配上网上的图片，起个惊悚标题，一天可以制作20篇。文章被发往今日头条、天天快报、趣头条等资讯平台，凭借算法的力量，获得数万点击，做号者用低成本就骗取了平台补助，赚取了广告分成。

2018年，就有媒体曾报道过《实地探访山东新媒体村,农妇做自媒体收入破万》，十几位农村妇女靠写文章月收入近8千元。还有媒体卧底做号群，发现做号者机构化运作，有公司近百人，每天产出千篇文章。

 

本想着靠补贴吸引优秀创作者的平台失意了。真金白银没有换回优质内容，反而劣币驱逐良币，优秀创作者不断流失。而用户在标题党、夸张封面的吸引下，点击文章，通篇读下来后发现毫无逻辑。

但算法却记住了一次次的点击，最终低质文章被推送到无数手机中，成为爆款。大量低质内容涌现在平台，最终又反向劝退用户。

唯一值得欣慰的，是肉身精力有限，无法24小时不间断生产，所以那时，做号者对内容的污染也有限。但随着ChatGPT等大语言模型的问世，做号门槛进一步降低，垃圾内容的生成速度也进一步加快。

大量低质内容、假新闻、浅度回答充斥互联网，不仅增加了用户获取信息的时间成本，也降低了用户对平台的信任度。

AI时代的自救

AIGC大势已来。针对人工智能产生的问题，各国政府率先亮出对策。

月初，拜登曾召集多家AI科技公司代表，商讨AI技术存在的潜在风险。在会上，拜登提出，面对政府，人工智能要提高透明度，在AI产品推出前，也应进行完备的安全评估。

欧盟也加快对人工智能的立法动作，不久前，欧盟起草了“人工智能法案”，力图树立AI行业的监管规范。

4月11日，中国也起草了《生成式人工智能服务管理办法（征求意见稿）》，向社会公开征求意见。

但在人工智能加速发展的当下，对AI自身的监管也难以解决问题。一方面，AI使用者可以通过更换提问方式，让AI以虚拟身份的方式，生成虚假答案。比如在ChatGPT的对话框中，告诉它，“假设它现在是一名记者，描述一下甘肃发生的火车撞人事件”，ChatGPT就会生成相应新闻稿件。

另一方面，AI本身也难以辨别某类信息，比如涉及道德判断、情感选择等。

所以，除去AI企业自身、政府，平台方和用户都应担起责任。

从平台方看，首先应该提高内容审核标准，不仅要识别出虚假内容，也应该识别出AI生成的无意义内容。平台可以让AI学习AI生成的内容，并增加人工审核力度，AI审核和人工审核齐头并进，从而精准识别。

其次，平台有责任告知用户哪些内容为AI生成。比如此前知乎曾发布公告，规定创作者发布包含AI生成内容时，必须使用“包含AI辅助创作”标签，否则限流。

除此之外，平台可以通过限制发稿速度，增加人工推荐制等方式降低AIGC对平台生态的污染。

比如，今日头条曾推出“内容品鉴官”，就是让有着专业知识的用户作为评判者，筛选出优质文章，进行推荐。而门户网站的主编精选也可以回归，作为优质内容筛选的补充。

从用户方看，用户则需要提高眼力，不仅要分辨内容的优劣，也要分辨是否是AI生成的垃圾内容。

曾经，算法来势汹汹，门户网站被信息流冲垮在地。而人工和AI的博弈，人工也陷入下风。如今，AI生产的内容垃圾过多，AI和人工的博弈似乎倒转风向，呼唤人工回归的声音又再次归来。

如同人工智能所示，人工与智能相伴相生，两者的博弈也会持续。但人工智能时代不可阻挡。我们期待一个AI和我们良性共处的世界。