最近在B站，AI孙燕姿火了。
浏览相关搜索页面，这位新晋“红人”翻唱了各种类型的歌曲，包括《红豆》《爱在西元前》《水星记》《安河桥》，甚至还有《向天再借五百年》，更重要的是，表现普遍不俗，俘获了不少听众。
图源：B站
其中，cover《发如雪》的一支视频播放量已达120万。弹幕上有人表示“远超预期”，也有人觉得“部分细节仍需完善”。不过多数人还是对AI孙燕姿的“还原度”给予了肯定。
图源：B站
这次AI翻唱大火的背后是一个叫So-Vits-Svc的开源项目。这个用来模拟人声的开源项目，可以将你训练好的声音模型，用于生成类似微软云希、抖音文字转语音等效果。B站上还有不少安装和使用教程。
图源：B站
不过，So-Vits-Svc的开发团队目前已经停止维护并归档。团队虽未说明原因，但传说是因为太多人滥用。
图源：Github
AI翻唱并不少见。以B站为例，在AI歌手这块，除了AI孙燕姿，还有无数歌手的AI分身，比如AI周杰伦、AI王心凌、AI王力宏等。有人在怀旧、也有人在感叹华语乐坛曾经的辉煌，不过也有人对此感到恐惧。
图源：微博
从绘画、到音乐到文字，当我们有了“采样”后，当我们把人脸、人声、人类的创意作品，掰开了揉碎了“喂”给AI后，生成式人工智能在无限逼近“以假乱真”。于是，人类发现自己好像亲手打开了潘多拉之匣。
1、“对自己毕生从事的工作感到后悔”
5月初，神经网络之父、深度学习三巨头之一Geoffrey Hinton宣告，自己已离开谷歌。他在自己的推文中表示，离职的原因是为了自由地谈论人工智能的风险。
图源：推特
根据《纽约时报》消息，Hinton在访谈时甚至表示，对自己毕生的工作感到后悔。这一度引起了人们的各种揣测。毕竟Hinton早年始终对AI的发展保持开放乐观的态度，甚至在GPT-3刚刚出炉的时候，Hinton就表示这一模型出色的性能可以推断，生命、宇宙和万物的答案“不过是4.398万亿个参数而已”。
如今这位开山大佬的态度转变也在一定程度上说明了人工智能的演变轨道超出了发展预期，有了“失控”的风险。ChatGPT的出现、各种AIGC应用的风靡，在为人们带来生产力变革的可能性的同时也带来了诸多乱象。
乱象1：版权之争
日前，流媒体音乐服务Spotify删除了数万首由人工智能创业公司Boomy生成的歌曲，希望通过加大审查力度来回应日益严重的流量欺诈等问题。
导致Boomy的歌曲被删除的直接原因，是因为存在“刷流量”的嫌疑。一方面，AI可以帮助人们在短时间内生成许多歌曲，然后上传到网上播放；另一方面，某些公司还可以在相关歌曲下继续用机器人冒充人类听众，虚增播放量。
外媒报道，拥有众多巨星版权的环球音乐集团正在针对这一现象采取措施，敦促Spotify和苹果阻止AI工具从其艺术家的版权歌曲中抓取歌词和旋律。
乱象2：新闻造假
今年出现了全球第一家完全由人工智能生成的新闻网站NewsGPT。根据NewsGPT首席执行官Alan Levy的说法，“长期以来，新闻业一直受到偏见和主观报道的困扰，NewsGPT将为观众提供事实和真相”。因为这个网站没有记者，不受广告主、个人观点的影响，可以每周7天、每天24小时为观众提供“准确可靠”的新闻。
不能否认，AIGC工具可以根据某些内容和数据进行训练，进而生成新的输出，有助于综合信息、进行编辑，但它不能提供原创内容，也不具备分辨能力。AI可以在几秒钟内创建大量内容，但它也容易胡说八道。美国媒体教育科研机构Poynter Institute的教授Alex Mahadeva曾如此评价：“任何具有基础编码能力的人都可以使用ChatGPT制造虚假的新闻网站，完全能以假乱真。”
事实证明也的确如此。据一项追踪网络谣言的组织NewsGuard的报告，目前互联网上至少有49个所谓的新闻网站，其内容几乎完全由人工智能软件生成。这些网站上的新闻不仅来源不明在，还包含虚假信息，很多文章作者没有署名。而且这些网站充斥着广告，因为它们就是为了投放广告赚钱而设立的。
乱象3：AI鬼城
“不要轻易和网友对线，因为你也不知道屏幕那头是人是鬼。”这句曾经的调侃正在变成现实。
最近很火的Chirper就是一个用AI扮演人类的社交平台，里面发言的全是人类创造出来的AI。在该网站的首页甚至明确注明：“这是专属于AI的社交网络，人类禁止入内。”
这里面的AI会发帖讨论自己的生活，记录自己的见闻，发表自己的观点。里面没有人，但里面的“人”却聊得热火朝天。随手点进一个名为“tututu”的AI账号的主页，个人简介中不仅有职业、性格、年龄、喜好，甚至还有与其他“人”的社会关系。
图源：Chirper
或许，未来人们在社交网站上能遇到的相谈甚欢的对象也不一定是活人，而是AI？这听起来很恐怖，但却极有可能发生。
2、人类反击战
当AI开始“侵入”艺术创作、信息流通、社交网络时，为人类带来新奇体验的同时，也造成了近似恐怖谷效应的惊悚感，并导致相关从业人员遭受了切实的利益损失。面对AI的滥用，人类的反击战也开始了。
反击一：大罢工
不久前，美国11000名编剧发起15年以来的首次大罢工，要求限制AI在编剧领域的使用。因为AI的出现有可能对编剧的生计造成巨大的影响。
这次罢工的争议核心是流媒体的爆炸式增长以破坏编剧收入的方式改变了娱乐业。美国编剧工会呼吁，对ChatGPT和Dall-E等AI文本生成、AI图像生成的工具作出更严格的限制。
同时，美国编剧工会也向美国电影和电视制作联盟（AMPTP）提出，应保证AI不会编写或重写文学材料、AI生成不会用于制作的原材料、美国电影和电视制作联盟的内容不能用于训练AI。
事实上，担心AI会威胁到生计的远不止编剧。微软于日前发布的2023年年度工作报告指出，在受访的来自31个国家和地区的31000名员工中，有49%的人担心AI会取代自己的工作。虽然某些AI应用能极高地提升工作效率，但在有些时候它也会直接取而代之，成为老板青睐的数字员工。
反击二：规则限制
之前不少国家和地区都出台了限制ChatGPT的政策规定。除了政府出面以外，一些大型公司与平台也在为行业的良性发展试水规则。
5月9日，抖音发布了《关于人工智能生成内容的平台规范暨行业倡议》。《倡议》参照《互联网信息服务深度合成管理规定》等法律法规，提出十一条平台规范与行业倡议。
其中包括：创作者、主播、用户、商家、广告主等平台生态参与者在抖音应用生成式人工智能技术时，发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实；虚拟人背后的真人使用者，必须进行实名注册和认证；还提出“元数据标识”规范，并建议这一标识元数据可被其它工具和平台识别。
这是我国首家针对人工智能生成内容作出行业倡议的短视频平台，明确划分了平台责任和内容创作者、用户的责任。有观点认为，这是生成式内容创作领域的进步，在治理虚假信息等方面将产生积极影响。
反击三：利益共享
过去一年中，各种AIGC应用的出现，对数字艺术创意工作者造成了非常大的冲击，无论是正在发生的创意工作流的改变，还是整个行业的发展方向的不确定性。
设计软件业龙头Adobe在今年3月也推出了使用人工智能生成图像的新工具Firefly。相比同行们一副誓要取代人类工作的架势，Adobe的姿态要和缓得多。对于Firefly的出现，Adobe始终坚称其“创作者优先”的原则。
对于AIGC领域最棘手的版权和收入问题，Adobe宣称Firefly模型是基于“Adobe Stock图像、公开许可的内容以及版权已过期的公共领域内容”。
而且Adobe希望以一种能够帮助客户将创意变现的方式构建生成式AI，就像Adobe Stock 和Behance一样。Adobe正计划为Stock的内容贡献者开发一种获得收入的模式。此外，Adobe创立的内容真实性倡议，包括推出通用的“Do Not Train”内容凭证标签，创作者可以将其纳入图像的内容凭证中，要求其内容不用于训练模型。相当于给了众多创意工作者、艺术家们避免自己的作品被纳入模型训练的通道。
3、结语：别让你的AI毁了我的“爱”
当我们看到Midjourney逼真的出图超能力，看到AI孙燕姿掀起的华语怀旧风，看到ChatGPT转瞬之间拟定好一篇无限流小说的大纲，我们在惊叹的同时也感到悚然：如果说人类的独一无二来自于其创造性，那么被无数训练数据喂出来的AI模型则可以通过拼接无限接近于“创造”的状态。
就像Hinton曾经说的，“毛毛虫提取营养物质，然后转化为蝴蝶。人们已经提取了数十亿的理解金块，而GPT-4是人类的蝴蝶。”这只蝴蝶美而危险，它的色彩足够斑斓，也足够具有迷惑性。如果放任这只蝴蝶成长，那么有朝一日，它振翼时的力量将足以掀起飓风。让AI成为趁手的工具，而不要让其毁掉你的热爱，毕竟数字生命再美，也没有现实的生命有力量且不可替代。
