- 什么是生成式AI?
生成式AI即Generative AI,是继专业生产内容(PGC, Professional-generated Content)、用户生产内容(UGC, User-generated Content)之后的新型内容创作方式,可以在创意、表现力、迭代、传播、个性化等方面,充分发挥技术优势,打造新的数位内容生成与交互形态。
随着科技的发展,AI 写作、AI 配乐、AI 影片生成、 AI 语音合成、以及近段时间风靡全网的AI 绘图,都为创作领域带来一波火热话题, 只要简单输入几个关键词几秒钟之内一幅画作就能诞生。
然而,生成式AI的兴起也伴随着一系列担忧。例如,国外的专家表示,它可能会在美国煽动更多的反犹太主义。对于美国犹太人和其他与仇恨相关的目标群体来说,令人担忧的时刻已经到开了。
众所周知,OpenAI的ChatGPT和谷歌的 Bard 等生成式AI聊天机器人都是通过从网络数据中提取的文字信息来产生回复,人工智能技术发展之迅速、功能之强大,也掀起了一波对于AI能力与潜在威胁的热潮。
由于 AI 模型学习造句的过程是通过数据分析,特别是人们经常在互联网上创建的大量文本来完成的,因此,互联网信息中以及更广泛的社会**同存在的偏见,会变得格外突出。
反诽谤联盟(Anti-Defamation League)在今年 3 月份的一份报告中称,2022 年美国的反犹太主义事件创下新高,比 2021 年增加了 36%。其中包括骚扰、故意破坏和袭击。
联盟的首席执行官乔纳森·格林布拉特指出: “我们非常关注这些模型的创建方式”。他以微软旗下的 Tay 举例,作为一款 2016 年的人工智能聊天机器人,在登陆市场后不久就发布了一系列 不合时宜且有纳粹倾向的推文——这是AI从其他 Twitter 用户那里习得的观念。
乔纳森说,虽然他对 ChatGPT 所做的一些初步改进表示赞赏,但科技公司需要对数据集和算法保持公开和透明。虽然要求透明度的呼声越来越高,但是在大多数情况下,公司不会透露正在使用哪些数据来训练这些模型。
- AI的发展前景
专家表示,人工智能放大的反犹太主义的动态可以成为一个很好的示范作用,用于评估社会上广泛存在的各种歧视与偏见,比如AI技术的传播能力是否会受到种族、性别或 LGBTQ 身份、宗教、移民等因素的影响。
有数据反映,ADL发起了一项针对美国 1007 名成年人的调研,结果发现84% 的人担心生成式AI工具会增加误导性或虚假信息的传播。
- 反数字仇恨中心4 月份的一份报告发现,当提示有关仇恨、错误信息和阴谋的热门话题时,谷歌的 Bard 聊天机器人在 100 次中有 78 次生成带有错误信息的文本。
- 谷歌当时表示, Bard 是一个“早期实验”,容易“不时 [提供] 不准确或不适当的信息。”
- 美国境内发生的与反犹太有关的社会案件
Cyber Well 是一个以色列的非营利平台,负责实时监控社交媒体上的反犹太主义。他们目前正在研究“高整合性数据集”,根据关键词和其他细节识别互联网上的反犹太主义,这些数据可在未来用于训练生成人工智能,并且帮助清除此类内容。
平台负责人科恩·蒙特马约尔说:“我认为,自从社交媒体推出以来,人们对于互联网所造成的社会危害都有一定的了解,网络上的仇恨言论与现实生活中发生的仇恨犯罪之间会有直接联系。” “我们知道,在生成式人工智能方面,我们希望得到更合乎道德的结果。”
- 一份来自Cyber Well 3 月份的报告显示,当前主要社交媒体平台删除此类内容的方式存在很大差异,这些内容违反了公司的服务条款,但仍然在网上激增。
- “由于它的历史和现代表现形式,反犹太主义是最微妙和最分散的仇恨言论形式之一,”科恩说,“但它是开始训练生成人工智能的最佳仇恨言论形式之一,因为它是如此难以琢磨。”
- 关于AI与社会责任的思考
反犹太主义在生成式AI内容中尤其难以解决,因为它的形式多样。它可以是一张图片、一个短语、一种模糊的描述、一条简单的误导信息或贬义的语言。
反数字仇恨中心的研究负责人卡勒姆·胡德 (Callum Hood) 称,生成式人工智能程序“接受了互联网上大量公开可用材料的训练,包括社交媒体内容”。
“你可以淘汰 Stormfront 等网站,但我们知道,反犹太阴谋论偶尔会在主流媒体中露面,”他说,“我们知道吸收这些东西来训练他们的 AI 的科技公司并没有尽最大努力从培训材料中清除错误信息......然后这些东西最终成为答案。”
大多数 AI 开发人员现在表示,他们正在干预以试图根除偏见——既通过预先将其从训练数据集中删除,又通过稍后向聊天机器人添加规则和防护栏。
但该领域的一些公司和领导者——包括 OpenAI 联合创始人埃隆马斯克,他后来与该公司决裂——批评这些努力过于“清醒”,更喜欢他们声称的“言论自由”方法。
鉴于行业内的这种政治分歧,即使大型供应商努力根除偏见和仇恨言论,至少一些广泛使用的人工智能程序可能最终会促进它。