- 什么是生成式AI？
生成式AI即Generative AI，是继专业生产内容（PGC, Professional-generated Content）、用户生产内容（UGC, User-generated Content）之后的新型内容创作方式，可以在创意、表现力、迭代、传播、个性化等方面，充分发挥技术优势，打造新的数位内容生成与交互形态。
随着科技的发展，AI 写作、AI 配乐、AI 影片生成、 AI 语音合成、以及近段时间风靡全网的AI 绘图，都为创作领域带来一波火热话题, 只要简单输入几个关键词几秒钟之内一幅画作就能诞生。
然而，生成式AI的兴起也伴随着一系列担忧。例如，国外的专家表示，它可能会在美国煽动更多的反犹太主义。对于美国犹太人和其他与仇恨相关的目标群体来说，令人担忧的时刻已经到开了。
众所周知，OpenAI的ChatGPT和谷歌的 Bard 等生成式AI聊天机器人都是通过从网络数据中提取的文字信息来产生回复，人工智能技术发展之迅速、功能之强大，也掀起了一波对于AI能力与潜在威胁的热潮。
由于 AI 模型学习造句的过程是通过数据分析，特别是人们经常在互联网上创建的大量文本来完成的，因此，互联网信息中以及更广泛的社会**同存在的偏见，会变得格外突出。
反诽谤联盟（Anti-Defamation League）在今年 3 月份的一份报告中称，2022 年美国的反犹太主义事件创下新高，比 2021 年增加了 36%。其中包括骚扰、故意破坏和袭击。
联盟的首席执行官乔纳森·格林布拉特指出： “我们非常关注这些模型的创建方式”。他以微软旗下的 Tay 举例，作为一款 2016 年的人工智能聊天机器人，在登陆市场后不久就发布了一系列 不合时宜且有纳粹倾向的推文——这是AI从其他 Twitter 用户那里习得的观念。
乔纳森说，虽然他对 ChatGPT 所做的一些初步改进表示赞赏，但科技公司需要对数据集和算法保持公开和透明。虽然要求透明度的呼声越来越高，但是在大多数情况下，公司不会透露正在使用哪些数据来训练这些模型。
- AI的发展前景
专家表示，人工智能放大的反犹太主义的动态可以成为一个很好的示范作用，用于评估社会上广泛存在的各种歧视与偏见，比如AI技术的传播能力是否会受到种族、性别或 LGBTQ 身份、宗教、移民等因素的影响。
有数据反映，ADL发起了一项针对美国 1007 名成年人的调研，结果发现84% 的人担心生成式AI工具会增加误导性或虚假信息的传播。
- 反数字仇恨中心4 月份的一份报告发现，当提示有关仇恨、错误信息和阴谋的热门话题时，谷歌的 Bard 聊天机器人在 100 次中有 78 次生成带有错误信息的文本。
- 谷歌当时表示， Bard 是一个“早期实验”，容易“不时 [提供] 不准确或不适当的信息。”
- 美国境内发生的与反犹太有关的社会案件
Cyber Well 是一个以色列的非营利平台，负责实时监控社交媒体上的反犹太主义。他们目前正在研究“高整合性数据集”，根据关键词和其他细节识别互联网上的反犹太主义，这些数据可在未来用于训练生成人工智能，并且帮助清除此类内容。
平台负责人科恩·蒙特马约尔说：“我认为，自从社交媒体推出以来，人们对于互联网所造成的社会危害都有一定的了解，网络上的仇恨言论与现实生活中发生的仇恨犯罪之间会有直接联系。” “我们知道，在生成式人工智能方面，我们希望得到更合乎道德的结果。”
- 一份来自Cyber Well 3 月份的报告显示，当前主要社交媒体平台删除此类内容的方式存在很大差异，这些内容违反了公司的服务条款，但仍然在网上激增。
- “由于它的历史和现代表现形式，反犹太主义是最微妙和最分散的仇恨言论形式之一，”科恩说，“但它是开始训练生成人工智能的最佳仇恨言论形式之一，因为它是如此难以琢磨。”
- 关于AI与社会责任的思考
反犹太主义在生成式AI内容中尤其难以解决，因为它的形式多样。它可以是一张图片、一个短语、一种模糊的描述、一条简单的误导信息或贬义的语言。
反数字仇恨中心的研究负责人卡勒姆·胡德 (Callum Hood) 称，生成式人工智能程序“接受了互联网上大量公开可用材料的训练，包括社交媒体内容”。
“你可以淘汰 Stormfront 等网站，但我们知道，反犹太阴谋论偶尔会在主流媒体中露面，”他说，“我们知道吸收这些东西来训练他们的 AI 的科技公司并没有尽最大努力从培训材料中清除错误信息......然后这些东西最终成为答案。”
大多数 AI 开发人员现在表示，他们正在干预以试图根除偏见——既通过预先将其从训练数据集中删除，又通过稍后向聊天机器人添加规则和防护栏。
但该领域的一些公司和领导者——包括 OpenAI 联合创始人埃隆马斯克，他后来与该公司决裂——批评这些努力过于“清醒”，更喜欢他们声称的“言论自由”方法。
鉴于行业内的这种政治分歧，即使大型供应商努力根除偏见和仇恨言论，至少一些广泛使用的人工智能程序可能最终会促进它。
