生成式AI机器人将如何平衡“网络言论”与“社会责任感”之间的关系?

  • 什么是生成式AI?
生成式AI即Generative AI,是继专业生产内容(PGC, Professional-generated Content)、用户生产内容(UGC, User-generated Content)之后的新型内容创作方式,可以在创意、表现力、迭代、传播、个性化等方面,充分发挥技术优势,打造新的数位内容生成与交互形态。
随着科技的发展,AI 写作、AI 配乐、AI 影片生成、 AI 语音合成、以及近段时间风靡全网的AI 绘图,都为创作领域带来一波火热话题, 只要简单输入几个关键词几秒钟之内一幅画作就能诞生。
然而,生成式AI的兴起也伴随着一系列担忧。例如,国外的专家表示,它可能会在美国煽动更多的反犹太主义。对于美国犹太人和其他与仇恨相关的目标群体来说,令人担忧的时刻已经到开了。
众所周知,OpenAI的ChatGPT和谷歌的 Bard 等生成式AI聊天机器人都是通过从网络数据中提取的文字信息来产生回复,人工智能技术发展之迅速、功能之强大,也掀起了一波对于AI能力与潜在威胁的热潮。
由于 AI 模型学习造句的过程是通过数据分析,特别是人们经常在互联网上创建的大量文本来完成的,因此,互联网信息中以及更广泛的社会**同存在的偏见,会变得格外突出。
反诽谤联盟Anti-Defamation League在今年 3 月份的一份报告中称,2022 年美国的反犹太主义事件创下新高,比 2021 年增加了 36%。其中包括骚扰、故意破坏和袭击。
联盟的首席执行官乔纳森·格林布拉特指出: “我们非常关注这些模型的创建方式”。他以微软旗下的 Tay 举例,作为一款 2016 年的人工智能聊天机器人,在登陆市场后不久就发布了一系列 不合时宜且有纳粹倾向的推文——这是AI从其他 Twitter 用户那里习得的观念。
乔纳森说,虽然他对 ChatGPT 所做的一些初步改进表示赞赏,但科技公司需要对数据集和算法保持公开和透明。虽然要求透明度的呼声越来越高,但是在大多数情况下,公司不会透露正在使用哪些数据来训练这些模型。
  • AI的发展前景
专家表示,人工智能放大的反犹太主义的动态可以成为一个很好的示范作用,用于评估社会上广泛存在的各种歧视与偏见,比如AI技术的传播能力是否会受到种族、性别或 LGBTQ 身份、宗教、移民等因素的影响。
有数据反映,ADL发起了一项针对美国 1007 名成年人的调研,结果发现84% 的人担心生成式AI工具会增加误导性或虚假信息的传播。
  •         反数字仇恨中心4 月份的一份报告发现,当提示有关仇恨、错误信息和阴谋的热门话题时,谷歌的 Bard 聊天机器人在 100 次中有 78 次生成带有错误信息的文本。
  •         谷歌当时表示, Bard 是一个“早期实验”,容易“不时 [提供] 不准确或不适当的信息。”

- 美国境内发生的与反犹太有关的社会案件
Cyber Well 是一个以色列的非营利平台,负责实时监控社交媒体上的反犹太主义。他们目前正在研究“高整合性数据集”,根据关键词和其他细节识别互联网上的反犹太主义,这些数据可在未来用于训练生成人工智能,并且帮助清除此类内容。
平台负责人科恩·蒙特马约尔说:“我认为,自从社交媒体推出以来,人们对于互联网所造成的社会危害都有一定的了解,网络上的仇恨言论与现实生活中发生的仇恨犯罪之间会有直接联系。” “我们知道,在生成式人工智能方面,我们希望得到更合乎道德的结果。”
  • 一份来自Cyber Well 3 月份的报告显示,当前主要社交媒体平台删除此类内容的方式存在很大差异,这些内容违反了公司的服务条款,但仍然在网上激增。
  • “由于它的历史和现代表现形式,反犹太主义是最微妙和最分散的仇恨言论形式之一,”科恩说,“但它是开始训练生成人工智能的最佳仇恨言论形式之一,因为它是如此难以琢磨。”
  • 关于AI与社会责任的思考
反犹太主义在生成式AI内容中尤其难以解决,因为它的形式多样。它可以是一张图片、一个短语、一种模糊的描述、一条简单的误导信息或贬义的语言。
反数字仇恨中心的研究负责人卡勒姆·胡德 (Callum Hood) 称,生成式人工智能程序“接受了互联网上大量公开可用材料的训练,包括社交媒体内容”。
“你可以淘汰 Stormfront 等网站,但我们知道,反犹太阴谋论偶尔会在主流媒体中露面,”他说,“我们知道吸收这些东西来训练他们的 AI 的科技公司并没有尽最大努力从培训材料中清除错误信息......然后这些东西最终成为答案。”
大多数 AI 开发人员现在表示,他们正在干预以试图根除偏见——既通过预先将其从训练数据集中删除,又通过稍后向聊天机器人添加规则和防护栏。
但该领域的一些公司和领导者——包括 OpenAI 联合创始人埃隆马斯克,他后来与该公司决裂——批评这些努力过于“清醒”,更喜欢他们声称的“言论自由”方法。
鉴于行业内的这种政治分歧,即使大型供应商努力根除偏见和仇恨言论,至少一些广泛使用的人工智能程序可能最终会促进它。

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/69840.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

马斯克:OpenAI变了,原是为制衡谷歌现在却被微软有效控制

雷递网 乐天 2月18日 流行聊天机器人ChatGPT的爆火,让OpenAI爆火。 OpenAI是由特斯拉CEO马斯克、阿尔特曼等六人在2015年联合创办,最初为非营利性机构。 不过,2018年马斯克宣布退出,2019年,OpenAI宣布重组为一家“有限…

Alist挂载百度网盘

Alist挂载百度网盘 话不多说,直接上图 挂载路径:在主页显示的名称 刷新令牌: 登录网页版后点击此链接获取 Toolshttps://tool.nn.ci/baidu/callback?code40dd85591f3f459c89cd8a7c20d3121f 下载接口:选择【非官方】 其他项…

chatgpt赋能python:Python如何扩容百度网盘?

Python如何扩容百度网盘? 随着网络的普及,人们越来越倾向于将数据存储在云端。而百度网盘作为国内最流行的云存储平台之一,其流量和存储资源限制也成为用户的痛点。因此,本文将介绍如何使用Python扩容百度网盘,以解决…

mac笔记本无法访问百度网盘以及pan.baidu.com的域名

今天很久之前就不能访问百度网盘以及pan.baidu.com的域名,尝试了以下几种方法都无法解决 1、打苹果的客服,各种操作 2、重新升级最新的mac系统 3、重新卸载安装百度网盘 4、删除Libarary中百度网盘有关的目录 最终自己通过删除/etc/hosts文件中的 …

【媒体广告】的现状与未来发展趋势!

媒体广告是一种重要的市场推广手段,随着技术的不断发展和市场环境的变化,媒体广告也在不断地演变和发展。本文将从以下几个方面探讨媒体广告的发展趋势。 一、数字化、数据化和智能化趋势 随着互联网和移动互联网技术的发展,数字化、数据化…

如何评估互联网广告效果

广告传播影响受众的认知、心理、行为和态度,由此带来的直接和间接广告效益,对广告效果的评估的也有着多方面要素和维度。 和程序化广告相关的8个效果维度: 1.ROI Return On Investment(投资回报率),简称…

社交媒体上的广告对客户体验的影响有多大?

社交媒体已成为一种广告机器。品牌涌入这些平台将产品展示在消费者面前,并创建了大量影响者计划来推动用户进行购买。在当今的数字时代,社交媒体广告在建立客户忠诚度方面的效果如何,消费者对此有什么看法? 以下是我们的社交媒体…

智慧农业共享农场菜园,家禽果树认养小程序APP源码开发的UI设计样式

一个共享农场系统的UI设计样式是怎么样的?哪些功能是必须有的?那么咱们就来分析下,共享农场的盈利点在哪里。 1.预售农产品 如何预售农产品?就是将农场空闲土地上的农作物,未挂果的果树,年幼家禽作为成熟…

关于随机地图生成

一直很想做一个模拟现实世界的游戏,最近开始动手了!既然是一个世界那么地图自然是第一个要解决的问题,网上有很多生成地图的教程,但找不到一个完整的文章。经过几天的研究总结了一些问题。 第一步:散列函数 想在计算…

【超级干huo】用c语言制作游戏地图【可自定义】

目录 1.完整代码 2.运行成果 博主相信每个人都有想做游戏的冲动&#xff0c;那么本文将给出一个用c语言制作的可自定义大小的游戏地图&#xff08;包含player&#xff0c;撞墙设置&#xff09;。废话不多说&#xff0c;直接给出全代码&#xff01; 1.完整代码 #include<…

果园游戏农场种植游戏小程序APP

本游戏是一款休闲娱乐种植游戏&#xff0c;可集成在商城系统里面做积分引流&#xff0c;以供用户娱乐&#xff0c;也可以APP对接广告联盟&#xff0c;从而使运营者获得相应广告收益。 功能介绍 1.土地:农场土地共分为12块&#xff0c;新用户默认1块。每块土地4个级别,分别为普…

农场主人喂食问题

创建一个包 **extends:**是java中子类继承父类的一种方式&#xff0c;是子类对父类的一种扩展&#xff08;父亲没有实现的&#xff0c;儿子替他实现&#xff09; **使用方法&#xff1a;**class B extends A{}------------这样B类就可以使用A类中定义的public、protected的属性…

未来可期的 AI 编程:到底是程序员的终极解放还是失业的开始?

过去的一个月里&#xff0c;我一直在研究 ChatGPT&#xff0c;也与很多人&#xff08;普通人、程序员、创业公司、风投等等&#xff09;进行了交流。不论是业内&#xff08;编程&#xff09;还是业外&#xff0c;人们对于 AI 编程的观点都是&#xff1a;未来可期 —— GPT&…

领英封号怎么办,如何避免封号?

领英封号怎么办&#xff0c;如何避免封号&#xff1f; 使用领英的朋友都知道&#xff0c;领英是很容易封号的。辛辛苦苦经营到几千好友的账号&#xff0c;第二天醒来一登录&#xff0c;提示“您的账号受到限制&#xff0c;暂时无法使用”。 大家肯定不愿看到这样的情况发生&a…

ChatGLM-6B int4的本地部署与初步测试

0. 前言 本次笔记是对于实习初期&#xff0c;初次接触到LLM大模型的一些记录。内容主要集中在对于环境的配置的模型的运行。 本人的硬软件配置如下&#xff1a; GPU: RTX3060 6GB显存 内存: 32GB 系统: Windows 11 1. Anaconda3 Pycharm 的环境搭建 我使用的是Anaconda3 PyCh…

本地部署 ChatGLM2-6B

本地部署 ChatGLM2-6B 1. 什么是 ChatGLM2-6B2. Github 地址3. 安装 Miniconda34. 创建虚拟环境5. 安装 ChatGLM2-6B6. 启动 ChatGLM2-6B7. 访问 ChatGLM2-6B8. API部署9. OpenAI 格式的流式 API 部署10. 命令行部署11. ChatGLM2-6B 的推理参数含义 1. 什么是 ChatGLM2-6B Cha…

自然语言处理(4)——语料库和语言知识库

NLP学习笔记&#xff08;4&#xff09;——语料库和语言知识库 1. 基础知识2.语料库技术的发展第一个阶段&#xff1a;早期&#xff0c;20世纪五十年代中期之前二个阶段&#xff1a;沉寂时期&#xff0c;1957-20世纪八十年代初第三个阶段&#xff1a;复苏与发展时期&#xff0c…

Nltk——语料库

NLTK使用方法总结 NLTK&#xff08;natural language toolkit&#xff09;是一套基于python的自然语言处理工具集。 安装与功能描述 首先&#xff0c;打开终端安装nltk。 pip install nltk 打开Python终端并输入以下内容来安装 NLTK 包 import nltk nltk.download() 语言处理…

自然语言处理NLP(2)——统计语言模型、语料库

在上一部分中&#xff0c;我们已经了解了自然语言处理的基本知识&#xff1a;自然语言处理NLP&#xff08;1&#xff09;——概述。 在这一部分中&#xff0c;我们将简要介绍NLP领域的基本模型——语言模型&#xff0c;我们还将对自然语言处理的基础——语料库的概念进行介绍。…

一起来学自然语言处理----语料库和词汇资源

语料库和词汇资源 1、自然语言工具包&#xff08;NLTK&#xff09;2、获取文本语料1.语料库古腾堡语料库网络和聊天文本布朗语料库路透社语料库就职演说语料库标注文本语料库在其他语言的语料库语料库结构载入自己的语料库 2.条件频率分布理解条件频率分布使用双连词生成随机文…