藏在GPT背后的治理分歧:那些赞同和反对的人们|AI百态(下篇)

AGI的火种正在燎原。

        一面是无可否认的AI生产力,正在赋能千行百业;而另一面,这团火似乎烧向了我们不可控的隐秘角落。

        在《AI百态(上篇)——ChatGPT的“N宗罪”》中,我们提到监管重锤在落下,意大利率先下达禁令,法国、爱尔兰、德国等不少国家开始效仿,准备封杀ChatGPT,而加拿大隐私专员办公室(OPC)就在近日宣布将对OpenAI展开调查,指控ChatGPT在未经同意的情况下收集、使用和披露个人信息。

        伴随呼啸而来的争议和监管风暴,GPT走在了命运的关口。

        阿西莫夫的科幻世界中,在底层逻辑上给人工智能设置了三大定律,保证它们作为工具,无法威胁到主人。那么在新世界里,又该如何建立AI世界的文明守则呢?

继续 or 暂停?一场围绕AI的激辩正在展开。

若按外媒《Axios》的口风来看。

        4月12日,在旧金山,本该有一场高规格的会议,由硅谷知名投资人& SV Angel创始人Ron Conway发起召集,而参与会议的来客皆是科技圈顶流巨头——OpenAI、Google、Microsoft、Stability AI、Nvidia、Hugging Face、Anthropic、Apple......这次聚首将Battle搬到了台面上,目标直指如何建立尽责又安全的AI。

        而这出戏的前传则始于一封题为《暂停巨型人工智能实验》的“千人联名”公开信,马斯克、图灵奖得主Yoshua Bengio、Stability AI首席执行官Emad Mostaque、纽约大学教授马库斯,以及《人类简史》作者Yuval Noah Harari、苹果联合创始人等多名大佬签名呼吁暂停开发强大的人工智能(AI)系统,以便有时间确保它们的安全,他们还为这次暂停定了个时间:至少六个月。

        这份极具分量的公开信一举将AI送上了风口浪尖,而随后比尔盖茨也公开回应:暂停人工智能发展的呼吁解决不了未来的挑战。盖茨称,大家关注的焦点应该是如何最大程度上利用好人工智能的发展,停止人工智能的发展是很难实现的事情。

        针尖对麦芒,尽管截至算力智库发稿前,并没有关于此次“硅谷会议”的更多消息流出,但显而易见,关于ChatGPT,关于AI,仿佛历史的车轮已经驶向了关乎人类福祉的抉择时刻,支持者,反对者,激进者、观望者或者还有另有目的者,各持主张,论战正酣,以试图影响AI的发展进程。


反对派 VS 支持派

反对派举的旗帜是什么?在他们看来:

  • AI有可能会造成信息污染和挤压就业空间
  • 人类会陷入一场失控竞赛,对于更强大的AI,没有人能理解、预测和控制。
  • 只有确信AI的影响是正面且风险可控的时候,才能去开发更强大的AI系统
  • 从危险的竞赛中退一步,避免研究更大、更难以预测、具有突现性能力的黑箱模型。

        公开信指出:正如大量研究表明的那样,具有人类竞争智能的人工智能系统会对社会和人类构成深刻的风险。就连OpenAI创始人Sam Altman也说,无法理解GPT-4的进化逻辑。如果人类无法预测AI的下一步发展,不知道它未来是好是坏,那么确实应该更加谨慎。

        按照公开信的提议,在暂停期间,人工智能实验室和独立专家应该共同开发一套用于高级人工智能设计和开发的共享安全协议,并由独立的外部专家进行严格审计和监督。如果这种暂停不能迅速颁布,各国政府应该介入并制定暂停令。

        反对派的声浪裹挟着监管层的动作,4月11日,据《华尔街日报》报道,拜登政府已经开始研究是否需要对ChatGPT等人工智能工具实行检查。作为潜在监管的第一步,美国商务部4月11日就相关问责措施正式公开征求意见,包括新人工智能模型在发布前是否应经过认证程序,征求意见期限为60天。一家非营利性研究机构人工智能和数字政策中心(Center for AI and Digital Policy,CAIDP)也将状告到了美国政府部门。他们要求联邦贸易委员会(简称 FTC)调查 OpenAI,声称这家新贵公司发布了 GPT-4,违反了商业法,同时他们认为该产品具有欺骗性并将人们置于危险之中。

反对派认为当下的AI是猛兽,野性十足,还有待驯服,这点“AI支持派”不置可否。

        而较为激烈的争执之一则是是否要让政府直接重度介入,吴恩达——反对“反对派”的阵营中的大拿代表,同时也是当前人工智能和机器学习领域的一方泰斗,谷歌大脑的缔造者、世界上最大的在线学习平台之一Coursera的创始人。他直接反驳了马斯克等人要求政府介入干预的观点:让政府暂停他们不了解的新兴技术是反竞争的,这会树立一个可怕先例,是糟糕的创新政策,尤其是对6个月的暂停期他表达的了强烈的反感。

        这位著名学者认为:提高人工智能安全性的解决方法,应该是围绕透明度和审计建立更加实用的法规,而不是政府“因噎废食”般的一纸禁令。

        “政府的手可以伸,但利用政府之手来消灭市场矛盾,其实是诺斯悖论的体现,最极端的结果是创新失活,经济倒退,而或许别有用心者借国家暴力机器来打压对手为自己谋得时间机会,这个口子一旦打开,风险远比AI更甚”。一位业内专家向算力智库坦言。

        一直以来性格温和的吴恩达此番言辞激烈的表态并不多见。在他的推文下面,Meta数据科学家林致远,英伟达AI研究科学家Jim Fan也表示了赞同和支持。

        而更核心的分歧则是,一众学者认为反对派在混淆认知,散布AI威胁论,其意是想鼓动公众情绪,却并没有在正视如何解决问题。Hugging Face 的研究科学家兼气候负责人 Sasha Luccioni 表示,“这(公开信)本质上是误导:让每个人都注意到 LLM (大型语言模型)的假设权力和危害,并提出一种(非常模糊和无效的)解决方法,而不是此时此地正确看待风险并尝试解决这些问题——例如,在 LLM 出现时,可以要求相关企业对 LLM 的训练数据和能力实行更高的透明度 ,或有关何时何地可以使用它们进行立法。”

        华盛顿大学语言学系教授、公开信中引用的第一篇论文的共同作者 Emily M. Bender 在推特上表示,这封公开信掺杂了“Aihype”(AI炒作),她也认为问题的症结,不是AI本身,而是更要提防AI背后的人和权力体系,Bender 反驳说:“我们在 2020 年底写了一篇论文《随机鹦鹉》(2021年发表),指出这种不考虑风险就一头扎进越来越大的语言模型的做法是一件坏事。但风险和危害从来都不是关于‘太强大的人工智能’本身,相反,它们是关于权力集中在人的手中,关于压迫制度的再现,关于对信息生态系统的损害,以及关于对自然生态系统的损害(通过对能源资源的暴殄天物)。”

        相比吴恩达等人旗帜鲜明的反对公开信的主张之外,还有另一位人工智能领域大神级人物也亮明了自己的观点,他就是图灵三巨头之一,卷积之父杨立昆,不过他的出发点,是在于:公开信无用,人类叫停不了AI。

        他在推特上表示,自己并未签署这封公开信,“我没签,我不同意这封信的前提。”之后,他通过网友的推文继续表露反感。一位网友表示,OpenAI足足等了6个月,才发布了GPT4,而他们甚至为此还写了一份白皮书。杨立昆转发了这条推文并附上了自己的评论:所谓“暂停研发”,不过就是“秘密研发”,这与一些公开信签名者所希望的会恰恰相反。

        的确,暂停巨型AI实验就像是一个幌子,人类过去的历史证明,在国际竞争的语境下,“你有我无”的这种情况是不被允许的,“你有我也必须有”,拥核国家牵头制定“核不扩散条约”,但所有人放弃了核武器吗?并没有,猜疑链已形成,这种足以带来先进生产力甚至下一代科技革命的超级AI工具,没有国家会试图放弃和叫停。

        国外Reddit论坛上的一条评论已经能说明这一问题:Guess who’s not gonna stop:China。国内科技界的声音似乎也在印证这点,360创始人周鸿祎在微博上回应马斯克请愿叫停GPT-5研发一事,“不管你愿不愿意,GPT都将引领一场新的工业革命,意义超越互联网和iPhone的发明。它将带来生产力的大幅提升,进而提升国家竞争力。中国一定要迎头赶上。”周鸿祎表示。

        周鸿祎也承认,最近人工智能的指数级跃变确实有点让人措手不及。对于马斯克的请愿信,他不了解内幕,但猜测是GPT的进化路上出现了超乎人类想象的现象。对于人类如何应对AI带来的未来安全挑战,谁也没法给出确定答案,但做安全出身的他坚定认为,不发展才是最大的不安全。

        值得一提的是,在这场各派系此起彼伏的不休争论中,伴随着支持派的高密度游说,监管层面的信号似乎也有所松动。

        当地时间4月12日,意大利数据保护局 (Garante)提出了一系列聊天机器人ChatGPT在该国恢复使用的要求。并表示,在解决监管机构的担忧后,意大利当局将暂停对OpenAI处理该国用户数据的临时限制令,OpenAl也将再次在意大利开放。根据Garante的要求,OpenAI必须在其网站上发布信息,说明它如何以及为什么处理用户和非用户的个人信息,并提供更正或删除这些数据的选项。

        即便OpenAI作为这场唇枪舌剑的靶子,首当其冲,但不得不承认这波技术炒作周期还是让OpenAI吃足了红利。在持续的热度下,一些竞争对手和企业利用OpenAI开发的生成式AI软件制作应用。使用OpenAI技术需要获得授权,拿到授权要付费,一美分或者稍多能生成2万单词的文本,按照书面提示生成一张图片大约要2美分。根据 PitchBook 的数据,OpenAI 今年营收将达到 2 亿美元,比 2022 年增长 150%,2024 年将达到 10 亿美元,这意味着增长 400%,公司估值达到200亿美元。


Reaction背后的“不同算盘“

        公共场域的议论,从来都是箭无虚发,每一支箭头的去向,都藏着利益相关者的诉求。

        人工智能领域的资深作家莎伦·戈尔德曼指出,企业高管并不担心人工智能摧毁人类,他们只关心人工智能和机器学习是否能提高工人的工作效率、优化客户服务。

        OpenAI的首席执行官Sam Altman一边宣称他“有点害怕”公司的人工智能技术,一边“正帮助建设和尽可能广泛地推广技术,以获取利润”。洛杉矶时报表示:一个高调的技术公司的首席执行官或高管,反复在公众舞台上渲染对自己正在建设和销售的产品的担忧,这种行为背后的逻辑只能是“关于人工智能可怖力量的世界末日论有助于他的营销战略”。

        深谙此套路的不止Sam Altman,马斯克堪称“AI威胁论”的拥趸,在各种公开场合贡献了不少激进语录,譬如“AI对人类文明的威胁程度远高于车祸、飞机失事、毒品泛滥等、人工智能可能引发第三次世界大战、通过人工智能,我们正在召唤恶魔、人工智能要比核武器危险得多、未来AI若达到人类智商水平并掌握了财政、武器及关键基础设施,将有可能摧毁文明甚至毁灭人类”。但在炮制AI恐怖论的另一边,马斯克在美国内华达州成立了一家名为X.AI的人工智能(AI)公司,旨在与聊天机器人ChatGPT的开发公司Open AI展开竞争。内华达州备案文件显示,马斯克是为X.AI的唯一董事。

        似乎这封公开信成为了一出“缓兵之计”,潜台词是:在AI这条跑道,等等我,先停一下,再过6个月,我就能赶上你们了。

        前白宫科技政策办公室助理主任文卡塔苏尼安认为,“很多伪装成技术讨论的东西,背后都有一个巨大的政治议程。” 围绕人工智能的讨论已经从技术和科学领域转移到了政治和权力领域。

的确,这场AI之争的战线,并没有止戈于科技圈,在AI的阵地上,各国都意在借此机会,抢夺话语权。

        欧盟首先打响了第一枪,意大利之后,德国,法国、爱尔兰、西班牙等欧洲国家都势在收紧对AI的监管,隐私安全只是其因一,更深层次的原因或许是从《通用数据保护条例》(GDPR)到《数字市场法案》一脉相承的理念,即在互联网世界里建立欧盟的数字边疆。

        据悉,在欧盟逐步制定全世界最具约束性的人工智能管理方法之际,欧洲议会准备对人工智能的使用实施严厉的新措施,其中包括要求聊天机器人开发商披露他们是否使用了受版权保护的材料。此举旨在让内容创作者有权获得报酬,议员们还希望,误用或滥用人工智能项目的责任由OpenAI这样的开发者而不是使用人工智能的小企业来承担。

        很显然,欧盟对于ChatGPT强硬态度的背后,是对美国科技巨头在欧洲攫取用户数据并大获其利的长期积怨,如今在互联网世界,诸如Facebook、Amazon、Microsoft、Apple、腾讯、阿里巴巴、字节跳动等叫得上号的科技巨头都是来自中美,欧盟则几乎是互联网时代的失意者,此举或许是想为本土的生成式人工智能留足生存空间。

        此前,欧盟对谷歌、苹果、Facebook、亚马逊和微软等美国科技巨头都提出过多项重大指控,其中包括滥用个人数据、扼杀竞争、未缴纳足够税款、窃取媒体内容以及通过传播虚假新闻等。

        而作为既得利益者的美国,在AI监管方式的选择上,美国更强调AI的创新和发展,以维护美国作为全球AI创新领导者的地位,因此对于立法监管采取非常谨慎的态度,因此更倾向于通过组织自愿适用的指引、框架或标准等非监管方法对AI应用采取软治理。

        美国NIST在今年1月26日发布的《AI风险管理框架1.0》便是例子,其遵循的思路主要是“基于风险的治理”,在美国的这份框架中,包括治理、映射、测量和管理的四个部分,治理指要在组织的制度流程、组织建设、组织文化、技术能力等方面践行AI风险管理框架;映射主要用于确定特定场景与其对应的AI风险解决方案;测量主要采用定量和/或定性的工具、技术和方法来分析、评估、测试和监控AI风险及其相关影响;管理主要是将相关资源分配给相应的AI风险,进行风险处置。从这份框架以及美国4月颁布的《人工智能问责政策征求意见》可以看出美国在制定人工智能监管方面政策时,重点在于问责明确。

        值得关注的是,与欧盟相同,美国也拒绝对AI应用进行无差别监管,强调应根据AI应用带来的风险和后果进行差异化的分级监管。

        与此同时,4月11日,中国国家互联网信息办公室也下发了《生成式人工智能服务管理办法(征求意见稿)》的通知,其透露的监管思路也是“基于风险的管理”,重点体现在对作为AI核心技术的数据和算法的监管上,目前已有《数据安全法》《个人信息保护法》《互联网信息服务深度合成管理规定》《互联网信息服务算法推荐管理规定》等法规有交叉涉及,但尚未有一个专门针对AI的整体立法框架。


人工智能需要“锁在笼子里”,但锁住后的结果会如愿吗?

        研究表明,欧盟的人工智能法案的实施成本将吞噬欧洲人工智能投资的17%,目前该风险并非仅是理论性存在。2020年6月欧盟进展报告显示《通用数据保护条例》实施的碎片化和各实施机构的资源投入不足,不仅导致其生效的附加治理的效应不足,还降低了进入欧洲市场的风投资本规模,谷歌在欧洲的市场份额不仅没有下降,反而剧增。《通用数据保护条例》的实践证明严格的标准正在产生意外的后果。

        而今AI法案即将落定,作为全球首部人工智能立法,其效力范围不仅局限于欧盟范围内,而且有广泛的域外效应,不仅是欧盟统一大市场的规模让任何企业都无法忽视AI法案,更重要的是在新技术领域内规范影响力的独特的路径依赖效应,一旦规则形成将难以撼动。正如欧盟《通用数据保护条例》所显示的,欧洲规则很快成为在数据保护领域内的国际标准,这种意外的后果很难说不会再发生在人工智能身上,届时吹响的不知道该是AI的哀歌?还是号角?

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/36216.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

人工智能写恋爱情话,省时不费脑,也用心(带教程)

用ChatGPT写情话就是让电脑来帮你写一些浪漫的话,比如表达你对恋人的爱意、想念之情等等。这种技术叫做自然语言生成,它会根据你给出的主题、口吻和语气等因素,自动生成一段与之匹配的情话或情书。 借助ChatGPT写情话,可以让普通人…

chatgpt赋能python:Python语录:解读Python最流行的语言之一

Python语录:解读Python最流行的语言之一 Python是一种简单易用、高效的编程语言,它在全球范围内广泛应用,是最流行的编程语言之一。使用Python进行编程可以提高生产力、节省时间和精力。Python语言有许多优秀的开发者、工程师、爱好者和用户…

英语学习-29190410雅思图表作文写作--line grapgh

主要参考来源:https://www.bilibili.com/video/av23014883?p2 Simon雅思 四段式:introduction overview details details 【no conclusion or opinions】 introduction:直接阐述图描述的内容 overview:找最直观的。一般两句 details:对于曲…

雅思写作大小作文能考到7分是什么样的概念?

雅思7分是什么概念?如何区分雅思作文的分数?雅思写作7分对于很多基础不好的同学来说可能是遥不可及的。对于很多6.5分的同学来说,只是差了一点看不到而已,但总是拿不到7分。接下来小站边肖就和大家分享一下雅思写作达到7分是什么水…

亚马逊跨境电商靠谱吗?需要代运营来入手?进来看就知道了!

亚马逊跨境电商靠谱吗?需要代运营来入手?进来看就知道了! 很多人可能不了解亚马逊跨境电商就想着去怎么怎么干,这样是错误的。我们首先要先了解亚马逊,才能更好的了解并走入亚马逊跨境电商,从而走上致富之路…

武汉星起航跨境:亚马逊运营之手动广告的投放方法

首先,一个广告活动,一个广告组,只放一个关键词或一个ASIN,只放一种匹配模式 只有一种竞价策略。就是说一个广告活动里面只放一个关键词,而且只能打开一种匹配模式,竞价策略只有一种。这个对于有一定搜索量有…

运营新人必看 eBay申诉的最全资料

eBay作为一个电商交易平台,限制还是不少的。前几篇eBay系列文章发布后,也有些兄弟来向我反应eBay平台的严格程度,很容易因为这样那样的原因就被封掉了,自己也莫名其妙的。龙哥今天就总结一下eBay封号中比较常见的原因和万一被封要…

亚马逊运营必备的表格技能

Excel是最好用的软件 如果使用表格只限于为每个单元格填入内容,那面对亚马逊运营工作中的大量统计和分析的工作显然不能满足,这篇文章介绍2个亚马逊运营中使用场景最多的表格技能。 数据透视表VLOOKUP函数 数据透视表 场景举例 根据站点、型号、店铺…

Lazada店铺如何同行竞争取胜?这些运营技巧你一定要用

随着跨境电商的大热,入驻Lazada店铺的卖家也越来越多,在这样竞争激烈的趋势下。Lazada卖家,如何让Lazada店铺在同行竞争中取胜?有什么取胜技巧,关键在于运营技巧。此文小编就来告诉你,哪些运营技巧能让你的…

亚马逊、eBay、速卖通自养号测评掌握这个技巧,助力卖家乘风破浪

每个做测评的都知道给每个账号配置安全可靠的网络环境是自养号运营的重中之重 那想要实现伪装度足够高的测评环境,应该从哪几个方面去考虑? 首先:是服务器的硬件参数(像安全码、地区码、监管码等要防止被检测) 其次…

GPT系列论文

目录 GPT 无监督预训练 有监督微调 如何将模型应用于下游任务? 试验结果 GPT-2 摘要 Introduction Approach 数据集&模型 试验结果 GPT-3 核心点 名词解释 few-shot做法图示 数据集 GPT 由无监督预训练有监督微调组成 无监督预训练 有监督微调…

在云服务器上搭建个人版chatGPT及后端Spring Boot集成chat GPT

本文分成两部分,包括【国内服务器上搭建chat GPT】和【后端Spring Boot集成chat GPT】。 无论是在【国内服务器上搭建chat GPT】和【后端Spring Boot集成chat GPT】,两个方式都需要魔法访问,否则是无法正常使用的,即需要具备正常…

【实习生建议】ChatGPT给一名后端实习生的建议

你好呀!我是小易同学,一名普通的不能再普通的学习者。 作为一名大三的学生,我感觉当下国内的就业环境面临较大压力与挑战,于是我对ChatGPT发问,想请ta给我一些建议。 以下是ta给我的建议: 复述如下: 深入学…

将PC端的apk文件通过微信文件分享到手机,后缀名有.1

在PC端下载apk文件,通过微信文件分享传到手机端,在手机微信上可以看到此时传过来的文件后面多了.1的后缀,导致不能安装 怎样在手机文件管理中找到这个文件,并修改其后缀名,每次找路径都要找半天,今天找好了…

教你如何搭建培训机构-招生管理系统,demo可分享

1、简介 1.1、案例简介 本文将介绍,如何搭建培训机构-招生管理。 1.2、应用场景 根据意向信息站的收录信息,可批量导入意向信息,在意向信息站转为意向学员,转为意向学员后可进行报名收费成为正式学员。 2、设置方法 2.1、表单搭建…

教育培训机构如何利用小程序招生?

微信小程序依托微信10亿用户,基于微信强大的社交,开发成本低,营销推广成本低,入口多易推广的天然优势,应用场景也越来越广泛。那么,教育培训机构如何利用小程序实现客源推广,线上选课预约呢&…

基于微信小程序+SSM实现培训机构管理系统

作者主页:编程千纸鹤 作者简介:Java、前端、Pythone开发多年,做过高程,项目经理,架构师 主要内容:Java项目开发、毕业设计开发、面试技术整理、最新技术分享 项目编号:BS-XCX-010 一,项目简介 …

基于微信小程序的培训机构系统

随着社会的发展,社会的方方面面都在利用信息化时代的优势。互联网的优势和普及使得各种系统的开发成为必需。 本文以实际运用为开发背景,运用软件工程原理和开发方法,它主要是采用java语言技术和mysql数据库来完成对系统的设计。整个开发过程…

培训报名小程序实战开发

目录 1 需求描述2 原型绘制2.1 首页2.2 报名列表页2.3 报名页2.4 支付页面2.5 支付成功页面2.6 我的页面2.7 我的报名页面2.8 报名详情页面 3 数据源设计4 数据源开发5 创建模型应用6 录入测试数据7 创建自定义应用8 创建页面总结 经常有人问,低代码学习容易么&…

培训机构微信在线报名

培训机构微信报名系统 进入微信公众号,点击在线报名,进入在线报名的主页: 点击免费课程或是热门课程等,即可打开课程列表,界面如下: 点击对应一门课程,打开课程的详细界面进行报名,界…