AI 教父离职谷歌 ,只为畅谈 AI 之危

整理 | 朱珂欣   

出品 | CSDN程序人生(ID:coder_life)

5 月 1 日,据《纽约时报》和路透社等外媒报道,深度学习之父、图灵奖得主 Geoffrey Hinton 已于上周从谷歌离职,并就其长期推广的 AI 技术风险发出警告,甚至直言:“现在有些后悔自己一生的工作。”

随后,Hinton 在推特上阐述了离职的真相:希望能在不影响谷歌的情况下,真实地谈论 AI 的潜在风险。此外,Hinton 还表示离职也有年龄的原因,他说:“我 75 岁了,是时候退休了。”

当 AI 教父摇身一变成为“AI 末日预言家”,不禁引发大家热议……

b0389e5ba6336ac7fe1690a956ac5ea8.png

(图源:推特截图)

曾为 AI 领域效力多年

作为 AI 领域的一名老将,Hinton 在神经网络和深度学习方面的成绩为当前的人工智能系统奠定了基础。

2006 年,Hinton 在发表了一篇题为《 A fast learning algorithm for deep belief nets 》的文章,其中的核心理念是利用 GPU 来加速训练,大幅提高了神经网络的学习速度。

2013 年, Hinton 与 Google 结缘,只因谷歌以 4400 万美元的价格收购了 Hinton 创建的 DNNResearch。而这场交易的重心并不是什么新业务,而是 Hinton 和他的两位学生。

在当时,Hinton 就是少数相信有朝一日“深度学习”会成功的人之一。并且,Hinton的团队就可以通过分析数百万张照片打造出一款可区分动物、物体图片的神经网络系统,被视为当代 AI 的基础。

2015 年 11 月 9 日,Google 发布人工智能系统 TensorFlow 并宣布开源, Hinton 为此做了很多贡献。

2018 年, 由于对神经网路研究的贡献, Hinton 与法国计算机科学家 Yann LeCun、加拿大计算机科学家 Yoshua Bengio 共同获得图灵奖。

离开谷歌,只为畅谈 AI 的风险

正因已经“功成名就”, Hinton 的突然“叛逃”才不禁引发外界猜测。

在接受《纽约时报》和美国有线电视新闻网(CNN)采访时, Hinton 坦言,之所以离开谷歌,是为了能自由地说出 AI 所带来的危险。

50ba6f8027c5aa2097bde97963012b60.png

(图源:《纽约时报》截图)

与此同时,据悉, Hinton  对 AI 的担忧主要体现在几个方面。

第一,是道德层面的问题。在 AI 技术的支持下,互联网将很快被各种虚假信息淹没,以至于许多人“无法再知道什么是真实的”。Hinton  表示,需要建立一个可信、公开和透明的机制的重要性,才能确保 AI 被正确监管和控制,以发挥其潜力和减轻其负面影响。

第二,是 AI 将造成人员失业的问题。在接受《泰晤士报》采访时, Hinton  表示,AI 会替代很多现有的工作岗位,创造一个让人们不知道什么是真实的世界。并且,AI 的进步速度远远超过了包括他在内的很多专家的预期。Hinton  直言:“以前人们觉得 AI 变得比人类聪明的事情可能要 30 至 50 年才能实现,不过现在我不这么认为了。”

AI 究竟是福是祸?

如今,距离 ChatGPT 发布已经过去近半年,它引发的 AI 话题热度一直居高不下。

很多人认为关于 AI 技术的潜在危害,Hinton  应早点发声。而事实上,早前 Hinton 就对 AI 表示过担忧,他的同事也在鼓动对这项技术采取更谨慎的态度。

4dfcefcaab696121fb671e7e1d0f1f06.png

(图源:《Will artificial intelligence bring us utopia or destruction?》截图)

据彭博社报道,2015 年,Hinton 就曾在一篇名为《Will artificial intelligence bring us utopia or destruction?》的文章中,就描述了自己在一次会议上与另一位人工智能研究人员谈论过“政客如何使用 AI 来恐吓人们”的话题。

除此之外,虽然 Hinton 表示谷歌在部署 AI 方面表现得“非常负责任”,但一些举措却很不恰当,例如:谷歌担心滥用而关闭了面部识别业务;将其强大的语言模型 LaMDA 保密了两年;限制了 Bard 的能力……一直以来,谷歌压制内部对 AI 技术的担忧并没有激发人们的信心。

有报道曾称,科技巨头们现在都关注如何使 AI 变得“更厉害”,而并非适应社会和环境。Hinton 不惜从谷歌离职来警告世人,引发更多人开始认真思考和关注这个问题。

近日,彭博社表示,Hinton 的离职或许有望鼓励其他科技公司的研究人员说出他们的真实的担忧。本周一,人工智能安全公司 Anthropic 的技术人员 Catherine Olsson 在推特上回应了 Hinton 的言论:“我已经能感觉到这一举动会影响到我。”

与此同时,很多网友在 HackerNews 上表示:“虽然 Hinton 不会亲自将他的创作用于邪恶的事情,但我认为我们已经活在掌握 ML 和 AI 的人手中了”;“不知道会不会有更多的研究人员‘觉醒’”……

值得一提的是,今年 3 月底,包括马斯克在内的许多科技产业人士联署了一封公开信,呼吁所有 AI 实验室立即暂停训练人工智能系统至少 6 个月。 Hinton 却表示:“我认为我们没办法阻止  AI 的发展,因此我没有签署这封信。” 

在近日的采访中, Hinton 也告诉 BBC:“在短期内,他认为 AI 带来的好处比风险多得多,所以我认为我们不应该停止开发这些东西。”

那么,你怎么看待 Hinton 的“叛逃”?可以在评论区留言和讨论。

参考链接:

https://www.bloomberg.com/opinion/articles/2023-05-02/ai-godfather-geoffrey-hinton-should-have-spoken-up-sooner?leadSource=uverify%20wall

https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html?smid=tw-nytimes&smtyp=cur

https://www.bbc.com/news/world-us-canada-65452940

https://www.theverge.com/2023/5/1/23706311/hinton-godfather-of-ai-threats-fears-warnings​​​​​​​

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/65077.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

首批因 AI 失业的人出现

据时代财经 4 月 5 日消息,已经有一众游戏公司将 AI 绘画引进工作流程,用以摆脱游戏行业巨大的人才压力和资金焦虑,根据早前,心动网络创始人黄一孟透露的消息,已有游戏团队把原画外包团队给砍了。另有某游戏美术外包公…

介绍主密钥,传输秘钥,工作秘钥

近期在从事Pos应用的开发,由于之前未接触过相关开发,所以很多概念性的东西不是很明白,因此做下总结记录供以后查阅,参考了其他人的博客。链接在博客底部。 目前来说主要接触密钥的分别时:工作密钥 主密钥 传输密钥 1.工…

HashiCorp Vault 秘钥管理

官网地址: Vault | HashiCorp Developer 使用原因: facebook审计需要将用的accesstoken等秘钥使用vault秘钥管理工具进行管理 简介: 使用 UI、CLI 或 HTTP API 保护、存储和严格控制对令牌、密码、证书、用于保护机密的加密密钥和其他敏…

GPG使用方法总结(密钥管理,加解密文件)

文章目录 0、GnuPG 公用说明 1、生成密钥 2、密钥管理 3、加密和解密 4、签名 5、参考 6、公钥加密遇到的问题 gpg采用的是非对称加密方式,简单理解就是用公钥加密文件,用私钥解密文件。如果你需要发送加密信息,首先获取接收者的公钥&…

ChatGPT/GPT-4做知识图谱构建推理怎么样?浙大等最新《大语言模型在知识图谱构建与推理》论文,量化评估LLM在KG表现...

来源:专知 ChatGPT/GPT-4做知识图谱构建推理怎么样? 这篇论文对大型语言模型(LLMs)在知识图谱(KG)构建和推理中的作用进行了详尽的定量和定性评估。我们使用了八个不同的数据集,涵盖了实体、关系…

10倍速度开发贪吃蛇游戏之AI辅助

今天就来聊聊AI代码辅助神器,即便是零基础也能上手,因为实在是太强了,这以后叫程序员们怎么活啊!话不多说,直接上神器 我用的是cursor,其实目前AI辅助代码不止cursor,还有微软家的copilot X这个根植于gith…

人工智能这么厉害,比如GPT-4,为什么没有看到程序员失业?

目录 一、一次理性的反思 看看网友基于GPT-4生成代码的测试案例: 二、人工智能与程序员相辅相成 三、无独有偶的低代码 1、提升开发价值 2、利于团队升级 四、最后 OpenAI发布了GPT-4,这个远超以往的任何人工智能的模型,在逻辑、推理、…

遇到panic异常,导致程序崩溃。

新上的项目,在运行一段时间后,会出现自动崩溃的情况。从日志没有看出任何错误(使用logger包进行打印的日志)。每次崩溃的前夕,程序一直在正确的运行(崩溃)。前几天程序又出错,恰巧调…

Android中Crash(闪退,崩溃)的一般问题与解决方案

Crash Exception 在Android 中经常会遇到,那么遇到异常我们该如何解决,本文将举例解决部分Android看法中遇到的异常。 NullPointerException 空指针ClassCastException 类型转换异常IndexOutOfBoundsException 下标越界异常ActivityNotFoundException Ac…

快来在win10上提前体验小爱同学吧!

小爱同学发布win10UWP版相信很多人都已经知道了,下面便教大家安装小爱同学! 1.打开win10开发者模式 2.点击安装包并安装 1.点击安装包 2.再点击下图安装即可 部分演示 和小娜一样以浮窗形式弹出小娜支持快捷键和语音唤醒;小爱在红米笔记…

学会这些AI工具,一个人也能开公司!

因公众号更改推送规则,请点“在看”并加“星标”第一时间获取精彩技术分享 点击关注#互联网架构师公众号,领取架构师全套资料 都在这里 0、2T架构师学习资料干货分 上一篇:2T架构师学习资料干货分享 大家好,我是互联网架构师&…

加拿大目前华人数量

加拿大目前华人数量有多少,结果惊人! 2018-09-11 16:56 很多同学和家长选择加拿大,都是为了优质的教育,适宜的生活环境慕名而来,由于在早些年,加拿大已有很多华人到当地移民生活,到现在,不同…

【加拿大签证】加拿大工签/工作许可work permit 办理流程【官方详细完整,加拿大访问学者必看】

加拿大工签办理流程。 魁北克省的访问学者也需要办理工作签证,即需要办理工作许可work permit,其中主要涉及魁北克大学、麦吉尔大学、蒙特利尔大学、康考迪亚大学等相关大学的访问学者。 Work permit: About the process 工作许可流程 大多数外国人在…

【加拿大签证】加拿大签证相片要求 【来自加拿大政府官方最新要求,看这一篇就够了】

加拿大签证相片要求 详情请参阅小册子 brochure (PDF, 494 KB) (PDF, 505.82KB),以取得更多相片范例。 脸部必须对着镜头呈方形,表情要中性,既不皱眉也不微笑,嘴巴要闭上。如果照片不符合规格,您必须提供新的照片&…

CSC联合培养加拿大工签攻略

最近有人问我加拿大签证的事,当时我写了攻略,现在放到博客上吧,希望能帮到大家。 本人申请了CSC联合培养博士项目,听外导说加拿大的工签需要三个月才出签,所以在提交了CSC申请材料后(CSC还没出结果&#x…

【加拿大签证】加拿大访问学者签证所需材料【加拿大访学签证,超详细,看一篇就够了】

1、加拿大签证均无需参加面试,不强制预约但建议您先进行预约再去提交; 2、加拿大不分领区,所有申请人可以在北京、上海、广州和重庆等地中心递交申请; 3、对于60岁以上的申请者使馆可能会抽查要求前往指定的医院进行体检。 加拿大…

加拿大签证办理时解释信Explanation of Letter参考

加拿大签证办理时的解释信,也称肉麻信参考。 Explanation of Letter Mar 8th,2017 Dear Canada Visa Officer, I am the applicant, WANG HONG(王洪). I am writing this letter with great pleasure. I like travelling. During the past …

免费送书 | 从AIGC到AGI:AGI是新一轮的投资机遇吗?

ChatGPT 的“横空出世”让普罗大众对人工智能的突破有了新的认识,人们第一次看到人工智能系统能够完成各种各样的事情,不论是需要常识的闲聊,还是需要专业知识的论文写作,甚至写代码都在话下。ChatGPT 出现后,人们开始…

ChatGPT的底层逻辑,你清楚吗

传说中的扫地僧,在现实中极其罕见。 有些僧,只是在假装扫地;而绝大多数“扫地僧”,并非真正的高僧。 电影《心灵捕手》讲述了这样一个少年天才,清洁工“呆萌”在大学拖地板时,解出了麻省理工学院数学系教…

科研快讯 | 14篇论文被信号处理领域顶级国际会议ICASSP录用

ICASSP 2023 近日,2023年IEEE声学、语音与信号处理国际会议(2023 IEEE International Conference on Acoustics, Speech, and Signal Processing,ICASSP 2023)发布录用通知,清华大学人机语音交互实验室(TH…