75岁图灵奖得主Hinton离职谷歌!痛悔毕生工作,无法阻止人类AI大战

【导读】入职谷歌10年后,人工智能教父Hinton选择离职。对于造就了如今AI技术繁荣的神经网络,Hinton表示:这是我毕生的后悔。

一觉醒来,整个科技圈惊掉了下巴!!!

深度学习泰斗、神经网络之父Geoffrey Hinton突然宣布离职谷歌。

为了能够自由谈论人工智能风险,而不考虑这对谷歌的影响。

纽约时报的报道中,Hinton直接警示世人:注意,前方有危险,前方有危险,前方有危险!

而正是对人工智能风险深深地担忧,让这位深度学习巨佬直言:「我对自己的毕生工作,感到非常后悔。

如今,距离Hinton入职谷歌,刚好十年。

对于Hinton此举,有人甚至劝说,应该将关注人工智能安全常态化,而不必辞去工作。

这更应该是你留下来的理由。因为世界是不会停止的,像你这样的伟大人物应该坚持下去,并将人工智能发展的更好。

你应该劝说你的学生Yann LeCun和Ilya Sutskever。

值得一提的是,ChatGPT背后真正的英雄正是OpenAI的联合创始人兼首席科学家Ilya。

AI「关键时刻」,人类控制不住了

被称为「人工智能教父」的Geoffrey Hinton,一直都是该领域最受尊敬的先驱之一。

今年3月末,万名大佬签字发出联名信,呼吁暂停训练比GPT-4更强大的AI六个月。

图灵三巨头中,Bengio高调签名、LeCun旗帜鲜明地反对,唯有Hinton一言不发,耐人寻味地保持沉默。

而Hinton提出离职的时间,正是在此之后的4月份。

从他的推特上可以看出,无论是最近GPT-4等超强AI引发的巨大争议,还是谷歌高层的剧烈动荡,Hinton都始终保持缄默,不发一言。

许多人关注着这位人工智能教父的态度。

在CBS的一次采访中,Hinton表示「我们几乎已经让学会计算机如何自我改进了,这很危险,我们必须认真考虑,如何控制它。」

从人工智能的开创者到末日预言者,Hinton的转变,也标志着科技行业正处于几十年来最重要的一个拐点。

先驱的沉痛反思,让我们终于不能再掩耳盗铃,假装没有看见AI可能给人类社会引发的深刻改变和巨大危机了。

盖茨等许多大佬认为,ChatGPT可能与上世纪90年代初网络浏览器一样重要,并可能在药物研究、教育等领域带来突破。

与此同时,令许多业内人士不安的是,他们担心自己所做的研究,正在向外释放某种危险。

因为生成式人工智能可能已经成为产生错误信息的工具。并在未来的某个时候,可能会对人类构成威胁。

在Hinton看来,如何防止坏人利用它做坏事,我们还未能找到方法。

在3月底呼吁暂停超强AI六个月的公开信发出几天后,人工智能促进协会的19位领导人也发布了公开信,警告AI的风险。

其中就包括微软的首席科学官Eric Horvitz,而微软已在一系列产品中(包括Bing搜索引擎中)部署了OpenAI的GPT技术。

在喧嚣的反对浪潮中,人工智能教父Hinton却并未在这两封信上签名。

他说,自己在辞去工作之前,并不想公开批评谷歌,或其他公司。

忍到上个月,Hinton终于下定决心,通知谷歌自己即将辞职。

选择离职谷歌后,Hinton终于可以畅所欲言地谈论AI的风险了。

我对我的毕生工作,感到十分后悔。

我只能这样安慰自己:即使没有我,也会有别人。

上周四,他与谷歌母公司Alphabet的CEO劈柴(Sundar Pichai)通了电话,但他表示不便透露此次谈话的细节。

作为一家大公司,谷歌对于AI的态度一向保守,甚至保守到,眼睁睁看着自己在聊天AI机器人之战中被甩在后面。

早在2015年,谷歌的图像识别AI曾将黑人标记为「大猩猩」,招致的批评让谷歌成为惊弓之鸟。

在OpenAI推出Dall-E 2、名震全球之前,谷歌就有类似模型,但并没有发布,因为谷歌认为需要对AI生成的内容负责。

而早在2021年,谷歌就已有了类似ChatGPT的LaMDA聊天机器人,但谷歌始终未发布。直到2022年11月底,OpenAI凭ChatGPT占尽风头。

如今,谷歌首席科学家Jeff Dean在一份声明中表示:「我们仍然致力于对人工智能采取负责任的态度,我们正在不断学习了解新出现的风险,同时也在大胆创新。」

开启了历史,也见证了历史

1972年,Hinton在爱丁堡大学开始了他的研究生生涯。

在那里,他首次开始研究神经网络——一种通过分析数据来学习技能的数学系统。

当时,很少有研究人员相信这个观点。但这成了他毕生的心血。

2012年,Hinton和他两名学生Ilya Sutskever和Alex Krishevsky建立了一个神经网络,可以分析数千张照片,并自学识别花、狗和汽车等常见物体。

神经网络成为他与两名学生共同创建的公司DNNresearch背后的突破性概念,该公司最终在2013年被谷以4400万美元收购。

2018年,Geoffrey Hinton、Yann LeCun和Yoshua Bengio一起因对神经网络的研究获得了2018年的图灵奖,而神经网络正是ChatGPT、Bard等聊天机器人背后的奠基性技术。

而Hinton的学生Ilya Sutskever,也在后来成为OpenAI首席科学家。

大约在同一时间,谷歌、 OpenAI和其他科技公司开始构建从大量数字文本中学习的神经网络。

那时的Hinton认为,这是机器理解和产生语言的一种强大方式。当然不得不承认,比起人类处理语言的方式没,神经网络还是力不能及。

2022年,随着谷歌和OpenAI 利用大量数据构建超强AI。

Hinton的观点发生了重大转变。他仍然认为这些系统在某些方面不如人类的大脑,但它们在其他方面正在超越人类的智力。

GPT-4发布当天,Hinton曾表示,

毛虫吸取了营养之后,就会化茧为蝶。而人类提取了数十亿个理解的金块,GPT-4,就是人类的蝴蝶。

Hinton称赞的背后,让许多人看到超强人工智能系统的智力已经非同寻常。

对此,Hinton谈到人工智能技术时表示,随着科技公司改进人工智能系统,它们变得越来越危险。

看看五年前和现在的情况,如果还要继续传播这项技术,后果就太可怕了!

在谷歌十年生涯中,Hinton一直看好谷歌在人工智能技术上谨慎的态度。

他表示,直到去年,谷歌一直扮演着这项技术的「合适管家」角色,谨小慎微地不去发布可能造成危险的AI。

这恰恰解释了,为啥谷歌在这波人工智能浪潮中落后的原因。

但是现在,微软为其必应搜索引擎接入GPT-4的能力,已经让谷歌焦急地不得不做点什么。

Hinton称,科技巨头们正在进行一场可能无法阻止的竞争。

他眼下担心的是,互联网上将充斥着虚假的照片、视频和文本,人们也无法去辨别什么是真实的,什么是虚假的内容。

他甚至还担心,人工智能技术迟早会颠覆就业市场。

如今,像ChatGPT这样的聊天机器人往往能很好地辅助人类工作,甚至取代律师助理、私人助理、翻译、以及其他处理死记硬背任务的人。

未来,他表示自己很担忧,GPT-4迭代会对人类构成威胁,强AI从大量数据中能够学到意想不到的行为。

人工智能系统不仅可以生成代码,而且自己运行代码。前段时间爆火的Auto-GPT就是一个非常典型的例子。

他担心有一天真正的自主武器ーー那些杀人机器人ーー会成为现实。

上世纪80年代,Hinton曾是卡内基梅隆大学的计算机科学教授,但因为不愿接受五角大楼的资助,他选择了离开CMU,前往加拿大。当时,Hinton强烈反对在战场上使用AI,他将其称为「机器人士兵」。

在一些人看来,类似的系统实际上比人类更聪明。Hinton表示自己曾经认为,这太离谱了,最起码要30-50年,甚至更久才能实现。

而现在,我不再那么想了。

许多其他专家,包括Hinton的许多学生和同事,说这种威胁还仅是一种假设。

他指出,谷歌和微软,以及其他公司之间的竞争,将升级为一场全球性竞赛。如果没有某种全球性的监管,这场竞赛将不会停止!

但他表示,这也不是绝对的。与核武器不同,我们无法知道哪个公司或国家,是否在秘密研究这项技术。

网友热议

有网友认为,Hinton对于的AI的看法太悲观了。

我见过的ChatGPT积极应用案例远多于消极的,但现在的趋势是把AI描绘成邪恶的炼金术。这些担忧是合理的,我们会学习,我们会纠正它,然后我们会继续前进。

甚至有网友将其比为天网,但我们还不能将其关闭。「人工智能就像潘多拉的魔盒一样,一旦打开就无法关闭。」

还有人对谷歌「负责任」这一观点提出异议:

-使用Breitbart训练AI模型;-让负面信息在YouTube上大肆传播(反过来又为推荐算法提供依据);-散布有关安全和隐私的科学假信息;-开除专家

谷歌大脑和DeepMind合并这一事,与此相关吗?

还有网友发出疑问,连Hinton都离职了,下一个会是?

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/25650.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

GPT可以被放任的在问答区应用吗?

GPT可以被放任的在问答区应用吗? 1、CSDN问答乱象2、GPT-4,大增长时代的序幕数字生命离我们到底还有多远?AI 家教/老师/教育 距离独立又有哪些需要完成的过程? 3、老顾对CSDN问答的一些看法老顾对GPT使用者的一些建议 1、CSDN问答…

华语辩论冠军的思辩表达

华语辩论冠军的思辩表达 这是一门思考表达的高阶技术,也是这个时代,每个人的必修课。 学了他,你才能在焦虑的时代学会如何思考与表达观点,才能领先他人。 查看原文下载 上一篇:零基础学photoshop 下一篇&#xff…

《杀破狼》:可能是华语动作电影最后的绝唱!

https://www.toutiao.com/a6681956509103948292/ 2019-04-20 20:43:54 《杀破狼》是一部大咖云集的警匪动作片,为了解决观众的审美疲劳期,本片在功夫设计上走了综合格斗的线路,散打、擒拿、跆拳道等功夫路数全面铺开,剧组的花边消…

挑起华语电影大梁后,金鸡奖正在借前沿技术实现蜕变

文 | 曾响铃 来源 | 科技向令说(xiangling0815) 与电影大量使用新技术拍摄、呈现更多样化的观影体验相对应的是,近些年,在“电影节”这件事上也出现越来越明显的技术身影,这一切都指向了如何提高观众的注意力。 在注…

Python爬虫:想听榜单歌曲?使用BeautifulSoup库只需要14行代码即可搞定

目录 BeautifulSoup库安装BeautifulSoup库BeautifulSoup库简介选择解释器基础用法 节点选择器获取节点名称属性内容获取所有子节点获取所有子孙节点父节点与兄弟节点 方法选择器find_all()方法find()方法 CSS选择器嵌套选择节点获取属性与文本 通过浏览器直接Copy-CSS选择器实战…

聊斋2聂小倩java华语版,【聊斋故事汇】之聂小倩(篇二)

第二日,宁采臣恐怕燕赤霞有事外出,便趁早找他相会。还准备好酒菜,请他一起喝酒。宁采臣暗地观察燕赤霞,心道:小倩说燕赤霞是位奇人异士,为何我端端看不出呢?宁采臣想着小倩的话,不得…

聊斋2聂小倩java华语版,九个版本的聂小倩,看全的没有几个,经典也不是王祖贤!...

原标题:九个版本的聂小倩,看全的没有几个,经典也不是王祖贤! 在娱乐圈一个经典的素材经常会拿来翻拍,也叫IP。《倩女幽魂》这个大IP就多次翻拍过,给投资方传的盆满钵满。最先接触的87年的《倩女幽魂》的聂小…

数创空间&国际华语音乐联盟达成合作,将联合发行系列数字音乐藏品

​​ 官方信息:数创空间&国际华语音乐联盟已经正式达成合作,继陆燕仪《头上的月光》后将继续联合发行系列数字音乐藏品。由国际华语音乐联盟提供优秀的音乐人和作品,数创空间提供技术和商业支持,共同帮助音乐人通过数字音乐藏…

计算机音乐关键词,2019华语数字音乐年度报告重磅发布 盘点音乐行业八大现象关键词...

腾讯科技讯 3月23日,基于 QQ 音乐、酷狗音乐、酷我音乐、全民 K 歌四大平台用户音乐行为数据,由腾讯音乐娱乐集团(TME)旗下由你音乐榜推出的 《2019华语数字音乐年度报告》(以下简称“报告”)正式发布。 在这份报告中,我们看到了华语数字音乐…

网易音乐人2021年度盘点上线 揭晓2021年华语原创音乐年度记忆

1月12日,网易云音乐发布“网易音乐人2021年度盘点”,为大家推荐2021年表现优异的原创音乐人和作品。今年网易音乐人年度盘点由平台作品榜单和从业者推荐构成,共同见证2021年华语原创音乐的生机与活力。相关数据显示,截至2021年上半年,网易音乐人总数突破30万,持续领先行业。 从…

Python实战之提取豆瓣华语新碟榜数据

Python爬虫提取数据无非下面四点 1. 要获得怎么样的数据 2. 找到数据来源 3. 模拟浏览器发送请求获得数据 4. 处理数据,保存数据 第一步:要获得怎么样的数据 首先明白要提取什么数据,这里我们提取数据的url地址为:https://m.douba…

爬虫实战(一)利用scrapy爬取豆瓣华语电影

爬虫第一个项目是爬取豆瓣华语电影,后面将对这部分数据进行分析。 本文也是发表于『运筹OR帷幄』微信公众号的《用数据带你了解电影行业—华语篇》的爬虫介绍篇。 1. 爬取思路 在观察了豆瓣每个影片的链接地址后,写下了主要思路: &#xf…

语音之家SOTA|TIOBE 场景测试:华语大学生辩论赛

SpeechIO TIOBE Benchmark 场景测试:华语大学生辩论赛 场景:华语大学生辩论赛 1、素材来源 YouTube 爬取,华语大学生辩论世界杯,现场视频,原始时长约2小时。 2、场景特点 环境 辩论赛现场,室内场馆会场&…

Python批量爬取华语天王巨星周杰伦的音乐

前言 本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。 PS:如有需要Python学习资料的小伙伴可以加点击下方链接自行获取 python免费学习资料以及群交流解答点击即可加入 小伙伴说想听周杰伦的音乐&#xff…

华语乐坛到底姓什么?------酷狗篇

爬取页面展示 热门榜单——酷狗top500: https://www.kugou.com/yy/rank/home/1-8888.html?fromrank 特色榜单——影视金曲榜: https://www.kugou.com/yy/rank/home/1-33163.html?fromrank 项目分析 对于酷狗top500: 打开network发现酷狗并没有将榜单封装在json里面&#x…

华语电影

转载于:https://www.cnblogs.com/yymn/p/4512893.html

华为eSpace7910话机通讯录配置

1.登录话机IP。默认账号 admin/admin123 2.在左侧导航栏选择高级——服务——通讯录服务器 3.点击通讯录服务器选择LADP 4.按照下图设置LADP选项 LDAP服务器:172.16.237.1 LDAP端口:389 根节点:oucontacts,ouGD,ouAH,dcXXXX,dccom 账号:域…

华为产品测评官-开发者之声 - 产品体验

目录 活动介绍产品体验过程以及感受实战经验(具体的操作步骤和结果) 活动介绍 本期活动有机会使用并评估华为多个产品,包括华为云CodeArts,华为云ModelArts,鲲鹏DevKit,昇腾CANN,昇思MindSpore。无论您是初…

华为语音合成服务,为用户提供实时、可替换、多音调的语音播放体验

在不能操作手机或总盯着手机看的情况下,如何及时获取资讯信息、方便阅读呢?用耳朵听不失为一种好方法。华为机器学习服务的语音合成服务,采用深度神经网络技术,提供高度拟人、流畅自然的语音合成服务。开发者可以在小说阅读、智能…

基于OpenHarmony开发的语音小助手

基于OpenHarmony开发的语音小助手 本教程将演示如何在BearPi-HM_Nano开发板上使用GPIO输入功能去读取语音模块信息,实现****开关灯自由****!! 一、实验前器材准备 语音识别模块 语音播放模块 SD卡 无源喇叭 BearPi-HM_Nano开发板 E53—SC1…