瑞典皇家科学院10月8日宣布,将2024年诺贝尔物理学奖授予John J. Hopfield和Geoffrey E. Hinton,以表彰他们利用人工神经网络实现机器学习的奠基性发现和发明。
John J. Hopfield(约翰·J·霍普菲尔德)美国新泽西州普林斯顿大学
Geoffrey E. Hinton(杰弗里·E·欣顿)加拿大多伦多大学
“因推动利用人工神经网络进行机器学习的基础性发现和发明”,利用物理学工具开发出的方法,为当今强大的机器学习奠定了基础。
当我们谈论人工智能时,我们通常指的是使用人工神经网络的机器学习。这项技术最初的灵感来自大脑的结构。在人工神经网络中,大脑的神经元由具有不同值的节点表示。这些节点通过可以比作突触的连接相互影响,这些连接可以变得更强或更弱。网络的训练方式是,例如在具有同时高值的节点之间建立更强的连接。今年的获奖者从 1980 年代开始就对人工神经网络进行了重要的研究。
约翰·霍普菲尔德 (John Hopfield) 发明了一种联想记忆,可以存储和重建图像和其他类型的数据模式。
它使用一种保存和重新创建模式的方法。我们可以将节点想象成像素。霍普菲尔德网络利用物理学来描述材料由于原子自旋而产生的特性——这种特性使每个原子都成为一个微小的磁铁。整个网络的描述方式相当于物理学中自旋系统的能量,并通过寻找节点之间连接的值来进行训练,以便保存的图像具有较低的能量。当霍普菲尔德网络被输入扭曲或不完整的图像时,它会有条不紊地处理节点并更新它们的值,从而降低网络的能量。因此,网络逐步找到与输入的不完美图像最相似的保存图像。
杰弗里·辛顿 (Geoffrey Hinton) 发明了一种可以自主查找数据属性的方法,从而执行诸如识别图片中特定元素等任务。以霍普菲尔德网络为基础,创建了一个采用不同方法的新网络:玻尔兹曼机。
它可以学习识别给定类型数据中的特征元素。辛顿使用了统计物理学的工具,统计物理学是一门由许多相似组件构建的系统科学。通过输入机器运行时很可能出现的示例来训练机器。玻尔兹曼机可用于对图像进行分类,或创建训练模式类型的新示例。辛顿在此基础上继续发展,帮助开启了机器学习的爆炸式发展。
诺贝尔奖官网:利用物理学训练人工神经网络
下面针对以上的两位诺贝尔物理学奖获得者进行相关的介绍:
Geoffrey Everest Hinton
Geoffrey Everest Hinton CC FRS FRSC (生于 1947 年 12 月 6 日)是一位英国裔加拿大计算机科学家和认知心理学家,最著名的是他在人工神经网络方面的工作,这为他赢得了“人工智能教父”的称号。
2013年至2023年,他先后在谷歌( Google Brain )和多伦多大学工作,随后于2023年5月公开宣布离开谷歌,理由是担心人工智能(AI)技术的风险。2017年,他与他人共同创立了多伦多Vector Institute并担任首席科学顾问。
Hinton 与David Rumelhart和Ronald J. Williams共同发表了 1986 年发表的一篇被高度引用的论文,该论文推广了用于训练多层神经网络的反向传播算法,尽管他们并不是第一个提出该方法的人。Hinton 被视为深度学习界的领军人物。 AlexNet的图像识别里程碑是与他的学生Alex Krizhevsky和Ilya Sutskever为 2012 年ImageNet 挑战赛合作设计的,是计算机视觉领域。
Hinton 因在深度学习方面的工作与Yoshua Bengio和Yann LeCun一起荣获 2018 年图灵奖,通常被称为“计算机界的诺贝尔奖”。 他们有时被称为“深度学习教父”,并且继续一起发表公开演讲。
2023 年 5 月,Hinton 宣布从谷歌辞职,以便能够“自由地谈论人工智能的风险” 。他对恶意行为者的蓄意滥用、技术失业以及通用人工智能带来的生存风险表示担忧。 他指出,制定安全指南需要人工智能使用竞争者之间的合作,以避免最坏的结果。
教育
Hinton 曾就读于布里斯托尔克利夫顿学院和剑桥大学国王学院。在自然科学、艺术史和哲学等不同学科之间反复转换学位后,他最终于 1970 年毕业,获得了实验心理学文学学士学位。 他在爱丁堡大学继续学习,并于 1978 年因Christopher Longuet-Higgins指导的研究获得人工智能博士学位。
职业和研究
获得博士学位后,Hinton 在苏塞克斯大学工作,在英国难以找到资金后,又在加州大学圣地亚哥分校和卡内基梅隆大学工作。 他是伦敦大学学院盖茨比慈善基金会计算神经科学部门的创始主任。 他目前是多伦多大学计算机科学系的教授。
他担任加拿大机器学习研究主席,并且截至 2024 年 6 月,他是加拿大高级研究所机器和大脑学习项目的顾问。Hinton 于 2012 年在教育平台Coursera上教授一门关于神经网络的免费在线课程。 他于 2013 年 3 月加入 Google,当时他的公司 DNNresearch Inc. 被收购,当时正计划“将他的他在大学研究和在谷歌工作之间的时间”。
Hinton 的研究涉及使用神经网络进行机器学习、记忆、感知和符号处理的方法。他撰写或合着了 200 多篇经过同行评审的出版物。
当 Hinton 是加州大学圣地亚哥分校的博士后时, David E. Rumelhart 、Hinton 和Ronald J. Williams将反向传播算法应用于多层神经网络。他们的实验表明,这样的网络可以学习有用的数据内部表示。 在 2018 年的一次采访中, Hinton 表示“ David E. Rumelhart提出了反向传播的基本思想,所以这是他的发明”。尽管这项工作对于普及反向传播很重要,但它并不是第一个提出这种方法的工作。 反向模式自动微分,其中反向传播是一个特例,由Seppo Linnainmaa于1970年提出, Paul Werbos于1974年提出用它来训练神经网络。
1985 年,Hinton 与 David Ackley 和Terry Sejnowski共同发明了玻尔兹曼机。 他对神经网络研究的其他贡献包括分布式表示、时滞神经网络、专家混合、亥姆霍兹机和专家乘积。对 Geoffrey Hinton 的研究的简单介绍可以在他 1992 年 9 月和 1993 年 10 月在《科学美国人》上发表的文章中找到。 2007 年,Hinton 与人合着了一篇名为“图像变换的无监督学习”的无监督学习论文。 2008年,他与Laurens van der Maatens一起开发了可视化方法t-SNE 。
2017 年 10 月和 11 月,Hinton 分别发表了两篇关于胶囊神经网络主题的开放获取研究论文,根据 Hinton 的说法,这些论文“终于是行之有效的东西”。
在 2022 年神经信息处理系统 (NeurIPS) 会议上,他介绍了一种新的神经网络学习算法,他称之为“Forward-Forward”算法。新算法的想法是用两次前向传播取代传统的反向传播的前向-后向传播,一个具有正(即真实)数据,另一个具有可以仅由网络生成的负数据。
2023年5月,辛顿公开宣布辞去谷歌职务。他在解释自己的决定时表示,他想“自由地谈论人工智能的风险”,并补充说,他现在对自己一生的工作感到后悔。
荣誉及奖励
2016年,Hinton于 1998 年当选为英国皇家学会会员 (FRS) 。
他是 2001 年第一位鲁梅尔哈特奖获得者。
他的英国皇家学会选举证书如下:
杰弗里·E·辛顿 (Geoffrey E. Hinton) 因其在人工神经网络方面的工作而享誉国际,尤其是如何设计人工神经网络无需人类老师的帮助即可学习。他将脑损伤的影响与此类网络中的损失的影响进行了比较,发现与人类损伤有惊人的相似之处,例如名称识别和分类损失。他的工作包括对心理意象的研究,以及发明用于测试原创性和创造性智力的谜题。它是概念性的、数学上复杂的和实验性的。他将这些技能以惊人的效果结合在一起,创作出令人感兴趣的重要作品。
2001年,Hinton被爱丁堡大学授予荣誉博士学位。
2005年,IJCAI 卓越研究终身成就奖获得者。
2011年,获赫茨伯格加拿大科学与工程金奖。
2012年,他获得了加拿大理事会基拉姆工程奖。
2013年,Hinton被舍布鲁克大学授予荣誉博士学位。
2016年,他因“对人工神经网络的理论和实践及其在语音识别和计算机视觉中的应用做出的贡献”而当选为美国国家工程院外籍院士。 他获得了2016年IEEE/RSE Wolfson James Clerk Maxwell奖。
他荣获BBVA 基金会信息和通信技术类别知识前沿奖(2016 年),“因其在赋予机器学习能力方面的开创性和极具影响力的工作”。
Hinton 与Yann LeCun和Yoshua Bengio一起荣获 2018 年图灵奖,表彰其在概念和工程方面的突破,使深度神经网络成为计算的关键组成部分。
2018年,他成为加拿大同伴勋章。
2021年,他与Yann LeCun 、 Yoshua Bengio和Demis Hassabis一起获得了卡内基梅隆大学的迪克森科学奖,并于2022年获得了科学研究类别的阿斯图里亚斯公主奖。
2023年,他被任命为ACM 院士。
2024 年,他与约翰·霍普菲尔德 (John Hopfield)因“通过人工神经网络实现机器学习的基础性发现和发明”共同荣获诺贝尔物理学奖。
John J. Hopfield
约翰·约瑟夫·霍普菲尔德于 1933 年出生,父亲是波兰物理学家约翰·约瑟夫·霍普菲尔德,母亲是物理学家海伦·霍普菲尔德。海伦是霍普菲尔德的第二任妻子。他是霍普菲尔德的第六个孩子。
教育
他于 1954 年获得斯沃斯莫尔学院文学士学位,并于 1958 年获得康奈尔大学物理学博士学位(由阿尔伯特·奥弗豪泽 (Albert Overhauser ) 指导)。
职业和研究
他在贝尔实验室的理论小组工作了两年,随后担任加州大学伯克利分校(物理学)、普林斯顿大学(物理学)、加州理工学院(化学和生物学)的教员,并再次回到普林斯顿大学,担任 Howard A. Prior 分子生物学名誉教授。35 年来,他还与贝尔实验室保持着密切联系。
1986 年,他与他人共同创立了加州理工学院计算与神经系统博士项目。
他最具影响力的论文有《激子对晶体复介电常数的贡献》(1958 年),描述了极化子;《通过热激活隧穿实现生物分子间的电子转移》(1974 年),描述了长距离电子转移的量子力学;《动态校对:一种减少需要高特异性的生物合成过程中错误的新机制》(1974 年);《具有新兴集体计算能力的神经网络和物理系统》(1982 年)(称为霍普菲尔德网络)以及与 DW Tank 合作的《优化问题中的决策神经计算》(1985 年)。他目前的研究和近期论文主要集中于动作电位定时和同步如何用于神经生物学计算。
他在一篇自传体文章中描述了自己如何进入生物物理学领域,后来又进入神经网络研究领域。
奖项和荣誉
于 2001 年因在将生物学理解为一个物理过程方面的跨学科贡献而被授予国际理论物理中心狄拉克奖,包括生物分子合成中的校对过程、对神经网络中吸引子的集体动力学和计算的描述,以及因在光与固体相互作用方面的工作而被授予美国物理学会奥利弗·巴克利奖。
霍普菲尔德于 1973 年当选为美国国家科学院院士。
1975 年当选为美国艺术与科学学院院士
1988 年当选为美国哲学学会院士。
1985 年,霍普菲尔德获得美国成就学院金盘奖。
2005 年获得阿尔伯特·爱因斯坦世界科学奖。
2006 年担任美国物理学会主席。
2022年霍普菲尔德与迪帕克·达尔共同获得了 2022 年统计物理学玻尔兹曼奖章。
2024年与杰弗里·辛顿因“使人工神经网络实现机器学习的基础性发现和发明”共同获得了 2024 年诺贝尔物理学奖。