编辑:元子
涞源:新智元
DeepMind和伦敦大学学院(University College London,UCL)合作,推出了一个系列的深度学习与强化学习精品进阶课程。该课程内容已经被录制为视频,并由爱可可爱生活上传B站供大家在线观看或下载。
在过去十年中,深度学习已经发展成为领先的人工智能范式,为我们提供了从原始数据中学习复杂功能的能力,其精度和规模都是前所未有的。
深度学习已经被应用于目标识别、语音识别、语音合成、预测、科学计算、控制等问题。由此产生的应用正在触及到我们生活中的方方面面,如医疗卫生、医学研究、人机交互、通信、交通、养护、制造等人类的许多领域。
为了表彰这一巨大的影响,2019年的图灵奖作为计算领域的最高荣誉,被授予了深度学习的先驱者。
DeepMind和伦敦大学学院(University College London,UCL)合作,推出了一个系列的深度学习与强化学习进阶课程。该课程内容已经被录制为视频,并上传网络供大家在线观看或下载。
在这个系列讲座中,来自领先的人工智能研究实验室DeepMind的顶尖研究科学家们将就深度学习领域的12个精彩的主题进行演讲,从训练神经网络的基础知识到围绕记忆、注意力和生成模型的高级思想,再到负责任的创新这一重要话题,都将在这个系列讲座中展开。
目前放出了课程的前6个部分。
概述
在这次讲座中,DeepMind研究科学家、UCL教授Thore Graepel讲解了DeepMind基于机器学习的人工智能方法。他举例说明了深度学习和强化学习如何结合起来构建智能系统,包括AlphaGo、Capture The Flag和AlphaStar等。随后,他对后续讲座中的不同主题和演讲者进行了简短的介绍。
神经网络
神经网络是2006年以来深度学习革命的模型,但其基础可以追溯到20世纪60年代。在本次讲座中,DeepMind研究科学家Wojciech Czarnecki将介绍这些模型如何运行、学习和解决问题的基础知识。他还将介绍各种专业术语/命名惯例,为进一步的高级讲座做准备。最后,他简要地介绍了神经网络设计和开发的更多研究方向。
用于图像识别的卷积神经网络
在过去的十年中,卷积神经网络给计算机视觉带来了革命性的变化。在本次讲座中,DeepMind研究科学家Sander Dieleman通过几个案例研究,从90年代初到目前的技术现状,对卷积神经网络架构进行了深入的探讨。他还回顾了目前常用的一些构架,讨论了训练深度模型的挑战,以及寻找有效架构的策略,并重点介绍了图像识别。
计算机视觉的高级模型
DeepMind研究科学家Viorica Patraucean在上一次讲座的基础上,介绍了图像分类以外的经典计算机视觉任务(目标检测、语义分割等),并介绍了每种任务的先进模型以及标准基准。她讨论了视频处理的类似模型,用于动作识别、跟踪等任务的视频处理,以及相关的挑战。特别是,她提到了最近为使视频处理更高效而做的工作,包括使用强化学习的元素。接下来,她介绍了在单模态和多模态(视觉+音频、视觉+语言)中进行自我监督学习的各种设置,在这些设置中,大规模的学习是有益的。Viorica最后讨论了视觉中的开放性问题以及计算机视觉研究在构建智能代理这一更广泛的目标中的作用。
机器学习的优化
优化方法是神经网络的底层引擎,使神经网络能够从数据中学习。在本次讲座中,DeepMind研究科学家James Martens介绍了基于梯度优化方法的基础知识,以及在训练神经网络中的应用。主要内容包括梯度下降法、动量方法、二阶方法和随机方法。James通过局部二阶近似的解释框架对这些方法进行分析。
序列和循环网络
在这次讲座中,DeepMind研究科学家Marta Garnelo重点介绍了序列数据,以及机器学习方法如何适应处理这种特殊类型的结构。Marta首先介绍了序列建模的一些基础知识,包括为该任务设计的常见架构,如RNNN和LSTM。然后,她接着介绍了序列到序列的解码及其应用,最后还介绍了一些序列模型的近期应用实例。
每个课程视频在1个半小时左右。在这短短的9小时候的课程内,学生可以初步掌握深度学习、强化学习等知识,并有机会从基础走向高阶。
总体来说,这是一门偏向实践的课程,需要有一定的数学和编码基础,学完以后,学生能够在TensorFlow上熟练实现深度学习、强化学习以及深度强化学习相关的一系列算法。
该课程已经被爱可可爱生活搬运到B站,可以流畅观看。
课程地址:
https://www.bilibili.com/video/BV17C4y1a77i?from=search&seid=15545032919596246079
完)