谷歌 Alpha 家族再添“猛将”:AlphaDev 重磅亮相,打破多年计算瓶颈,新排序算法提速 70%!...

222217154f3e5ec879f6beb9fe2a77d3.gif

整理 | 郑丽媛

出品 | CSDN(ID:CSDNnews)

本周四,DeepMind 在著名学术刊物 Nature 上,发表了其最新研究成果:一个名为 AlphaDev 的 AI 系统。

54035cf55ca15e5ff647a32d9ef5012d.png

从名字上便可以看出,AlphaDev 与 AlphaGo、AlphaFold 一样,同属 DeepMind 旗下的 Alpha 系列,而 AlphaDev 的发布也同样在业界引起了广泛关注。

具体来说,AlphaDev 是一种通过强化学习来发现增强的计算机科学算法的 AI 系统,它发现了一种更快的排序算法,直接超越了科学家和工程师们几十年来的研究,将排序算法的速度提高了 70%!

DeepMind 计算机科学家 Daniel Mankowitz 更是表示:“我们估计,AlphaDev 发现的排序算法和哈希算法每天都会被调用数万亿次。”

ab31185275c6c59bf30334e9ea242763.png

517d20a40cb0c386793d286a4ba1fbbf.png

不断扩大的计算瓶颈

既然 AlphaDev 发现的是一种全新的排序算法,那我们便先从“排序”说起。

不论是将 3 个字母按字母顺序排列、将 5 个数字从大到小排列,亦或是将一个有上百万条记录的数据库进行排列,这都是排序,是一种几乎所有关键软件的基础算法。在 20 世纪 50 年代之前,排序工作多数都依赖人工,直至后来商业计算机兴起,最早用于排序的计算机科学算法才开始出现并发展。

如今,开发者们所用的排序技术和算法,都是过去几十年计算机科学家和程序员们积累下来的研究成果。相较于几十年前的手动排序,现在的算法确实已经很高效,但也正因如此,想要将其进一步改进无疑是一项重大挑战,难度不亚于“找到一种新的节电方式”或“发现一种更有效的数学方法”。

因此,DeepMind 在论文中提到:“人类的直觉和专业知识对于改进算法至关重要。然而,许多算法已经到了人类专家无法进一步优化它们的阶段,导致计算瓶颈不断扩大。”

56221ad5ae06a08d46587c158dcdca44.png

打破传统,从汇编指令入手

为了帮助打破这一计算瓶颈,DeepMind 引入了 AlphaDev :“AlphaDev 不是改进现有算法,而是从头开始发现更快的算法,并从大多数人没想到的地方切入:计算机的汇编指令。”

现在,虽然开发者多用 C++ 等高级编程语言写代码,但为了让计算机理解,还是必须用编译器将其转换为“低级”汇编指令,再由汇编程序将汇编指令转换为计算机可以运行的可执行机器代码。

28cde4e772ed8e5f9ce8d27fd2ce7c17.jpeg

以此作为灵感,DeepMind 认为相较于在高层次的编码语言中,在汇编指令这个较低的层次上,应该还存在许多改进空间,因为计算机的存储和操作会更灵活,对速度和能源使用也将产生更大影响。

6a1341fa90c8b6c0213678f9f401c604.png

通过玩“游戏”来发现新算法

有了以上基本构思后,DeepMind 让 AlphaDev 开始了一个单人“汇编游戏(Assembly Game)”。

根据论文介绍,在这个游戏中,玩家需要选择一系列低级汇编指令,以此产生一种新的高效排序算法:“这个游戏很有挑战性,因为玩家需要考虑汇编指令的组合空间,以产生一种既可证明正确又快速的算法。难度不仅来自搜索空间的大小,可能的组合数量类似于国际象棋和围棋,而且其中一条不正确的指令都可能会使整个算法无效。”

由于这个特性,AlphaDev 基于 AlphaZero 研发——其强化学习模型在围棋、国际象棋和象棋等游戏中都曾打败世界冠军。

在游戏过程中,AlphaDev 每玩一次 AssemblyGame,都会从头开始构建一个汇编程序,从一组初始无序的指令开始构建,从而定义一种新的高效算法。

fa4142dce0afd49ff2d1400cd9f5ebf6.png

随着游戏的进行,算法不断建立,而 AlphaDev 会通过比较算法的输出和预期的结果来检查它是否正确。对于排序算法,AlphaDev 的检验方式是:输入无序的数字后,可否输出正确排序的数字。

DeepMind 将游戏的输赢作为 AlphaDev 的激励方式,而该游戏的输赢也很好判定:

▶ 使用汇编指令,生成正确的低延迟算法,AlphaDev 即赢得游戏。

▶ 生成不正确的算法或正确但低效的算法,AlphaDev 即输掉游戏。

b6149c035163fd77d879d0414626cf07.png

新排序算法,速度提升 70%!

于是,在这样的“游戏”过程中,AlphaDev 发现了更快的排序算法,主要是围绕 3-5 个元素的较短序列的排序算法。

DeepMind 解释道:“因为这些算法是使用最广泛的算法之一,它们经常作为较大排序函数的一部分被多次调用,改进这些算法可以加快对任意数量项目进行排序的整体速度。”

因而,AlphaDev 发现的这个新排序算法,对于较短的序列来说,速度可提升 70%,对于超过 25 万个元素的序列来说,速度也能提高约 1.7%。

为了让更多人用到这个新排序算法,DeepMind 对算法进行了逆向工程,并以此改进了 LLVM libc++ 标准排序库,可供全球数百万开发者和公司使用。DeepMind 计算机科学家 Daniel Mankowitz 激动表示:“这些算法目前位于 C++ 标准排序库中,这是十多年来对这些子例程的首次更改!”

cd84a7daf0bbc7e6bbef968cebfd0038.png

a56810988a6ebbe7afc95e3833b8e213.png

新哈希函数,速度提升 30%!

除了新排序算法,通过研究 AlphaDev 的发现过程,它实际上还创造了一种新方法:其排序算法包含新的指令序列,每次应用时都会跳过一条指令——对于每天都会被使用上万亿次的排序算法来说,这无疑将产生巨大影响。

DeepMind 研究人员将此称作 “AlphaDev 交换和复制动作(AlphaDev swap and copy moves):通过交换和复制移动,AlphaDev 跳过了一个步骤,以一种看似错误实际上很快捷的方式连接项目。“这显示了 AlphaDev 发现原始解决方案的能力,并挑战了人类改进计算机科学算法的思考方式。”

不仅如此,在发现了新排序算法后,DeepMind 还测试了 AlphaDev 是否可以改进数据结构中常用的哈希算法,结果 AlphaDev 不负众望,确实也发现了一种新的哈希算法,将其应用于 9-16 字节范围内的哈希函数时,速度可提高 30%。而这个新哈希算法,也会在今年被发布到开源的 Abseil 库中,供全球数百万开发者使用。

b43ec6a0dd77ca563f4c58af8da610d8.png

用 AI 来优化代码的未来

通过以上新发现的排序算法和哈希算法,AlphaDev 已展示出了其概括和发现新算法的能力,即用 AI 来优化世界上的代码,并朝着开发通用 AI 工具迈出了重要一步。

因此对于 AlphaDev 的影响,DeepMind 表达了其最终展望:“我们希望这些发现,能激励研究人员和开发人员创造技术和方法,进一步优化基本算法,以创建一个更强大和可持续的计算生态系统。”

参考链接:

https://www.deepmind.com/blog/alphadev-discovers-faster-sorting-algorithms

https://www.nature.com/articles/s41586-023-06004-9

推荐阅读:

▶启航!2023 Amazon DeepRacer 自动驾驶赛车中国联赛6月赛开启!

▶字节正在内部测试对话类 AI 项目;Deepmind 推出新系统革新排序算法;ChatGPT iOS 应用更新|极客头条

▶搜索造假?用户搜索“Chrome”时,微软“Bing Chat AI”打起必应广告

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/72749.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【Pytorch基础教程36】基于Ernie预训练模型和Bert的新闻分类

文章目录 一、新闻分类任务1.1 中文数据集1.2 数据特点1.3 跑起代码 二、 预训练语言模型ERNIE2.1 ERNIE模型结构2.2 bert模型结构 三、项目代码1. bert模型2. ERNIE预训练模型 Reference 一、新闻分类任务 1.1 中文数据集 从THUCNews中抽取了20万条新闻标题,已上…

马斯克入驻推特造成大恐慌!这俩戏精还冒充被裁员工,外媒全被耍了

【导读】马斯克进驻推特后,又是审查代码,又是疑似将灭霸式裁员,人心惶惶之际,这两位戏精也出动了。 最近,马院士进驻推特的事儿可是闹得人仰马翻,鸡犬不宁。 上周四,马斯克抱着水槽走进大楼&a…

为什么程序员很难找到合适的另一半?

虽然现在社会很多人说程序员收入高,是体制外是最好的男友,可是程序员不是总被说成情商低、不懂浪漫吗? 找到合适的另一半,这个难度超过西天取经。指不定你要和九九八十一个妹子错过去,当然对于女生也没那么容易&#x…

佳缘男的计算机软件出差,交友我在世纪佳缘认识了一个男人,今年32岁,通信接近一个月,觉得 爱问知识人...

2006-06-29 16:46:27 见一面也好,见了你就断了对他的念头。也就不用这么高分问我们这个无聊的问题了。 哈哈 全部 2006-06-29 16:46:27 2006-06-29 16:04:28 外表是一方面的内容。但是要有深层次的了解才知道你们是否会适合在一起。 全部 2006-06-29 16:04:28 2006-…

有一种男人叫“程序员”,遇到就嫁了吧!

都说程序改变世界,那程序又是出自谁手呢,自然是程序员了。 全民编程时代,家里没有个会写程序的人,可怎么办啊?所以,今天就给妹纸们推荐一款性价比极高的老公候选人—程序员。 首先,程序员收入高…

当你爱上一个程序员……

点击上方“程序员大咖”,选择“置顶公众号” 关键时刻,第一时间送达! 1.当你爱上一个程序员…… 2.程序员家的孩子 3.调试使我开心 4.程序员的类型 5.Java & C 语言程序员 6.程序员自学完一个新框架后 来源:菜鸟教程程序员大咖…

雅思练习和考试平台市场现状研究分析报告 -

辰宇信息咨询市场调研公司最近发布-《2022-2028中国雅思练习和考试平台市场现状研究分析与发展前景预测报告 》 内容摘要 本文研究中国市场雅思练习和考试平台现状及未来发展趋势,侧重分析在中国市场扮演重要角色的企业,重点呈现这些企业在中国市场的雅思练习和考试平台收…

雅思阅读错题分析

目录 C-15TEST4Passage1 (9/13)Passage2(11/13)Passage3(8/14) TEST3Passage1(10/13)Passage2(11/13)Passage3(8/13) TEST2Passage1(9/13)Passage2(4/13)Passage3(10/14) Test1Passage1(11/13)Passage2(11/13) C-15 TEST4 Passage1 (9/13) …

雅思考试和PET考试哪个更容易通过?

雅思PTE的“自我介绍”: 雅思:全称为国际英语测试系统(International English Language Testing System)简称雅思(IELTS),是著名的国际性英语标准化水平测试之一。雅思考试于1989年设立&#xf…

大连雅思培训百家国际雅思考试词汇量要求与记忆方法是什么

雅思考试词汇量要求与记忆方法是什么 一、雅思考试词汇量要求 雅思考试词汇量要求与记忆方法是什么 1.雅思5.5分所需的词汇量 雅思5.5分水平估计词汇量至少要到3000,口语听力词汇要有800,写作词汇要有500,阅读词汇要有1000,一…

雅思阅读真经总纲_大神名师炸翻现场,2019学为贵全国教育展引爆雅思圈!

9月28日,学为贵全国教育展圆满落幕。此次活动以“万变不离真经”为主题,学为贵联合“当当”、“爱奇艺知识”,跨越北京、长沙、广州、成都、重庆、哈尔滨、南京、西安等全国12个城市,多位大神名师亲临现场,深度分析雅思…

雅思考试自己的复习进度以及方法使用【日更版】

雅思第几套听力阅读 写作口语IELTS 5 听力: 1.何琼网课(腾讯课堂) 2.雅思王听力真题语料库:只刷第三章名词(每天半小时到一小时听写,半小时到一小时改错),电话号码,姓名地址拼写 3.剑桥雅思真题: ①从后…

【雅思阅读】王希伟阅读P3(Heading)

List of Heading 段意题 特点 1. 出题位置特殊:文章前出现 2. 主旨题 3. 难度大(时间,出错连续) 4.无复选 解题根本思路: 找段落主旨与选项搭配 80%段落有主旨句 做题步骤 一 审选项 1、 读例子并去掉例子已经…

FashionAI服装属性标签图像识别Top1-5方案分享

向AI转型的程序员都关注了这个号👇👇👇 机器学习AI算法工程 公众号: datayx 服饰属性标签是构成服饰知识体系的重要根基,内部庞大复杂。我们对服饰属性进行了专业的整理和抽象,构建了一个符合认知过程&…

这波服装设计作品对女性美的诠释,十分到位

女性是温柔的、美丽的,多样的,莱佛士学生Xu Xinyi作品《Femininity&Softness》便是围绕女性展开创作。而Xinyi的作品想要传达的是:女性不应该被物化,她们是美丽且具有多样性的。 莱佛士服装设计专业学生作品 在设计中&#xf…

绘图软件Tecplot如何保存调用自己的绘图风格style

1、保存 点击上方菜单栏“Frame”; 点击“Save frame style” ,选择位置保存即可。 2、调用 点击上方菜单栏“Frame”; 点击“Load frame style” ,选择style位置调用即可。

Marvelous Designer 服装设计与模拟

制作真实的角色衣服是CG动画中一项很具有挑战性的工作,是角色开发过程中非常重要的一步。它可以体现角色在故事中的性格,在技术发达的今天,制作一件虚拟衣服很容易。我们可以使用正确的工具发挥想象力在很短的时间内就能创作出真实的衣服。说…

【2023,学点儿新Java-16】编程语言的学习方法总结 | 编程的本质和架构 | 如何深度理解编程知识和技能 | 如何成为优秀的软件开发工程师 | 附:Java初学者的困惑!

前情回顾: 【2023,学点儿新Java-15】案例分享:基于Java实现餐厅点餐系统(附完整源代码)【2023,学点儿新Java-14】携程面试题:如何看待Java是一门半编译半解释型的语言?| 咨询互联网…

函数计算导论 - AI 时代助燃剂

开始之前 开始之前请先鉴赏各家公有云的函数计算(自行鉴赏,笔者不发表任何评论) 阿里云: 腾讯云: Laf: 函数计算价值 每个企业都应该标配一个函数计算平台,不管是直接使用公有云还是涉及敏感数据需要私有…

2023年,对人工智能的思考与展望

近些年来,人工智能的话题一次次的冲上热榜,而在前段时间内,chatgpt以及midjourney又一次冲上了热搜,在海内外引起广泛的讨论,我个人在研究了近一个多月的技术文档和文献资料后,也对人工智能的未来有了很多的…