ChatGPT之父提新版摩尔定律!宇宙智能数量每18个月翻一番

515f08d63552fb8de2ab20d387d07b1b.png

来源:新智元
本文约2200字,建议阅读5分钟ChatGPT之父Sam Altman提出了新版摩尔定律,即宇宙中的智能数量每18个月翻一番。
[ 导读 ] 一直以来,半导体行业有自己的摩尔定律。近期,ChatGPT之父Sam Altman提出了新版摩尔定律,即宇宙中的智能数量每18个月翻一番。

近期,「ChatGPT之父」Sam Altman在社交媒体称,

一个全新的摩尔定律可能很快就会出现,即宇宙中的智能数量每18个月翻一番。

2ad0d0b656302eda5d8c59344e7942a5.png

观点一出,直接炸了一波。

d7254fd421170714be97d2e658de3298.png

就连马库斯坐不住了,向其泼了一盆冷水,直言道,是AI的炒作量每18个月翻一番。

85fd5a00c5768d9282a2ceed0bbf49b7.png

那么,对于Altman提到的宇宙中智能数量,我们该用什么指标来衡量这种增长?

根据现有的研究可以推测,一种拟合的评估方式如下:

  • 运算能力

  • 学术刊物

  • 专利数量

  • 数据存储

新版摩尔定律,也要背靠算力

一直以来,摩尔定律是半导体行业背后奉行的金科玉律:每隔18-24个月,封装在微芯片上的晶体管数量便会增加一倍,芯片的性能也会随之翻一番。

de07dba9cb889061c76a15a1e9e9932f.gif

而如今,ChatGPT爆火出圈,是继2016年AlphaGo战胜李世石后,人工智能又一重大进步。

根据「2022年人工智能现状报告」,机器学习中的计算需求加速增长。根据每个模型的训练计算量翻倍的时间,它确定了机器学习的三个时代。

前深度学习时代(2010年前,训练计算量每20个月翻一番),深度学习时代(2010-15年,每6个月翻一番),以及大规模时代(2016年至今,100-1000倍增长,然后每10个月翻一番)。

outside_default.png

要知道,ChatGPT的诞生,以及人人能够访问ChatGPT背后离不开的是算力。

在最新的财报会议上,英伟达CEO黄仁勋称,英伟达的GPU在过去的十年里将AI的处理性能提高了100万倍。

摩尔定律在其最好的日子里,可以在十年内实现 100 倍的增长。通过提出新处理器、新系统、新互连、新框架和算法,并与数据科学家、AI研究人员合作开发新模型,在整个跨度中,我们已经使大型语言模型的处理速度提高了一百万倍。

换句话说,没有英伟达,就没有ChatGPT。据称,这一模型运行在10,000个英伟达GPU上。

b2ad59e7eb2152f28832220dbc7ca752.png

像GPT-3这样的大型语言模型需要大量计算能力来进行初始训练。

即使是用于训练模型的最大GPU的内存容量也有限,而需要多个处理器并行运行。

那么,使用ChatGPT进行实时查询,也是需要多个处理器。

英伟达和微软研究论文称,有1750亿参数的GPT-3模型在单个V100上估计训练需要288年。即使我们能够在单个GPU中拟合模型,所需的大量计算也会带来不切实际的漫长训练时间。

使用并行运行的处理器是加快速度的最常见解决方案,但也有局限性,因为超过一定数量的GPU,每个GPU的批处理量变得太小,进一步增加数量变得不可行,反而增加了成本。

431abf58b90ffff58d6a4ccc1fc5b67d.png

这样一来,GPU的处理能力成为先进人工智能模型的前提。

位于爱丁堡大学的超级计算中心,英国电子政务委员会(ePCC)主任Mark Parsons教授称,最大极限是使用大约1000个GPU,而解决这一问题最可行的方法是一台专用的人工智能超级计算机。

即使GPU可以变得更快,但瓶颈仍然存在,因为GPU和系统之间的互连不够快。

随着GPT和其他大模型不断发展,并行训练的一些难点正在得到解决。

a7602d88e44d8f8f3a69be3249d9087d.png

AI论文发表量倍增

另外,全球学术出版物和专利也是衡量宇宙智能数量的标准。

2022斯坦福AI指数报告显示,过去十年,全球AI论文发表量实现翻番,从2010年的162444篇增长到334497篇,且逐年递增。

e8a04f758885028a5f0b0ac6a8d91a8e.png

具体而言,模式识别和机器学习领域的论文,仅2015年至2021年的6年间,就实现了倍增。

其它诸如计算机视觉、数据挖掘和自然语言处理等领域,保持了比较平稳的发展。

0ff8bf341387c0b6b897d31c7fd80977.png

在专利方面,根据世界知识产权 (WIPO) 报告,2021年共提交了340万件专利申请,是有史以来最高的年度总数。

在全球范围内,专利申请从1995年的100万件增加到2010年的200万件,然后是2016年的300万件。

2021年,亚太国家占全球专利申请的三分之二以上,其中中国以近160万件专利申请领先。日本的专利申请总量位居第三,超过28.9万件。

在亚太地区之外,美国以略高于590,000的记录位居第二。

9965a65feea144055107a3fb08968c75.png

听君一席话,如听一席话

IEEE/ACM Fellow,IBM研究院软件工程首席科学家Grady Booch:

0c133ae367ad81602562a3be482a3e80.png

对于Altman这一句话给大家整的也挺懵圈,智能,到底是什么智能?

6537e3752b857a593fb968acc9c3591a.png

他说的是 「智能」,并没有把增长限制在人工智能甚至软件上。

6feb6614766abd09feaf56fd443ba538.png

有网友端上了Intelligence的定义。

dfe915d38ad396feaa38b9c2695eef09.png

有网友直接将其称为,Altman's Law。

599b6274bac35562ea75e0f5fdb5174c.png

ChatGPT,看科技大佬点评

1. Bill Gates

人工智能具有改变世界的力量,与个人电脑和互联网同样重要。ChatGPT仍不完美,比如回答数学问题时出现明显错误,不过他目前还是对其在教学、提供医疗建议等方面的应用潜力感到兴奋。

59a0a40e4a20ea535f0dc35ccbc24b21.png

2. 谷歌首席执行官Sundar Pichai

人工智能是Alphabet正在开发的最深刻的技术。面对ChatGPT崛起,谷歌也正在开发AI驱动的聊天机器人Bard并在二月初向公众演示,计划在未来几周内发布。

9f45d80918585ca956537845e4526878.png

3. 微软首席执行官Satya Nadella

Nadella对人工智能持乐观但谨慎的态度。微软正在大踏步建立AI技术,已经推出了配备对话式聊天机器人的新必应搜索引擎,但对于更加强大的AI,Nadella坚持人类需要有不容置疑的掌控能力。

1ee821393f2b0121b45b2af6f1cc501d.png

4. Elon Musk

马斯克表示人工智能是未来文明的最大风险之一,它承载着巨大的希望,也隐含着巨大的危险,因此即使对于人工智能的监管是必要的,即使这可能一定程度上阻碍其发展。事实上,在与Sam Altman共同创立OpenAI时,他就认为人工智能是人类最大的威胁之一。

9888662da4a56c9c5b21a3d6310aab22.png

5. 苹果联合创始人Steve Wozniak

Wozniak认为ChatGPT对人类是十分有帮助的,但我们应当警惕它可能因为不了解人性而犯下的严重错误。这类似于人们对自动驾驶的警惕,我们了解人会做什么而清楚其他司机的反应,如果由AI来驾驶我们可能无法感到安心。

03f7c3ef3f8363ff47d2ccb8b1b411b3.png

6. John Carmack

随着ChatGPT等AI工具的兴起,人工智能正向着复制人类功能的目标迈进,也许在短短十年内AI就能做到像人类一样思考和行动。

3f359ebe0d260b1a91c7a60a358330d2.png

7. 互联网之父Vint Cerf

Cerf希望投资者在向人工智能倾注金钱时慎重考虑,毕竟技术并不总按人们所希望或者媒体所炒作的道路发展,引发变革的关键还是在于人类本身。

e54b34de2cda9bf19009bded89755197.png

参考资料:

twitter.com/sama/status/1629880171921563649

https://www.businessinsider.com/elon-musk-bill-gates-business-leaders-quotes-on-chatgpt-ai-2023-2#bill-gates-american-business-magnate-and-cofounder-of-microsoft-1

https://www.pcgamer.com/nvidia-predicts-ai-models-one-million-times-more-powerful-than-chatgpt-within-10-years/

https://techmonitor.ai/technology/ai-and-automation/chatgpt-ai-compute-power

https://www.weforum.org/agenda/2022/12/innovation-patent-filings-intellectual-property-ip-applications/

编辑:于腾凯

校对:林亦霖b48b9e3c1c34e6007a061a6640572ce1.png

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/12514.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【思考】ChatGPT之父:被误解的力量 The Strength of Being Misunderstood

The Strength of Being Misunderstood 被误解的力量 A founder recently asked me how to stop caring what other people think. I didn’t have an answer, and after reflecting on it more, I think its the wrong question. 一位创始人最近问我如何停止关心别人的想法。我…

“ChatGPT之父”呼吁监管ChatGPT

当地时间5月16日,美国国会参议院举行一场名为“AI监管:人工智能的规则”的听证会。有“ChatGPT之父”之称的美国人工智能技术公司OpenAI首席执行官山姆阿尔特曼首次出席美国国会听证会。 出乎一些美国议员的意料,阿尔特曼呼吁立法者监管ChatG…

Face-recognition实现人脸识别

文章目录 1.前置知识点(1)Opencv中矩形,绘制文本(2)Opencv中基础的知识点(3)face_recognition.face_locations(img1ToRGB)(4)face_recognition.face_encodings(img1ToRGB…

人脸检测之CenterFace

论文:CenterFace: Joint Face Detection and Alignment Using Face as Point Github:https://github.com/Star-Clouds/CenterFace 论文基于centerNet进行改进,提出了anchor free形式的人脸检测框架,可以同时实现人脸检测关键点检…

chatgpt赋能python:Python人脸识别:从入门到工程实践

Python人脸识别:从入门到工程实践 介绍 近年来,人脸识别技术越来越成熟,广泛应用于各行各业,如社交媒体、安防、金融等领域。Python人脸识别作为一种基于机器学习的技术,可以通过训练模型从图像中自动识别出人脸,并进…

chatgpt赋能python:Python人脸身份识别:提高安全性和效率的先进技术

Python人脸身份识别:提高安全性和效率的先进技术 随着科技的发展,人类对于安全性和效率的需求逐渐增加。而人脸身份识别技术正是一个能够满足这一需求的先进技术。在过去的几年中,这种技术已经逐渐发展成为一种普及的安全措施,这…

人脸识别之特征脸方法(Eigenface)

人脸识别之特征脸方法(Eigenface) zouxy09qq.com http://blog.csdn.net/zouxy09 因为需要,花了一点时间写了下经典的基于特征脸(EigenFace)的人脸识别方法的Matlab代码。这里仅把该代码分享出来。其实,在…

face_recognition 人脸识别

前言 之前实践了下face在线人脸识别版本,这回做一下离线版本。github 上面有关于face_recognition的相关资料,本人只是做个搬运工,对其中的一些内容进行搬运,对其中一些例子进行实现。 官方描述: face_recognition …

chatgpt赋能python:Python人脸追踪:技术介绍与应用

Python人脸追踪:技术介绍与应用 Python作为一门极为流行的编程语言,其在人工智能领域的应用也不断得到拓展和应用,其中Python人脸追踪技术已经成为广泛应用的一个领域。本篇文章将介绍Python人脸追踪技术的原理和应用,以便读者更…

face_recognition结合opencv进行多人脸识别

目录 step1:准备好opencv,numpy和face_recognition三个库 step2:准备好人脸图像 step3:利用opencv读取三张图片 step4:将图片转为特征向量,并将向量和名字添加到列表中,一一对应 step5&#…

chatgpt赋能Python-python人脸识别步骤

简介 Python是一种优秀的编程语言,它广泛应用于人工智能、数据科学、Web应用程序开发等领域。其中,人脸识别是Python应用程序中的重要一环。 本文将介绍Python人脸识别的具体步骤,希望对初学者有所帮助。 Python人脸识别步骤 安装必要的库…

chatgpt赋能Python-python3人脸识别

人脸识别的python3应用:一步步实现高精度的面部识别 Python3作为一种高效的编程语言,具有广泛的应用场景。近年来,人脸识别技术在安防、金融、医疗等领域中逐渐普及,运用Python3进行人脸识别具有巨大的潜力。本文将介绍如何使用P…

万字科普ChatGPT-4为何会颠覆人类社会

来源:图灵人工智能 视频来源:超智能体 视频是关于GPT的底层原理和未来影响。将抛开技术细节,少用专业名词,在整体功能上讲解 ChatGPT 的「工作原理」「制造过程」「涌现的能力」「未来的影响」以及「如何应对」: 1、Ch…

断案三字诀

2019独角兽企业重金招聘Python工程师标准>>> 孟一刀:断案三字诀 2012-11-20 孟黎明,1973年6月生,1992年8月起至今在法院工作,曾任安吉法院调解中心主任、民一庭庭长,现任院党组成员、纪检组长。2010年2月…

科研如断案

最近我又把《神探狄仁杰》第一部看完了,觉得确实很不错。狄仁杰身为一朝宰相,拥有“一人之下,万人之上”的权力。他始终以百姓的安居乐业和天下的兴亡为己任。在电视剧里面,他与坏人斗智斗勇,时时险象环生,…

c语言经典断案程序、杨辉三角程序、跳水概率程序

/* 5位运动员参加了10米台跳水比赛,有人让他们预测比赛结果 A选手说:B第二,我第三; B选手说:我第二,E第四; C选手说:我第一,D第二; D选手说:C最后…

蓝桥杯07 java 断案

题目描述 公安人员审问甲、乙、丙、丁四个嫌疑犯,已确知,这四个人当中仅有一人是偷窃者,还知道这四个人的答话,要么完全诚实,要么完全说谎。在回答公安人员的问话中: 甲说:“乙没有偷&#xf…

试题 算法提高 断案

问题描述   公安人员审问甲、乙、丙、丁四个嫌疑犯,已确知,这四个人当中仅有一人是偷窃者,还知道这四个人的答话,要么完全诚实,要么完全说谎。在回答公安人员的问话中:   甲说:“乙没有偷&a…

论文投稿指南——中国(中文EI)期刊推荐(第6期)

🚀 EI是国际知名三大检索系统之一,在学术界的知名度和认可度仅次于SCI!🎄🎈 【前言】 想发论文怎么办?手把手教你论文如何投稿!那么,首先要搞懂投稿目标——论文期刊。其中&#xf…

关于网页版chatgpt喂投的一些讲解

ChatGPT云炬学长 喂投的定义及使用场景: 这一部分主要是解决这三个问题:啥是喂投。我们为什么要喂投。以及什么场景下面会用到喂投。 从AI专业名词的角度来说,并不存在“喂投”这么一个行为,这是一个不太专业化的俗称&#xff…