英伟达发布ChatGPT专用GPU,性能提升10倍,还推出云服务,普通企业也能训练LLM...

e135998501762a9859488562b854ac59.jpeg

文|Pine 发自 凹非寺
源|量子位

“AI的iPhone时刻已至”,英伟达或成最大赢家。

在GTC2023大会上,黄仁勋接连放出大招:

不仅发布了ChatGPT专用GPU,比之前就能实时处理ChatGPT的HGX A100快了10倍

还公布了其在芯片领域的进展,推出了新的cuLitho软件库,使光刻计算速度整体提高了40倍

a5b0ba196704bcbfb19b5d00ed5887e1.png

从老黄的言语中也能得知,当下各种爆红的AIGC产品:ChatGPT、Stable Diffusion、DALL-E等都能见到英伟达的身影。

而去年年末至今,ChatGPT爆火,也顺势拉动了英伟达的股价,年初至今就上涨83%。

目前,英伟达的市值为6471亿美元。

1f61c0c8172dfe85ea5849dfd106d58d.png

会上及会后采访中,老黄的言语之中也是透露着对AI生成内容的褒奖:

AI是用人类语言编程的新型计算机,未来每个人都将是程序员。

话不多说,会上具体都有哪些亮点,一起盘点下~

发布ChatGPT专用GPU

会前,网友们对GTC的猜测都集中在ChatGPT上。

而英伟达,也是毫不吝啬,不止ChatGPT,AIGC方面直接一把推出了四种针对AI任务的推理平台:

  • L4 Tensor Core GPU

  • L40 GPU

  • H100 NVL GPU

  • Grace Hopper超级芯片

22fb898621fffeaaf6cc06dabccf2340.png

其中,H100 NVL GPU是英伟达这次推出的ChatGPT的专用GPU,它是基于去年已经发布的H100的改进版本:配备双GPU NVLink,将两张拥有94GB HBM3显存的PCIe H100 GPU拼接在一起。

性能的话,老黄形象地做了个对比:

相较于目前唯一可以实时处理ChatGPT的HGX A100,一台搭载四对H100和双NVLINK的标准服务器能将速度提升10倍,并且还可以将大语言模型的处理成本降低一个数量级。

期间,老黄还展示了自己亲自把首款签名版DGX交付给OpenAI的画面。

8117177c7958975b2be691e17421ce3a.png

然后再来说下其他三个推理平台:

L4是专门针对AI生成视频设计的一款通用GPU,它提供的视频性能比CPU高出整整120倍,能效提高了99%。

L40则是用在图像生成上的GPU,它能对AI生成2D、3D图像进行优化,相较于英伟达的云推理GPU T4,性能提升了10倍。

Grace Hopper超级芯片用在推荐系统和大型语言模型AI数据库上,图推荐模型、向量数据库和图神经网络都可以选择这款芯片。

更具体一点,通过900GB/s高速芯片对芯片的接口,Grace Hopper超级芯片可连接Grace GPU和Hopper GPU,而Grace和Hopper正是处理大型语言数据集的理想选择。

到这里,你以为关于ChatGPT的相关产品就没了?

大NO特NO。

在ChatGPT这块儿,英伟达还致力于下沉市场,联合微软Azure、Google GCP和Oracle OCI三家云厂商合作推出了DGX Cloud。

普通企业也能训练LLM。

也就是说,想要训练像ChatGPT的大语言模型,可以直接在网络上租赁DGX云服务,这样一来客户就能将英伟达DGX AI超级计算机实时接入公司。

英伟达提供的DGX服务器,包含8个H100或A100图形处理器和640GB内存,A100层的价格为每月36999美元。

而直接购买一个实体DGX服务器,就要花费20万美元,并且微软当时为了训练新必应也是斥资数亿美元购买了数万块A100芯片。

用cuLitho加速芯片创新

ChatGPT等一众AIGC产品毫无疑问已经成为当前的AI圈的宠儿,不过在英伟达眼中ChatGPT只是一个起点。

GTC大会上,老黄放出了另一枚重磅级“核弹”,把加速计算引入到光刻领域——推出英伟达cuLitho计算光刻库

f20d2d86fb7f526e40361f28b764e484.png

cuLitho计算光刻库是啥?

一言以蔽之,cuLitho是一个可以加速光刻基础计算的算法库,能够很大程度上提升光刻计算的速度,并且节省能耗。

老黄表示,目前计算光刻每年都需要消耗数百亿CPU时间。而运行在GPU上cuLitho,可以将目前光刻技术的性能提升40倍,功耗降低至此前的1/9。

甚至在某种程度上cuLitho还可以为行业2nm工艺奠定基础。

目前,英伟达已经与台积电、ASML和Synopsys等芯片厂商达成合作,后续芯片生产中,也会引入cuLitho这项AI技术。

其中,台积电CEO魏哲家称赞,cuLitho为台积电在芯片制造领域部署反向光刻技术和深度学习等光刻解决方案开辟了新的可能性。

老黄也在会上预告,台积电将在今年6月份的2nm芯片生产中引入cuLitho。

ASML首席执行官Peter Wennink也做出计划,让所有的计算光刻软件产品都支持GPU,同时也表示与英伟达在GPU和cuLitho上的合作会给计算光刻带来巨大的好处。

Synopsys公司这边,在cuLitho平台上运行了Synopsys OPC软件,性能直接得到了从几周到几天的提升。

一些其他亮点

除了上面提到的这些,GTC大会上,英伟达还公布了一些其他合作项目:

比如说生成式AI方面有Adobe、Getty Images和Shutterstock。

医学方面,英伟达宣布了新的合作伙伴Medtronic,黄仁勋透露,目前正在一起构建一个医疗方面的AI平台,涵盖手术引导和机器人辅助手术。

e00ae9effd326b20dbcab5b2f60b9d38.png

……

如果还想了解更多关于GTC2023的内容,可以戳下面链接查看直播回放。

直播回放:
https://www.youtube.com/watch?v=DiGB5uAYKAg

ec170ccecfcaa5a6ea456151bf552a00.jpeg后台回复关键词【入群

加入卖萌屋NLP、CV、搜推广与求职讨论群

 1f9efe95f876c58fad25338cef4e8f9e.png

[1]https://www.theverge.com/23649329/nvidia-dgx-cloud-microsoft-google-oracle-chatgpt-web-browser

[2]https://nvidianews.nvidia.com/news/nvidia-asml-tsmc-and-synopsys-set-foundation-for-next-generation-chip-manufacturing

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/14942.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

在Windows平台监视英伟达(Nvidia)显卡性能

深度学习训练时,常常需要监视显卡性能情况。在Linux/Ubuntu平台命令行输入nvidia-smi就可以监测显卡性能。 在Windows平台要稍微复杂一些。 先要找到显卡驱动安装位置。我的是C:\Program Files\NVIDIA Corporation\NVSMI。 文件夹中有一个nvidia-smi.exe。 利用命令…

公式+ChatGPT:为你的标题创作注入新鲜活力

大家是不是经常遇到文章已经写好了,但是标题却还空着,不是不会写,就是写得平淡无奇😂。自己都觉得无趣的标题又怎么能吸引有趣的灵魂呢?何不让chatGPT来试试呢? 首先,我们要明白一个基础理念&am…

《花雕学AI》27:如何在ChatGPT时代提高数字媒体艺术的原创性和价值?

引言 数字媒体艺术是指使用各种数字、信息技术制作的各种形式的有独立审美价值的艺术作品,具有模拟现实的虚拟性、艺术创造的想象性、交互性和使用网络媒体的基本特征。数字媒体艺术是一个跨自然科学、社会科学和人文科学的综合性学科,集中体现了“科学…

爆火的ChatGPT是什么?一帧秒创AI作画生-优漫动游

12月1日,这一语言模型正式对公众开放。仅用了5天时间,其用户就突破了100万人。ChatGPT的强大能力,让体验者惊叹“人类要被抢饭碗了”“AI成精了”,且不断吸引着世界各地的用户持续探索它的能力和边界。 9月初开始盛行的AI作画风头…

张朝阳陆川谈AI:人才能思考问题 ChatGPT只能完成重复工作

雷递网 乐天 6月15日 6月14日《星空下的对话》再度开启,搜狐创始人、董事局主席兼首席执行官、物理学博士张朝阳与导演、编剧、制片人陆川展开跨界对话。 二十多年老友重聚,带来了一场充满生活乐趣的沉浸式内容直播。 现场,二人一起品尝手磨咖…

AutoGPT:AutoGPT简介及与ChatGPT对比分析

文章目录 [toc]一、AutoGPT是什么二、AutoGPT的利弊优势弊端 四、小结 一、AutoGPT是什么 AutoGPT的兴起,无需用人敲代码、自己有解决问题的思维、拥有一整套逻辑和自主运行能力。AI的发展这么快的吗?它是一个实验性的开源应用程序,展示了 GP…

这三个被全网吹爆了的AI工具,分享给你

伴随着ChatGPT的横空出世,一场史无前例的科技革命正在拉开序幕。 “上知天文下知地理”、“学富五车、才高八斗”、“博古通今”、“学贯中西”……这些最能彰显博学和智慧的形容词,显然已不足以形容AI的博学和智慧了。 而扎进艺术领域的AI&#xff0c…

【还在传统绑骨骼动画?】让AI助力你实现2D游戏角色动画流程

思路(让3D模型替代动作) 一、利用MJ或者SD生成你需要的游戏角色(获取原图像) 需要的知识: 会调关键词chatGpt(看小红书、抖音、B站、Youtube、Telegrame等等都行,别傻忽忽跑到知识星球被收割…

Adobe软件还行吗?

前段时间,美国政府“准备通过诉讼阻止Adobe去年公布的,以200亿美元收购Figma的交易,理由是此举属于反竞争行为。”新闻一出,Adobe股价旋即下跌,但跌幅并不像2022年刚公布这笔交易时那么迅猛。 看起来,相较于…

这18个被全网吹爆了的AI绘画工具,分享给你!

伴随着ChatGPT的横空出世,一场史无前例的科技革命正在拉开序幕。 AI 拥有强大的信息储备和数据处理能力,无论是速度、质量,还是思维模式,都让人只呼不得了!写代码、造论文丝毫不在话下,甚至还能和你探讨茶…

Orillusion引擎正式开源!AIGC时代下的WebGPU轻量级3D渲染引擎!

开源生态的建设根植于社区,开发者在社区共享、共创、共赢,将会激发出无限的创造力,这就是开源最大的魅力! 选择开源,源于我们坚信,“独行快,众行远”! 1 Orillusion 引擎 WebGPU经过…

ChatGPT只是个聊天工具,根本没什么用?

到今天还有很多人对于ChatGPT不屑一顾,认为这就是一个聊天工具,真的对于ChatGPT的了解太肤浅了。 绝大多数让人对于世界的变化都是迟钝的,这个也可以理解,因为人类就是不喜欢变化,因为变化意味着风险,而人…

开源了,我做了一个基于GPT的桌宠聊天系统:Pet-GPT!

前言 最近chatgpt的热度高居不下。作为一个深度成谜者,发现大部分开发者在调用GPT的时候要不就是基于Tauri做本地窗口外接网页,要不就是web直接展示。在沉思苦想一段时间后,才发现好像没啥什么人用pyqt做啊?特别是没人用桌面宠物…

ChatGPT:YES or NO?

人们经常谈论人工智能技术今天给我们带来的机会。尤其要关注ChatGPT的趋势,它在制作既有好的也有坏的方向的片段和代码方面做得很好。 开发人员可以从这些工具中获得什么样的影响? 我毫不怀疑这些工具应该不会对在不友好的地方工作的开发人员产生任何负面影响。因为这些工具…

通过ChatGPT看董事会会议,如何快速生成会议纪要?

最近ChatGPT大火,许多人发现通过其自动生成周报日报可以大大提高工作效率。同样,在会后,自动生成会议纪要可以有效地减轻会后的工作压力。 董事会会议纪要往往不只是文字工作,还要体现着领导的评论注释、表决事项的结果。不同公司…

chatgpt赋能python:Python判断IP地址类型的介绍

Python判断IP地址类型的介绍 在网络开发和服务器管理中,IP地址是一个非常重要的概念。对于大多数人来说,我们都知道IP地址是一个由四个数值组成的数字组合,例如:192.168.1.1。但是,在网络开发中,我们经常需…

chatgpt赋能python:python查询IP:基础知识与实践

python查询IP:基础知识与实践 介绍 在现代互联网世界中,每一个连接到网络的设备都被分配了一个IP(Internet Protocol)地址。有时,你需要查询一个IP的详细信息,比如它的所在地、市场份额、运营商等。Pytho…

狼,真来了!

文 / 谷雨(微信公众号:王不留) 今天群里大清早就炸开了锅,群友们不断分享着GPT-4的强大。 GPT-4对于ChatGPT的升级就相当于一个高中生变成了一个研究生,收集信息的能力、解决问题的能力和输出结果的逻辑性都有了质的飞…

智慧医疗基础平台-01

缘起 回望去年的光景,虽然东西奔走、南北逐流,但没有什么成绩,只是收获了些许疲劳,还在出差期间染上了大号感冒,虽然带上了2层口罩但也无济于事。回想起来,人生无趣工作内卷。尤其是经历了疫情三年&#x…

Day5-进程控制原语

又是新的一天!在学习过程中感觉对原语两个字的理解还是很晦涩,一度用上了chatGPT,今天最大的收货就是在于对僵尸进程和孤儿进程有了进一步认识,并且知晓了一个新的kill命令:kill -s SIGCHLD 父进程号, 这条…