微软为ChatGPT打造专用超算!

4ecf2c00a9ea24f6ef3e96251375625e.jpeg

来源:量子位

微软砸下大几亿美元,专门为训练ChatGPT打造了一台超算——上万张英伟达A100芯片打造,甚至专门为此调整了服务器架构,只为给ChatGPT和新必应AI提供更好的算力。

7b898aa446b03f15b13e85b2b8a6cd41.jpeg
△图源:微软

不仅如此,微软还在Azure的60多个数据中心部署了几十万张GPU,用于ChatGPT的推理。

有网友感慨:果然还是得靠钱生钱啊~

1f76d97c36110835a4c3805aa15551a9.jpeg

还有网友调侃,微软数据中心服务器终于多了个新用途:

虽然不是真的,不过想象微软数据中心的某些服务器用途,可能一半是Xbox的xCloud,另一半是ChatGPT。

120a7d3a693f0e29b5f3557a5efb930b.jpeg

微软为什么打造这个超算?

事实上,这台超算并非最近才开始打造。

据微软表示,他们给OpenAI提供这台超算已经有3年之久,而ChatGPT也正是基于这台超算提供的算力训练的。

这是因为,OpenAI在最初商量与微软合作时,曾经就算力方面的事情进行过协商。

OpenAI认为,如果微软想给自己提供算力,就必须在Azure云计算平台上“腾出”一部分巨大的算力单独给它们使用,且确保它们不与Azure提供的其他服务产生冲突。

微软答应了这一条件,特意给OpenAI提供了一台超算,用于各种大模型训练。

33305aa7fbaf7601d32d5e933ced0b07.jpeg
△图源:微软

当然,微软也不是白白给OpenAI提供超算服务的,背后肯定有自己的考量。

其一,吸引更多企业来使用Azure训练自己的大模型。微软执行副总裁Scott Guthrie表示:

虽然它是OpenAI的定制版,但同样具备某种通用性,任何企业都可以基于这种方式来训练自己的大语言模型。

其二,直接在Azure中提供OpenAI模型服务(Azure OpenAI Service)。

此前包括GPT-3、Codex和DALL·E 2等模型,都已经接入Azure。

至于纳德拉1月份立的“要把ChatGPT加入Azure服务”flag,目前也已经实现。

3fd7c5b2c688097cca57fa3244dc20c4.jpeg

官网还特意给ChatGPT相关服务贴了个高亮标签:

1b0e060dee83d103bfcb160dd3cfea03.jpeg

这波属实是微软用ChatGPT,再次宣传了一波自己的云服务。

当然,基于英伟达A100打造的超算也不是微软Azure的最新技术。

据微软表示,他们还将基于英伟达H100和网络技术,推出Azure最新的AI虚拟机产品。

国内ChatGPT云厂商现状?

那么,国内云厂商是否会因为ChatGPT被带动起来一波?

事情并不如想象中简单。

目前来看,国内公开表示拥有1万张英伟达A100的企业只有幻方量化。

据幻方官网显示,2022年3月由于需要发展量化金融业务,他们构建了一个名为萤火二号的AI集群,拥有一万张英伟达A100。

至于其他企业,据《财经十一人》介绍,国内GPU持有量超过1万张的企业不超过5家,即使规模最大的企业也不超过5万枚,而且这里面有不少都是英伟达中低端数据中心芯片。

显然,相比微软能给ChatGPT投入大量算力、或是像Facebook和谷歌一样动辄能采购几千上万张GPU,算力是国内厂商做ChatGPT的另一大难点。

在以ChatGPT为代表的大模型技术上,软硬件都还有不少难关要攻克。

参考链接:

[1]https://twitter.com/satyanadella/status/1615156218838003712

[2]https://azure.microsoft.com/en-us/products/cognitive-services/openai-service#overview

[3]https://www.high-flyer.cn/blog/hfai/

[4]https://new.qq.com/rain/a/20230305A07EU900

[5]https://news.microsoft.com/source/features/ai/how-microsofts-bet-on-azure-unlocked-an-ai-revolution/

[6]https://www.theverge.com/2023/3/13/23637675/microsoft-chatgpt-bing-millions-dollars-supercomputer-openai

未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)大脑研究计划,构建互联网(城市)大脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

2eb24f2f49f2fecc31fda4a94768d12b.jpeg

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/32590.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

AotucCrawler 快速爬取美女图片

今天介绍一款自动化爬取图片项目。 GitHub: https://github.com/YoongiKim/AutoCrawler Google, Naver multiprocess image web crawler (Selenium) 关键字 爬虫网站:Google、Naver (美、韩两大搜索引擎) 运行方式:Multiprocess…

爬取单张图片(简单版)

一.创建Python项目 (1)创建CrawlerDemo爬虫项目 二、安装所需要的库 (1)安装requests库在终端执行命令语句:pip install requests (2)安装lxml库-解析网页在终端执行命令语句:pip …

python爬虫爬取网上图片

爬虫原理爬虫需要遵守的规则实际操作 爬虫 其实通俗点来讲爬虫就是一个探测机器,它的基本操作就是模拟人的行为去各个网站溜达,点点按钮,查查数据,或者把看到的信息背回来,(切记是安全的数据,允许爬的范围…

Python——爬取图片

大家好,我是xiaomeng 小孟 您好 欢迎大家阅读今天的文章————Python爬取图片(爬虫) 最近爬虫挺火的,所以我今天也来一个爬虫! 正文: 首先,我们先下载模块,pip install requests…

爬取谷歌图片

python爬虫:爬取谷歌图片 前言涉及到的库需要使用的插件实现过程 前言 由于工作需要,需要从网上获取大量图片。(使用谷歌图片需自备梯子)涉及到的库 pip 安装 from selenium import webdriver from selenium.webdriver.chrome.…

python 爬取图片

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 文章目录 前言一、爬虫是什么?二、编写网络爬虫要用到的python库(常用)代码实现导入所需模块:对网站发起请求并转化为text格式…

AotucCrawler 快速爬取图片

AotucCrawler 快速爬取图片 今天介绍一款自动化爬取图片项目。 GitHub: GitHub - YoongiKim/AutoCrawler: Google, Naver multiprocess image web crawler (Selenium) Google, Naver multiprocess image web crawler (Selenium) 关键字 爬虫网站:Google、Naver &…

Python爬取图片

爬取网站 https://image.baidu.com/ 先打开页面 然后点击动物图片 当然选择哪个都可以我这里只是喜欢动物的所以选择这个分类 爬取任何数据 第一步就是先确定数据来源 先打开 f12 来看一下 先点击随便一个图片右键 然后点击检查 就会跳到那个图片所在的位置 如下&#xff1a…

(三)爬取一些网页图片

爬取一些网页图片 1、随机爬取一个网页: import requests# 1、获取图片网页源码 def Get_Source_Page():url https://pic.netbian.com/index.html# 当爬虫程序运行爬网站,若不设置header为任意一个名字,会被有些网站检查出是python爬虫&…

模拟双色球

投注号码由6个红色球号码和1个蓝色球号码组成。红色球号码从1 - 33选择;蓝色球号码从1 - 16中选择。 package com;import java.util.Random; import java.util.Scanner;public class Test {public static void main(String[] args) {// 1.随机一组中奖号码,6个红球号码不重复(1…

年轻人的第一支牙刷,“少年”国风定制,BYCOOMagic电动牙刷体验

刷牙是每个人每天必做的事,普通牙刷由于清洁力度不够,无法做到深层次刷牙清理,加上刷牙时间不足,因此大多数人属于敷衍式刷牙。欲善其事、先利其器,要想科学刷牙,电动牙刷必不可少,最近我就入手…

第三方ipad笔哪个牌子好用?ipad触控笔推荐平价

至于选择苹果原装的电容笔,还是平替的电容笔,要看个人的需求而定,比如画图用的,可以用Apple Pencil;比如学习记笔记用的,可以用平替电容笔,目前的平替电容笔无论是品质还是性能,都非…

咦?智能颈部按摩仪还能语音播报,快搞起来!

一、档位切换实现 1、档位实现原理 按摩仪共设置15个档位,可以控制按摩的力度,通过BOOST升压电路实现。 通过P8口产生PWM波,调节PWM输出的正占空比来实现升压,详细的硬件原理可参考硬件部分关于升压原理的介绍,具体数…

电动牙刷/洗牙器出口欧盟CE认证测试标准EN 60335

电动牙刷/洗牙器在这两年开始被很多厂家看中这块的发展,因为据调查了解到,电动牙刷比普通牙刷更能够清除牙菌减少牙龈,更好的做到了清洁的作用。 在欧美国家几乎所有的人都使用电动牙刷,是一款普遍流行的日用品,因此在…

oh-my-posh - 终端个性化工具 - 美化PowerShell / cmd - 好物分享,真香~

一. 什么是oh-my-posh? Oh My Posh 是一款终端个性化工具,支持 Windows、Linux(WSL)、macOS 系统上的 PowerShell、bash、zsh 等终端,可以配置不同主题达到个性化的效果。 本篇文章,将以PowerShell终端为例&#xff0…

酷科技 | Amabrush电动牙刷:10秒就可以完成刷牙

刷牙是我们每天都要做的事情,虽然整个过程不过两三分钟,但无论是早上急急忙忙的起床,还是晚上困意来袭,忘记刷牙或者随便糊弄一下,已经成为了很多人经常会做的事情。 牙齿的健康很重要,因此刷牙这件事虽小但…

PaddleSpeech 流式语音识别系统 PP-ASR

(以下内容搬运自 PaddleSpeech) PP-ASR 目录 1. 简介2. 特点3. 使用教程 3.1 预训练模型3.2 模型训练3.3 模型推理3.4 服务部署3.5 支持个性化场景部署 4. 快速开始 1. 简介 PP-ASR 是一个 提供 ASR 功能的工具。其提供了多种中文和英文的模型,支持模型的训练&a…

飞利浦 PHILIPS 电动牙刷HX6730 拆解

今日,一直比较喜欢用的电动牙刷,飞利浦HX6730坏掉了,初步感觉考虑飞利浦的保修,但是发现发票找不到了。飞利浦的客服也说,电动牙刷的两年保修依据分别是:1、发票开据日期;2、在无发票的情况下&a…

CES Asia:藏在儿童电动牙刷里的科技

科技巨头苹果公司常常对外表达的观念是,产品的核心是使用者,科技是用来解决问题,让产品设计得能帮助使用者生活得更美好,科技要做的是帮助人们拥有完成原本无法做到的事的能力。苹果公司认为科技应当藏身幕后,而不是走…