橘子百科-橘子都知道橘子百科-橘子都知道

亲爱的让你㖭我下黑

亲爱的让你㖭我下黑 “AI春晚”英伟达放大招:亮算力“杀器”、助游戏“捏人”;黄仁勋帮算账:GPU多买多省

  “AI热潮”最大赢(yíng)家(jiā)之一、英(yīng)伟(wěi)达背后(hòu)的(de)那个身穿黑色皮衣的男(nán)人又来了。

  前脚(jiǎo)才交出亮眼业(yè)绩狂(kuáng)拉股价,英伟达CEO黄仁勋后脚就(jiù)在昨日(rì)的COMPUTEX大会上宣布(bù),“我们已(yǐ)到达(dá)生成(chéng)式AI引爆点(diǎn)。从此,全世界的每个角(jiǎo)落,都会有(yǒu)计算需求。”

  如今英(yīng)伟达(dá)掌握(wò)着全球多家科技公司“算力命脉”,而在这场大会上,黄仁(rén)勋(xūn)激情演讲2个小时,甩出(chū)了多项重磅新发布,包括算(suàn)力“杀器(qì)”DGX GH200超级(jí)计算(suàn)机、针对游(yóu)戏的ACE代工服务、MGX服务器规范等内容(róng)。

  算力“杀(shā)器”:DGX GH200超级计算机(jī)+GH200超级芯片

  先看“集(jí)成了英伟(wěi)达最(zuì)先进(jìn)加速计(jì)算(suàn)和网络技术”的DGX GH200人工智能超级(jí)计算(suàn)机

  这款超(chāo)算专为大规模(mó)生成(chéng)式AI的负载所(suǒ)设计(jì),由256块GH200超级芯片组成(chéng),拥有1 exaflop超凡AI性(xìn亲爱的让你㖭我下黑ight: 24px;'>亲爱的让你㖭我下黑g)能、144TB内(nèi)存(是英伟达目(mù)前DGX A100系统的(de)近(jìn)500倍(bèi))、150英里光(guāng)纤、2000多个风扇。

  DGX GH200重(zhòng)达40000磅(bàng)(约合18143千克),堪比四只(zhǐ)成年大象(xiàng)的体(tǐ)重。

  预计DGX GH200将于今年年底投(tóu)入问世,英(yīng)伟达(dá)暂(zàn)未公布(bù)价格,而谷(gǔ)歌云、Meta与微软(ruǎn)将是首批(pī)用户(hù)

  同时,英伟达也正在(zài)打造自家基(jī)于(yú)DGX GH200的大型(xíng)AI超级计(jì)算机NVIDIA Helios,以支持其(qí)研究和开(kāi)发团(tuán)队的工作。其(qí)中采用4个DGX GH200系统、1024颗(kē)Grace Hopper超级芯(xīn)片,每(měi)个都将与英伟达(dá)Quantum-2 InfiniBand网络(luò)连接,带宽高达400Gb/s,将于(yú)今年年底上线。

  值得一(yī)提的是,黄(huáng)仁勋透露,DGX GH200集成的GH200 Grace Hopper超(chāo)级芯片已进入全面生产

  “拉(lā)踩”CPU:成本(běn)、功(gōng)耗、处(chù)理(lǐ)数据(jù)量不如GPU

  在本次大会(huì)上,黄仁(rén)勋还(hái)“拉踩”了一波(bō)CPU。他(tā)从功耗、处理数(shù)据量等(děng)方面,指出使(shǐ)用GPU胜过CPU。

  举例(lì)来说,花(huā)费1000万美元(yuán),可以建设(shè)一个有960颗CPU的数据中心,其可处(chù)理1X LMM(大语(yǔ)言模型)数据量,需(xū)要11GWh功耗;

  同样成本下,也可以建设一个有48个GPU的数据中心,其(qí)可处(chù)理44X LLM数据量,仅需要(yào)3.2GWh功耗。

  若只想处理1X LMM数据量,则(zé)只需40万美元,便可拥(yōng)有一个搭载2个GPU、功耗仅0.13GWh的数据中心。

  “买越多(duō),省越多(duō)(The more you buy, the more you save)。”黄仁勋再次(cì)表示。

  同时,他(tā)也列(liè)出了数据中心成(chéng)本公(gōng)式:数据中心总(zǒng)持有成本=f[成本(běn)(芯片、系统、硬件生(shēng)态系(xì)统)、吞(tūn)吐量(GPU、Algo软件、网络、系统软(ruǎn)件、软件生态(tài)系统)、使用(yòng)率(lǜ)(Algo Lib, 软件生(shēng)态系统)、采(cǎi)购运营、生(shēng)命周期(qī)最佳化、电力]

  ACE代(dài)工服务(wù):用AI激活(huó)NPC生命

  游戏一直是备受(shòu)关注的一大AI应用落地(dì)领(lǐng)域。英(yīng)伟达也在(zài)大会上宣布,推出面向游戏的定制AI模型代(dài)工服务NVIDIA Avatar Cloud Engine(ACE)

  它能赋(fù)予非(fēi)玩家角色(sè)(NPC)更智能且(qiě)不(bù)断进(jìn)化(huà)的对话(huà)技能(néng),中间件(jiàn)、工具和游(yóu)戏开发者可(kě)使用它来构建和部(bù)署定制(zhì)的语音、对(duì)话和动(dòng)画AI模(mó)型(xíng)

  其中包(bāo)括:英伟(wěi)达NeMo,使用专有数据构(gòu)建(jiàn)、定制和(hé)部(bù)署语(yǔ)言模型;英(yīng)伟(wěi)达Riva,用(yòng)于自动(dòng)语音识(shí)别和文本转语音(yīn)实现实时语音(yīn)对话;英(yīng)伟(wěi)达Omniverse Audio2Face,用于即时创建(jiàn)游戏角色表情动画,以匹配任何语音轨(guǐ)道。

  开(kāi)发人(rén)员可(kě)选择集(jí)成整个NVIDIA ACE for Games解决方案,也可仅使用(yòng)需(xū)要的组件(jiàn)。

  新参考(kǎo)工作(zuò)流程(chéng):帮助建(jiàn)设数(shù)字化智能工厂

  黄仁勋表(biǎo)示,全球电子(zi)制(zhì)造商(shāng)正在使用(yòng)一种全新的(de)综合参考工(gōng)作流程推进工业数字化(huà)工作,该工作流程结合了英伟(wěi)达用于(yú)生(shēng)成式(shì)AI、3D协作、仿真和自主机器的(de)技术,包括:

  英伟达Omniverse,其(qí)连接了顶(dǐng)级计(jì)算机辅助设(shè)计应用以及(jí)生成式AI的API和前沿框架;用(yòng)于模拟和(hé)测试机器人(rén)的英伟达Isaac Sim应用程序;英伟达(dá)Metropolis视觉AI框(kuāng)架(jià),用于(yú)自动(dòng)光学(xué)检(jiǎn)测。

  同时,黄(huáng)仁(rén)勋现场展示了(le)一个完全数(shù)字(zì)化的智能工厂(chǎng)的演示(shì)。

  目前富士康工业互联(lián)网、宜鼎国(guó)际、和硕(shuò)、广(guǎng)达(dá)和纬创正在使用这一参考工作流程(chéng),具体用例(lì)包括(kuò)电路(lù)板质保检测(cè)点(diǎn)自动化、光学检测自动化、建设虚(xū)拟工厂(chǎng)、模(mó)拟协作(zuò)机器人(rén)、构建(jiàn)及运营数字孪生(shēng)等。

  MGX服务器规范:快速(sù)高(gāo)效构建百余种服务器配(pèi)置

  英伟达(dá)发布NVIDIA MGX服务器规范,为(wèi)系统(tǒng)制(zhì)造(zào)商提(tí)供模(mó)块化参(cān)考架构(gòu),满足(zú)各种规模的数据中心需求。系统(tǒng)制造商(shāng)可使用它快速(sù)且经济高效(xiào)地构建100多种(zhǒng)服(fú)务(wù)器配(pèi)置,以适应广泛的(de)AI、HPC及(jí)NVIDIA Omniverse应用。

  MGX支持英伟达全系列GPU、CPU、DPU和(hé)网络适(shì)配器、各种x86、完整软件堆(duī)栈及(jí)Arm处理器,还(hái)可集成到云和(hé)企业数据中(zhōng)心中(zhōng)。

  华硕、和硕、QCT、超(chāo)微(wēi)(Supermicro)等都(dōu)将采用MGX构建下一代加速计算(suàn)机,可(kě)将开发成本削减(jiǎn)多达3/4,并将开(kāi)发时间缩(suō)短2/3至仅(jǐn)需6个(gè)月(yuè)

  其中,QCT和超(chāo)微(wēi)基(jī)于MGX的设计将于(yú)8月面世。超(chāo)微(wēi)昨日公布的ARS-221GL-NR系统将采用Grace CPU,而QCT的S74G-2U系统(tǒng)将采用Grace Hopper。

  推(tuī)出Spectrum-X网(wǎng)络平台 构(gòu)建超大(dà)规模生成式AI超级计(jì)算机Israel-1

  另(lìng)外(wài),黄仁勋宣布(bù)推出(chū)NVIDIA Spectrum-X网络平台(tái),旨(zhǐ)在提高基于以(yǐ)太网的(de)AI云的(de)性能和效(xiào)率。

  相(xiāng)比(bǐ)传统以太网结构(gòu),Spectrum-X可(kě)实现1.7倍的整体AI性(xìng)能和能效提(tí)升,并具有(yǒu)高度(dù)通(tōng)用性,可用于各种AI应用。它(tā)使用(yòng)完全基于(yú)标准的以太网,并可与基(jī)于以(yǐ)太网的堆栈互(hù)操作。该平台支(zhī)持(chí)256个200Gb/s端(duān)口,通过单个交换机连接(jiē),或在两层leaf-spine拓(tuò)扑(pū)中(zhōng)提供16000个端口,以支持(chí)AI云增长和扩展(zhǎn),在保(bǎo)持性能的同时最(zuì)大限度减少网络(luò)延迟。

  全球领(lǐng)先(xiān)云计算提供商(shāng)正在采用Spectrum-X平(píng)台扩展(zhǎn)生成(chéng)式AI服务,而Spectrum-X、Spectrum-4交换机、BlueField-3 DPU等已在戴尔、联想(xiǎng)等系统(tǒng)制造商处提供。

  此(cǐ)外,作为Spectrum-X参考设(shè)计的(de)蓝图和测试(shì)平台,英(yīng)伟达正构建(jiàn)一台超大规模生(shēng)成(chéng)式AI超级计算机Israel-1。这台(tái)AI超算(suàn)价(jià)值数亿美(měi)元,将采(cǎi)用戴尔PowerEdge XE9680服(fú)务(wù)器、英伟达HGX H100超级计算平台、内置(zhì)BlueField-3 DPU和Spectrum-4交换机(jī)的Spectrum-X平台(tái)。

  结语

  “40年来,我们创(chuàng)造了PC、互联网、移动(dòng)、云,现(xiàn)在是人工智能时代。你会创造什么?不管是什么,都要像我们(men)一样追赶它(tā)。要奔跑(pǎo),不要走。要(yào)么为了食物奔跑(pǎo),要么(me)作为(wèi)食(shí)物(wù)奔跑。”

  在5月(yuè)27日的台湾大学发表(biǎo)了毕(bì)业典礼演讲(jiǎng)上,黄(huáng)仁勋再(zài)次强调了掌握AI技术的(de)重要(yào)性:很多人(rén)担心,AI会抢走自己的(de)工作。但真(zhēn)正(zhèng)会抢走你饭碗的,是(shì)掌握了AI技(jì)术的人(rén)。

  他表示,从(cóng)各方面(miàn)来看(kàn),AI的兴盛是(shì)计算(suàn)机产业的再生契机。在下(xià)个(gè)十年,我们的产业将使用新型AI电(diàn)脑,取(qǔ)代价值(zhí)万亿美元的传(chuán)统电脑。

  而(ér)从昨日(rì)大会(huì)上(shàng)黄仁勋的展示中,人工(gōng)智能时代的未来轮廓似乎已逐渐浮现。

未经允许不得转载:橘子百科-橘子都知道 亲爱的让你㖭我下黑

评论

5+2=