橘子百科-橘子都知道橘子百科-橘子都知道

冲是什么意思网络用语,冲是什么意思污

冲是什么意思网络用语,冲是什么意思污 新订单12月才能交付!英伟达GPU持续缺货涨价 客户“勒紧裤带”节约使用

  在持续已久的“AI热潮”中(zhōng),各家争相推出的大模(mó)型、AI应用,都进一步推升(shēng)了对算力狂热(rè)的需求。本周已有报道指出英(yīng)伟达后续(xù)对AI顶级规格芯(xīn)片需(xū)求明显看(kàn)增(zēng),紧急向(xiàng)台(tái)积电追加预订先进(jìn)封装(zhuāng)产能(néng)。

  需求(qiú)飙(biāo)涨下,英伟达GPU价格自(zì)然也是(shì)水涨船高。据集(jí)微网消息,有代理(lǐ)商透(tòu)露,英伟达A100价格从(cóng)去年12月开始上涨,截至今年(nián)4月上半月,其(qí)5个(gè)月(yuè)价格累计涨幅(fú)达到(dào)37.5%;同期A800价格累计涨幅(fú)达(dá)20.0%。

  同时,英伟达GPU交(jiāo)货周期也被拉长,之前拿货周(zhōu)期大约(yuē)为(wèi)一个(gè)月,现在基本(běn)都需要三个(gè)月或更(gèng)长。甚至(zhì),部分新订单“可(kě)能要到12月(yuè)才能交付”。

  供需的巨(jù)大鸿(hóng)沟面前,在(zài)这一情形之下,众多客户也不得(dé)不“勒紧(jǐn)腰带”。上述(shù)文章指出,国内可(kě)用于(yú)训练AI大模型的A100大(dà)约有4万-5万个,供应(yīng)相当(dāng)吃紧(jǐn),一些云服务(wù)厂商已严格(gé)限制内部使用这些先进芯片,以将其保留(liú)至需要强力运算的(de)任(rèn)务。

  值得一提的是,类似的(de)事情在微软(ruǎn)内部(bù)也早已发生(shēng)。3月已(yǐ)有外媒报道指(zhǐ)出冲是什么意思网络用语,冲是什么意思污(chū),微软内部陷入AI服务器硬件(jiàn)短缺的窘境,不得不(bù)对(duì)AI硬件资源采取“配(pèi)额供给”机制,限制(zhì)公司内部其他AI工具开发团队的资(zī)源(yuán)用(yòng)量(liàng)。

  拉长时间线来(lái)看,有GPU业(yè)内人士(shì)指出,实际上从去(qù)年(nián)6月起,英(yīng)伟(wěi)达就已宣(xuān)布上调A100价格,涨幅20%左右,渠道商在加紧囤货。至(zhì)于英伟(wěi)达(dá)A800,在(zài)ChatGPT火爆(bào)之(zhī)前(qián)就已出现涨价,但(dàn)反映到市场(chǎng)则(zé)有一定的滞后性,赶上ChatGPT爆火这一时(shí)间点,更放大了(le)这一现象(xiàng)。

  “英(yīng)伟达GPU涨(zhǎng)价与(yǔ)ChatGPT有(yǒu)一(yī)定的关联性,且交(jiāo)货周期也受到了连(lián)带的影响,导致市场(chǎng)上(shàng)出现了(le)众(zhòng)多炒卡(kǎ)的(de)行为(wèi)。”

  此外(wài),在海外电(diàn)商平台上,英伟达新旗舰级(jí)GPU H100的(de)价格在4月(yuè)中旬就已(yǐ)炒到了超过4万美元。

  随着如(rú)今各家科技(jì)巨头争相推出自家大模型,GPU需求量(liàng)仍在持(chí)续攀升(shēng)。OpenAI指(zhǐ)出(chū),AI大模型(xíng)要持续取得突破,所(suǒ)需要消耗的计算(suàn)资源每(měi)3~4个月就(jiù)要翻(fān)一倍,资金也(yě)需要通过指数级增长获得匹(pǐ)配。

  据财通证(zhèng)券测算,2023/2024/2025年(nián)大模(mó)型有望为GPU市(shì)场贡献69.88/166.2/209.95亿美元增量(liàng)。

  其(qí)中在训练端(duān),以目(mù)前主流的(de)训(xùn)练端(duān)GPU英伟达(dá)A100测算,假设ASP为1万(wàn)美元,2023/2024/2025年全球训练端(duān)GPU需(xū)求市场规模(mó)预计分(fē冲是什么意思网络用语,冲是什么意思污n)别为0.74/2.00/4.07亿美元;

  在推理端,以目(mù)前英伟达(dá)用于推理端计算的A10测算,假设ASP为2800美元,2023/2024/2025年全球推理(lǐ)端GPU需求市场规模预计(jì)分别为69.14/164.2/205.88亿美元。

  业(yè)内人(rén)士(shì)也(yě)表示,AI大模型(xíng)训(xùn)练(liàn)成本之一是基础算(suàn)力,大概需要384-3000块(kuài)左(zuǒ)右的(de)A100才能基本满(mǎn)足要求,如果价(jià)格(gé)持(chí)续上(shàng)涨(zhǎng),无论是互联网、AI大厂、还(hái)是创(chuàng)业新贵(guì),要追加(jiā)的投入都(dōu)可能远超当初。

未经允许不得转载:橘子百科-橘子都知道 冲是什么意思网络用语,冲是什么意思污

评论

5+2=