橘子百科-橘子都知道橘子百科-橘子都知道

新手适合用散粉还是粉饼,全球公认最好用的10大散粉

新手适合用散粉还是粉饼,全球公认最好用的10大散粉 新订单12月才能交付!英伟达GPU持续缺货涨价 客户“勒紧裤带”节约使用

  在持续已(yǐ)久的“AI热(rè)潮”中(zhōng),各家争相推出的(de)大模型(xíng)、AI应(yīng)用,都进一步(bù)推(tuī)升了(le)对算(suàn)力狂热的需求。本(běn)周(zhōu)已有报道指出英伟达后(hòu)续对AI顶(dǐng)级规(guī)格(gé)芯片需求明(míng)显看增(zēng),紧(jǐn)急(jí)向台(tái)积电追加预订先进(jìn)封装产能。

  需求飙涨下,英伟达GPU价格(gé)自然也是水涨船(chuán)高。据集(jí)微网消息,有代理(lǐ)商透露(lù),英伟达A100价格从去年12月开始上涨,截(jié)至今年4月上半月(yuè),其5个月(yuè)价格累计涨幅达到37.5%;同期(qī)A800价格累计涨幅达20.0%。

  同时,英(yīng)伟达GPU交货周期也被拉长,之前(qián)拿(ná)货周期大约为一个月,现(xiàn)在基(jī)本都(dōu)需要三个(gè)月或更长。甚至,部分新订(dìng)单“可能要到12月才能交付”。

  供需的巨大鸿沟面前,在这一(yī)情形之下,众多客户也不得(dé)不(bù)“勒紧腰带”。上(shàng)述文(wén)章(zhāng)指出,国(guó)内(nèi)可用于训练(liàn)AI大模(mó)型的A100大约有4万-5万个,供应相当吃紧,一些云服务厂(chǎng)商已严格(gé)限制内部使用这些先进芯片,以将(jiāng)其保留至(zhì)需(xū)新手适合用散粉还是粉饼,全球公认最好用的10大散粉要强力(lì)运算的任(rèn)务。

  值得一提的是(shì),类似的(de)事(shì)情在微软(ruǎn)内部(bù)也早(zǎo)已发生。3月已有(yǒu)外媒报(bào)道指出,微软内部陷(xiàn)入(rù)AI服务(wù)器硬(yìng)件(jiàn)短缺的窘境,不得(dé)不(bù)对AI硬件资源(yuán)采(cǎi)取“配额供给”机制(zhì),限制公(gōng)司内部其他(tā)AI工具(jù)开发团队(duì)的资源用量(liàng)。

  拉(lā)长时间线来看(kàn),有GPU业内人士指出(chū),实际(jì)上从去(qù)年6月起,英伟达就已宣布(bù)上(shàng)调(diào)A100价格,涨幅20%左右,渠道商在加紧囤货。至于(yú)英伟达A800,在ChatGPT火爆之前就已出现(xiàn)涨价,但(dàn)反(fǎn)映到市场(chǎng)则有一定的滞后性,赶(gǎn)上ChatGPT爆火(huǒ)这(zhè)一时间(jiān)点,更放(fàng)大了(le)这一现象。

  “英(yīng)伟达GPU涨(zhǎng)价与ChatGPT有一定的关联(lián)性,且(qiě)交货周(zhōu)期也受到了连带的影响,导致(zhì)市场上出(chū)现了众多炒(chǎo)卡的(de)行为(wèi)。”

  此外,在(zài)海外电商平台上(shàng),英伟达新(xīn)旗(qí)舰级GPU H100的(de)价格在(zài)4月中旬就(jiù)已炒到(dào)了超过4万美(měi)元。

  随着如(rú)今各家(jiā)科技(jì)巨(jù)头争(zhēng)相推出(chū)自家大模(mó)型,GPU需(xū)求量(liàng)仍在(zài)持(chí)续(xù)攀(pān)升。OpenAI指出,AI大模型要持续取(qǔ)得突破(pò),所需要消耗的(de)计(jì)算(suàn)资(zī)源每(měi)3~4个月就要翻(fān)一倍(bèi),资金也需要通(tōng)过(guò)指数(shù)级增长获(huò)得匹配。

  据(jù)财通(tōng)证券测算(suàn),2023/2024/20新手适合用散粉还是粉饼,全球公认最好用的10大散粉25年(nián)大模型(xíng)有望为GPU市场贡献69.88/166.2/209.95亿美元(yuán)增(zēng)量。

  其中在训练端,以目前主流的训练端(duān)GPU英伟达A100测(cè)算,假(jiǎ)设ASP为(wèi)1万美元,2023/2024/2025年全球训练端GPU需求市场规模(mó)预计分别(bié)为0.74/2.00/4.07亿美元;

  在(zài)推(tuī)理端,以目前英伟达用(yòng)于推理端计(jì)算的A10测算,假(jiǎ)设ASP为2800美(měi)元,2023/2024/2025年全球推理端GPU需求市(shì)场规(guī)模(mó)预计分别(bié)为69.14/164.2/205.88亿(yì)美元。

  业内人士也表示,AI大模(mó)型训练成本之(zhī)一是基础算力,大概需要384-3000块左右的A100才(cái)能(néng)基(jī)本(běn)满足要求(qiú),如果价格持续上(shàng)涨,无论是互联网(wǎng)、AI大厂、还(hái)是创业(yè)新贵,要追加的投入(rù)都可能远超当初(chū)。

未经允许不得转载:橘子百科-橘子都知道 新手适合用散粉还是粉饼,全球公认最好用的10大散粉

评论

5+2=