绿茶通用站群绿茶通用站群

柴进的性格特点和主要事迹概括,武松的性格特点和主要事迹

柴进的性格特点和主要事迹概括,武松的性格特点和主要事迹 新订单12月才能交付!英伟达GPU持续缺货涨价 客户“勒紧裤带”节约使用

  在(zài)持续已(yǐ)久的“AI热(rè)潮”中,各(gè)家争相推出的大模型、AI应(yīng)用(yòng),都进(jìn)一步推升了(le)对算力狂热的需求。本周已有报道指出英伟达后续(xù)对AI顶级(jí)规格芯片(piàn)需求(qiú)明显看增,紧急向台积电(diàn)追加(jiā)预订(dìng)先(xiān)进封装(zhuāng)产能。

  需求飙涨(zhǎng)下,英(yīng)伟达(dá)GPU价格自然也是水涨船高。据集微(wēi)网消息,有代理商透露(lù),英伟达(dá)A100价格(gé)从去年12月开始上涨,截至今(jīn)年4月(yuè)上半月,其5个月价格(gé)累计涨幅达到37.5%;同期A800价(jià)格累计涨幅达(dá)20.0%。

  同(tóng)时(shí),英伟(wěi)达GPU交货周期也被拉(lā)长,之前拿货周期大约为一个月,现在基本都需要(yào)三个(gè)月或更长。甚至,部分新订单(dān)“可能要(yào)到12月才能交付(fù)”。

  供需(xū)的巨(jù)大鸿(hóng)沟面前,在这(zhè)一情形(xíng)之下,众(zhòng)多客户(hù)也不得不“勒紧腰带”。上(shàng)述文章指出,国内可(kě)用于训练AI大模型(xíng)的A100大约(yuē)有4万-5万个,供(gōng)应相当吃紧(jǐn),一些云服(fú)务厂商已(yǐ)严格限制内部(bù)使用(yòng)这(zhè)些先(xiān)进芯(xīn)片,以将其保留至需要(yào)强力(lì)运(yùn)算的任务(wù)。

  值得一提的是,类似的事情在微软内部(bù)也早已发生。3月已(yǐ)有外(wài)媒报道(dào)指出,微软内部陷入AI服(fú)务器硬件短(duǎn)缺的窘境,不(bù)得不对(duì)AI硬件资(zī)源采取“配额供给”机制(zhì),限制(zhì)公司内部其他AI工(gōng)具开发团队的(de)资源用量。

  拉长时间线来(lái)看(kàn),有GPU业内人士指(zhǐ)出(chū),实际上(shàng)从去年6月起(qǐ),英(yīng)伟(wěi)达就(jiù)已(yǐ)宣布上调A100价格,涨幅20%左右(yòu),渠道商(shāng)在(zài)加紧囤货。至于英(yīng)伟达A800,在ChatGPT火(huǒ)爆之前就已出现涨(zhǎng)价,但反(fǎn)映到市场则有一定的滞后(hòu)性,赶上ChatGPT爆火这一时(shí)间点,更放大了这一现象(xiàng)。

  “英伟达GPU涨价与(yǔ)ChatGPT有(yǒu)一定的关联性,且交货周(zhōu)期也受到(dào)了连(lián)带的影响,导致市(shì)场(chǎng)上出(chū)现了(le)众多炒(chǎo)卡的行为。”

  此(cǐ)外,在(zài)海外电(diàn)商平台上,英伟达(dá)新(xīn)旗舰级GPU H100的价格在4月(yuè)中旬(xún)就已炒到了超过4万(wàn)美元。

  随着如今各家科(kē)技巨头(tóu)争相推出自家大模型,GPU需求量仍在持(chí)续攀升。OpenAI指(zhǐ)出,AI大模型要持续(xù)取得(dé)突破(pò),所需要消(xiāo)耗(hào)的计算资源每3~4个月就要翻一倍,资金也需要(yào)通过指数级增长(zhǎng)获得匹配。

  据财通证券测(cè)算,2023/2024/2025年大模型有望为GPU市场贡献69.88/166.2/209.95亿美元增量。

  其(qí)中在训(xùn)练端,以目前主流(liú)的训练端GPU英伟(wěi)达A100测算,假设ASP为1万美元(yuán),2023/2024/2025年(nián)全球训练端(duān)GPU需(xū)求市场规模(mó)预计分(fēn)别为0.74/2.00/4.07亿美(měi)元(yuán);

  在推(tuī)理端,以(yǐ)目(mù)前英伟达用于推理端计算(suàn)的A10测算,假设(shè)ASP为2800美元,2023/2024/2025年全(quán)球推理端GPU需求市场规模预计分(fēn)别为69.14/164.2/205.88亿美元。 <柴进的性格特点和主要事迹概括,武松的性格特点和主要事迹/p>

  业内人士也表示,AI大模型训(xùn)练成本(běn)之一是基础算力(lì),大(dà)概需要384-3000块左(zuǒ)右的A100才能基本满足要求,如果价格持续(xù)上(shàng)涨,无论是互联网、AI大厂、还是创(chuàng)业新贵柴进的性格特点和主要事迹概括,武松的性格特点和主要事迹(guì),要追加的投入都可能(néng)远超当初。

未经允许不得转载:绿茶通用站群 柴进的性格特点和主要事迹概括,武松的性格特点和主要事迹

评论

5+2=