英偉達(dá)的野心：“AI原生”徹底顛覆數(shù)據(jù)中心

激石Pepperstone(http://dsgkdz.com/)報(bào)道：

投資數(shù)百萬(wàn)美元購(gòu)買上一代計(jì)算資源，實(shí)在太愚蠢了。像最新發(fā)布的、人工智能數(shù)專用的開(kāi)發(fā)硬件GH200，只需要不到十分之一的成本和功耗，就能完成同樣的工作。

英偉達(dá)CEO黃仁勛在周二的發(fā)布會(huì)上這樣說(shuō)。昨日，英偉達(dá)發(fā)布新一代GH200 Grace Hopper超級(jí)芯片平臺(tái)，專為加速計(jì)算和生成式AI時(shí)代而打造。

黃仁勛指出，為了滿足生成式 AI 不斷增長(zhǎng)的需求，數(shù)據(jù)中心需要有針對(duì)特殊需求的加速計(jì)算平臺(tái)。新的GH200芯片平臺(tái)提供了卓越的內(nèi)存技術(shù)和帶寬，提升無(wú)損耗連接GPU聚合性能的能力，并且擁有可以在整個(gè)數(shù)據(jù)中心輕松部署的服務(wù)器設(shè)計(jì)。

值得一提的是，大模型浪潮來(lái)襲，催生各種AI原生應(yīng)用，帶動(dòng)算力需求激增，專為應(yīng)對(duì)數(shù)據(jù)密集型人工智能應(yīng)用的數(shù)據(jù)中心市場(chǎng)正迅速崛起。

數(shù)據(jù)中心迎來(lái)新變革

據(jù)華爾街日?qǐng)?bào)報(bào)道，分析師們指出，隨著老牌云計(jì)算供應(yīng)商競(jìng)相為數(shù)據(jù)中心改裝先進(jìn)芯片和進(jìn)行其他升級(jí)，以滿足人工智能軟件的需求，一些新興的建設(shè)者看到了從零開(kāi)發(fā)新設(shè)施的機(jī)會(huì)。

數(shù)據(jù)中心類似于一個(gè)大型倉(cāng)庫(kù)，配備了多架服務(wù)器、網(wǎng)絡(luò)和存儲(chǔ)設(shè)備，用于存儲(chǔ)和處理數(shù)據(jù)。與傳統(tǒng)數(shù)據(jù)中心相比，AI數(shù)據(jù)中心擁有更多使用高性能芯片的服務(wù)器，因此AI數(shù)據(jù)中心服務(wù)器每個(gè)機(jī)架的平均耗電量可達(dá)50千瓦或更多，而傳統(tǒng)數(shù)據(jù)中心每個(gè)機(jī)架的耗電量大約為7千瓦。

這意味著AI數(shù)據(jù)中心需要增建能夠提供更高功率的基礎(chǔ)設(shè)施，由于額外的用電量會(huì)產(chǎn)生更多的熱量，AI數(shù)據(jù)中心還需要其他冷卻方法，如液體冷卻系統(tǒng)，以防止設(shè)備過(guò)熱。

服務(wù)和咨詢公司Unisys高級(jí)副總裁Manju Naglapur指出：

專門建造的人工智能數(shù)據(jù)中心可容納利用人工智能芯片（如英偉達(dá)的GPU）的服務(wù)器，在人工智能應(yīng)用篩選龐大的數(shù)據(jù)存儲(chǔ)時(shí)，可同時(shí)運(yùn)行多個(gè)計(jì)算。這些數(shù)據(jù)中心還配備了光纖網(wǎng)絡(luò)和更高效的存儲(chǔ)設(shè)備，以支持大規(guī)模的人工智能模型。

AI數(shù)據(jù)中心是高度專業(yè)化的建筑，需要投入大量的資金和時(shí)間。研究公司Data Bridge Market Research數(shù)據(jù)顯示，到2029年，全球人工智能基礎(chǔ)設(shè)施市場(chǎng)的支出預(yù)計(jì)將達(dá)到4225.5 億美元，未來(lái)六年的復(fù)合年增長(zhǎng)率將達(dá)到44%。

DataBank首席執(zhí)行官Raul Martynek表示，人工智能的部署速度很可能會(huì)導(dǎo)致數(shù)據(jù)中心容量在未來(lái)12到24個(gè)月內(nèi)出現(xiàn)短缺。

AI算力新秀獲得23億美元融資

目前，各路巨頭都在押注AI數(shù)據(jù)中心，“地產(chǎn)標(biāo)桿”黑石賣房轉(zhuǎn)投AI數(shù)據(jù)中心。Meta也曾表示，將建設(shè)一個(gè)新的人工智能數(shù)據(jù)中心。

此前文章提到，AI算力新秀CoreWeave，拿英偉達(dá)H100抵押貸款，獲得債務(wù)融資23億美元（約165億人民幣）。

CoreWeave表示，這筆資金將用于加快建設(shè)人工智能數(shù)據(jù)中心，這是該公司繼今年4月獲得2.21億美元和5 月獲得2億美元后的又一次融資。CoreWeave成立于六年前，目前已有7個(gè)人工智能數(shù)據(jù)中心上線，預(yù)計(jì)到今年年底將翻一番。

CoreWeave正與英偉達(dá)以及Inflection AI合作建一個(gè)超大型AI服務(wù)器集群，目標(biāo)是運(yùn)行2.2萬(wàn)塊英偉達(dá)H100。如果建成，將成為全球最大的AI服務(wù)器集群。

值得一提的是，根據(jù)CoreWeave官網(wǎng)宣傳，他們的服務(wù)比傳統(tǒng)云計(jì)算廠商便宜80%。英偉達(dá)最新的HGX H100服務(wù)器，內(nèi)含8張80G顯存的H100和1T內(nèi)存那種，起步價(jià)每小時(shí)只要2.23美元（16塊人民幣）。

而相比前代平臺(tái)，新GH200 Grace Hopper平臺(tái)的雙芯片配置將內(nèi)存容量提高3.5倍，帶寬增加三倍，一個(gè)服務(wù)器就有144個(gè)Arm Neoverse高性能內(nèi)核、8 petaflops 的 AI 性能和282GB的最新HBM3e內(nèi)存技術(shù)。

難怪在這個(gè)LLM大爆炸的時(shí)代，黃仁勛依然大膽放話“買得越多，省得越多”！?????????