AI芯片主戰(zhàn)場，變了
激石Pepperstone(http://dsgkdz.com/)報道：
英偉達主導的AI芯片大戰(zhàn)已經(jīng)轉向了一個新的戰(zhàn)線——一個規(guī)模更大但也更具競爭力的戰(zhàn)線。
英偉達通過提供訓練人工智能模型這一極其復雜的工作所必需的芯片，將自己打造成一家價值2萬億美元的公司。隨著行業(yè)的快速發(fā)展，更大的機會將是銷售芯片使這些模型在訓練后運行的芯片，為快速增長的實際使用生成式人工智能工具的公司和人們生產(chǎn)文本和圖像。
目前，這種轉變正在增加英偉達的銷量。首席財務官科萊特·克雷斯 (Colette Kress) 上周表示，去年Nvidia數(shù)據(jù)中心業(yè)務的40%以上（收入超過470億美元）用于部署人工智能推理系統(tǒng)，而不是訓練。這一百分比是轉變正在進行的第一個重要跡象。
克雷斯的評論緩解了一些擔憂，即向部署人工智能系統(tǒng)的芯片（即執(zhí)行所謂“推理”工作的芯片）的轉變威脅到了英偉達的地位，因為與制造英偉達的芯片相比，這項工作可以使用功能更弱、成本更低的芯片來完成。
Melius Research分析師Ben Reitzes在給客戶的一份報告中表示：“人們認為Nvidia在推理領域的份額將低于訓練領域?！?“這一發(fā)現(xiàn)有助于揭示其從即將到來的推理爆炸中受益的能力。”
許多競爭對手認為，隨著推理芯片變得更加重要，他們在人工智能市場上擁有更好的機會。
生產(chǎn)數(shù)據(jù)中心中央處理器的英特爾公司相信，隨著客戶專注于降低人工智能模型的運行成本，其芯片將越來越有吸引力。英特爾專門生產(chǎn)的芯片類型已經(jīng)廣泛用于推理，在執(zhí)行該任務時，擁有Nvidia的尖端且更昂貴的H100 AI芯片并不那么重要。
英特爾首席執(zhí)行官帕特·基辛格 (Pat Gelsinger) 在去年12月的一次采訪中表示：“推理的經(jīng)濟學是，我不會承受40,000美元的H100環(huán)境，因為它會消耗太多電量，需要新的管理和安全模型以及新的 IT 基礎設施?！?“如果我可以在標準 [英特爾芯片] 上運行這些模型，那是理所當然的?！?/p>
美國銀行分析師Vivek Arya表示，向推理的轉變可能是英偉達季度收益報告周三出現(xiàn)的最重要消息，該報告超出了華爾街的預期，導致其股價本周上漲8.5%，推動該公司估值約為2萬億美元。
Arya表示，隨著對人工智能模型的訓練投資激增，焦點轉向從人工智能模型中創(chuàng)收，推理能力將會上升。與英偉達占據(jù)主導地位的人工智能訓練相比，這可能更具競爭力。
推理增長的速度可能比之前預期的要快。今年早些時候，瑞銀分析師估計90%的芯片需求來自訓練，而這一推論到明年只會推動20%的市場份額。分析師在一份報告中表示，英偉達大約40%的數(shù)據(jù)中心收入來自推理，“這個數(shù)字比我們預期的要大”。
事實上，英偉達周三的財務業(yè)績表明，其在人工智能芯片領域超過80%的市場份額尚未受到嚴重挑戰(zhàn)。英偉達用于訓練人工智能系統(tǒng)的芯片預計在可預見的未來仍將保持旺盛的需求。
在訓練人工智能系統(tǒng)時，公司通過模型運行海量數(shù)據(jù)，教它們以能夠實現(xiàn)人類發(fā)音表達的方式預測語言。這項工作需要強大的計算能力，非常適合Nvidia的圖形處理單元（GPU）。
推理工作是指這些模型被要求處理新的信息并做出響應——更輕松的提升。
除了英特爾和AMD等Nvidia的老牌競爭對手之外，隨著推理成為焦點，許多人工智能芯片初創(chuàng)公司也可能獲得發(fā)展動力。
“我們看到我們的推理用例呈爆炸式增長，”SambaNova 的首席執(zhí)行官羅德里戈·梁 (Rodrigo Liang) 說，SambaNova是一家初創(chuàng)公司，將人工智能芯片和軟件相結合，可以進行推理和訓練?！叭藗冮_始意識到 80% 以上的成本將用于推理，我需要尋找替代解決方案，”他說。
Groq 是一家由前谷歌人工智能芯片工程師喬納森·羅斯 (Jonathan Ross) 創(chuàng)立的初創(chuàng)公司，近幾個月來，該公司主頁上的演示展示了其推理芯片可以如何快速地從大型語言模型中生成響應，因此引起了人們的興趣激增。羅斯表示，該公司預計今年將部署42,000個芯片，明年將部署100萬個芯片，但正在探索將芯片總數(shù)今年增加到220,000個，明年增加到150萬個。
他說，推動這一轉變的一個因素是，一些最先進的人工智能系統(tǒng)正在被調(diào)整，以產(chǎn)生更好的響應，而無需重新訓練它們，從而將更多的計算工作推向推理。他說，Groq的專業(yè)芯片比Nvidia或其他芯片公司的產(chǎn)品運行速度更快、成本更低。
“據(jù)此推斷，你可以部署什么取決于成本，”他說?！坝泻芏嗄Ｐ涂梢栽诠雀杞邮苡柧?，但它們中大約80%沒有得到部署，因為它們太貴了，無法投入生產(chǎn)?！?/p>
大型科技公司——包括 Meta、微軟，谷歌和亞馬遜——一直致力于內(nèi)部開發(fā)推理芯片，認識到即將到來的轉變以及能夠更便宜地進行推理的好處。
例如，亞馬遜自2018年以來就擁有推理芯片，該公司云計算部門數(shù)據(jù)和機器學習副總裁斯瓦米·西瓦蘇布拉馬尼安 (Swami Sivasubramanian) 去年表示，推理占其Alexa智能助手計算成本的40%。
就英偉達而言，它正在尋求在向推理過渡的過程中保持領先地位。去年，一款即將推出的芯片在一項關鍵的人工智能推理基準測試中取得了行業(yè)領先的結果，延續(xù)了該公司多年來在競爭中的主導地位。
去年12月，AMD推出了新的人工智能芯片，據(jù)稱其推理能力優(yōu)于Nvidia的芯片后，Nvidia在一篇博客文章中予以回擊，對這一說法提出質(zhì)疑。英偉達表示，AMD在宣稱其性能時并未使用優(yōu)化軟件，如果這樣做，英偉達的芯片速度將是原來的兩倍。?????????
