推理計(jì)算成為突破口，性價(jià)比優(yōu)勢(shì)是關(guān)鍵。
英偉達(dá)在AI芯片市場(chǎng)的壟斷地位，正面臨前所未有的挑戰(zhàn)。
AMD、亞馬遜等科技巨頭，以及SambaNova Systems、Groq等初創(chuàng)公司紛紛瞄準(zhǔn)大模型推理側(cè)發(fā)力，推出各類定制芯片，在可靠性和成本端不斷進(jìn)步。
這些新玩家不僅帶來了更具性價(jià)比的選擇，更贏得了重要客戶的認(rèn)可。
例如，Meta已開始使用AMD的MI300芯片支持其新AI模型Llama 3.1 405B的推理計(jì)算；亞馬遜的Trainium 2芯片，得到了包括蘋果在內(nèi)的潛在用戶的好評(píng)。
市場(chǎng)研究機(jī)構(gòu)Omdia預(yù)計(jì)，2024年數(shù)據(jù)中心在非英偉達(dá)芯片上的支出將增長(zhǎng)49%，達(dá)到1260億美元。
似乎，市場(chǎng)格局的變化已經(jīng)開始，AI芯片領(lǐng)域的競(jìng)爭(zhēng)正在進(jìn)入一個(gè)更加多元化的競(jìng)爭(zhēng)新階段。
科技巨頭紛紛入局，推理計(jì)算成為突破口
AMD的MI300芯片在發(fā)布首年，就預(yù)計(jì)創(chuàng)造超50億美元的銷售額。與此同時(shí)，亞馬遜在奧斯汀北部研發(fā)了新一代AI芯片Trainium。
除了傳統(tǒng)科技巨頭，SambaNova Systems、Groq和Cerebras Systems等初創(chuàng)公司也在積極布局。這些公司聲稱在推理方面能夠提供比英偉達(dá)更快的速度、更低的工行和更便宜的價(jià)格。
而“推理”階段，正成為競(jìng)爭(zhēng)對(duì)手突破英偉達(dá)壟斷的關(guān)鍵。
“真正的商業(yè)價(jià)值來自于推理，而推理正在開始規(guī)�；�，”高通 CEO Cristiano Amon表示。Amon稱，高通計(jì)劃使用亞馬遜的新芯片執(zhí)行 AI 任務(wù)，“我們開始看到變革的開始”。
在成本方面，英偉達(dá)現(xiàn)有芯片售價(jià)高達(dá)1.5萬美元，其新款Blackwell芯片預(yù)計(jì)將達(dá)到數(shù)萬美元。
相比之下，競(jìng)爭(zhēng)對(duì)手提供了更具性價(jià)比的選擇。德克薩斯高級(jí)計(jì)算中心執(zhí)行主任Dan Stanzione表示，由于功耗和價(jià)格優(yōu)勢(shì)，該中心計(jì)劃在使用英偉達(dá)Blackwell超級(jí)計(jì)算機(jī)的同時(shí)，采用SambaNova的芯片進(jìn)行推理任務(wù)，因?yàn)樗鼈兊墓暮蛢r(jià)格較低。
亞馬遜展現(xiàn)雄心
亞馬遜在AI芯片領(lǐng)域表現(xiàn)出強(qiáng)烈的進(jìn)取心，今年已投入750億美元用于AI芯片等計(jì)算硬件。其新款Trainium 2芯片的性能是前代產(chǎn)品的4倍，并已宣布更強(qiáng)大的Trainium 3芯片計(jì)劃。
舊金山AI初創(chuàng)公司Poolside的CTO Eiso Kant估計(jì)，相比英偉達(dá)的硬件，Trainium 2在每美元計(jì)算性能上提升了40%。更重要的是，亞馬遜計(jì)劃在全球數(shù)據(jù)中心提供基于Trainium的服務(wù)，這對(duì)推理任務(wù)尤為重要。
值得注意的是，亞馬遜還與AI初創(chuàng)公司Anthropic達(dá)成合作，將建造一個(gè)包含數(shù)十萬枚新Trainium芯片的巨型AI工廠，其計(jì)算能力將是Anthropic此前使用過的任何系統(tǒng)的5倍。
盡管如此，競(jìng)爭(zhēng)加劇并不意味著 Nvidia 短期就會(huì)失去領(lǐng)先地位。英偉達(dá)CEO黃仁勛仍然強(qiáng)調(diào)，公司在AI軟件和推理能力方面具有重大優(yōu)勢(shì)，新款Blackwell芯片的需求依然強(qiáng)勁。
在斯坦福大學(xué)的一次演講中，黃仁勛表示：
“我們產(chǎn)品的總擁有成本非常劃算，即使競(jìng)爭(zhēng)對(duì)手的芯片是免費(fèi)的，它們也不夠便宜�！�
