英偉達在AI晶片市場的壟斷地位，正面臨前所未有的挑戰。
AMD、等科技巨頭，以及SambaNova Systems、Groq等初創公司紛紛瞄準大模型推理側發力，推出各類定製晶片，在可靠性和成本端不斷進步。
這些新玩家不僅帶來了更具價效比的選擇，更贏得了重要客戶的認可。
例如，Meta已開始使用AMD的MI300晶片支援其新AI模型Llama 3.1 405B的推理計算；亞馬遜的Trainium 2晶片，得到了包括在內的潛在使用者的好評。
市場研究機構Omdia預計，2024年資料中心在非晶片上的支出將增長49%，達到1260億美元。
似乎，市場格局的變化已經開始，AI晶片領域的競爭正在進入一個更加多元化的競爭新階段。
科技巨頭紛紛入局，推理計算成為突破口
AMD的MI300晶片在釋出首年，就預計創造超50億美元的銷售額。與此同時，亞馬遜在奧斯汀北部研發了新一代AI晶片Trainium。
除了傳統科技巨頭，SambaNova Systems、Groq和Cerebras Systems等初創公司也在積極佈局。這些公司聲稱在推理方面能夠提供比英偉達更快的速度、更低的工行和更便宜的價格。
而"推理"階段，正成為競爭對手突破英偉達壟斷的關鍵。
"真正的商業價值來自於推理，而推理正在開始規模化，"高通 CEO Cristiano Amon表示。Amon稱，高通計劃使用亞馬遜的新晶片執行 AI 任務，“我們開始看到變革的開始”。
在成本方面，英偉達現有晶片售價高達1.5萬美元，其新款Blackwell晶片預計將達到數萬美元。
相比之下，競爭對手提供了更具價效比的選擇。德克薩斯高階計算中心執行主任Dan Stanzione表示，由於功耗和價格優勢，該中心計劃在使用英偉達Blackwell超級計算機的同時，採用SambaNova的晶片進行推理任務，因為它們的功耗和價格較低。
亞馬遜展現雄心
亞馬遜在AI晶片領域表現出強烈的進取心，今年已投入750億美元用於AI晶片等計算硬體。其新款Trainium 2晶片的效能是前代產品的4倍，並已宣佈更強大的Trainium 3晶片計劃。
舊金山AI初創公司Poolside的CTO Eiso Kant估計，相比英偉達的硬體，Trainium 2在每美元計算效能上提升了40%。更重要的是，亞馬遜計劃在全球資料中心提供基於Trainium的服務，這對推理任務尤為重要。
值得注意的是，亞馬遜還與AI初創公司Anthropic達成合作，將建造一個包含數十萬枚新Trainium晶片的巨型AI工廠，其計算能力將是Anthropic此前使用過的任何系統的5倍。
儘管如此，競爭加劇並不意味著 Nvidia 短期就會失去領先地位。英偉達CEO仍然強調，公司在AI軟體和推理能力方面具有重大優勢，新款Blackwell晶片的需求依然強勁。
在斯坦福大學的一次演講中，黃仁勳表示：
“我們產品的總擁有成本非常划算，即使競爭對手的晶片是免費的，它們也不夠便宜。”
