如果您希望可以時常見面,歡迎標星收藏哦~
來源:內容編譯自nextplatform,謝謝。
在高效能計算的大部分歷史中,一臺超級計算機通常是一個獨立的裝置,主要用於執行模擬或模型,其與外部世界的唯一聯絡只需要一個相對較小的介面,用於顯示一些視覺化內容。
但在生成式AI(GenAI)版本的人工智慧中,核心在於不斷從外界獲取資料,並透過輸出建議或行動來對外界進行回應。這意味著,AI叢集需要高頻寬、快速且無損的網路,以避免浪費時間——進而避免浪費這些非常昂貴的AI伺服器(搭載了GPU和其他型別的AI加速器)的成本。同時,連線AI系統與外界的前端網路也可能需要從企業常見的10 Gb/秒速度升級。
這就是為什麼像Arista Networks這樣的公司對GenAI充滿期待。
在2024年第三季度財報電話會議上,Arista高管表示,他們新增了一位“雲巨頭”客戶,該客戶加入了此前四家試用或試點其AI專用交換機的超大規模和雲構建客戶名單中,這些客戶為下一代AI叢集進行測試,目前每個叢集中包含50,000到100,000個GPU,未來甚至會更多。Arista進一步表示,還有15個企業客戶正利用更少數量的GPU構建AI叢集,他們也在測試Arista的產品,逐步進入試點和生產系統階段。(我們猜測,企業可能部署了數千個GPU,甚至多達10,000個,前提是他們能獲得Nvidia或AMD的GPU配額,以及CFO的預算批准。)
因此,AI網路需求正在逐步建立,Nvidia的InfiniBand網路雖然在AI叢集中佔據主導地位,但正面臨Arista以及其自有的Spectrum-X產品線的競爭。以IT速度來看,這一進展耗費了很長時間。但乙太網的初始效能不足以充分利用這些GPU,因此在RDMA和擁堵控制方面做了提升,以便在InfiniBand強勢的領域展開競爭,並利用乙太網在相同層級的後端網路中較InfiniBand更高的可擴充套件性。
AI前端升級與後端之間的比例,即Arista執行長Jayshree Ullal所稱的“AI中心”比例尚不清楚,因為這是一個新興現象。隨著時間推移,這種比例也會變得越來越難以確定。(就像現在很難界定什麼是“雲”一樣。)2025年的預測是,AI後端網路市場為7.5億美元,AI相關前端網路市場也為7.5億美元,此外還有750億美元用於校園網路。
Ullal在電話會議中解釋道:“我們越來越看到,每在後端網路上花費一美元,前端網路可能需要多花費30%、100%,甚至200%。這就是為什麼我們相信,明年將會再有7.5億美元用於前端流量,其中包括AI,但不只限於AI。因此,我不會驚訝於這個數值在30%到200%之間,平均大約為100%,即後端為前端的兩倍。所以我們對此感到很樂觀。我們尚不清楚如何精確地統計純AI支出,這就是為什麼我不斷補充說明,當推理、訓練、前端儲存、WAN和傳統雲融合時,純AI支出會變得難以追蹤。”
但這將是明年的事情。在9月的這個季度,Arista仍在努力獲取一些AI業務訂單。它目前已經達成了五個大客戶的交易(上個季度是四個)。我們對這些客戶的具體專案所知不多,但知道其中之一是Meta平臺公司,正在構建兩個叢集,一個採用Nvidia InfiniBand互連,另一個則使用Arista乙太網。根據Ullal的說法,其中三位客戶的進展良好;一位剛剛起步,而新加入的第五位客戶進展“較預期緩慢”,因其“等待新GPU,面臨電力和冷卻等挑戰”。
在這一季度,Arista的產品收入增長18.5%,達到15.3億美元,服務收入增長28.2%,達到2.871億美元。
產品中的軟體訂閱收入下降了30.2%,為2070萬美元,拖累了整體軟體和服務收入的增長,合計僅增長了21.4%,達到3.079億美元。我們不清楚這裡的原因。
整體來看,該季度收入增長了20%,達到18.1億美元,較上季度增長7.1%。預期收入範圍為17.2億到17.5億美元。運營收入增長了30.2%,達7.85億美元,顯示出良好的成本控制和更高利潤,淨收入增長更快,達37.2%,為7.48億美元,淨收入佔收入的41.3%,是自2019年第四季度以來的最高水平,且當時是因稅收優惠而達到了47.2%的水平。這是真實的利潤,而非會計上的調整。第三季度部分研發成本推遲至第四季度也有所幫助。
Arista在第三季度末持有73.4億美元的現金及等價物,同比增長66.7%。客戶採購承諾增加了15%,達到23億美元,遞延收入為25.7億美元。
展望未來,Arista表示第四季度收入應在18.5億至19億美元之間,全年增長18%,此前預期為10%-12%。
對於2025年,隨著網路客戶結構轉向雲和AI客戶,預計收入將增長15%-17%,但毛利率可能下降3至5個百分點,年度收入將超過80億美元。
至於向400 Gb/秒和800 Gb/秒互聯的過渡,Ullal表示大多數AI試驗都是針對400 Gb/秒的產品,因為客戶正等待網路介面卡和超乙太網功能(如包噴射)以便升級到800 Gb/秒網路。
“雖然我們正在進行一些800 Gb/秒的早期試驗,但大多數試驗仍然是400 Gb/秒的,”Ullal表示。“我預計到2025年,我們將看到400 Gb/秒和800 Gb/秒之間的更好分配。”
https://www.nextplatform.com/2024/11/08/the-back-end-ai-network-puts-pressure-on-the-front-end/
半導體精品公眾號推薦
專注半導體領域更多原創內容
關注全球半導體產業動向與趨勢
*免責宣告:本文由作者原創。文章內容系作者個人觀點,半導體行業觀察轉載僅為了傳達一種不同的觀點,不代表半導體行業觀察對該觀點贊同或支援,如果有任何異議,歡迎聯絡半導體行業觀察。
今天是《半導體行業觀察》為您分享的第3941內容,歡迎關注。
『半導體第一垂直媒體』
實時 專業 原創 深度
公眾號ID:icbank
喜歡我們的內容就點“在看”分享給小夥伴哦