在 SC24 大會上,NVIDIA 以 GB200 NVL4 的形式釋出了最新的計算密集型 AI 加速器,這是一款單伺服器解決方案,擴充套件了公司的"Blackwell"系列產品組合。 新平臺在單板上集成了四個"Blackwell"GPU和兩個"Grace"CPU。
對於單伺服器系統而言,GB200 NVL4 擁有非凡的規格,包括四個 Blackwell GPU 的 768 GB HBM3E 記憶體,提供 32 TB/s 的綜合記憶體頻寬。 該系統的兩個Grace CPU擁有960 GB LPDDR5X記憶體,使其成為滿足苛刻人工智慧工作負載的。
NVL4 設計的一個主要特點是採用了 NVLink 互連技術,可實現板上所有處理器之間的通訊。 該系統的功耗達到 5400 瓦,比 GB200 NVL2 型號的 2700 瓦功耗高出一倍。
NVIDIA 正與 OEM 合作伙伴密切合作,向市場推出各種 Blackwell 解決方案,包括 DGX B200、GB200 Grace Blackwell Superchip、GB200 Grace Blackwell NVL2、GB200 Grace Blackwell NVL4 和 GB200 Grace Blackwell NVL72。
單臺伺服器的 TDP 為 5400 W,需要液冷系統才能達到最佳效能,GB200 NVL4 預計將用於超級分頻器客戶的伺服器機架,這些客戶的資料中心通常都有定製的液冷系統。