快科技11月20日訊息,SuperComputer 2024超算大會上,NVIDIA公佈了一系列新產品、新技術,其中最亮眼的當屬"GB200 NVL4"計算平臺,也是其SuperChip超級晶片家族的一員。
這是一套單伺服器解決方案,在一塊不大的板子上,集成了四顆Blackwell GB200 GPU晶片、兩顆Grace CPU晶片,彼此透過NVLink匯流排高速互聯。
四顆Blackwell共擁有768GB HBM3記憶體,合計頻寬32TB/s,兩顆Grace GPU則有960GB LPDDR5X記憶體。
二者合計,就是恐怖的1.7TB!
該方案適合HPC、AI混合負載應用,號稱對比上代GH200 NVL4,訓練和圖裡效能高1.8倍,模擬效能高2.2倍。
當然代價就是極高的功耗,總計不可思議的5400W——一個小時5.4度電。
如果不需要 這麼彪悍的方案,NVIDIA也早就提供了兩顆Blackwell GB200 GPU晶片、一顆Grace GPU晶片的版本,規模減半,當然功耗也要2700W。