新智元報道
編輯:潤 好睏
【新智元導讀】因為臺積電的先進封裝工藝產能太低,準備尋求英特爾來生產AI晶片了。據報道,英特爾一個月最多能提供30萬片的H100產能。
臺積電產能不夠,逼得英偉達都去找造晶片了?
臺積電在2023年年中承認,其先進晶片封裝技術CoWoS(Chip on Wafer on Substrate)的需求已經超出了他們的生產能力。
另一方面,被稱為「人造黃金」的英偉達AI晶片在市場上供不應求,英偉達迫切希望能夠儘快提高產能。
最終,英偉達可能不得不開始考慮利用英特爾的先進封裝技術來生產晶片。
根據外媒曝料,英偉達從英特爾每月理論上能夠額外獲得30萬塊H100晶片的產能(假設產出無瑕疵且合同確實針對H100)。
CoWos封裝產能,卡了全世界大廠的脖子
而對於臺積電來說,2023年是瘋狂的一年。基本每個月,媒體都要曝出他們在增加CoWos封裝工藝的產能。
2023年6月臺積電增加先進晶片封裝產能
2023年7月臺積電增加先進晶片封裝產能
而之所以CoWos封裝的產能不夠,最主要的原因是這是一種非常先進的封裝技術,只有最先進的AI晶片,需要利用這種技術。
同時,也只有臺積電,英特爾等少數晶片廠商,能夠使用這種技術封裝生產晶片。
而在AI晶片需求沒有大幅提升之前,包括臺積電在內的晶片製造公司都沒有太高的產能。
2023年是AI爆發之年,各大廠都在加緊儲備英偉達的H100,使得AI晶片的需求激增。
而在整個AI晶片的生產供應鏈中,因為CoWos封裝的產能短時間難以提升,導致就算英偉達就算已經有了足夠多的H100的晶圓供應,晶片的產能也會被CoWos封裝「卡脖子」。
H100採用了CoWoS-S封裝技術,集成了7個晶片。
其中心部位是H100 GPU 應用特定積體電路(ASIC),其芯片面積達到了 814 平方毫米。
圍繞其周圍的是 6 組高頻寬記憶體(HBM)。
其中,H100 SXM版本採用了HBM3技術,每組記憶體為16GB,總共提供了80GB的記憶體容量。
而H100NVL版本則包含兩個封裝,每個封裝都配備了6組HBM。
臺積電依然是最重要的AI晶片工廠
儘管如此,臺積電仍將是英偉達主要的供應商,貢獻大約90%的先進封裝產能。
從第二季度開始,英偉達計劃至少對部分產品使用英特爾的產能。
如果這一資訊屬實,透過增加英特爾的產能,英偉達將能夠更快地滿足市場對其現有AI和高效能計算(HPC)產品的需求。
不過,這裡存在一個挑戰。
英偉達目前及之前一代的所有產品,包括A100、A800、A30、H100、H800、H200和GH200,都依賴於臺積電的CoWoS-S封裝技術。
英特爾的與先進封裝技術名為Foveros,但兩者使用的中介層技術不同(CoWoS-S使用的是65nm中介層,而Foveros使用的是22FFL中介層)。
要使用英特爾的Foveros技術,英偉達需要對這項技術進行驗證,然後對實際的產品進行質量認證。
因為兩種中介層是基於不同的工藝技術,並且連線點的間距也不同,所以這些產品可能會有一些微小的差異。
因此,英偉達的合作伙伴在部署這些產品前也需要進行相應的認證。
外媒報道稱,英特爾預計將在第二季度加入英偉達的供應鏈,每月生產大約5000塊Foveros晶圓。
對英偉達來說,這是一個相當大的數字。
臺積電在2023年中能夠每月生產多達8000塊CoWoS晶圓。
計劃到2023年底將產能提升到11000塊,到2024年底進一步增加到大約20000塊。
如果英偉達每月能夠額外獲得5000塊先進封裝晶圓,這將明顯緩解AI晶片產能不足的問題。
對英偉達來說,將部分先進封裝工作外包給Intel Foundry Service是一項戰略性的舉措,旨在多樣化其供應鏈。
更重要的是,透過利用IFS的封裝能力,英偉達還能確保這些產能不會被競爭對手使用,從而鞏固自己的領先地位。
CoWos封裝產能為什麼難以提高?
CoWoS(Chip on Wafer on Substrate)是一種2.5D/3D封裝技術,可以拆成兩部分來看,CoW(Chip on Wafer),指的是晶圓堆疊,WoS(Wafer on Substrate)則是將堆疊的晶圓封裝在基板上。
CoW的目的是將一個晶片放置在包含其他晶片的晶圓頂部,從而實現高效的空間利用和增強的效能。
來源:AnandTech
而AI GPU上的必須的高頻寬記憶體(HBM)和CoWoS技術是相輔相成的。
HBM的高密度連線和短電路設計要求借助CoWoS這類2.5D封裝技術才能實現,這在傳統PCB或封裝基板上難以完成的。
CoWoS以合理的成本,提供了最高的連線密度和最大的封裝尺寸,成為主流的封裝技術。
由於目前幾乎所有使用HBM的系統都採用CoWoS封裝,而所有高效能 AI GPU都需要用到HBM。
所以可以說,絕大多數領先的資料中心GPU都採用了臺積電的CoWoS封裝技術。
而除了高效能的AI GPU,只有少數的網路晶片,超級計算晶片和FPGA會用到CoWos封裝。
所以包括臺積電在內的晶片製造廠都不會有太高的先進封裝產能。
而包括晶圓在內的其他AI GPU供應鏈的產能都可以從其他地方勻出來,CoWos封裝產能卻很難,所以就卡住了英偉達的脖子。
雖然臺積電一直在為更多的封裝需求做著準備,但沒想到這一波生成式人工智慧需求來得如此之快。
去年6月,臺積電宣佈在竹南開設先進後端晶圓廠。
該晶圓廠佔地 14.3 公頃,足以容納每年 100 萬片晶圓的3D Fabric產能。這不僅包括CoWoS,還包括SoIC和InFO技術。
這個工廠比臺積電其他封裝工廠的總和還要大。
而且伴隨著生成式AI浪潮的發展,除了英偉達,其他的晶片公司對於CoWos的產能需求也在急劇擴張。
從Semianalysis的圖中可以看出,用於建設大規模AI叢集的網路連線晶片,主要由Broadcom提供,也會吸收大量CoWos產能。
所以只靠臺積電,英偉達似乎未來也很難獲得足夠的出貨量。
而英偉達面對如此強大的市場需求,可能等不到臺積電的新工廠竣工投產了,加入英特爾現成的產能肯定是一個值得考慮的選項。
參考資料:
https://www.tomshardware.com/pc-components/gpus/nvidia-reportedly-selects-intel-foundry-services-for-chip-packaging-production-could-produce-over-300000-h100-gpus-per-month#xenforo-comments-3835443
https://www.semianalysis.com/p/ai-capacity-constraints-cowos-and