前言:首個國產算力PoC平臺的開放,是促進國產算力晶片從“可用”到“好用”的重要舉措,透過“以評促用”的創新模式,幫助各類企業找到適合不同場景的“晶片+軟體”最佳組合,帶來高效、靈活且極具價效比的算力服務,加速國產算力的場景化應用和商業化落地。
隨著大模型與生成式AI全面向產業滲透,也掀起了智算基建產業建設的新高潮。中國信通院《智算基礎設施發展研究報告(2024)》指出,智算中心與AI雲是當前的兩大智算基建形態。而根據2024中國算力大會,截至2024年6月,中國已建和在建的各類智算中心已經超過250個。可以說,中國的智算基建產業,正在“卷”出新高度。
與傳統資料中心不同,智算中心一般由地方政府或電信運營商主導建設,定位於服務城市的產業和科研創新。在智算中心建設中,如何更好地結合國產算力,成為智算基建產業的重大課題。在全球市場,一家獨大,已經形成了完整的技術生態,取得了遠超於其他晶片的話語權。而在中國市場,儘管國產算力晶片廠商如雨後春筍般湧現,且也在努力構建自己的技術生態,但是由於發展時間比較短,需求方在使用的時候還是面臨比較多的困難。
所謂晶片的技術生態,包括與算力晶片配套的運算元庫、軟體開發工具包、開發環境、第三方應用支援等。以英偉達的CUDA為例,CUDA是英偉達於2006年推出的一個專門用於自有GPU硬體進行軟體開發的介面,包括編譯器、偵錯程式、豐富的庫函式、各種軟體工具等,極大降低了GPU程式設計的門檻,2019年英偉達又提供了豐富的並行演算法庫、影象與影片庫、深度學習庫、通訊庫以及合作伙伴庫等,CUDA經歷多年發展成為了英偉達的技術生態壁壘。
算力晶片的技術生態壁壘還包括售後服務及技術支援服務,也就是對於不具備成熟技術生態的算力晶片,由售後技術支援服務團隊提供新運算元、軟體開發介面等技術開發,同時與客戶合作提供定製化技術支援,以確保客戶專案的成功。售後技術支援服務對於新的算力晶片廠商來說十分重要,這是確保新的算力晶片能夠逐漸在市場中站穩腳跟,才能謀求類似英偉達CUDA那樣的完整技術生態佈局,但需要數年甚至數十年之功,同時,新的算力晶片也需要能夠持續找到應用場景,並在市場生存下去。
2024年11月,由北京電子數智科技有限責任公司(簡稱“北電數智”)打造的首個國產算力PoC平臺正式開放,並落地北京數字經濟算力中心。國產算力PoC平臺,即驗證國產算力晶片在不同業務場景下的可行性、效能和表現,同時測試相關資料為後續大規模採用提供決策支援。截至目前,由北電數智統一規劃建設與設計運營的北京數字經濟算力中心,已成功完成對包括摩爾執行緒、寒武紀等在內的近二十家知名國產算力晶片的部署測試。
“大部分國產晶片發展道路坎坷不平,也面臨著激烈的競爭環境。但是不同的國產晶片效能指標都有一些優勢能夠發揮,只有充分看到什麼場景適合使用什麼國產晶片,就有機會讓國產晶片快速被使用起來,形成商業閉環,這也是北電數智看到的國產算力發展的可能性”,北電數智CMO、戰略與市場負責人楊震指出,北電數智正積極投入到國產晶片的加速、混元、適配等工作中。
首個國產算力PoC平臺,依託北電數智先進計算迭代驗證平臺(即“前進·AI異構計算平臺”),為國產算力叢集提供垂類場景評測、適配與驗證服務的同時,為網際網路、AI應用開發企業等垂類場景應用開發提供多種算力適配試驗空間,實現從底層算力到業務場景驅動的雙向鏈路打通。
在接受採訪時,北電數智CMO、戰略與市場負責人楊震表示,北京數字經濟算力中心根據不同場景建立了不同的國產算力叢集POC平臺,企業可以針對自有場景進行國產算力晶片測試,在實際業務場景中瞭解國產算力晶片的效能和表現,從而加快採用國產算力晶片商業化落地程序。
首個國產算力PoC平臺的開放,是北電數智促進國產算力晶片從“可用”到“好用”的重要舉措,透過“以評促用”的創新模式,幫助各類企業找到適合不同場景的“晶片+軟體”最佳組合,帶來高效、靈活且極具價效比的算力服務,加速國產算力的場景化應用和商業化落地。
國產算力PoC平臺的背後,則主要依託於“前進·AI異構計算平臺”,其由北電數智牽頭,聯合業內頭部科研團隊及國內各大國產算力廠商共同構建,是全國首個在生產環境下可實現規模化測試的全棧迭代驗證平臺,具有多重最佳化功能,可透過模型量化加速、模型超引數調優、稀疏化推理等模型最佳化能力,運算元融合加速、計算圖最佳化、硬體訪存最佳化等編譯最佳化方式,加速單晶片的效能。
前進·AI異構計算平臺還可以針對不同晶片特點,基於模型任務的不同,調配合適的晶片算力,提供具有價效比的多元異構算力。目前,“前進·AI異構計算平臺”已實現數千卡國產算力叢集的部署工作。
北電數智CMO、戰略與市場負責人楊震強調,北電數智作為北京電控集團旗下的人工智慧原生國企,承建的北京數字經濟算力中心是目前北京五環內唯一的千P以上智算中心。2023年10月,北電數智還承接了北京市重點專案“先進計算迭代驗證平臺”,基於該專案孵化了“前進·AI異構計算平臺”,並落地北京數字經濟算力中心。
作為北電數智的拳頭產品之一,北電數智為“前進·AI異構計算平臺”投入了大量人力物力,重新統一構建了多種國產晶片的技術生態,包括開發和補足了不同國產算力晶片的運算元庫、建立統一通訊庫等,同時聯合技術團隊共同支撐國產算力晶片售後服務和技術支援服務,滿足客戶的定製化需求。到今年年底,北電數智還將推出AI雲服務,普惠更廣大的創新企業和中小企業。
作為人工智慧原生的國企,北電數智自誕生之初即透過承建北京數字經濟算力中心和承接“先進計算迭代驗證平臺”等重大專案的方式,研發出了加速人工智慧落地的AI工廠“星火·智算”、推動國產晶片從可用到好用的“前進·AI異構計算平臺”、高質量AI工具鏈“寶塔·模型適配平臺”、推動資料安全共享、可信流通的“紅湖·可信資料空間”以及醫療、文化、工業製造、具身智慧等垂類模型矩陣等五大產品。
北京數字經濟算力中心是聚合了北電數智五大產品的首個智算中心樣板,而北電數智的五大產品也可以對外輸出,賦能更多的智算中心擺脫純GPU算力租用的“內卷”,走上真正落地大模型和生成式AI應用、形成有效商業閉環的高質量發展之路。隨著首個國產算力PoC平臺的正式開放,將推動國產算力更多地評測與使用起來。而北電數智也將幫助更多的政府和企業智算中心,打造高質量發展新動能。(文/寧川)