11月21日,由北京電子數智科技有限責任公司(簡稱“北電數智”)打造的首個國產算力PoC平臺正式開放,並落地北京數字經濟算力中心。其依託北電數智先進計算迭代驗證平臺(即前進·AI異構計算平臺),為國產算力叢集提供垂類場景評測、適配與驗證服務的同時,為網際網路、AI應用開發企業等垂類場景應用開發提供多種算力適配試驗空間,實現從底層算力到業務場景驅動的雙向鏈路打通。
國產算力PoC平臺的開放是北電數智促進國產算力晶片從“可用”到“好用”的重要舉措,將透過“以評促用”的創新模式,幫助網際網路企業和AI企業找到適合不同場景的“晶片+軟體”最佳組合,從而帶來高效、靈活且極具價效比的算力服務,由此加速國產算力的場景化應用和商業化落地,構建繁榮的國產異構算力應用生態。
缺認知、少應用……國產算力面臨商業落地焦慮
近年來,國產算力晶片發展迅猛,但大規模商業化應用依然任重道遠。由於缺乏足夠全面的應用場景展示和切實有效的評測機制,很多算力應用方對國產算力的能力認知不夠清晰。傳統以指數型評測指標為主的算力評測方案,僅能呈現國產晶片的理論引數,無法展現國產晶片在不同業務場景下的效能指標,使得算力使用方在購買前無法驗證國產算力能否滿足自身業務需要,對於是否選用更存在諸多顧慮。
此外,算力中心為滿足使用者日益多元化的算力需求,需採購不同品牌的晶片產品,而多晶片混用的客觀現實和建設需求,亦帶來了不同晶片間軟體不相容、算力難打通、開發工具鏈統一管理難度大等難題。這些現實因素共同制約了國產晶片從底層算力到業務場景的商業閉環形成,阻礙了國產晶片的發展與普及。
從算力到場景雙向打通,降低國產晶片驗證成本
北電數智國產算力PoC平臺能夠有效降低國產算力晶片的驗證成本,解決研發與應用脫節問題,對提高商業轉化具有顯著的促進作用。一方面,該專案可展示國產晶片在不同AI應用場景下的實際能力和效能表現,讓大模型提供方和AI應用開發企業直觀瞭解不同國產晶片的最佳應用場景;另一方面,也可為AI企業或網際網路企業提供針對不同垂類場景的國產晶片效能評測驗證服務,加速國產算力晶片在千行百業中的廣泛滲透與應用。
截至目前,由北電數智統一規劃建設與設計運營的北京數字經濟算力中心已成功完成對包括摩爾執行緒、寒武紀等在內的近二十家知名國產算力晶片的部署測試。北電數智也正在面向影視、金融、政務、工業等多個垂類場景開展測試驗證服務,為不同行業的垂類模型落地樹立標杆案例,並持續探尋國產算力和行業、模型、應用的最佳適配組合。以影視行業為例,北電數智正在面向影視文化產業的AIGC視聽解決方案六藝多模態影視文化大模型,基於國產算力PoC平臺,深度聯合10餘家相關AI明星企業,打造人物AI生成代理、劇情創作輔助工具等超級應用,助力推動影視及文化產業的數字化與智慧化轉型升級。
首個國產算力PoC平臺的開放,是對北京數字經濟算力中心開放與多元生態引領能力和前進·AI異構計算平臺適配驗證能力的充分印證,能夠幫助算力需求方充分了解國產算力晶片對自身業務的支援程度、適配程度,同時也為算力供給方提供了一個全面展示晶片產品多元場景效能的平臺和公正且清晰的評估標準,推動算力資源能夠以最優價效比進行高效率的供給,為國產算力提供商業化落地最優解。
——關於北電數智「前進·AI異構計算平臺」
「前進·AI異構計算平臺」由北電數智牽頭,聯合業內頭部科研團隊及國內各大國產算力廠商共同構建,是全國首個在生產環境下可實現規模化測試的全棧迭代驗證平臺,具有多重最佳化功能,可透過模型量化加速、模型超引數調優、稀疏化推理等模型最佳化能力,運算元融合加速、計算圖最佳化、硬體訪存最佳化等編譯最佳化方式,加速單晶片的效能。面向多晶片混元異構的未來趨勢,前進·AI異構計算平臺亦可以針對不同晶片特點,基於模型任務的不同調配合適的晶片算力,讓合適的晶片做合適的事,提供具有價效比的高質量算力。
目前,「前進·AI異構計算平臺」已實現數千卡國產算力叢集的部署工作,並對近二十家晶片企業的產品進行測試,持續增強異構國產算力的效能。以此為紐帶,北電數智將與國產算力廠商攜手共進,加速國產晶片從“可用”到“好用”,持續拓寬國產晶片應用邊界的同時,積極助力應用廠商實現場景化落地,以算力和場景的雙向迴圈,為“重新塑造國產晶片的競爭力、推動國產晶片實現全面提升”的戰略目標貢獻力量。