《科創板日報》2月21日訊(記者 黃修眉 餘佳欣 郭輝) SRAM(靜態隨機存取儲存器)作為一種傳統儲存方案,近兩日相關概念連續點燃A股半導體板塊。今日(2月21日),SRAM概念股再度拉昇,西測資料20CM漲停,北京君正、恆爍股份等個股盤中一度漲超10%,萬潤科技、東方中科等個股跟漲。
訊息面上,TPU第一代設計者Jonathan Ross所創立的Groq公司正式宣佈,其新一代LPU在多個公開測試中,以幾乎最低的價格,相比GPU推理速度翻倍。並且後續有三方測試結果表明,該晶片對大語言模型推理進行最佳化效果顯著,速度相較於英偉達GPU提高了10倍。與GPU不同的是,LPU的記憶體採用了SRAM。
上述訊息爆出後,多家A股公司透過投資者互動平臺等渠道,闡釋公司SRAM相關的研究和業務。同時,今日(2月21日)《科創板日報》記者以投資者身份致電多家涉及SRAM儲存器業務的公司,採訪瞭解其進展。
整體來看,包括炬芯科技、恆爍股份、成都華微等在內的多家科創板公司,均聲稱業務與SRAM儲存器有關聯或關注相關技術,其中有公司表示正在基於SRAM研發AI存算晶片,並且將在2024年取得階段性進展。
不過,多位半導體業內人士接受《科創板日報》記者採訪時,對SRAM相關產品方案將可能引起的算力爆發,保持較為審慎的態度。無論是SRAM本身的高成本、低容量,還是基於SRAM的LPU產品的通用性侷限,短期來看對當前算力技術和產業難以形成顛覆。
多家A股公司回應SRAM相關產品進展
《科創板日報》記者透過互動平臺向炬芯科技詢問基於數模混合電路的SRAM存內計算路徑進展,炬芯科技證代辦人士表示,炬芯科技將推出最新一代升級為CPU+DSP+NP三核異構的高階AI音訊晶片ATS286X,預計在2024年中,向下遊客戶提供樣品晶片,該晶片為行動式產品提供更大的算力。
炬芯科技證代辦人士稱,“SRAM是和FLASH和DRAM一樣的一種儲存器,SRAM用於AI晶片也有特定的場景,例如推理場景,但AI晶片是公司未來的重點研發方向。”
炬芯科技股份有限公司董事長兼CEO周正宇,曾在2023年11月舉行的中國積體電路設計業2023年會上公開表示,基於SRAM的CIM具有非常顯著的技術優勢,包括能效比高,功耗低,讀寫速度快,適合低功耗高效能裝置使用;寫次數沒有限制,適用於模型反覆調整的;工藝成熟,可大規模量產;工藝領先,適合整合。“針對低功耗的音訊SoC,基於SRAM的CIM是目前打造低功耗音訊AI算力的首選。”
恆爍股份證代辦人士向《科創板日報》記者表示,該公司基於NOR Flash的存算一體晶片恆芯2號已回片,正處於測試階段,該公司自2023年下半年同步也在進行基於SRAM的數字存算一體方案的研發,進展符合預期。
上述恆爍股份證代辦人士稱:“NOR Flash存算一體晶片與SRAM的數字存算一體均可以用於AI晶片,但SRAM是‘數字’存算一體,兩者仍然存在功能方面的差別。順利的話,公司預計2024年底能回片。而且AI晶片也是公司未來的發展方向。”
成都華微在互動平臺上表示,該公司承擔的“十三五”國家科技重大專項基於28nm工藝平臺,突破超大規模高效能FPGA低功耗設計方法等關鍵技術,建立高效能、高性價比千萬門級SRAM型FPGA器件自主研發與工程化應用能力。此外,該公司智慧SoC晶片可以應用於人工智慧領域,但目前處於研發、送樣階段。
《科創板日報》記者致電成都華微採訪其相關晶片進展詳情,截至發稿暫未得到回覆。值得注意的是,與此前兩家擁有消費級應用佈局的公司不同,成都華微隸屬於中國集團,專注於特種積體電路研發、設計、測試與銷售,以提供訊號處理與控制系統的整體解決方案為產業發展方向。
中科藍訊證代辦人士向《科創板日報》記者表示,目前該公司在研的智慧藍芽音訊晶片、物聯網晶片產品等均是基於NOR儲存器,暫時沒有產品基於SRAM研發。“目前NOR已經能滿足所有產品智慧化方面的需求,是否應用SRAM要根據下游客戶需要進行。”該證代辦人士稱。
也有投資者關注到軍用電子元器件晶片檢測公司思科瑞,並詢問該公司是否有SRAM晶片相關業務。思科瑞證代辦人士向《科創板日報》記者表示,“公司主要從事晶片檢測,擁有一種隨機靜態儲存晶片SRAM的測試篩選技術,每年可檢測約10萬隻該種類型晶片。”
LPU通用能力或存侷限 短期未必形成技術顛覆
在生成式人工智慧引發的算力焦慮中,能產生算力爆炸的顛覆性技術也更容易受到市場關注。但這會是SRAM或基於SRAM的AI晶片嗎?多位受訪的半導體從業者對此表示懷疑。
“SRAM是個非常成熟的技術了,CPU中的暫存器和快取都用的是SRAM。”業內人士接受《科創板日報》記者採訪表示,SRAM早已以IP核心形式完成在SoC的整合,本身的技術價值沒有更大的突破。
上述人士表示,SRAM確實要比DRAM快,但SRAM價格很貴,容量較小。“LPU乃至其他計算晶片,大量使用SRAM時需要有所權衡,比如需不需要為了效能而犧牲容量。”
“之所以Groq選擇了SRAM,是因為它只推理、不訓練,而推理所需要的儲存空間比訓練要小得多,所以Groq的一個板卡只有230MB的記憶體,而GPU的DDR空間基本都是幾個GB的大小。”該人士稱,由於成本和容量限制,目前還看不到SRAM爆發的希望。
而對於基於SRAM的LPU產品,業內人士則質疑其不同場景中的通用能力,可能會影響該類產品的規模應用。
有晶片從業者表示,LPU目前的優勢在於推理,而訓練方面能力偏弱。Groq使用的是開源模型,而且不訓練這些模型。這樣的方案“優點是推理速度很快,適用於單個模型的場景,但一旦涉及多個模型,LPU就沒有任何優勢了。”
“訓練比推理難很多”。有從事國產大模型訓練的業內人士向《科創板日報》記者表示,推理是模型結構固定,模型權重已經凍結之後做的,但訓練是為了訓出模型,通常演算法工程師會透過改變模型結構等操作來調整模型,這些操作非常靈活,並且大模型的訓練還要分很多階段。
“對應到場景而言,越通用,則對訓練過程的靈活性要求越高,越專用,則適用場景越小。”該大模型研發人士直言,LPU甚至可能是一個專為某種模型結構設計的硬體,很可能大模型換個結構就很難支援,另外Groq官網也只提到在大語言模型上的優勢,專為語言模型設計,估計在影象和影片方面沒有優勢。
“Groq公司LPU產品應用範圍限制比較大,相比於更為完善的軟體生態和GPU產品的通用計算平臺,短期來看也完全沒法取代GPU。”上述人士稱。