時時頭條
  • 娛樂
  • 體育
  • 財經
  • 科技
  • 旅遊
  • 軍事
  • 育兒
  • 時尚
  • 遊戲
  • 歷史
  1. 首頁
  2. 科技

LLM破局泛化診斷難題,MSSP刊登北航PHM實驗室健康管理大模型研究

2024-11-29 07:38:20

AIxiv專欄是機器之心釋出學術、技術內容的欄目。過去數年,機器之心AIxiv專欄接收報道了2000多篇內容,覆蓋全球各大高校與企業的頂級實驗室,有效促進了學術交流與傳播。如果您有優秀的工作想要分享,歡迎投稿或者聯絡報道。投稿郵箱:[email protected];[email protected]

論文作者來自杭州北航國新院、北航,主要作者:陶來發、劉海菲、寧國澳、曹文燕、黃博昊、呂琛(通訊作者)。呂琛教授:國家級領軍人才、英國皇家航空學會會士;陶來發教授:國家級青年人才。

近日,《Mechanical System and Signal Processing》(MSSP)線上發表刊登北航 PHM 團隊最新研究成果:基於大語言模型的軸承故障診斷框架(LLM-based Framework for Bearing Fault Diagnosis)。

這是北航 PHM 實驗室在健康管理大模型領域的成功嘗試,研究團隊提出了基於大語言模型的軸承故障診斷框架,提升預訓練大模型對振動資料的解析與泛化能力。以軸承為例,他們探索並打通了基於預訓練大語言模型解決泛化故障診斷難題的技術路線,初步展現了對跨工況、小樣本、跨物件等泛化診斷任務的綜合解決能力。北航 PHM 實驗室為業界學者應對故障診斷領域泛化痛點問題提供了新思路,也是深入開展大模型與健康管理交叉研究並建立健康管理大模型的重要基礎與參考。

論文原文:https://doi.org/10.1016/j.ymssp.2024.112127(MSSP 期刊)https://arxiv.org/abs/2411.02718(arXiv 預印)

背景介紹

健康管理(Prognostics and Health Management,PHM)是避免裝置故障導致人員安全和經濟財產損失的重要技術手段,而演算法模型泛化性不足等瓶頸問題嚴重製約著 PHM 技術的發展應用。作為健康管理的重要環節,傳統故障診斷也面臨著跨工況適應能力、小樣本學習能力和跨物件泛化能力等諸多挑戰。

大語言模型(LLM)透過千億級引數化的先驗知識與深層次的模式識別能力,為提升故障診斷模型的泛化性提供了新的可能性。因此,團隊整合 LLM 與傳統故障診斷技術優勢,以軸承為例探索並打通基於預訓練大語言模型解決泛化故障診斷難題的可能性和技術路線,初步展現了對跨工況、小樣本、跨物件等泛化診斷任務的綜合解決能力。

分別開展了單資料集跨工況實驗和全量及少量樣本的跨資料集遷移實驗,驗證所提出框架同時完成三種泛化故障診斷任務的能力,證明 LLM 對輸入的模式和形式具有良好的適應性。

主要創新及成果

為解決泛化診斷難題,論文提出基於 LLM 的軸承故障診斷框架,創新點主要包括振動資料特徵的文字化處理和預訓練模型微調方法。

針對軸承故障診斷中振動資料難以挖掘語義資訊的問題,基於傳統故障診斷的統計學分析框架,提出了一種融合時域和頻域特徵提取的訊號特徵量化方法,將時序資料進行文字化處理,旨在透過精簡的特徵選擇高效學習小樣本和多工況下的共性特徵。

針對 LLM 在解析振動資料特徵時泛化能力不足的問題,該團隊採用基於 LoRA 和 QLoRA 的振動資料微調方法,有效利用預訓練模型的深層語義理解能力,提高故障診斷的精確度並增強模型的泛化效能。

針對創新點的實驗驗證。透過單資料集實驗、單資料集跨工況實驗以及全量、少量跨資料集實驗,該團隊證明了所提出框架同時具備跨工況、小樣本、跨資料集故障診斷能力。

研究團隊採用 CWRU、MFPT、JNU、PU 四個軸承故障診斷公開資料集,分別針對基於特徵的 LLM 故障診斷和基於資料的 LLM 故障診斷方法進行驗證。

案例實驗驗證了所提出框架在三種泛化任務上的適應性,且經過跨資料集學習的模型同比獲得 10% 左右的精度提升。

未來研究方向

1. 該框架更多地在特徵提取和故障模式判別階段將 LLM 與故障診斷相結合,未來可充分利用診斷領域知識和大模型架構知識,實現大模型與裝備故障診斷的深度融合。

2. 論文以軸承為例,探索了預訓練 LLM 解決泛化故障診斷難題新思路。未來可將其作為基礎與參考,特異性設計模型結構,將框架拓展至其他領域物件,如動力、控制系統的電源、功能電路等。

3. 論文以故障診斷為例展示了 LLM 對傳統健康管理手段的擴充套件能力,未來還可將技術延拓到預測、評估等典型健康管理領域,打通 PHM 開發方案生成、資料生成、能力生成、解決方案生成、驗證評價、方案更新等技術流程,支撐裝備 PHM 設計、診斷、評估、預測、決策、推薦、驗證、更新等下游任務。

4. 論文利用 LLM 的文字處理能力及泛化效能,初步實現了基於預訓練 LLM 的泛化故障診斷功能;未來將在此基礎上,構建以健康管理領域多模態資訊為基礎、以 PHM 各種功能需求為主要業務、以生成湧現能力為目標的垂直領域健康管理大模型,實現以通用化、判別式、實戰性為主要特點的健康管理領域新生態及根本性技術轉變(參考 An Outline of Prognostics and Health Management Large Model: Concepts, Paradigms, and Challenges, https://arxiv.org/abs/2407.03374)。

也歡迎關注北航 PHM 團隊提出的健康管理大模型進階研究正規化 roadmap!

論文連結:https://arxiv.org/abs/2407.03374

熱門資訊
  • 印度手機使用者上網速度比中國還快,因為流量和手機都太便宜了 | 2024-02-12 05:28:08
  • 2023年我國新增97個城市達到千兆城市建設標準 | 2024-02-12 05:41:31
  • 最強LCD屏手機!關鍵是護眼!紅米Note12T Pro中配置1299元到手 | 2024-02-12 05:53:22
  • 2024龍年春晚機位藏玄機 5G-A無線直播機位亮相 首次突破無線有線混切壁壘 | 2024-02-12 05:53:31
  • vivo“用力太猛”,釋出兩個月跌去465元,驍龍8Gen3+120W | 2024-02-12 05:57:24
  • 英特爾釋出Arc顯示卡31.0.101.5194/5252 beta驅動:支援《碧海黑帆》等新遊戲 | 2024-02-12 06:06:16
  • 假如飛船以一億倍的光速一直飛行,能飛出宇宙嗎? | 2024-02-12 06:06:28
  • 手機殼居然還能兼顧散熱,華為Mate 60系列微泵液冷殼太強了! | 2024-02-12 06:10:43
  • 膝上型電腦選購排名:預算4000元~9000元,每個價位段只談一款 | 2024-02-12 06:10:46
  • 如此發燒友|加上超高音與超低音更完美——退而不休的汕頭傅先生 | 2024-02-12 06:14:37
  • 華為摺疊屏“Pocket 2”被曝已開啟線下門店盲約 | 2024-02-12 06:22:44
  • 這種樹千方百計想殺死你!全身密密麻麻的刺還有毒,果實還會爆炸 | 2024-02-12 06:22:46
  • 有案例,電機應用過程中為何也會發生掃膛問題? | 2024-02-12 06:26:20
  • 日本研究人員找到將塑膠垃圾轉化為化學寶藏的突破性新方法 | 2024-02-12 07:32:28
  • 中國海洋大學陳顯堯教授團隊在大西洋經向翻轉環流領域取得重要進展 | 2024-02-12 07:37:59
  • Vision Pro 頭顯何時達到“理想形態”?蘋果內部人士稱需要四代 | 2024-02-12 07:56:34
  • 北京大學申請功率射頻器件專利,實現嵌入式近結點均熱/散熱效果 | 2024-02-12 08:30:31
  • 西安交大《Small》:雙封裝增強全無機鈣鈦礦發光二極體的穩定性 | 2024-02-12 08:30:36
  • 科學家研發可控可擴充套件奈米層,在900℃高溫也能保持穩定 | 2024-02-12 08:37:11
  • 大風口!華為蘋果也“卷”摺疊屏? | 2024-02-12 08:59:29
  • QuEra計劃 2024 年底推出世界首臺容錯量子計算機 | 2024-02-12 08:59:43
  • 小米發聲:零部件供應商對在印度建立業務持憂慮態度 | 2024-02-12 08:59:46
  • 特斯拉北美確認今年不會更新Model Y | 2024-02-12 09:22:01
  • 多家跨國企業藉助AI監控員工工作資訊,以實時瞭解員工情緒 | 2024-02-12 09:22:04
  • AMD Radeon 780M超到 3.3GHz!TDP解鎖到170W、效能提升22% | 2024-02-12 09:24:05
  • 核聚變創造新世界紀錄:英國反應堆在5秒鐘內釋放69兆焦耳能量 | 2024-02-12 09:44:16
  • 美國這次真急了!中國建月球網路、導航系統,NASA:IM-1也將演示 | 2024-02-12 09:44:18
  • 三位學者,一篇Science,武大校友張國亭一作,師從雷愛文教授! | 2024-02-12 09:44:22
  • 清華大學,最新Nature Nanotechnology,突破顯微成像資訊極限! | 2024-02-12 09:44:26
  • 美國聯邦航空管理局局長:對波音公司的監管沒有提供安全的飛機 | 2024-02-12 09:47:07
最近發布
突發!TVB知名女星毫無預警宣佈與未婚夫分手,結束長達八年情 面對被黑,蘭姐強勢迴歸。小菲狀態好轉,發宣告。更多內幕揭曉! 中國男籃決戰日本隊,首發五人曝光,廣東隊大贏家,徐傑第一後衛 孫穎莎奪女單冠軍!採訪謙遜立足拼,劉國樑給中國選手頒獎笑開花 分析 馬威交易取消後的影響:湖人還有什麼選擇?只能等休賽期? 火箭vs猛龍前瞻:範弗裡特有望復出戰舊主,火箭欲終結六連敗 梅西轟動宏都拉斯!當地媒體:這是世紀體育盛事! 登記開啟!金中、29中、13中等校動了! 開年暴擊!南京又一家機構跑路了? TechInsights:AI PC未能提振筆記本市場 2024年僅增長5% 睡覺時突然腿抽筋,就是缺鈣?錯!還有這4個原因,別輕易忽視了 泡泡瑪特又贏麻了!此前被調侃是“境內最大的博彩公司” 再也不用扎手指!5億糖尿病患者有福了 傳《尼爾:機械紀元》續作、新《古墓麗影》今年公佈 有工作經驗的畫素畫師如何寫簡歷? 離譜!Xun被搶3條龍,JDG仍然獲勝!Peyz力挽狂瀾,WBG痛失好局 將耗死在國際空間站?59歲美滯留女宇航員求救:喪失重要身體機能 華為FreeClip耳機玫瑰金開售 開放式聆聽設計 CBA俱樂部杯-山西淘汰北控晉級4強 原帥18分 小紅書上移民的中產:曾經北京七套房, 羨慕海外一張床, 如今卻...... 不可抗力停課2天以上退一半保教費,佛山幼兒園收費新規釋出 紅棉襯醉美,2020番順醉美青餅評測 華為FreeClip耳夾耳機玫瑰金配色開售:1299元 64歲寧波老闆,跨界無數次,給員工發8億,即將擁有第三家IPO? 卡友資訊股東持股情況變動 廣州“城市合夥人”:城市與人才的雙向奔赴 有人說孫穎莎粉絲是飯圈文化的時候 卻有些人用真金白銀愛孫穎莎! 男生剪“短髮”髮型乾淨利落,試試這3款,剪完帥氣提升顏值! 7個臀部訓練最佳動作,打造迷人的蜜桃臀! 偉大的4-2!林詩棟奪冠:新科世界第1誕生、超越王楚欽,狂攬3冠 新疆完美了!新小外強於皮特森+黑根斯,承認補強大外良性競爭! 林詩棟奪男單冠軍!採訪大談不容易太謙遜,單獨拍照露出笑容! 國乒最新戰報!林詩棟第2局11-8,衝3冠王,梁靖崑救2局點仍輸球 替補奇兵!快船大將5記3分助隊贏球 哈登好幫手 爆冷!北控男籃吊打奪冠大熱門球隊,外援決定比賽的走向 官宣離任,胡明軒宣佈重要決定,廣東宏遠遺憾,杜鋒祝福 又一個賈德松!崔康熙看人很準,魯媒:卡約又要錯過中國聯賽了 劉國樑憔悴!黑眼圈很重,擋住蒯曼被提醒,孫穎莎王楚欽被裁判整 林詩棟逆轉梁靖崑奪冠,成就三冠王,綜合實力更加突出 CBA最新外援註冊資訊,遼籃4人,新疆補充新援,廣東男籃放棄萊斯 大滿貫收官獎金排名:林詩棟三冠60萬第1,孫穎莎第2王曼昱10萬第9 臺灣律師分析大S遺產劃分,S媽要錢得看汪小菲臉色,打臉光頭安排 臺媒曝大S家人鬆手,讓出撫養權給汪小菲,希望馬筱梅善待孩子 二線白酒暴雷,狼真的來了! 搭上比亞迪,自動駕駛獨角獸,利潤大增170%! 炸裂!外資吹響“加倉中國”集結號背後:科技格局重塑與資產重估 這波夢幻西遊副本積分兌換真是血虧,四賜福的山賊值得買嗎? 《星戰亡命之徒》高階美工又回到CDPR 開發《巫師4》 《哪吒2》登陸北美,首映禮現好萊塢!有觀眾哭花眼妝:特效超預期,買票靠搶 曝張蘭被封年損失近4億,麻六記絕地自救太壯觀,員工曬張蘭近況

©2024 時時頭條 版權所有

隱私政策 | 服務條款 | 聯繫我們