LLM破局泛化诊断困难，MSSP登载北航PHM实行室康健管理大模子研究 ...

1004

AIxiv专栏是呆板之心发布学术、技能内容的栏目。已往数年，呆板之心AIxiv专栏吸收报道了2000多篇内容，覆盖环球各大高校与企业的顶级实行室，有用促进了学术交换与流传。假如您有良好的工作想要分享，接待投稿大概接 ...

AIxiv专栏是呆板之心发布学术、技能内容的栏目。已往数年，呆板之心AIxiv专栏吸收报道了2000多篇内容，覆盖环球各大高校与企业的顶级实行室，有用促进了学术交换与流传。假如您有良好的工作想要分享，接待投稿大概接洽报道。投稿邮箱：liyazhou@jiqizhixin.com；zhaoyunfeng@jiqizhixin.com

论文作者来自杭州北航国新院、北航，重要作者：陶来发、刘海菲、宁国澳、曹文燕、黄博昊、吕琛（通讯作者）。吕琛传授：国家级领武士才、英国皇家航空学会会士；陶来发传授：国家级青年人才。

克日，《Mechanical System and Signal Processing》（MSSP）在线发表登载北航 PHM 团队最新研究结果：基于大语言模子的轴承故障诊断框架（LLM-based Framework for Bearing Fault Diagnosis）。

这是北航 PHM 实行室在康健管理大模子范畴的乐成实验，研究团队提出了基于大语言模子的轴承故障诊断框架，提拔预练习大模子对振动数据的剖析与泛化本领。
以轴承为例，他们探索并买通了基于预练习大语言模子办理泛化故障诊断困难的技能门路，开端显现了对跨工况、小样本、跨对象等泛化诊断使命的综合办理本领。
北航 PHM 实行室为业界学者应对故障诊断范畴泛化痛点题目提供了新思绪，也是深入开展大模子与康健管理交织研究并创建康健管理大模子的紧张底子与参考。

论文原文：https://doi.org/10.1016/j.ymssp.2024.112127（MSSP 期刊）
https://arxiv.org/abs/2411.02718（arXiv 预印）

配景先容

康健管理（Prognostics and Health Management，PHM）是制止装备故障导致职员安全和经济产业丧失的紧张技能本领，而算法模子泛化性不敷等瓶颈题目严峻制约着 PHM 技能的发展应用。作为康健管理的紧张环节，传统故障诊断也面对着跨工况顺应本领、小样本学习本领和跨对象泛化本领等诸多挑衅。

大语言模子（LLM）通过千亿级参数化的先验知识与深条理的模式辨认本领，为提拔故障诊断模子的泛化性提供了新的大概性。因此，团队整合 LLM 与传统故障诊断技能上风，以轴承为例探索并买通基于预练习大语言模子办理泛化故障诊断困难的大概性和技能门路，开端显现了对跨工况、小样本、跨对象等泛化诊断使命的综合办理本领。

分别开展了单数据集跨工况实行和全量及少量样本的跨数据集迁徙实行，验证所提出框架同时完成三种泛化故障诊断使命的本领，证实 LLM 对输入的模式和情势具有精良的顺应性。

重要创新及结果

为办理泛化诊断困难，论文提出基于 LLM 的轴承故障诊断框架，创新点重要包罗振动数据特性的文本化处置惩罚和预练习模子微调方法。

针对轴承故障诊断中振动数据难以发掘语义信息的题目，基于传统故障诊断的统计学分析框架，提出了一种融适时域和频域特性提取的信号特性量化方法，将时序数据举行文本化处置惩罚，旨在通过精简的特性选择高效学习小样本和多工况下的共性特性。

针对 LLM 在剖析振动数据特性时泛化本领不敷的题目，该团队接纳基于 LoRA 和 QLoRA 的振动数据微调方法，有用使用预练习模子的深层语义明白本领，进步故障诊断的准确度并加强模子的泛化性能。

针对创新点的实行验证。通过单数据集实行、单数据集跨工况实行以及全量、少量跨数据集实行，该团队证明白所提出框架同时具备跨工况、小样本、跨数据集故障诊断本领。

研究团队接纳 CWRU、MFPT、JNU、PU 四个轴承故障诊断公开数据集，分别针对基于特性的 LLM 故障诊断和基于数据的 LLM 故障诊断方法举行验证。

案例实行验证了所提出框架在三种泛化使命上的顺应性，且颠末跨数据集学习的模子同比得到 10% 左右的精度提拔。

将来研究方向

1. 该框架更多地在特性提取和故障模式鉴别阶段将 LLM 与故障诊断相联合，将来可充实使用诊断范畴知识和大模子架构知识，实现大模子与装备故障诊断的深度融合。

2. 论文以轴承为例，探索了预练习 LLM 办理泛化故障诊断困难新思绪。将来可将其作为底子与参考，特异性计划模子布局，将框架拓展至其他范畴对象，如动力、控制体系的电源、功能电路等。

3. 论文以故障诊断为例展示了 LLM 对传统康健管理本领的扩展本领，将来还可将技能延拓到猜测、评估等典范康健管理范畴，买通 PHM 开辟方案天生、数据天生、本领天生、办理方案天生、验证评价、方案更新等技能流程，支持装备 PHM 计划、诊断、评估、猜测、决议、保举、验证、更新等卑鄙使命。

4. 论文使用 LLM 的文本处置惩罚本领及泛化性能，开端实现了基于预练习 LLM 的泛化故障诊断功能；将来将在此底子上，构建以康健管理范畴多模态信息为底子、以 PHM 各种功能需求为重要业务、以天生涌现本领为目的的垂直范畴康健管理大模子，实现以通用化、鉴别式、实战性为重要特点的康健管理范畴新生态及根天性技能变化（参考 An Outline of Prognostics and Health Management Large Model: Concepts, Paradigms, and Challenges, https://arxiv.org/abs/2407.03374）。

也接待关注北航 PHM 团队提出的康健管理大模子进阶研究范式 roadmap！