AIが「なぜ異常と判定したか」センサー波形の違いで可視化、東芝：異常検知で説明可能AIを実現

東芝は、インフラ設備や製造装置などにおいて、AIが異常と判断した理由をセンサー波形の違いから可視化する「反事実波形生成技術」を開発した。製造業や社会インフラなどにおける異常検知への適用を視野に入れ、早期実用化を目指す。

[馬本隆綱，EE Times Japan]

インフラ設備や製造装置などにおける異常検知に適用

　東芝は2026年5月、インフラ設備や製造装置などにおいて、AIが異常と判断した理由をセンサー波形の違いから可視化する「反事実波形生成技術」を開発したと発表した。製造業や社会インフラなどにおける異常検知への適用を視野に入れ、早期実用化を目指す。

　インフラ設備や製造装置ではこれまで、取り付けたセンサーにより収集した波形データを保守担当者が目視で確認し、異常の有無を判断してきた。近年は、センサーで収集した時系列波形データをAIで解析し、異常を検知するシステムの導入も進んでいる。ただ、AIが異常と判定した根拠などを担当者が理解できるようなシステムではなかった。

　今回開発した反事実波形生成技術は、AIの判定結果や根拠を担当者が理解できるようにする「説明可能AI」の1つである「反事実説明」という考え方を時系列波形データに応用した。多様な正常状態の時系列波形データから正常範囲を学習する。そして、AIが異常と判定した波形に対し、どの部分がどのように変化すれば正常と判断されるかを可視化する技術である。

設備異常の模擬データに従来の勾配型説明可能AIを適用したイメージ［クリックで拡大］ 出所：東芝

　異常判定の根拠を可視化するための反事実波形生成処理は、「学習段階」と「運用段階」に分けて行った。学習段階では正常時の時系列波形を用い、AIの判定スコアが正常となる波形の特徴量を、特徴空間においてクラスタとして凝集させる。運用段階ではAIが異常と判定した波形の特徴量を、正常領域として学習したクラスタの重心に近づける。これによって、反事実波形を生成できるという。

　さらに今回は、真の最適解を高速に解くアルゴリズムも開発し、その解が真の最適解であることを理論的に示した。開発した技術は異常検知に適用できるだけでなく、非勾配型のAIに対しても説明性の高い反事実波形を高速に生成することが可能である。なお、開発した技術の評価については、九州大学マス・フォア・インダストリ研究所が数理的な側面から理論補強を行った。

開発した反事実波形生成技術の概要［クリックで拡大］ 出所：東芝

左は説明可能AIモデル作成方法、右は反事実波形生成方法［クリックで拡大］ 出所：東芝

　ベンチマーク評価では、正常や異常を高い精度で判定できるAI技術「QUANT」を用い、異常検知および判定の設定において、26種類の時系列データセットを評価した。これにより、元波形からの不要な波形を抑え高品質の反事実波形が生成できることを確認した。