パナソニック、AIの"知ったかぶり"防ぐ新技術

パナソニック ホールディングスとPanasonic R&D Company of Americaは、AIモデルが学習していない物体の「知ったかぶり誤認識」を防ぐAI技術を開発した。AIモデルが学習しておらず「本質的に認識ができない」物体を「未知物体」として認識し、画像認識AIモデルの信頼性を高める。

画像認識AIモデルは事前に学習させた対象に対しては高い認識率を誇るが、実環境のすべての物体を画像認識AIモデルにあらかじめ学習させることは難しい。そのため実際の利用環境では、AIモデルにとって未知の物体に直面することは避けられない。

一方、AIモデルは「知らない」と判断することが苦手で、モデルが知っている範囲で無理やり認識し「知ったかぶる」ことが、予期しない誤動作につながりかねず、大きな課題となっている。

そうした中、画像認識結果が「どれくらい信頼できるのか(不確実性)」を推定可能な生成モデルを、画像認識モデルの後段に追加することで、「未知物体」に付与された誤ラベルを棄却。本質的に認識が可能な学習済の物体のみを正しく認識できるようにする技術「FlowEneDet」を開発した。

学習済の画像認識AIモデルの後段に追加するだけで簡単に拡張でき、高速に動作することが特徴。今後、AIの信頼性が求められる車載やくらし、B2Bなどの様々なユースケースでの活用が期待されるという。

"不確実性"を推定し誤認識を防ぐ

画像認識AIのひとつである「セマンティックセグメンテーションモデル」は、画像中の画素レベルで、ある領域が何の物体であるかを推定できる、モビリティ、製造、医療等の幅広い領域で欠かせないAI技術となっている。

しかし、学習時と似た環境・物体については精度よく推定できるが、実環境に存在するすべての物体を事前に学習させることは不可能。学習データに存在しない未知の物体に遭遇すると、そのモデルが学習した物体ラベルを無理やり当てはめてしまうため、認識性能の低下や予期せぬ誤検知に繋がることが課題となっている。

例えば、事前に学習していない「ビールケース」や「犬」を認識した場合、AIが学習済のラベルを無理矢理当てはめて推定した結果、ビールケースの一部を「クルマ」として、残りを道路として誤認識、犬も一部が「木」として、残りは道路と誤認識してしまうケースがある。車載カメラに搭載されるAIモデルではこうした誤認識は重大事故に繋がりかねない。

ビールケースと犬を誤認識した例

これを解決するため、AIモデルが認識結果にどれくらい自信を持っているか(不確実性)を推定するフローベースの生成モデル「FlowEneDet」を開発した。

フローベースの生成モデルは、逆変換可能な関数の合成として複雑な分布を表現できるモデル。学習した物体の分布を正確にモデリングできるため、「学習した既知の物体」と「学習していない未知物体や誤分類(モデリング結果が実際の分布と合わない)」を分離することが可能になる。さらに、未知物体(OOD)や誤分類(IDM)領域をより高精度に分離するため、データ密度のモデリングを行なうエネルギーベースモデルも組み合わせた。

「FlowEneDet」を通常のセマンティックセグメンテーションモデルの後段に追加することで、時間のかかるセグメンテーションモデル側の再トレーニングを行なうことなく、認識結果の不確実性を推定できるよう拡張可能。FlowEneDet自体は、エネルギーベースモデルにおける低次元の自由エネルギーを処理するモデルであるため、複雑さの低いアーキテクチャであり、学習・評価コストを大きく増やすことなく、未知物体と誤分類の同時検出を実現する。

実際の検証では、複数のベンチマークデータセットに対して未知物体や誤分類の認識性能評価を行なった結果、従来法を上回る認識結果を達成したという。

評価結果の一例(正解・従来法・本手法において、赤色は未知物体または誤分類、青色は既知物体、その他の色は未知か既知か判定できていない領域を表している)

本技術は、AI・機械学習技術のトップカンファレンスであるUAI2023(The Conference on Uncertainty in Artificial Intelligence)に採択。7月31日から8月4日まで米国ピッツバーグで開催される本会議で発表される。