パナソニック ホールディングス(パナソニックHD)とPanasonic R&D Company of Americaは7月28日、AI(人工知能)モデルが学習しておらず本質的に認識ができない物体を未知物体として認識し、画像認識AIモデルの信頼性を高めるという技術である「FlowEneDet」を開発したと発表した。

  • 評価結果の例

画像認識AIモデルは事前に学習させた対象に対しては高い認識率を持つが、実環境の全ての物体を予め学習させることは困難といい、実際の利用環境ではAIモデルにとって未知の物体に直面することが避けられないという。

  • 未知の物体に誤ったラベルを付与した例

また、AIモデルは「知らない」と判断することが苦手といい、モデルが知っている範囲で強制的に認識し「知ったかぶる」ことが予期しない誤動作にもつながりかねないことが、AIの社会実装の進展に伴い大きな課題となってきたとのこと。

  • FlowEneDetを追加したセマンティック・セグメンテーション・モデル

AIの信頼性を高める技術が注目される中、画像認識結果が「どれくらい信頼できるのか(不確実性)」を推定可能な生成モデルを画像認識モデルの後段に追加することで、未知物体に付与した誤ラベルを棄却し、本質的に認識が可能な学習済の物体のみを正しく認識できるようにするフロー・ベースの生成モデルであるFlowEneDetを、両社は開発した。フロー・ベースの生成モデルは、逆変換可能な関数の合成として複雑な分布を表現できる。

学習した物体の分布を正確にモデリングできるため、「学習した既知の物体」と「学習していない未知物体や誤分類(モデリング結果が実際の分布と合わない)」の分離が可能になる。さらに、未知物体(OOD)や誤分類(IDM)領域をより高精度に分離するため、データ密度のモデリングを行うエネルギー・ベース・モデルと組み合わせた。

今回開発したFlowEneDetを通常のセマンティック・セグメンテーション・モデルの後段に追加することで、時間のかかるセグメンテーション・モデル側の再トレーニングを行うことなく、認識結果の不確実性を推定できるセグメンテーション・モデルへと拡張できる。

FlowEneDet自体は、エネルギー・ベース・モデルにおける低次元の自由エネルギーを処理するため、複雑さの低いアーキテクチャであり、学習・評価コストを大きく増やすことなく、未知物体と誤分類の同時検出を実現する。

今後、AIの信頼性が求められる車載や暮らし、B2Bなど多様なユースケースでの利用が期待できるとのことだ。