国立情報学研究所と九大院研究チーム、共同で画像識別AIの誤識別リスクを低減する技術を開発

最終更新日:2024/02/08

画像認識AIの誤認識低減技術開発

国立情報学研究所の研究チームらは、画像識別AIの誤識別に対するリスクを効果的・効率的に低減する技術を開発しました。

情報・システム研究機構 国立情報学研究所（NII）のアーキテクチャ科学研究系准教授 石川冬樹らの研究チームは、九州大学大学院システム情報科学研究院情報知能工学部門准教授 馬雷らの研究チームとともに、画像識別AIの誤識別に対するリスクを効果的・効率的に低減する技術を開発しました。

深層ニューラルネットワーク（DNN）では、多数のパラメーターが異なる物体の識別結果に対して複雑に影響するため、ある誤識別を改善するための修正が、他の識別結果に意図しない低下（デグレ）を発生させる問題があります。

このプロジェクトでは、役割の異なる複数のDNN修正技術を組み合わせ、画像識別用DNNを狙い通りに修正する研究開発を進めてきました。具体的には、様々な誤識別を分類し、タイプごとの原因と修正方法を発見する技術（NII）、パラメーター修正と誤識別改善の履歴情報を利用することで修正による低下を抑制する技術（NII）、パラメーター値だけでなくDNNの基本構造自体も修正する技術（九大）などに取り組んできました。

この技術は最初に「歩行者をバイク搭乗者と間違える」、「電車をバスと間違える」といったそれぞれの誤識別タイプに対し、その要因となっているパラメーター群を欠陥局所化（Fault Localization）という技術をもとにした方法で絞り込みます。次に、その誤りを修正するためのパラメーター変更のパターンを探索します。最後に、異なる誤識別のタイプそれぞれに対して効果的な修正候補を見いだした上で、それぞれの誤識別のリスクの大きさを踏まえてそれらの修正候補を統合し、従来のDNN修正技術では困難であったリスクの効果的・効率的な低減を実現します。

プロジェクトのメインターゲットである自動運転AI向けの実験では、自動車企業などを交えて定めた安全性ベンチマークで評価を行い、多数の安全要求を満たした上で狙い通りの修正が可能であり、効果的・効率的にリスクを低減できることを確認しました。

NIIの石川氏は「今後自動車企業とのさらなる議論・実証を通し、安全性改善のためにDNNによる画像識別AIを修正する技術を高めていきます。また画像識別AIを補完するような周りの技術とも組み合わせ、自動運転の安全性全体を論証・改善していくための包括的な枠組みに取り組んでいきます」とコメントしています。

出典：国立情報学研究所

AIsmiley編集部

株式会社アイスマイリーが運営するAIポータルメディア「AIsmiley」は、AIの専門家によるコンテンツ配信とプロダクト紹介を行うWebメディアです。AI資格を保有した編集部がDX推進の事例や人工知能ソリューションの活用方法、ニュース、トレンド情報を発信しています。

・Facebookでも発信しています
@AIsmiley.inc
・Xもフォローください
@AIsmiley_inc