ブラックボックス型AIを説明可能なAIに変換する技術を日立が開発

最終更新日:2022/12/19

日立は、従来のブラックボックス型AIを判断基準が明確なAIに変換するAI単純化技術を開発しました。あらゆる入力に対して人が理解できる単純な予測式を創出することにより、明確な判断基準の下で予測結果を提示します。

このAIニュースのポイント

日立は、従来のブラックボックス型AIを判断基準が明確なAIに変換するAI単純化技術を開発
あらゆる入力に対して人が理解できる単純な予測式を創出することにより、明確な判断基準の下で予測結果を提示
日立グループにおける製品出荷前の自動検査ラインに適用され、熟練者不足の解消や検査速度の向上効果を確認

従来のブラックボックス型AIは、予測精度を高めるために複雑な数式で構成されており判断基準が不明確であるため、未知のデータに対して意図しない予測結果を導く不安やリスクがありました。一方、本技術を用いたAIは、あらゆる入力に対して人が理解できる単純な予測式を創出することにより、明確な判断基準の下で予測結果を提示します。

さらに、ユーザーの経験や知識に基づき予測式を調整できるため、予測精度を維持・向上しながら安心してAIを利用することが可能となり、ユーザーに寄り添った信頼できるAIの実現に貢献します。本技術の一部は、日立グループにおける製品出荷前の自動検査ラインに適用され、熟練者不足の解消や検査速度の向上効果が確認されました。

近年、メタバース等に代表されるデジタル化の加速度的な進展、深刻化する地球環境の悪化や新型感染症の拡大など、企業を取り巻く環境は急速に変化してきています。このような中で、ユーザーの迅速なDX実現を支援するために、日立は信頼できるAIの実装に向けた研究開発に取り組んできました。

これまで、深層学習等の技術の進歩によりAIの予測精度は向上しましたが、AIには精度だけでなく、説明性、透明性、品質、公平性など、信頼できるAIとして複数の要件が求められます。特に、予測精度を高めるため多くの変数や複雑な数式により構成されたブラックボックス型AIはユーザーがその内容を理解困難なため、AIを安心して業務に適用できないという説明性の問題が指摘されました。

このような中、日立はAIの判断基準を多角的に分析し、人に分かりやすく説明するeXplainable AI(XAI)の技術を開発し、ユーザーのさまざまな業務に適用いただきその有用性を検証。その結果、AIの予測精度が高く、その判断基準をユーザーに説明できた場合でも、限られた条件下でユーザーが想定できない予測結果をAIが出力する場合、ユーザーはAIを信頼･保証できず、対策に多くの時間を取られてしまうことが分かりました。

そこで日立は、深層学習モデルや勾配ブースティング木など、予測精度が高い一方で内容が複雑なブラックボックス型AIを、判断基準が明確なAI（単純な予測式）に変換する技術を開発。

まず、従来のXAI分析技術により、AIへのさまざまな入力データに対し、要因(特徴量)が予測値に及ぼす影響の強さ(貢献度)を算出。次に、特徴量が変化しても予測値への貢献度が一定である入力データの領域をクラスタリング技術により抽出します。

抽出された入力データ領域ではその特徴量は予測値に影響を与えないため、その領域で判断基準を単純化できることを期待してAIを単純な予測式に変換。このような処理を全ての入力データ領域で繰り返し、全領域をユーザーが理解可能な単純な予測式に変換します。

判断基準が明確なAI (調整前)の例

必要な予測精度が得られるように、ユーザーの経験や知識に基づきAIと対話・協調しながら、ユーザー自身で予測式を調整する技術を開発しました。ブラックボックス型AI変換技術で得られた単純な予測式に対して本技術を用いることで境界値や各領域における予測式を調整することができます。

先ほど説明したAIの入力データ領域を分割する際の境界値を、ユーザーのの知識に合わせて調整可能です。例えば、「耐震基準が2000年に変更されたので、1998年ではなく2000年の前後で判断基準が替わるようにしたい」という調整が可能です。このように境界値をユーザーの知識と整合させることで、データが少ない領域での予測精度を向上させることができます。

ユーザーは、各領域における予測式として、業務内容に合わせた式の形を指定できます。ユーザーが予測精度より予測式の単純さを優先する場合は、より単純な形の式を指定可能。「予測式:y=築年数×0.5+土地の傾き×5+「木造なら+3」+「地域Aなら+2」+…が複雑であるため、変数を3つ以下にしたい」というような指定が可能です。

ブラックボックス型AI変換技術で得られる式が単純だからこそ、ユーザーの経験や知識を予測式に容易に反映させることができます。このように、ユーザー自身で予測式を調整でき、信頼できるAIを容易･迅速に構築できます。

出典：PR TIMES