AI脳画像診断の脱ブラックボックス化に成功。XAIを共同開発

最終更新日:2023/12/21

岡山大学の松井鉄平准教授と立教大学の瀧雅人准教授、アラヤの近添淳一主任研究員らの共同研究グループは、脳活動を解読する深層神経回路の動作を直感的に説明する新手法を開発しました。研究成果は、認知症や精神神経疾患の脳画像診断に深層学習を応用していく際に、医師や患者がAIの動作を理解しつつ使用するための基礎技術として役立つと期待されています。

このAIニュースのポイント

深層神経回路による脳活動解読を直感的に説明する新しい手法を提案
提案手法を応用して、深層神経回路が解読に使う脳活動の特徴を抽出することに成功
研究成果は、脳画像診断に深層学習を応用する際に、医師がAIの動作を理解し、使用するための基礎技術として役立つと期待されている

岡山大学学術研究院自然科学学域の松井鉄平准教授と立教大学大学院人工知能研究科の瀧雅人准教授、生理学研究所のトラン・ファム特任助教、株式会社アラヤの近添淳一主任研究員、慶應義塾大学理工学部の地村弘二准教授の共同研究グループは、脳活動を解読する深層神経回路の複雑な動作を説明する新しい手法を開発しました。

MRIや脳波により計測した脳活動データから、その人が何をやっていたのかを推定する脳活動解読は、BMIへの応用を見据えて広く研究されている技術です。最近では、脳活動解読に深層学習を用いた研究が活発に行われています。しかし、深層神経回路によるデータの処理は非常に複雑で、「与えられたデータに対して解読器が何故その回答をするのか」を直感的に説明することが困難です。

こうした欠点を克服し、複雑な深層神経回路の動作を説明可能にする技術の開発は、脳活動解読のみならず広く人工知能分野での重要なトピックとしても近年着目されています。今回の研究では、この問題に対する新しいアプローチとして、深層生成モデルという深層学習のもう一つの技術と反実仮想説明という手法を組み合わせた手法を提案しました。

今回の研究では、反実仮想説明という手法を選択。共同研究グループは敵対的学習による深層生成モデルという深層学習のもう一つのテクニックを使うことで、本物そっくりな脳活動データを作ることに成功し、反実仮想説明を脳解読器に適用できることを実証しました。また、この生成器の面白い応用として、特定の認知課題に向けて脳活動を「誇張」することで、その認知課題を特徴づけるパターンを取り出すことが可能です。

このパターンを、別の認知課題をしている時の脳活動に貼り付けて再び脳活動解読を行うと、解読の結果は元の脳活動ではなく貼り付けたパターンに対応するものとなり、脳活動生成器によって取り出したパターンが、実際に解読器によって使われていることが示されています。こういったパターン抽出は、今回の提案手法に特有の応用で、解読器の動作を基に新しい科学的な仮説を立てることなどに応用できると考えられています。

出典：共同通信PRワイヤー