フレーム問題とは？AI・人工知能が抱える問題の本質と現状の解決案

最終更新日:2024/01/26

問題解決に不要な選択肢を無限に計算し続けてしまい、処理しきれずにAIが稼働を停止する「フレーム問題」は、AI活用の分野で長年解決に向けた研究が進められています。

かつては解決案が見つからない難問でしたが、近年では、重要の情報度の設定やアンサンブル学習を連携させた新技術など、解決の糸口が少しずつ見えてきているのが現状です。本記事では、フレーム問題の考え方やAI（人工知能）が抱える問題の本質、現状の解決案について解説します。

AIについて詳しく知りたい方は以下の記事もご覧ください。
AI・人工知能とは？定義・歴史・種類・仕組みから事例まで徹底解説

フレーム問題とは？

フレーム問題とは、AI（人工知能）が本来問題解決には必要のない背景も考慮して計算し続けてしまい、情報処理能力を超えて機能が停止する問題のことです。

例えば、「スーパーに行って、卵を購入する」という問題をAIが受け取ったとき、卵を購入するまでの道中には、さまざまな出来事が起こる可能性があります。しかし、一般的には、それらの大半は考慮しなくても、卵の購入を完了することは可能です。

私たちが「自宅を出発してスーパーに卵を買いに行こう」と考えたとき、「自宅とは反対側の方向に1時間歩いてから、方向転換して目的のスーパーへ向かおう」という思考にはならないでしょう。

このように、人間であればある程度の選択肢を排除して最適なプロセスを計画できます。ところが、AIは人間が考えもしないようなあらゆる可能性を考慮した上で、卵を購入することに無関係な要素を排除し、最終的な結論を導き出す必要があるのです。

例題「スーパーに行って、卵を購入する」

そのため、AIが無限に計算を行わないように、ある程度の枠組みの中で思考するための「フレーム」を作成するのですが、「複数作成したフレームのうちどれを計算に使用するか」を決定する過程でも無数の計算が発生するという問題に直面します。

このように、AIの論理的思考によって稼働が継続できなくなる状態が、「フレーム問題」のイメージです。

フレーム問題で指摘される「フレーム」とは？

そもそもフレームとは、「ある特定の条件下でコンピュータやプログラムが思考するための枠組み」のことです。「AIが計算するための手順を記憶させたテンプレート」ともいえるでしょう。

フレームを定義することによって、AIは世界に生じる無限の事象を計算せずに、一定の前提に基づいて計算を行えます。膨大な処理に時間をかけることなく計算が完了するため、AIの処理を高速化したり、処理落ちを防いだりする効果が期待できます。このフレームを活用したテンプレートのことを「フレームワーク」と呼ぶこともあります。

例えば、人気のフレームワークのひとつに「Tensorflow」が挙げられます。Tensorflowを活用すると、プログラミングの知識がない人でも、簡単にディープラーニングの学習モデルを作成できます。

フレーム問題を扱う例題

フレーム問題を扱う有名な例題に、「電話帳」と「爆弾とロボット」の2つがあります。フレーム問題に関する理解をさらに深めるために、2つの具体例について詳しく見ていきましょう。

電話帳｜マッカーシー＆ヘイズ

「電話帳」とは、ジョン・マッカーシーとパトリック・ヘイズによって提唱されたフレーム問題です。このフレーム問題は、電話帳を使って電話番号を調べるときの手順になぞらえて、AIが抱えている問題に言及しました。

Aさんが電話帳を使ってBさんの電話番号を調べて、電話をかけようとしているとします。この時、人間であれば、深く考えることもなく電話帳を開いて、Bさんの電話番号が書かれているページを探し、見つけた電話番号に電話をかけて会話を始めるでしょう。

しかし、AIが電話帳を使ってBさんの電話番号を探し出そうとする場合は、「Bさんが電話を所有しているとき、Aさんが電話帳でBさん以外の電話番号を調べ終わった後も、Bさんはまだ電話を所有し続けている」といった、人間にとっては当たり前の事実まで計算する必要があります。

そのため、電話番号を調べ出して電話をかけるまでの計算量が膨大になり、限られた処理能力しか持ち合わせていないAIは処理が追いつかず、動作を停止してしまいます。これが、フレーム問題における「電話帳」の概要です。

電話帳｜マッカーシー＆ヘイズ

爆弾とロボット｜ダニエル・デネット

「爆弾とロボット」は、ダニエル・デネットによって提唱されたフレーム問題です。爆弾とロボットでは、時限爆弾が仕掛けられた洞窟から、ロボットを動作させるバッテリーを取り出すまでの、AIの思考について述べられています。

時限爆弾が設置されたある洞窟の中には、ロボットを動かすためのバッテリーが格納されていました。時限爆弾の爆発とともにバッテリーが破壊されることを防ぐためには、爆弾を洞窟から取り出さなければなりません。そこで、ロボットに「バッテリーを取り出す」という命令が下されました。

命令を受けたロボット「R1（ロボット1号）」は、洞窟からバッテリーを取り出すことに成功しました。しかし、実は爆弾はバッテリーの上に仕掛けられており、洞窟からバッテリーが移動されるとともに爆弾は爆発してしまったのです。これは、「R1が、バッテリーを運ぶと爆弾も一緒に運ばれてしまう」ことを計算できず、安全性を全く考慮できていなかったために起こったトラブルです。

そこで、洞窟からバッテリーを運び出すことによって起こり得る、副次的な出来事についても計算が可能なロボット「R1D1（ロボット2号）」を新たに洞窟に向かわせました。しかし、R1D1は計算しなければならない問題が多すぎて、処理を継続できず、時限爆弾の目の前で動作を停止してしまいました。結果敵に、時限爆弾は摘出が間に合わず、洞窟内で爆発してしまったのです。

爆弾とロボット｜ダニエル・デネット

副次的な要素も考慮するように指示したことで、R1D1は「バッテリーを動かすと爆弾は爆発するのか」「バッテリーを動かすと天井が崩落しないか」「爆弾を動かそうとすると壁が他の色に変化してしまわないか」など、現実世界では起こり得ないような事象まで考慮して思考し続けてしまい、処理を継続できなくなってしまいました。この例が「爆弾とロボット」と呼ばれる問題です。

フレーム問題の解決案

フレーム問題の解決案イメージ

フレーム問題を解決するためには、AIに学習させる情報の重要度と優先度を設定し、本来は必要のない情報まで無限に思考しないよう制御する必要があります。また、強化学習とアンサンブル学習を連携した手法を活用して、フレーム問題の解決にあたっている例もあります。

かつては解決が難しく、さまざまな議論が展開されてきたフレーム問題ですが、現段階の研究や見解として、解決の糸口が見えてきています。そこで、フレーム問題の2つの解決案について詳しく解説します。

情報の重要度と優先順位を決める

AIに情報の重要度と優先順位を指示することで、フレーム問題の発生を回避できるのではないかと考えられています。前述のように、フレーム問題は「AIが与えられた目的を達成するまでには、無限の選択肢があるために、答えを出すために無限に思考し続けてしまう」ことが課題でした。そのため、答えにたどり着けずにAIのキャパシティーを超えて、動作を停止してしまいます。

そこで登場するのが、「AIに思考の優先順位を与える」という考え方です。前述の「爆弾とロボット」のフレーム問題では、「爆弾を取り出そうとすると壁の色が変化しないか」といった、人間であれば選択肢としても思い浮かべないような思考まで行っていました。

このような、「答えを導き出すためには不要な思考」を除外するために、「ロボットの現在位置から〇メートル以内にある情報を優先的に処理しなさい」という命令を与えます。すると、「爆弾を取り出そうとすると壁の色が変化しないか」をはじめとした重要度の低い思考は行われなくなり、フレーム問題を回避できると考えられます。

強化学習×アンサンブル学習

株式会社グリッドでは、強化学習とアンサンブル学習を組み合わせて、フレーム問題を解決するための糸口となる技術を開発しました。

同社では、「そもそも人間は、結果が分からない未知の選択肢が目の前に現れたときに、過去の経験から失敗しないと思われる選択肢を選択する習性がある」と仮定しました。

この仮定を背景に生まれたのが、AIの思考を前述の人間の選択方法に近づけることで、無限の思考を回避する「強化学習×アンサンブル学習」の技術です。複数のAIモデルが算出した解の平均値を選択する「アンサンブル学習」を強化学習中のAIに適用することで、将来起こる結果をある程度予測して絞り込み、無限に思考することを避ける手法を生み出しています。

これまでは強化学習の解をAIにアンサンブル学習させた事例がなく、この技術は世界で初めての研究として「Journal of Renewable and Sustainable Energy」という論文にも掲載されています。

フレーム問題の解決の糸口は「人間の曖昧性」

フレーム問題を解決するための糸口は、「人間の曖昧性」にあると考えられます。人間はロボットのように全ての可能性を考慮して結論を出すのではなく、自身の過去の経験からある程度選択肢を絞り込み、有限の選択肢の中から最適な行動を導き出します。

つまり、ロボットにも、人間のように「あらかじめ思考の選択肢を絞り込ませる」プログラムを実装する必要があるということです。一定の条件のもとに無視して良い選択肢の条件を指示し、最適な結論を出すための動作をどのようにAIに実装するかが、フレーム問題を解決するための課題となるでしょう。

ロボットに与える選択肢が狭すぎても最適な解は出ませんが、選択肢が広すぎると、フレーム問題を解決できずに無限に存在する選択肢によって動作が停止してしまいます。フレーム問題の解決を左右するのは、「思考の枠組みを適切に制御すること」であるともいえるでしょう。

そもそも人間は「フレーム問題」を解決していない

前述のように、フレーム問題を解決する糸口は、人間の曖昧性にあると考えられます。しかし、そもそも人間自身も、厳密に言えばフレーム問題を解決できているわけではありません。

1991年に人工知能研究者の松原仁氏が提唱した「暗黙知におけるフレーム問題」では、「電子レンジと猫」というフレーム問題の例が挙げられています。

あるアメリカの主婦が、雨に濡れたペットの猫を乾かそうと思い、電子レンジに入れて温めようとしました。当然ながらその猫は死んでしまうのですが、事件を起こした主婦は「『電子レンジの説明書に生き物を入れて温めてはいけない』と書いていないのだから、猫が死んだのはメーカーの責任だ」という理由で、損害賠償請求を起こしました。

この例は、「一般的な人間の解釈からいえば、猫を電子レンジに入れることは考えないが、絶対ということはなく、猫を電子レンジに入れることも無限の選択肢のひとつである」というフレーム問題を表しています。「電子レンジに入れてはいけないもの」という項目に「猫」を記載しなかったために、選択肢が制御されなかった例といえます。

このように、本質的には人間もフレーム問題を解決できているわけではありません。そこで、過去の経験によって無限の選択肢に悩まされずに済んでいる状態を、「フレーム問題を疑似解決している状態」と呼んでいます。これを踏まえて、AIにフレーム問題を解決させる意味や意図をあらためて考える必要があるでしょう。

人工知能（AI）が抱える「フレーム問題」以外の課題点・問題点

人工知能（AI）が抱える「フレーム問題」以外の課題点・問題点イメージ

人工知能（AI）が抱える問題は、フレーム問題だけには留まりません。学習のために膨大なデータを必要とする点や、分析環境の構築やメンテナンスにコストがかかる点なども、今後、AIが普及する上で解決していかなければならない課題です。

また、破局的忘却やブラックボックス問題も、重要な問題です。ここでは、それぞれの課題点や問題点について解説します。

学習のために膨大なデータが必要

AIが正確な答えを導き出すためには、学習のための膨大なデータが必要になります。データの量や品質が不十分だと、適切な解を導くための計算を遂行できず、現場で活用できる水準のAIモデルを作成することができません。

特にディープラーニングでは、AIの知識がゼロの状態から投入されたデータをもとに学習を始めるため、膨大なデータ量が求められます。画像認識であれば、数万件以上のデータを投入しなければならないともいわれています。

AI学習に必要なデータを確保するためには、非常に多くのデータを収集する必要があります。そのため、そもそもAIモデルを作成するまでに長い時間がかかり、なかなか運用開始までたどり着けない例も少なくありません。近年では、データ不足の課題を解決するために、一つのデータを分割して複数個とみなす「データ拡張技術」も活用されています。

分析環境の構築・メンテナンスにコストがかかる

データ分析の精度を高めるためには、AIが機械学習を終えた後に、分析結果の評価を行うことが必要不可欠です。AIの精度を高める作業は難易度が高く、構築にかかったコストの何倍もかかるケースも珍しくありません。

AIにデータを学習させる過程で、人間がヒューマンエラーを起こしてしまうと、AIモデルの精度に重大な悪影響を及ぼす可能性もあります。発生した悪影響をリカバリーするために手間や人件費がかかるため、AIのメンテナンスは維持コストがかかるものだと意識しておくことが大切です。

加えて、高度なデータ分析を行うためには、高速な処理が可能な機器や環境の導入が欠かせません。クラウドサービスなども有効活用しつつ、運用コストを削減するための取り組みがポイントになります。

破局的忘却

AIの学習方法のひとつであるディープラーニングには、「破局的忘却」と呼ばれる大きな欠点があります。破局的忘却とは、「既に学習済みのネットワークに新しい要素を学習させようとすると、前に学習した内容を忘れてしまう」という性質のことです。

例えば、最初に「電車」について学習させたネットワークに、「自動車」の知識を与えようとすると、最初に学習した「電車」の内容は全て忘れてしまいます。つまり、「AIは最後に記憶したものしか覚えておくことができない」性質を持っています。

破局的忘却を防止するためには、新たに学習したいデータと最初に学習したデータを同時に学習させたり、既に学習した内容を「パターン」として記憶させたりする対応が必要です。

ブラックボックス問題

AIのブラックボックス問題とは、「答えは目の前に提示されているものの、AIがなぜその答えを選んだのかが分からない状況」を指す問題です。AIは与えられた学習データからパターンを記憶し、自分で考えて最適な答えを導き出すことができます。そのため、人間がAIから答えを受け取ったときに、思考プロセスが分からないという問題が発生します。

画像解析などの一部の分野では、AIの思考プロセスが明らかにならなかったとしても、特に問題にならないケースもあるでしょう。しかし、医療分野や自動運転など、AIの判断が人命を左右する場合には、ブラックボックス問題が重大な懸念として浮上します。

例えばAIが自動運転を行う乗用車で想定外の事故が起こったとき、「どのような判断の末に事故が起こったのか」を特定することは不可能です。そのような例では、原因の特定と改善が困難であり、対処できずに何度も同じ事故が繰り返されるおそれがあります。

フレーム問題まとめ

AI活用におけるフレーム問題の解決は、AI技術を高精度で活用するためには必要不可欠です。以前は解決が困難でしたが、近年では重要性や優先順位による思考の重みづけのほか、強化学習とアンサンブル学習の連携などによって、解決の糸口が見えてきました。

近年はAIブームともいわれており、AIの導入が広まりつつあります。しかし、AIが効果的に活用される社会の実現には、適切なデータ投入によるAIモデルの構築が必要不可欠です。近年はマウス操作によるAIモデルの作成が可能なシステムも登場しているため、自社の実情に合ったシステムを導入し、AIモデルを構築すると良いでしょう。

アイスマイリーでは、AIモデル作成のサービス比較と企業一覧を紹介しています。AIモデル作成サービスを探したい方は、下記のページから気になる企業を選択し、資料を一括で無料請求できますので、ぜひご活用ください。

AIモデル作成のサービス比較と企業一覧