初めて「人工知能」や「AI」という言葉を知ったとき、まず「ドラえもん」や「鉄腕アトム」のような知的ロボットを想像した人も多いのではないでしょうか。
あたかも人間のように振る舞うそのロボットは、日本が誇るアニメ文化に支えられ、世界的にも有名です。
ただ、「ドラえもん」や「鉄腕アトム」などの知的な振る舞いをするロボットは、残念ながら現在開発されていない状況にあります。
そういったロボットが開発されていない理由は、「フレーム問題」という重要な問題があるからです。
ということで今回は、人工知能における重要な問題である「フレーム問題」について紹介します。これを読めば「ドラえもん」が生まれない理由が詳しくわかるかもしれません。
▶【関連記事】ドラえもんをつくるという夢の現在地 ー研究の壁を超えて>>
▼AI（人口知能）について詳しく知らない方はこちら
フレーム問題とは？
「人工知能（AI）」の定義はさまざまですが、大まかに述べると
言語の理解や推論、問題解決などの知的行動を、人間に代わりコンピュータに行わせる技術 [1]
と言えます。
自動運転やチャットボットなどがイメージしやすいでしょう。
このAIは、主に「弱いAI」と「強いAI」の二つに分類されています。
現在普及するほぼ全てのAIは「弱いAI」に当てはまります。この分類の元になった議論が「フレーム問題」になります。
フレーム問題は、第一次AIブームである1969年に、「AI」の名付け親である計算機科学者のジョン・マッカーシーと、認知科学者のパトリック・ヘイズにより提唱されました。
「フレーム問題」とは、
有限の情報処理能力しか持たないロボットには、現実には起こり得る問題全てに対処することができない [2]
という問題です。
この問題の意味を理解するには、「有限の情報処理能力とは何か？」「どんな振る舞いをするロボットなのか？」「現実に起こりうる問題とは何か？」のように、言葉を分解すると分かりやすいでしょう。
これら分解した三つの要素に焦点を当ててわかりやすく表現されるのが、“爆弾とロボット”です。
ここからは、「爆弾とロボット」が一体どういうものなのか紹介します。
爆弾とロボットとは
ダニエル・デネットが『コグニティブ・ホイール 人工知能とフレーム問題』という論文で展開した”爆弾とロボット”の思考実験は、フレーム問題をわかりやすく表現した具体例として非常に有名です。
登場人物は、「博士」と「博士が発明したロボット（R1）」です。この思考実験は、ロボットが自らのバッテリーを倉庫から取り出すまでを目的としています。
R1ロボット
博士はR1ロボに指示を出します。
博士「もうすぐバッテリーが切れそうだから、倉庫からバッテリーを持ってきなさい。ただし、バッテリーの上には時限爆弾がのせてあるとする。」
R1ロボは倉庫からバッテリーを取り出しましたが、バッテリーと一緒に時限爆弾まで持ってきてしまいました。そして、爆発。
博士は、二度と同じ過ちを繰り返さないように、「R1-D1」の開発に挑みます。
R1-D1ロボット
博士は、開発した「R1-D1」に新しい機能を加えました。それは、「意図した意味合いにより起こり得る全てを計算する」というものです。
詳しく説明すると、本来の目的である「バッテリーを倉庫から取り出す」のほかに、例えば「時限爆弾が上にあればどうするか？」、「バッテリーと爆弾が同じワゴンにのってたらどうするか？」など、目的を達成するまでの過程で起こり得る全てを計算し、それぞれに対処するというものです。
そうすれば、バッテリーの上に爆弾がのっていても処理ができるという考えです。
博士は前回と同じ指示をロボットにします。ロボットは倉庫へ行き、自らの手でバッテリーを倉庫から取り出そうとしますが、対処する問題が多過ぎて、爆発。副次的に起こり得る問題が無限大だったため、計算量が膨大になり、結果的に何もできずに時限爆弾がタイムアップを迎えたわけです。
博士は諦めず、「R2-D1」の開発に挑みます。
R2-D1ロボット
前回の問題点は、「対処する必要のない問題」にまで対処しようとしたためであると判断した博士は、さらに新機能を加えます。
それは、「関連性のある意味合いと無関係な意味合いを区別する」というものです。
つまり、「バッテリーを倉庫から取り出す」という本来の目的と、それとは関係のない意味合い（「壁の色はどうか？」、「バッテリーの半径2m以内には何があるか？」など）とを区別し、無関係なものを無視して目的を遂行するようにしました。このロボットを「R2-D1」とします。
博士は同じように指示を出します。
博士「もうすぐバッテリーが切れそうだから、倉庫からバッテリーを持ってきなさい。ただし、バッテリーの上には時限爆弾がのせてあるとする。」
するとR2-D1ロボは、倉庫の前で何もせずに立ち尽くし、そして爆発。
無視すべきもの、つまり無関係な意味合いをもつ条件が何なのかを計算し続けたため、結果的に何もできなかったと考えられます。
このように、いくら柔軟に対処できるようなロボットを作ったとしても、現実に起こり得るような問題全てに対処することができないことをこの思考実験では表現しています。
さて、「爆弾とロボット」の例を読んだ上で、次は別の視点でフレーム問題を見ていきましょう。
暗黙知におけるフレーム問題
日本の情報工学者である松原仁先生は、暗黙知とフレーム問題を結びつけたアプローチをとっています[3]。その前に、「暗黙知」について紹介します。
実は、「爆弾とロボット」に出てくるロボットには名前の由来があります。
「R1-D1」の「R」は「Robot」の略ですが、「D」は「Deduce」、つまり「演繹」という意味です。
この思考実験におけるロボットは演繹的に、つまり初めから経験則などを持たない全くの白紙の状態で問題に対処したことを意味しています。
「演繹」の反対は「帰納」です。つまりさまざまな経験則に基づいて思考することを意味します。これらを踏まえた上で、「暗黙知」とフレーム問題を結びつけて考えてみましょう。
まず初めに、なぜ人は未知の問題に直面したときに動けるのでしょうか？
例えば「爆弾とロボット」のロボットの部分を人間に置き換えて考えてみましょう。おそらく人間の場合は、余計なことに対処せず、時限爆弾を急いで退けてバッテリーを倉庫から取り出すと思います。
しかし、そのようなことができるのは、生きる上での経験則的な知識が自然と頭の中に集約されており、その知識を使うことでさまざまな問題に対処している可能性があるからです。
この知識を「暗黙知」と言います。「暗黙知」の有無は、人間とコンピュータを区別する上で非常に重要な概念となります。
また、遺伝子により刻まれた知識、日常の経験から自然と積み上げられた経験則などが集約された「暗黙知」は膨大であると考えられています。
人に内在する暗黙知の存在を肯定した上で、帰納的にあらゆる問題に人間が対処しているため、人はフレーム問題を擬似的に解決しているとする考え方です。
帰納的である人と演繹的であるロボットを相対的に見ることでフレーム問題を考えるのは、非常に興味深いと個人的に思います。
さて、フレーム問題について詳しくみてきたところで、この問題が現実世界で何を示しているのかを見ていきます。より身近にフレーム問題を考えてみましょう。
フレーム問題を解決するには？
ここからは、フレーム問題の解決に必要だと考えられている要素を3つ紹介します。
それぞれ詳しく解説していきます。
計算量の問題
初めに「フレーム問題」を提唱したジョン・マッカーシーとパトリック・ヘイズは、問題の本質は計算量だと述べています。
本来の定義では、「ある行為を論理で計算機上（つまりコンピュータ）に記述（プログラミング）しようとした時、変化しない事象を逐一記述するのは煩わしい」としています。
故に、解決のアプローチは「記述+処理」を考慮し、少なくする必要性があるのです。
黒板を例に取ると、なるべく小さい黒板で少ない記述をするのがいい。つまり、コンピュータ科学で引き合いに出される汎用性と計算量の問題を両方で解決されることが望ましいとされています。
上述の通り、処理の方は少なからず解決はしているものの、未だに記述の方は多いとされています。暗黙知の計算機におそらく一番近いGPT-3も、多くのパラメータを持つことで有名です。
コグニティブ・ホイール
論文のタイトルにある「コグニティブ・ホイール」は、歴史的な発明の一つである「車輪の発明」を意味しています。
車輪の発明は人類史上最古の重要な発明とされており、紀元前5千年紀にはメソポタミア文明のウバイド朝が滑車のろくろとして使われていたのは有名な話です。
その車輪を人類が発明できたのは、別段他の生物などをモデルにしたわけではないと考えられています。
それと同じように、人工知能も人間をモデルにするのではなく、独立した計算機として捉える方向性を、ダニエル・デネットは暗に示しているのです。そこから議論が活発したのが、冒頭で紹介した「弱いAI」と「強いAI」となるわけですね。
暗黙知の計算機
どんな問題にも対処できる、つまり「フレーム問題」を解決した人工知能を実現させるには、暗黙知を計算機、つまりコンピュータ上で経験則に基づいた処理が行える人工知能を表現できるか否かが焦点になります。
今のところ、人間がどのようにして適切な暗黙知を選び取り、擬似的にフレーム問題を解決しているのか、その過程は未だ明らかになっていません。
故に、暗黙知を計算機で表現できないのが現状で、そうである限りフレーム問題を突破できるロボットの開発は困難だと考えられます。
ただ現在では深層学習の研究も活発に行われているため、目的を遂行するための絞り込みは少なからず改善されていると言えます。
囲碁の世界チャンピオンにAIが勝利した事例はその具体例と言えるのではないでしょうか。
終わりに
生き物はみな、日常でもフレーム問題に直面していると言えます。
例えば、「今日の夕ご飯はどうするか」、「大学のレポートをどう書こうか」、「自分の将来はどうしたいか」などです。
そんなときにほとんどの人は、ネットに掲載されたレシピを見たり、参考文献から書きたい内容を集めたり、周りの大人が歩んだ進路を選んだりなど、すでにある情報を集めることで解決していますよね。
それは、「フレーム問題」という面で見れば、問題を解決したことにはなりません。なぜなら、フレーム内で問題を解決しているに過ぎないからです。
ただし、経験則から咄嗟の判断で問題を解決したことは誰にでもあると思います。故に、生き物はみなフレーム問題を解決しているとも、していないとも言えるのです。
今、目の前にある問題をどう解決するのかを考えるとき、フレームの有無を測るのもいいかもしれませんね。
| （参考文献）
[1] Wikipedia 『人工知能』 ・Daniel Dennett, ‘Cognitive Wheels : The Frame Problem of AI’, C. Hookway ed., “Minds、Machines and Evolution”, Cambridge University Press, ダニエル・デネット『コグニティブ・ホイール 人工知能のフレーム問題』 |
◇AINOWインターン生
◇Twitterでも発信しています。
◇AINOWでインターンをしながら、自分のブログも書いてライティングの勉強をしています。
