長文記事メディアMediumに投稿された『新しい知性』の著者Nan Li氏はアメリカ・サンフランシスコ在住のベンチャー・キャピタリストであり、スタンフォード大学で教鞭を執っています。この記事では、進化したAIが実行する処理がもはやヒトには直観的に理解できないことによって生まれる倫理的問題を提起されています。
1950年代に誕生した初期のAIは、ヒトが定めたルールに従って課題を解決する演繹的処理を実行していました。こうした演繹的処理では、機械はヒトの知性を模倣するように設計されていました。対して、現代のAIは、機械学習によって算出された統計的相関を活用して画像認識等の処理を実行します。現代のAIが統計的相関を算出する処理過程は、演算過程が複雑すぎてヒトが直観的に理解することが難しく、またAIの算出結果をヒトは容易に予見できません。
以上のように現代のAIが実行する処理過程が言わばブラックボックス化していることによって、AIがもたらす成果に対して適切な説明ができないという問題が発生します。このAIの成果に関する説明可能性は、例えばAIが算出した新規の化学成分に認可を与えるという事例において切実に問われます。Li氏は、AIの説明可能性をめぐる問題こそが、今後大きな問題となると指摘しています。
現代のAIと科学的方法論の根底的解体について
古き良きヒトの知性を活用したヒューマン・ドリブンな問題解決方法―仮説を立て、その仮説によって原理を解き明かし、演繹や論理、そして実験を通して仮説を検証する方法―が終焉を迎えるかも知れない。（巨大なデータセット、段階的に変化するインフラ、アルゴリズム、そしてコンピュータ・リソースといった現代のAIを構成する）要素の集合は、われわれをまったく新しいタイプの発見に向かわせる。そうした発見は、もはや人間的な論理や意思決定に関する制約を超えたものとなっている。この新しい発見は、AIが駆動することによってのみ見つけられるという根底的な経験主義にもとづいている。AIが発見したものが含意することは、その発見に倫理的責任を割り当てようとして科学的発見であると褒め称えたとしても、ヒトには汲みつくし難い。
1962年、数学者のI.J.Goodは1978年までに科学に残された困難な問題のほとんどすべてに取り組むことができる全般的な知的機械が作られると予言した（1）。1972年には、ケンブリッチ大学の教授James Lighthillが「AIとそれに関連する分野で働いている研究者のほとんどが、この分野で四半世紀で成し遂げられたことに明らかな失望を認めないわけにはいかない」とコメントした（2）。それに続く30年間においては、付加的なハイプサイクル（いわゆる「AIの春」）に満たされてから、AI分野への幻滅（いわゆる「AIの冬」）を経験した。
誕生から50年以上が経過してから、今日AIはまさに返り咲いた。進化したインフラの集合物によって駆動するリニューアルされたAIの春は、今や現実の世界に結果をもたらしている。スマート・パーソナル・アイスタントや自律自動車、そして国民の監視にいたるまで、AIはわれわれの社会の多くの局面における幅広い変化を煽っているのだ。
しかしながら、この新たなAIの春の期間においてもっともドラマティックなのは、ほとんど顧みられていないことにある。今日、AIは特異かつ大いなる汲みつくし難さを含意するヒトとは根本的に異なる知性へと進化しようとしているのだ。
こうしたAIの進化に光を当てるには、現代のAIの卓越した返り咲きを忘却からの復活としてではなく、AI自身の再配合として捉えるべきである。
新たなAIの春においては、AI研究者は知的機械に対して以前からの方法論を再適用しただけではなく、知的であることの定義に関する哲学的アプローチをドラスティックに変えたのである。この知的機械に関する思想の変遷を探求することが、今日のAIの春を先行する技術と幅広く関連づけて理解することを助け、現在のAIの分野で生じている推進力を説明し、未来に対して緊急性のある疑問を呈することになるのだ。
初期のAI：第一原理と演繹的論理
機械がヒトに通用する論理や意思決定をあらゆるレベルでエミュレートするというシンプルなヴィジョンには、多くの名前がつけられた。その名前のなかにはオートメーション、マシン・インテリジェンス、そして人工知能がある。1940年代になって発明されたコンピュータ・ハードウェアとそれに関連するプログラミング言語を活用して、研究者のコミュニティはAIという言葉で考えられていた展望を実現するための第一歩を踏み出した。
AIを実現する最初のアプローチは、数学者や科学者に見られるAIに先行した知性を模倣することであった。そうした知性とは、（アルキメデスが浮力を発見したときに叫んだと言われる）あの名高い「エウレカ（古代ギリシア語で「わかったぞ」という意味の単語）」の瞬間に働いていたような複雑な問題の奥に潜んでいる原理を明らかにするものが想定されていた。
AIが模倣しようとした知性を科学史上の偉人を引き合いにだして考えてみよう。そうした偉人にはコペルニクス、アインシュタイン、ワトソンとクリック※、ダーウィンが挙げられる。こうした名前は、科学史上に燦然と輝く研究者の英雄的で独創的な努力をも表している。彼らは（1）問題について考え、（2）問題を解くための核となる原理を解明するために働き、（3）演繹や論理、そして実験を通して仮説を検証してきた。初期のAIは以上のような演繹的なタイプの思考に似たものであり、それがコンピュータの論理である。それゆえ、プログラマーが注力すべきことは、コンピュータが従うべき静的なルールをコーディングすることであった。
※分子生物学者ジェームス・ワトソンと生物学者フランシス・クリックは、1953年、DNAの分子構造である二重らせん構造を提唱した。この成果により、1962年、両氏は生物物理学者モーリス・ウィルキンスともにノーベル生理学・医学賞を受賞した。
AIが解くべき問題は、それが属する領域における第一原理に根拠づけられる大原則にまで分解される必要があった。コンピュータは、最終的な結果を演繹するために「もし○○ならばその時は××」という論理的系列に従うことを課せられていた。こうした初期型AIの時代におけるコンピュータ・サイエンスは演繹的推論にもとづいていたのだ。すなわち、（1）問題のなかにある根底的構造をアプリオリ（先験的に）に理解し、（2）コンピュータが実行可能なコードにおける判定ロジックをコード化し、（3）こうしたコードを、コンピュータが静的な命令に従って結果を算出するために、コンピュータに渡すのだ。以上の演繹的推論が成立するためには、次のような仮定がカギとなる。世界は規則によって導かれ、その規則はまずはじめにヒトの知性によって解釈されてからコード化される、という仮定だ。初期型AIの主要な役割はヒトがエンコードしたルールに従うことであり、そのためAIが実装された機械はすでにヒトによって描かれた結果を再生産できるのだ。それゆえ、人工知能とはヒトの知性のサブセットであり、最良のレプリカなのだ。
初期型AIとは、オートマタ・ミミクリ（Automata mimicry：「模倣する自動人形」）なのである。
現代のAI：統計的相関とラディカルな経験主義
今から20年前、初期型AIとは根本的に異なるタイプのAIを可能とするいくつかのインフラに関する進展が起こった。
われわれは今や統計的モデルを構築するために必要な巨大なデータセット（すなわちインターネット）にアクセスし、こうした大量のデータの活用をサポートするインフラをも手に入れた（クラウド・ストレージ）。巨大なデータを演算するために計算モデルを実装し（MapReduce、Spark）、さらには伝統的統計学またはベイズ統計学にもとづいたアルゴリズムを使い（こうしたアルゴリズムは研究所や大学で誕生した）、このアルゴリズムを反復的に実行するために必要な計算資源も手に入れた（ムーアの法則、GPU、そして機械学習の演算に最適化された増え続けるカスタムFPGAとASIC）※。こうしたインフラから現代の人工知能は現れた。そして、現代のAIを誕生させたインフラを構成するひとつとして、統計的相関もあるのだ。
※MapReduceとSparkは、分散コンピューティングを支援する目的で開発されたプログラミングモデル。ベイズ統計学は観察者の主観的な確率を採用する統計学で、観察する事象の頻度にもとづいて確率を定義する推計統計学としばしば対比される。FPGAとASICは、特定の用途のためにカスタマイズ可能な集積回路。
統計的相関は、コンピュータが巨大なデータセットに適用する学習モデルを実行することにもとづけられている。こうした統計的モデルは経験的な演算によって形成され、事実にもとづく学習結果を表現する相関の特徴を表している。こうしたことから、現代のAIについて、われわれは次のことを断言できる。現代のAIが実行する分類子は、正しいデータセットを与えれば、問題を支配している根底的な原理に頼ることなく効率的かつ予見的なモデルを生成することができるのだ。
もっと簡単に言えば、現代のAIとは第一原理や仮定を必要としないまったくの経験主義の産物だということである。ベイズ統計学的なアプローチを採用している現代のAIが解明する処理過程や演算は、前提とするものが不要な単純明快なものである。
現在のデータ駆動型のAIは、コンピュータが模倣すべきアルゴリズムのような解決策をヒトが完全にはコード化できない問題群に対しても適用できる。なぜそう言えるのか。現在のAIが解決している問題のなかには、ヒトが理解可能な解決策ではコンピュータにとってあまりにもニュアンスに富み、規則に翻訳するには複雑すぎるものがあるからだ（画像認識がこうした問題が関わっている領域のひとつである。コンピュータがあるモノをネコと認識できるために従うべき「ルール」は、果たしてどのくらい記述できるか考えてみるとよい）。
そういうわけで現在のAIは、われわれヒトがかつて一度も解決していなかった問題にも適用できる。現代の機械学習とディープラーニングを使えば、問題に対して根底的原理や論理を想定することなく効率的な解決策を作ることができるからだ。こうした解決策は、人工知能とヒトのあいだに厳然とした裂け目を生む。この裂け目においては、ヒトの知性は人工知能にとって不可欠なものではなく、人工知能のほうはヒトの知性を進化させてくれるわけではない。人工知能は、今やヒトの知性から分岐しているのだ。
現代のAIは、オートマタ・オブスキュラ（Automata obscura：「中身が暗箱＝ブラックボックスな自動人形」）なのだ。
（後半に続く…）
原文
『The New Intelligence』
著者
Nan Li
翻訳
吉本幸記
編集
おざけん
