HOME/ AINOW編集部 /AI思想から学ぶAI社会問題解決の糸口~AI思想家とAI思想マップ~【前編】
2020.12.14

AI思想から学ぶAI社会問題解決の糸口~AI思想家とAI思想マップ~【前編】

最終更新日:

2010年代から始まった第3次AIブームは、その勢いにかげりが生じているのではないかという批判を受けながらも、大局的には現時点でも進行していると言えます。その一方でAIによる差別や監視、さらにはAIによる労働代替が引き起こす失業への懸念といった新しいAI社会問題も注目されるようになりました。

AI社会問題を根本的に解決するには、「AIは社会と歴史にどのような影響を及ぼすのか」というAIに対する深い洞察が必要となるはずです。

近年注目されているAI思想家たちは、AIに対する深い洞察を独自に展開しています。AI思想家たちが説くアイデアのなかにAI社会問題を根本的に解決する糸口があるはずです。

前編・後編から構成されるこの記事の前編では、世界的に著名な4人のAI思想家たちの思想を整理したうえで、4人の思想家たちの立ち位置を俯瞰できる「AI思想マップ」を提示します。

なお、以下の各思想家の解説は独立して読むことができるので、興味のある思想家から読み始めることが可能です。また、記事を読む時間の余裕のない場合は、AI思想マップを確認するだけで各思想家の立ち位置がわかります。

世界的なAI思想家たちは何を考えているのか

以下で解説するカーツワイル、ボストロム、ケリー、そしてハラリは、AINOW記事『世界AI研究者列伝 -AI史に名を残した研究者24人の業績を振り返る-』で言及されているように、2000年代に入り、人類に対するAIの影響を独自の視点から考察したことで著名となった思想家たちです。

この4人の思想家は、汎用人工知能AGI:Artificiall General Intelligence)の実現可能性と人類に対するAIの影響を考察するスタンス(好影響なのか、悪影響なのか)という2つの観点において、それぞれ特徴的な思想を展開しています。

カーツワイル、AIテクノロジー教の預言者

レイ・カーツワイル(Ray Kurzweil、1948~)は、2005年に出版した『シンギュラリティは近い―人類が生命を超越するとき』(日本では2007年出版)において「シンギュラリティ」を提唱したことで一躍有名となった思想家です。同氏の予測によると、2045年には1,000ドル(約10万円)程度のコンピュータでも全人類の脳を合わせた計算能力を凌駕して世界は激変するというのです。

以上の主張の根拠となっているのが収穫加速の法則です。この法則は、新たな技術革新が次の技術進化のために使われ、進化のそれぞれの段階で、その前の段階の技術発展の上に成果を重ねることで直線グラフ的ではなく、指数関数的に技術が進化していくというものです。(以下の画像参照)。

「収穫加速の法則」の模式図

この法則は、ムーアの法則において典型的に観察されます。カーツワイルは、ムーアの法則をパンチカード(厚手の紙に穴を開け、その穴の位置などで情報を記録する記録媒体)から集積回路にいたる計算技術全般に認められる現象であると一般化したうえで、テクノロジー進化の原理であると主張します(以下の画像参照)。

シンギュラリティは近い―人類が生命を超越するとき』第二章「テクノロジー進化の理論―収穫加速の法則」より画像を引用

収穫加速の法則が未来においても有意義な場合、何が起こるのでしょうか。そのイベントこそが人類を凌駕する人工知能が誕生する「シンギュラリティ」です。このイベントが実現するまでのタイムラインは、以下のようになります。

  • 2020年代が終わるまでに、人間のあらゆる認知活動をシミュレートする個別的なモジュールが完成する。
  • 2030年代には認知活動をシミュレートする個別的モジュールが統合され、ヒューマンライクな人工知能が完成する。
  • 2040年代には人工知能があらゆる知識データベースに接続されて、人間を凌駕するコンピュータ・プラットフォームが誕生する。

実のところ、カーツワイルはシンギュラリティ以降の未来も予測しています。同氏によると、シンギュラリティ以降、人類は自分たちを凌駕したコンピュータと融合して、さらなる進化のステップに突入します。シンギュラリティの次のステップでは、人類は宇宙に進出し、全宇宙規模で知的活動を展開して巨大な文明圏を構築します(下の画像参照)。

シンギュラリティは近い―人類が生命を超越するとき』第一章「六つのエポック」より画像を引用

以上のような宇宙規模の進化を語るに至り、果たしてカーツワイルは何を根拠にして壮大な進化を論じているのか、という疑問が生じます。こうした宇宙規模の知的活動に覚醒する根拠に関して、同氏は「特異点と宇宙が、最終的に迎える運命」と説明しています。

カーツワイルが説く宇宙規模の知性覚醒に至る歴史観は、客観的に検証可能な理論から導かれるというより、同氏のテクノロジーと歴史に対する信念にもとづいている、と見なしたほうがよいでしょう。そんな同氏の信念に影響を与えているものとして、キリスト教の終末論が指摘できます。

キリスト教の終末論とは、歴史とはその終末において起こる最後の審判に向かって進んでおり、歴史最後のイベントにおいて裁きと救済が行われる、という宗教上の信念です。カーツワイルは宗教上の裁きや救済を説いていないものも、テクノロジーが人類を進化させ宇宙規模の知性覚醒に導くと語っていることから、「テクノロジーによる救済」を主張していると解釈できます。

カーツワイルの思想を「テクノロジー救済史観」と解釈した場合、シンギュラリティが起こるとされる「2045年」は、重要な意味を持たなくなるのではないでしょうか。かりに2045年にシンギュラリティが起こらなくても、特異点論者たちは次のように言うでしょう。「確かに2045年にシンギュラリティが成就するという予言は外れた。しかし、予言の成就が少し遅れたに過ぎない。20年後にはきっと成就するだろう」。こうした主張は、テクノロジー救済史観を棄てない限り、20年ごとに語られることでしょう。

テクノロジーによる救済を信じていれば、いつかはシンギュラリティが到来するにしても、いつ到来するのか、という疑問に答えることには十分な価値があるでしょう。この疑問については後編記事の「AIのハード・プロブレム」において論じます。

以上のようにカーツワイルの思想をテクノロジー救済史観と解釈したとしても、同氏の主張が根拠薄弱なものとなるわけではありません。現在進行しているAIの社会実装は、テクノロジー救済史観が信じるに足るものと思わせてくれるのではないでしょうか。

ボストロム、コントロール問題の先達者

カーツワイルの予言が成就して人間を凌駕するコンピュータが誕生したとして、そのような超絶的な存在は人間が制御できるものなのでしょうか。哲学者のニック・ボストロム(Nick Bostrom、1973~)は人間を凌駕する人工知能を「スーパーインテリジェンス」と呼び、人間がこうした超絶的な存在を制御する際に生じる問題を「コントロール問題」と定式化して『スーパーインテリジェンス 超絶AIと人類の命運』で体系的かつ網羅的に論じています。

コントロール問題の大前提として、そもそもスーパーインテリジェンスは実現可能なのかという点に関して、ボストロムはカーツワイル同様に肯定的です。同氏は現在の汎用人工知能の研究状況、今後予想される研究進捗、および有識者によるアンケートの回答から総合的に判断して、2075年までに人間と同等な認知活動が可能なHLMI(Human Level Machine Intelligence)が発明される確率は90%以上と推定しています。さらに、HLMIがスーパーインテリジェンスに進化するまでに要する期間は長くても1年程度、場合によっては数日あるいは数分である可能性が高いと見積もっています。

ボストロムによると、スーパーインテリジェンス誕生後、人類がこの存在に何らかの指示を出せる機会は、歴史上1回限りの可能性が極めて高いです。というのも、スーパーインテリジェンスは字義通り人類を超越しているので、最初の指示を実行するために人類の停止命令をも排除する可能性があるからです。それゆえ、最初の指示を間違えてしまうと、スーパーインテリジェンスが誤って人類を絶滅させる行動を実行してしまうかも知れないのです。

素朴に考えれば、スーパーインテリジェンスにキルスイッチを設ければ強制的に停止させることができるのではないか、という疑問がわきます。しかし、この試みは失敗に終わるでしょう。人類を超越しているスーパーインテリジェンスが、自身の動力源を奪われる可能性について何の対抗策も講じていないと考えるほうが無理があります。おそらく動力源を分散したり、自身で動力を生み出したり、あるいは人類が考えもしない方法でキルスイッチ対策を講じるはずです。

ボストロムは、SF作家のアシモフが提唱したことで有名な以下の「ロボット工学三原則」でスーパーインテリジェンスをコントロールするシナリオについても検討し、この原則の不備を指摘しています。

「ロボット工学の三原則」

第一条  ロボットは人間に危害を加えてはならない。また何も手を下さずに人間が危害を受けるのを黙視していてはならない。
第二条  ロボットは人間の命令に従わなくてはならない。ただし第一条に反する命令はこの限りではない。
第三条  ロボットは自らの存在を護らなくてはならない。ただしそれは第一条,第二条に違反しない場合に限る。

― 2058年の「ロボット工学ハンドブック」第56版、『われはロボット』より ―

同原則の第一条では、ロボットが人間に危害を加えることを禁じています。この原則にもとづいて、大多数の人間には利益になるが一部の人間の不利益になるような意思決定の価値を測定できるでしょうか。こうした現実において頻繁に起こる意思決定のジレンマに対してさえ、アシモフの三原則を使って十分に対応できるようには思われません(※脚註1)。

以上のようにコントロール問題は簡単そうに見えて、スーパーインテリジェンスの開発に匹敵するほど難しいものなのです。こうした問題に関してボストロムが執拗なまでに考察するのは、この問題に対する熟慮なしにスーパーインテリジェンス誕生の時を迎えると、人類は存亡の危機に瀕することになると考えられるからです。この問題についての詳細は、後編記事の「スーパーインテリジェンスと安全保障」で後述します。

ところで、おそらくはお気づきの通り、コントロール問題はそもそもスーパーインテリジェンスが開発されなければ、机上の空論で終わります。スーパーインテリジェンス開発の可能性については、後編記事の「AIのハード・プロブレム」で改めて検討します。

(※脚註1)「最大多数の最大幸福」を標榜する功利主義にまつわるジレンマは、「トロッコ問題」として倫理学的に定式化されている。後述する歴史学者のハラリは著書『21 Lessons 21世紀の人類のための21の思考』において、ロボットが普及するにつれて、それに倫理的判断を下すアルゴリズムを実装する必要性が増すことから、倫理学に詳しい倫理学者や哲学者の需要が伸びるのではないか、と指摘している。

ケリー、AI共和主義者

テック系メディア『Wired』の創刊編集長であったケヴィン・ケリー(Kevin Kelly、1952~)は、『テクニウム』で独自のテクノロジー進化論を展開し、次いで『〈インターネット〉の次に来るもの  未来を決める12の法則』(原題’ The Inevitable ‘:「不可避なるもの」という意味)で今後30年間で起こるテクノロジー進化の諸相を考察して注目されました。同氏にとってもAIは未来社会に大きな影響を与える重要なテクノロジーであるので、詳細に考察しています。

2017年4月、そんな同氏のAI観を知るうえで重要なエッセイ『カーゴカルトとしてのAI、あるいはスーパーヒューマンAIという神話』が発表されました。このエッセイでは、カーツワイルやボストロムが実現可能性を肯定的にとらえている汎用人工知能(AGI)に関して、その概念自体が批判的に検討されています。

ケリーは、カーツワイルやボストロムが考えているAGIには、暗黙の了解として単線的な進化論的思考が前提されていると指摘します。「単線的な進化論的思考」とは、人間とは単細胞のような単純な生命体から長い年月をかけて進化した知的生命体であり、この進化の途上では「知性の核」のような単一的な知性的素材が保持され、進化とはこの知性の核が複雑化・高度化する過程である、という考え方です。この考え方は、以下の画像のような進化論の解説で頻繁に目にするイラストに端的に表れています。そして、このイラストに違和感を感じないのであれば、単線的な進化論的思考を暗黙裡に受けれていることになります。

The Myth of a Superhuman AI」より画像を引用

ケリーは、単線的な進化論的思考に含まれる知性の核というアイデアは誤っていると主張します。代わって同氏が唱えるのが、「多元的知性論」とも言えるアイデアです。このアイデアでは知性の核を否定する代わりに、多様な知性が存在すると考えます。この考え方に従えば、例えば人間と鳥を進化論的にその優劣を比較する共通の尺度は存在しません。人間には固有の知性があり、鳥にも同様にユニークな知性があるに過ぎません。一般に地球に棲息する生命体は、さまざまな知性と能力を多様に組み合わせた存在ととらえることができます。こうした多元的知性論を人工知能にも拡張的に適用した場合、(特化型)人工知能は演算能力では人間を大きく凌駕するが、身体能力やその他の知的活動においては人間に劣る存在、と規定することができます(以下の画像参照)。

The Myth of a Superhuman AI」より画像を引用

多元的知性論において重要なのは、組み合わされる知性と能力にはトレードオフの関係がある、ということです。ある認知能力を大きく向上させようとすると、ほかの認知能力が制約されてしまうのです。このトレードオフの関係は、例えば人間の大脳の容量において認められるでしょう。人間は現在の大脳より大きな脳を持つように進化することも可能だったはずです。しかし、現在の容量であるのは現状より大きく進化してしまうと、歩行能力に問題が生じると考えられます。

多元的知性論における知性のトレードオフ原理から導かれるのは、人間のすべての能力を凌駕するスーパーインテリジェンスを実現するのは極めて困難である、ということです。というのも、ある能力を増強すれば、ほかの能力が制約されてしまうので「すべてにおいて凌駕」というスーパーインテリジェンスの要件を満たすことは不可能に近いからです。

スーパーインテリジェンスの実現をAIの研究開発の究極的目標とするのは不適切なため、人間とは質的に異なっており、なおかつ多様な能力をもったAIを大量に作ることを基本方針にすべき、とケリーは主張します。同氏は、AIの本質を「人工的に作られた知性」ではなく「人間とは異なった原理で機能する」という意味での「Alien Intelligence(異体知能)」にある、ともとらえています。

以上のような多元的知性論から帰結する人間と異体知能としてのAIが織りなす知的に多様な生存圏という未来像は、人間とAIの共存を考えるうえで有用だと思われます。こうした「知性の多様性」に立脚したAI倫理の可能性については、後編記事の「知性の多様性にもとづいたAI開発の倫理的基準」で後述します。

ハラリ、AI時代の考古学者

ユヴァル・ノア・ハラリ(Yuval Noah Harari、1976~)は、2014年に独自の観点から人類史を考察した『サピエンス全史 文明の構造と人類の幸福』(邦訳は巻)を発表したことで注目され、続く著作『ホモ・デウス テクノロジーとサピエンスの未来』(邦訳は巻)および『21 Lessons 21世紀の人類のための21の思考』において、AIを含めたテクノロジーの進化が人類の未来に及ぼす影響について論じています。同氏はシンギュラリティやスーパーインテリジェンスの前提となる汎用人工知能の実現可能性に関して否定的であるものも、独自の視点からAIがもたらす脅威を明らかにします。

前述した3人の思想家とハラリの主張が異なる点は、「人間」の理解にあります。前述の3人が考える「人間」は、現代社会を生きている成人全般が想定されています。対してハラリは、「人間」を歴史的文脈において考えます。同氏によれば、人間の本質は「虚構を作り、それを信じる能力」にあります。この能力は人間が言語能力を獲得した「認知革命」と呼ばれる歴史的事件によって開花しました。言語を操ることによって、人間はさまざまな虚構を作り出すことが可能となり、虚構を他の人間と共有することによって他の生物では不可能な規模で協働作業が遂行できるようになりました。この虚構共有の能力こそ、人間が地球を支配する源動力となったのです。

認知革命に続いて、人間は耕作技術の発明に端を発する「農業革命」を経験したことによって富の蓄積が可能になり、蓄積された富を管理する国家という新たな協働体制も考案しました。さらに、科学という知識体系が生まれたことで「科学革命」が起こり、科学的知識が富と権力の源泉となる近代を迎えました。こうした科学的知識の意義と活用法を決定するために、新たに人間の存続と意思決定に最高の価値を置く「ヒューマニズム」という虚構が考え出されました。科学とヒューマニズムの台頭によって、神話や宗教といった旧来の虚構は歴史の主役の座から退きました。

以上のようにハラリの考える人類史とは、「人類の進化と繁栄」といった単一の虚構が進展する過程ではなく、複数の虚構が積み重なった地層のようなものなのです。それゆえ、同氏が未来を考察する時のスタンスは、現在支配的な虚構である「ヒューマニズムによって意義が与えられる科学技術時代」にどのような変化が生じるのか、というものになります。

まず、人類史に大きな影響を与えかねないシンギュラリティまたはスーパーインテリジェンスに関して、ハラリはその実現可能性を疑問視します。なぜならば、人間の知能を凌駕する存在の開発は人間の意識と知能の関係を解明することなしには実現しそうもなく、この関係に関して最終的解決をもたらす理論はいまだに存在しないからです(意識と(汎用)人工知能の関係に関しては、後編記事の「AIのハード・プロブレム」で検討します)。

汎用人工知能が実現しなくても、AIの社会実装が進むことでふたつの大きな社会問題が生じ、その問題はヒューマニズムを解体しかねない脅威となる、とハラリは主張しています。

ヒューマニズムを脅かすひとつめの問題は、AIによる失業です。周知のように、AIの進化と社会実装が進むことによって、従来は人間に固有な認知活動を伴う職業がAIによって代替されつつあります。技術革新によって労働力が人力から機械に代替されること自体は、産業革命以降、人類が恒常的に経験していることです。しかしながら、AIによる労働代替は人間から労働する機会を根こそぎ奪い、文字通り労働力として無意味となる「無用者」階級を生み出す可能性がある点において、人類にとって大きな脅威となる歴史的イベントとなるかも知れないのです。この問題に対して、ハラリはベーシックインカムによる解決を模索しています(同氏のベーシックインカムに関する議論は、後編記事の「AIによる失業問題とベーシックインカム」で解説します)。

もうひとつの問題が、デジタル独裁国家台頭の脅威です。この脅威は、日常慣れ親しんでいるレコメンデーションシステムにその萌芽を見ることができます。現代社会においては、何らかのアプリがおすすめする商品や選択肢は、すでに人々の生活を大きく方向づけています。こうしたレコメンデーションシステムの背後には、IT企業が集めたデータとそのデータにもとづいておすすめを決定するアルゴリズムが稼働しています。こうしたデータとアルゴリズムによる人間の意思決定支援が進化を続けると、人間としてのユーザの意思を重んじるよりアルゴリズムの決定に従うほうがよい結果になる、という状況に行き着くかも知れません。

かりに人間の生活の隅々までアルゴリズムの意思決定が影響を与えるような社会が実現したとして、そうしたアルゴリズムが特定の支配者層に独占された場合、人類史上もっとも深刻な独裁国家が誕生する可能性があります。このデジタル独裁国家は、人間の内面まで完全掌握できる点において今までのどの独裁国家より強力となり得ます。人間の生活に役立つはずだったアルゴリズムが、いつしか人間性=ヒューマニズムを否定する体制の源動力になりかねないのです。

以上のようなふたつの問題の引きがねとなり得るAIテクノロジーの進化の行き着く先は、最終的にはヒューマニズムの解体かも知れません(※脚註2)。そして、ヒューマニズムが解体した時には「人類など広大無辺なデータフローの中の小波にすぎなかったということになるだろう」とハラリは予言します。

もっとも、悲観的な未来予測に関して、ハラリは「現在の選択肢を考察するための方便」とも述べています。予測された選択肢を選ばなければ、予測は外れることになります。今後の人類の選択次第で、以上のふたつの問題を回避あるいは解決できるのです。

(※脚註2)歴史を単一の物語の展開としてではなく、複数の虚構が積層した非連続的なものとしてとらえるハラリのスタンスには、哲学者のミシェル・フーコーの影響が見てとれる。フーコーは『言葉と物』において、近代ヨーロッパの知の在り方を「エピステーメー」という不連続的な認識構造の変遷として描いた。同著において、フーコーはエピステーメーの変遷によって、いずれ「人間」という概念は「波打ち際の砂の表情のように消滅するであろう」と宣言した。ハラリが予言する「ヒューマニズムの解体」にもフーコーの影響が認められる。

AI思想マップ

これまで解説した4人のAI思想家は、AIの人類に対する影響の方向性と汎用人工知能(AGI)の実現可能性というふたつの評価軸によって、それぞれに対して相対的な立ち位置を同定することができるでしょう。以下に示す画像は、影響の方向性を横軸、AGIの実現可能性を縦軸とした評価軸を作成したうえで、4人の立ち位置をビジュアライゼーションしたものです。

AI思想マップ

「AI思想マップ」とも呼べる上の画像を見れば、カーツワイルとボストロムはAGIの実現可能性に関して肯定的という共通点があるものも、AIが人類にもたらす影響に関しては正反対の方向に考察していることがわかります。また、ケリーとハラリはAGIの実現可能性に懐疑的な点で共通しているものも、AIの影響を評価するベクトルが相反していることがわかります。

以上のAI思想マップにもとづいて、4人の思想家に優劣をつけたり、特定の思想家について矛盾や不備を指摘することも可能でしょう。しかしながら、より生産的なのは4人の思想家の立ち位置を俯瞰できるAI思想マップを、対立や矛盾を許容しつつも緩い連続性が認められるひとつのAI思想に見たてることのように思われます。そして、このマップを参照することによって、個々のAI社会問題に対する最適な解決の糸口を見つけることができるのではないでしょうか。

ちなみに、4人の思想家で一致している見解があります。それは、AIの社会実装が進むことによって人類はそれ以前とは異なる新しい歴史の段階に突入する、というものです。AIテクノロジーの台頭は、単なる技術的イノベーションのひとつというより、人類史を画する歴史的イベントなのです。

(後編に続く…)


記事執筆:吉本幸記(AINOW翻訳記事執筆担当)
編集:おざけん

無料メールマガジン登録

週1回、注目のAIニュースやイベント情報を
編集部がピックアップしてお届けしています。

こちらの規約にご同意のうえチェックしてください。

規約に同意する

あなたにおすすめの記事

社員とAIに必要なフィードバックの重要性

GPT-4は間もなく登場。それについて私たちが知っていること。

スマートチャネル時代の「ヒト」と「AI」のコミュニケーションとは|株式会社トゥモローネット

あなたにおすすめの記事

社員とAIに必要なフィードバックの重要性

GPT-4は間もなく登場。それについて私たちが知っていること。

スマートチャネル時代の「ヒト」と「AI」のコミュニケーションとは|株式会社トゥモローネット