Yコンビネーター/オープンAI創始者の答え「シンギュラリティは起こるのか、起こらないのか」~「The Merge」by サム・アルトマン~

「シンギュラリティは起こるのか、起こらないのか」の議論に対する、Yコンビネーター/オープンAI創始者の答えは「もう起きている」だ。

サム・アルトマン(左)http://www.ycombinator.com/gallery/より

サム・アルトマンは、Yコンビネーターの社長として知られると同時に、2015年12月には非営利団体のオープンAIをイーロン・マスク(Elon Musk)らとともに創設し、同団体の共同会長を務める。オープンAIでは、安全な汎用AI(artificial general intelligence)の実現に向けた研究やソフトウェアツール類の開発などを進めている。

彼が「人間と機械が融合するのはいつになるのか、あるいはそうならないとすれば、急速に進歩するAIや遺伝的に強化された新人類に人間が凌駕されるのはいつか」をテーマに書いたブログを本人の許諾を得て翻訳した。( 進藤)


シリコンバレーでは「シンギュラリティ」という言葉を使わなくなった

「人間と機械が融合するのはいつになるのか、あるいはそうならないとすれば、急速に進歩するAIや遺伝的に強化された新人類に人間が凌駕されるのはいつか」というのは、シリコンバレーでよく話題になるトピックのひとつ。そして、多くの人々はその時期が2025年〜2075年の間になるようだと推測している。

このポイントはこれまで「シンギュラリティ(技術的特異点)」と呼ばれてきたが、その実現がますますリアルで受け入れがたいものとなってきたこともあり、多くの人々は具体的な名前で呼ぶことを避けているように思える。

人々が「シンギュラリティ」という言葉を使わなくなったもう一つの理由は、この言葉が歴史のなかでのある瞬間を示すものだからだろう。最近では、シンギュラリティは段階的なプロセスで進むという見方が強まっている。そして、段階的なプロセスははっきりと気付くことができるものではない。

シンギュラリティはすでに数年前から始まっており、もはや一人の人間が理解できる範疇を超えている

私の考えでは、シンギュラリティはすでに数年前から始まっている。

人々は「いつ何をすべきか」さえスマートフォンに委ね、ソーシャルメディアのフィードに感情を振り回され、検索エンジンによって考え方に影響を与えられている。これらのあらゆる技術を支えるアルゴリズムは、もはや一人の人間が理解できる範疇を超えている。

各アルゴリズムは開発者たちの意図に従っており、誰にも理解できないような方法で最適化されているーーー現在は洗練されたAIのようにも思えるこういったアルゴリズムが、近い将来には子どもの遊び程度のものになってしまうこともある。そして、これらのアルゴリズムは極めて効果的でもあるーーー少なくとも私について言えば、アルゴリズムの指示に抵抗するのはとても難しいと感じている。

そんな状態と戦うために本気で取り組むまでは、私自身インターネットに極度に依存する状態にあった(※1)。

※1 私は「アテンション・ハッキング(ネットが引き起こす注意力散漫)」について、現代における糖分依存症の流行のようなものになると考えている。私自身、自分の人生に変化が起きていることを感じるし、以前ほどの集中力がないことを残念に思うことがある。友人の幼い子どもたちは、このような集中力を惜しむ感情さえ持たないことだろう。私は以前より怒りっぽく、機嫌が悪いことが多くなっているが、そのエネルギーを生産的なものに向けることは少なくなっている。とにかく、ネットがもたらすポジティブ・ネガティブ両方の感情による放出されるドーパミンを追い求めてしまっているのだ。

人間とAIはすでに共進化の段階にあり、超人AIは実現するし、遺伝子改良やブレイン・マシン・インターフェースも実現する

人間とAIはすでに共進化の段階にある。

AIが人間に様々な影響を与えるいっぽう、人間もAIを改良し続けている。人間はますます多くの計算処理能力をつくりだし、それを使ってAIを動かしている。そして、そんなAIがさらに優れたチップを作る方法を見つけ出している。この共進化の流れはおそらく止められないだろう。歴史から学んだように、物理法則に妨げられない限り、科学的な進歩はいずれ生じるものだからだ。

さらに重要なのは、人間が自らを滅ぼさない限り、超人AIは実現するし、遺伝子改良やブレイン・マシン・インターフェースも実現するということだ。

「自分たちより優れた知能を持つものを作り出すことはできない」と考えるのは、人間の想像力の欠如

「自分たちより優れた知能を持つものを作り出すことはできない」と考えるのは、人間の想像力の欠如であり、また人間の傲慢さともいえる。人間の自尊心は、自分たちの知能に強く依存している。人間は自分たちが知性を持つ唯一の存在だと信じており、他のあらゆる動物に比べてわずかに優れているだけとは思いもしない。おそらく、AIも同じように考え、「人類とボノボの違いについて議論する価値はほとんどない」と判断するだろう。

シンギュラリティは様々な形を取るだろう。たとえば、人間の脳に電極を差し込むような形になるかもしれないし、あるいは人間が本当の親友になれるようなチャットボットが登場するような可能性もある。

シンギュラリティは、大部分の人々が考えるよりも早く起こり、「人間と機械の融合」はシンギュラリティのなかでも最良のケースだ

しかし、私の考えでは、「人間と機械の融合」はシンギュラリティのなかでも最良のケースだ。

異なる2つの種が同じものーーこの場合、地球や太陽系の支配的な種としての立場を求め、それが1つしかなければ、そこに争いが起こるのは避けられないことだ。われわれは、人間と機械が一つのチームとなり、それぞれの繁栄を気にかける未来を追い求めるべきだ。

シンギュラリティはすでに始まっているとはいえ、その行く末は奇妙なものとなることだろう。人類は自らの子孫を設計する初の種となるのだ。人間はデジタルな知能に対する生物学的ブートローダとなり、進化の木の枝に消えていってしまうのではないかとさえ思う。あるいは、われわれが成功と呼べるシンギュラリティを見出す可能性もあるだろうが。

シンギュラリティは、大部分の人々が考えるよりも早く起こるだろう。

全世界の人々がこのことをより真剣に受け止め始めるべきだ

ハードウェアは指数関数的に進歩しているーーOpenAIの取り組みから学んだもっとも驚くべきことは、コンピューターの処理能力向上とAIの大きな進歩がどれほど相関しているかということだーーそして、AI開発に取り組む優秀な人材の数も指数関数的に増加している。この2つの指数関数は凄まじいスピードで人類の想像を超えていくだろう。

全世界の人々がこのことをより真剣に受け止め始めるべきだ。

世界規模の協調はすぐに始められるものではないし、この問題に取り組むためにはそうした協調が不可欠だからだ。


著者:サム・アルトマン(Sam Altman) Yコンビネーター(Y Combinator)/オープンAI(OpenAI)創始者 原文:The Merge URL:http://blog.samaltman.com/the-merge 原文公開日:2017年12月8日 訳者:坂和 敏 / 中村 航 編集:AINOW編集部 進藤

編集トピック:アルトマンの人柄を表す「Yes Feel Free!」

翻訳を担当してくれた坂和さんによると、翻訳を「Yes Feel Free!」と快諾してくれたそう。「Yes Feel Free!」とは「ご自由にどうぞ!」ぐらいの意味。Messengerで翻訳の許諾をアルトマン本人に依頼したところわずか6時間後に返信が来たらしい…Y-comとOpenAIの2足のわらじの忙しさは想像するに余りあるが、アルトマンの人柄をしのばせるエピソードだった。


AIアクセラレーター、募集中。メンタリングを受けた人の感想はこちらこちら

無料メールマガジン登録

週1回、注目のAIニュースやイベント情報を
編集部がピックアップしてお届けしています。

こちらの規約にご同意のうえチェックしてください。

規約に同意する