最終更新日：
「イーロン・マスクは救世主か、破壊者か？OpenAIによるAI規制論はあるべきか？」の議論に対する、「Disrupt or Die（『粉砕せよ、そもなくば死を』）」著者であり、フォーチュン100の30%以上に対してサービス提供するDelphix創業者のジェディディア・ユー氏の答えは「彼自身を規制すべき」だ。
https://www.delphix.com/company/about/bios#309-jedidiah-yueh より
ジェディディア・ユーは、40億ドル以上のセールスがあるDelphixの創業者として知られると同時に、著書「Disrupt or Die（『粉砕せよ、そもなくば死を』）」を出版している。
彼が「イーロン・マスクは救世主か、破壊者か？OpenAIによるAI規制論はあるべきか？」をテーマに書いたブログを本人の許諾を得て翻訳した。（AINOW編集部 進藤）
目次
世界はついに最初のマッド・サイエンティストと出会った。その名はイーロン・マスクである。
世界はついに最初のマッド・サイエンティストと出会った。その名はイーロン・マスクである。
イーロン・マスクはディケンズ(※1) の小説を連想させる風貌をしている。人目をひく長身、それでいて不思議なことに少年のような顔立ちをしている。こうした彼の印象からは、彼の過去、すなわち排他的で暴力的でもある南アフリカという地で育つなかで彼が耐え忍んだ苦難のわずかな痕跡をも見て取れる。そうはいっても、イーロン・マスクはアンバー・ハード(※2) あるいは彼に抱かれた女優と釣り合っているように見える。
イーロン・マスクの野心とその野心の範囲は、限界というものを知らない。彼の文字通り火星を目指すという野心のまえでは、かのGoogleの有名なムーンショット・プロジェクトも覇気がないように見えてしまう。
彼が最近の声明では、飛行機のエコノミークラスのチケット料金で世界中どこでも30分以内で行けるというプランを明らかにした。「もし月や火星に行くようようなものを建造しているのなら、それを使って地球のどこかに行ってもいいではないか」と彼は言う。
以上のようなロケット（SpaceX）に加えて、いま彼が手がけている会社の第一の製品である電気自動車（Tesla）、さらにはソーラーパネル（(SolarCity）、そして電子決済システム（PayPal）にまで彼の野心は及ぶ。彼は交通と戦うためにトンネルも掘っており（the Boring Company）、ヒトをサイボーグにするテクノロジー（euralink）にも投資している。こうした事業を展開していた一方で、彼はずっとAIの亡霊と戦うのに躍起になっていたのだ（OpenAI）。
「そう思ったのなら、それはもうできる」という精神を体現するヒトがいるとすれば、それはイーロン・マスクに他ならない。
誰もイーロン・マスクより大きなヴィジョンを描いていないが…
ヴィジョンという話になると、その話のサイズが問題となる。誰もイーロン・マスクより大きなヴィジョンを描いていない。
われわれ人類は、冷戦真っただ中の1969年に月のうえに立った。その後、ソ連が崩壊し、NASAもテクノロジーにおける世界の頂点という地位から時代遅れで日の目を見ない基礎技術部門へと落ちぶれてしまった。
ところが、イーロン・マスクが登場したことでロケット工学が再び世界の脚光を浴びるようになったのだ。「人類をほかの惑星で生存できるようにする」という彼のSpaceXのヴィジョンは、まさに地球という惑星に対するプランBとなったのだ。
彼は人類を月を送るのではなく、火星を植民地にすることを望んでいるのだ。
しかし視野には限度というものがある、近視的にものごとを見るのは危険であるが、同じように遠視（つまりは壮大すぎる先見の明）も危険である。確かな先見の明にしたがって物事を実行しなければ、それはもはや先見の明とは言えない。それは空虚な野心でしかない。
2008年、イーロン・マスクは最初のロケット発射が失敗したうえに、内部にカタストロフィを抱えていた。テスラが（再び）出荷日を逃してしまい、保有していた現金が急速に失われたのだ。またSpaceXが打ち上げた初期の3つのロケットは、文字通り爆発し、同社がロケット発射できるのはあと1回しかできないという状況に陥った。
度重なるロケット発射失敗にもかかわらず、マスクはこう宣言したのだ。「私は決してあきらめない、決してあきらめるつもりはない。」
彼はZip2とPayPalから得た利益、さらには家族と友人を説得して貯金までSpaceXに投資したのだ。この時の状況は、破産一歩手前であった。
もし4回目のロケット発射が失敗していたら、イーロン・マスクはもはや再起不能であっただろう。
しかし、4回目のロケット発射は成功し、何度かの財政的危機を切り抜けて、マスクはSpaceXを先の投資ラウンドに進めることに関して、テスラに出資している投資家を納得させたのだ。
イーロン・マスクは失敗と成功のあいだをまるでむき出しナイフの刃の上を歩くように渡り切り、その成功の物語を語るに至っている。しかしもし、ナイフの上を渡るような彼の歩みが、失敗のほうに落ちていたらどうだったであろうか？そしてもし、彼の失敗が人類をも切り裂くものだとしたらどうだろうか？
人類の命運は彼の手にかかっている。AIを規制する前に、イーロン自身を規制すべきかもしれない
もしわたしがイーロン・マスクの個人的なヴィジョンとミッションを描写するとしたら、こう言うだろう。「人類はもはや制御不能だ。私のミッションは人類をこの制御不能な人類自身から救うことだ。」
マッド・サイエンティストが挑む挑戦とは、避けがたく己自身をも切るナイフを鍛えることになるものだ。
マスクはAIが人類の実存を脅かすことと戦うためにOpenAIを設立した。彼はテクノロジー企業とその企業によるAIプログラムに対して政府が規制することを支持する立場を公言している。
しかし政府は彼の立場に対して何ら回答できていない。政府がAIとその脅威を理解し、規制を実行するまでに要する時間サイクルは、AIの発展する時間サイクルが繰り返される早さと比べると、あまりにも長すぎるのだ。
さらに悪いことに、もし政府がマスクの主張を聞きいれたとしても、すべての政府が彼の主張する規制に従うわけではない。ロシアと中国はおそらく規制を無視するだろう。そして、マスク自身、（「AIを征する国が世界を征する」といって ）AIを重要視するウラジミール・プーチン大統領の見解に対して「それは始まっている」とツイートしているのだ。(※3)
―人類史上、潜在的にはもっとも危険な発明である―AIの開発を規制することにいくつかの国が応じたとしても、規制を拒否した国ではどうなるのか？マスクの主張は（規制を拒否しつつAI開発を推進して覇権を握ろうとする）プーチンの思うつぼとなるのではなかろうか？
反AI戦略の一環として、マスクはNeuralinkも設立している。同社ではヒトをサイボーグに進化させる方法としてコンピュータとヒトの神経をつなげようとしている。
もしAIがFacebookのフィードを活用して社会を再プログラミングできるようになれば、コンピュータとヒトの神経がつながっていることで、人類のこころとからだにアクセスしてハイジャックするという前代未聞の可能性がAIに与えられてしまうのではなかろうか。
今日、（機械学習およびディープ・ラーニングに類するものに慣例的に見られる、狭いAIではなく）スーパーAIを実現するにあたり直面しているいつくかの障壁のうちのひとつが物理的なギャップである。物理的なギャップがあることでAIを機能させるのにデータセンターがまだ必要とされる一方で、電力のようなAIのコアとなるインフラを維持するために要求される長大なサプライチェーンにおける物理的故障に対処しなければならないのである。
しかし、Neuralink社はAIがこの障壁を飛び越えることを可能とするかも知れないのだ。
マスクの地球に関する野心的プランB―火星の植民地化―についてはどうであろうか。このプランに費やす努力が求めるコンピューティングへの要求は莫大なものとなる。火星への孤独な旅路の途上で、AIが航行システムをヒッチハイクできるのではなかろうか。
彼は地球温暖化対策も指揮している。電気自動車とソーラーパネルは世界的な二酸化炭素の放出を顕著に削減するだろう。しかしながら、マスクはすでに自律運転をも実現している―自律運転においては、彼が開発する自動車を制御するAIソフトウェアが、インターネットを介してリリースされる最新ソフトウェアによって容易にアップデートされる。
1997年に公開されたスティーブン・キング原作の映画『トラックス』では、殺人トラックに命が宿り映画の登場人物たちを殺していく。Netflixでこの映画を見たAIが、この映画にインスパイアされて人類を絶滅するために自律自動車を使いはしないだろうか？
さらには、世界でもっとも人口が密集した都市の下でトンネルを掘っているマスクのBoring Company社の巨大採掘機をAIが奪って好きなように動かし始めるということもあるのではなかろうか。
ハリウッド映画が描く未来は概して恐ろしいものである。例えば映画『ターミネータ』シリーズに登場するAIのスカイネットは、世界中の核兵器を操作して人類を絶滅するために核兵器を搭載したロケットを発射したではないか？
いつスーパーAIが登場するのか、そしてスーパーAIが登場した未来が良いものなのか、それとも悪いもののか、私たちにはわからない。そもそもスーパーAIが単独のものなのかもわからないし、もしかしたらスーパーAIの登場に収れんする革命が人類を複数のスーパーAIとの戦いに導くかも知れないのだ。
いつかスーパーAIが現れると仮定したら、それはイーロン・マスクより（つまりは結局のところ、私たちのすべてより）賢いに違いない、ということはわかる。そんなスーパーAIは、イーロン・マスクの発明品で満たされた魅力的かつ革命的な世界をどう扱うのであろうか？
イーロン・マスクが世界にAIを規制することを説得する前に、彼は自らの発明品が秘めている意図せざる結末を考慮したうえで、より彼自身を規制すべきではなかろうか？
いずれにしろ、人類の命運は彼の手にかかっているのだ。
※1、チャールズ・ディケンズとは19世紀イギリスで活躍した小説家。下層階級出身の人物を好んで主人公とした小説を著す。
※2、アンバー・ハードはアメリカ合衆国の女優。2016年7月にイーロン・マスクとの交際が噂され交際を正式に認めたが、2017年8月に破局が報じられた。
※3、プーチン大統領の次のツイートを紹介したThe Vergeの次のツイートを参照。https://twitter.com/verge/status/904628400748421122
著者：ジェディディア・ユー（Jedidiah Yueh） デルフィクス（Delphix）創業者 原文：https://medium.freecodecamp.org/will-elon-musk-be-our-savior-or-our-destroyer-b0e3d6d46db
原文公開日：2017/10/10 訳者：吉本幸記 編集：AINOW編集部 進藤
編集トピック：訳者吉本さんとの会話
翻訳を担当してくれた吉本さんのコメントが印象的です。
著者はAI規制論者として知られるマスク氏本人が、自分の事業の危険性を自覚し自己規制すべきと主張する。現実味は薄いが、AIが悪用される具体例を分かりやすく描写している点が面白い。
文章は書籍用にシニカルに書かれている感じもあるものの、単なるイーロン・マスク批判を超えてAIが問題なのではなく作り手の問題が大きいとする論は納得感があります。
AIアクセラレーター、募集中。メンタリングを受けた人の感想はこちらやこちら。
