来たるべき殺人マシーンの時代(前編)

著者のDaniel Jeffries氏はアメリカで活躍するSF作家。ウイリアム・ギブソンの影響を受けた処女小説”The Scorpion Game”は、アマゾンの読者レビューで非常に好評を博している。

同氏がMediumに投稿した記事では、小型自律ドローン兵器が誕生する可能性とその対抗策が論じられている。攻撃目標としたヒトを精密攻撃できるAIを搭載したドローン兵器は技術的には開発可能であり、いずれ開発され配備されるだろう、と同氏は考えている。

こうしたドローン兵器の開発を禁止しても焼け石に水なので、精密攻撃を回避する衣服や対ドローン・バリアの開発と配備が有効な対抗策だと主張する。

以上のような同記事は、AIが兵器にも普及する近未来の安全保障を鋭く批評している。（AINOW 編集部)

2017年における最も恐るべき動画は、ハリウッドからもたらされたものではなかった。

最も恐るべき動画は、すべての殺人マシーンからわれわれを救おうとするシンクタンクからもたらされた。

近未来のディストピアを描き出しているその動画では、爆発物を搭載した手のひらサイズのドローンが顔認識技術を活用してヒトを探し出しピンポイントの正確さで殺戮しているのだ。動画では（架空の出来事として）こうしたドローンによる圧倒的な波状攻撃が、ひとつの地域を一掃している。さらに小さな殺戮者の群れはアメリカ議会を引き裂いて、アメリカ上院議員たちを議員が信奉するイデオロギーにもとづいて虐殺する。テロリストたちは、飛翔する怪物の群れを学校に向けて放ち学生たちを蹂躙する。ある学生の親は、脅威が迫っていることを伝えようとしている。

↑Slaughterbots（殺戮ボット）のショートフィルムはAIの暗黒面をわたしたちに見せている

このの動画が恐ろしいのは、われわれはこうした殺人ドローンが作られる実現性に近づいているからである。

私はAI脅威論者ではない。機械学習は携帯電話から皮膚ガンを検知したり、素材を奇抜にデザインしたり、新薬の発見を加速したりしてわれわれに信じられないほどの新しいちからを授けてくれる。

AIが仕事を一掃する結果を招くかも知れないが、AIはわれわれがまだ想像しているに過ぎないような新しい仕事にあふれた黄金時代をわれわれにもたらす可能性もあるのだ。

ターミネーターや（人間の知性を超えた）スーパーインテリジェント・AIが世界を征服するというのは、今後数百年は問題にもならないような空想的なものに過ぎない一方で、まず作られないとしても、殺人ドローンはすぐにでも実現するような曲がり角に来ている。

畳み込みニューラルネットワーク（convolutional neural nets）を活用した顔認識は驚異的に動作する。

そして、今日ではアマゾンから小型ドローンをダース単位で購入することができる。

多数のオープンソースのロボ・オペレーティングシステムがすでにGithubに存在する。

さらに悪いことに、ダークウェブをネットサーフィンすれば、無数の爆発物についてのお決まりの宣伝にあなたは捕まるだろう。

以上のようなものを揃えれば、世界の中心に恐怖を打ち込むスマートな弾丸を用意することだってできるのだ。

NVIDIAのPegasus自律自動車プラットフォーム

しかし、こうしたことは始まりに過ぎない。

NvidiaやIntelのような地球上で最も巨大なチップメーカーは、名は知らていないが多額の投資を受けているいくつかのスタートアップと一緒になってチップを製造することに熱心に取り組んでおり、その結果として、知的なアプリがカンブリア爆発を思わせるほどに過剰に供給されている。そうしたチップは新しいアーキテクチャによって作られることで小さくなったので、近い将来、自律自動車、自律トラック、手術ボット、そしてお掃除ロボットを動かすことになるだろう。

近い将来には自律運転できるようになるテスラの電動トラック

そして、こうした身の周りのあらゆるモノを動かすチップが、間違いなく自律兵器も動かすことになるだろう。

また、以上のように知的なチップがより小さくなっているのと同様にして、チップがより賢くなればなるほど、小さな殺人者たちにドローンから構成された突撃大隊に対する対抗策や回避策といった新しい機能を与えるだろう。

こうした兵器はすでにすぐそこにあるのだ。

アメリカ国防総省から昨年リリースされた動画には、カリフォルニア州・チャイナレイクにあるアメリカ海軍の最先端研究所（チャイナレイク武器センター）上空を飛ぶ航空機から射出されたマイクロ戦闘機が写っている。

戦闘機を攻撃したり防御したりするためにいとも簡単に旋回や強襲を行う動画に写っているような兵器を見ると、それらは悪夢に出てくるような金属を引っ掻くときに鳴る金切り音を響かせているようだ。

こうした小型ドローンの動きは、昆虫や獲物を狩るオオカミの群れの振舞いに関する研究を使って開発されている。明日のエリートパイロットたちが敵航空機を強襲するために、小型ドローン兵器の大軍を射出するだろうことは想像に難くない。

こうして射出された空中を旋回する戦場の鳥たちは、敵戦闘機の翼とエンジンを全方位から爆発的な激しさで攻撃するだろう。

以上のような小型ドローン兵器は、今日のチップのちからを使って製造されたのだ。

ところで、今後数年にわたり市場にあふれるであろうAIに特化したチップは、ドローンにどのように使われるのだろうか。

ドローンに実装されたAIチップを使えば、かつては（近未来の戦場をゲーム化した「コールオブデューティアドバンスド・ウォーフェア」で描かれるような）SFのなかでだけ考えらてきたことが、暗い現実となるまでにそんなに時間がかからないだろう。

さらに悪いこと知らせがある。わたしは世界最高のAI研究者の一人であるVian Chinner氏に会って話したことがある。

わたしは彼に小型ドローン兵器を射出する航空機の動画について話し、もしAIチップが小型ドローン兵器に実装できるほど小さくすることができたら、動画が伝える現実にかなり近づくのではなかろうか、と述べた。すると彼は、わたしを心底震えがらせることを言ったのだった。

彼が言うのは「小型ドローン兵器に小さいAIチップなどいらない。無線を使えば、ドローンの制御をひとつにまとめ、それらを遠隔でコントロールできる」

彼の発言の意味することは、小型ドローン兵器は明日ではなく今日実現できる、ということだ。

ゲームの理論、黒い予算、そして恐怖

未来主義者として、わたしは解けない問題を解くのが好きだ。答えなどない問題を見つけた時にはいつでも、わたしはその問題について考えずにはいられないのだ。

わたしたちは、どのようにしたら小型ドローン兵器が使われてしまうようなことを止めることができるだろうか。

読者の皆さんが参加できることから考えてみよう。上に引用した小型ドローン兵器に関する動画を制作した団体（THE FUTURE OF LIFE INSTITUTE、略してFLI：未来生活研究所）は、自律兵器が空に向かって飛び立つ前にそれらを解体することに取り組んでいるNPOだ。

FLIはこの動画を国連で行われた自律兵器に関する総会に合わせて公開した。イーロン・マスクやその他の何百という著名人と同じように、FLIもまたAIによる攻撃システムの全面的禁止に賛同している。

わたしもまた、AIによる攻撃システムの全面的禁止に100%賛成だ。と同時にこうした全面的禁止が機能する可能性はほどんどゼロに近いとも考えている。

なぜAI兵器の禁止がまったく機能しないのか、にも関わらず、なぜAI兵器の禁止を止めるべきではないのか考えてみよう。

自動小銃AK-47（通称「カラシニコフ」）の後継銃AK-12を試射するプーチン大統領

AI兵器の禁止が失敗に終わる第一の理由は、こうした兵器が世界の指導者と軍隊にとってあまりにも魅力的であることが証明されているからだ。

ロシアのプーチン大統領は、すでに「AIを制する者が世界を制する」と発言している。軍隊の指導者たちは、ドローン兵器のような殺人兵器を戦争を刷新する手段だと考えるだろう。

信じられないだろうが、軍事的指導者たちはAI兵器を既存の兵器よりむしろ人道的であると考えているのだ。

AI兵器が人道的かどうかについて考えてみれば、軍事的指導者たちの考えが間違っていないことに気づく。

大型爆弾を市街地に投下すると、大規模な二次的な損害が発生する。そうした兵器は誤って非戦闘員の市民を殺し、無垢な女性や子供をなぎ倒し、市街地の建物を廃墟にし、一触即発で内紛が起こりそうな人道的危機に瀕する避難地域を生み出し、父親や母親が荒れ狂う鋼鉄の嵐（つまり絨毯爆撃）のなかで子供を失ってしまった時には、子供の両親たちが敵対的な民衆に変わるのだ。

鋼鉄の嵐：ドイツの小説家エルンスト・ユンガーの代表作『鋼鉄の嵐の中で』のタイトルから借用した表現。ユンガーは第一次と第二次世界大戦に参戦した経験があり、戦争をリアリスティックに描写することで知られている。