AI史に名を残す4日間｜OpenAI騒動から見えた生成AIの未来

最終更新日： 2023年12月18日

2023年11月17日、OpenAIの取締役会はアルトマンをCEOのポジションから解任したとのニュースが報じられた。

ChatGPTをはじめ、今年最も多くの話題の中心となったOpenAIが、看板ともいえるサムアルトマンを解任したのである。約10日前には、OpenAI Dev Dayにて新たなビジョンを示した矢先の出来事だ。このニュースはOpenAIのステークホルダーだけでなく、AIについて関心のあるすべての人間にとって注目となった。

本記事では、時系列と登場人物や出来事を整理し、AIアライメント問題の視点から、一連の出来事を解説する。

激動の4日間
AIアライメント問題の深掘り
今後の展望と結論
- AIと人間社会の共存: AI技術の進化と人間社会との調和の重要性

激動の4日間

主要な人物

サム・アルトマン（Sam Altman）: OpenAIの共同創設者でCEO。OpenAIの急速な成長とAI技術の開発に大きく貢献。
グレッグ・ブロックマン（Greg Brockman）: OpenAIの共同創設者で長期にわたる社長。アルトマンの解任後に辞任。
アダム・ディアンジェロ（Adam D’Angelo）: QuoraのCEOであり、OpenAIの取締役会メンバー。アルトマンの解任を試みた主要人物の一人。
イリヤ・スツケヴァー（Ilya Sutskever）: OpenAIの共同創設者であり、主任科学者。アルトマンの解任に関与。
エメット・シア（Emmett Shear）: Twitchの共同創設者。アルトマンの解任後、一時的なCEOとして任命される。

サム・アルトマンのこれまで

サム・アルトマンは、アメリカの起業家、投資家であり、OpenAIの共同設立者兼CEOである。

彼は以前、名門アクセラレータY Combinatorの社長を務めていた。

アルトマンは1985年に生まれ、2005年にスタンフォード大学に入学。学業を中断して起業に専念することになる。彼の最初のベンチャーは、Looptという位置情報に基づくソーシャルネットワーキングアプリで、2006年に設立され、2012年にグリーンドットに買収されることになる。

Y Combinatorの社長として、アルトマンは多くのスタートアップの育成に貢献。彼の指導の下、YCは世界で最も影響力のあるアクレラレータプログラムの一つとなった。

2015年には、イーロン・マスク、ピーター・ティール、グレッグ・ブロックマンらとともに、OpenAIを共同設立。OpenAIは、AI技術の民主化と安全な開発を目指す研究機関である。アルトマンはOpenAIのCEOを務め、AI分野での研究と開発を推進している。

彼はまた、技術、起業、AIの未来について幅広く発言しており、その視点は業界内外で高く評価されている。サム・アルトマンは、AIの倫理的な開発と利用に関する議論の中心人物の一人である。業界をリードするChatGPTを開発したOpenAIのCEOという立場をはじめ、AI分野での重要なリーダーである。

突然のアルトマン解任

2023年11月17日、OpenAIのCEOサム・アルトマンは、取締役会により突如その立場を解任された。解任の理由として、彼の誠実さの欠如とOpenAIの使命を守る必要性、取締役会と彼のコミュニケーションにおける不一致などが挙げられている。

この出来事は、AI業界全体に衝撃を与えた。アルトマンの解任は、AI研究の方向性と目標に関する基本的な緊張関係を浮き彫りにしたと言える。表向きの理由とは別に、AIの危険性に対する意識の違いが、この動きの背景にあるとされた。

AIの開発に伴い、ある一方のグループは、人工知能のリスクを懸念し、慎重な進展を支持しているが、もう一方のグループは、進化していくAIは人類にとって基本的に善であると信じ、その迅速な発展を促進するべきだと主張している、というものである。

取締役会は前者であり、アルトマンは後者だったため、人類の安全性のために、彼は解任されたのではないかと考察されている。

また、アルトマンの解任は、OpenAIが直面している課題と将来の方向性について、業界全体に警鐘を鳴らす出来事となったといえる。

特に、AIの商業化と研究のバランス、倫理的および安全なAI開発への取り組みについて注目すべきだ。高機能なAIについて、商業目的で競争的にリリースしていくことへの警鐘である。先日のOpenAI Dev Dayでの発表もあり、AIの新たな進化と発表に熱狂する人々にとって、一層ショッキングなニュースとなった。

また、唐突すぎるこのニュースは、OpenAI内部での混乱と緊張を引き起こすことになる。

ステークホルダーの集団反発とMicrosoft

アルトマンの解任に対し、ステークホルダーや従業員はすぐに反発を表明した。

社員の大規模な支持と反対運動: アルトマンの解任後、OpenAIの多くの社員が彼の支持を表明。彼の解任に反対する声が高まり、約500名以上の社員が彼の復帰を求める公開書簡に署名。

主要な人材の退職: アルトマンの解任に伴い、OpenAIのいくつかの主要な研究者や幹部が会社を去ることを決定。これには、共同創業者の一人であるグレッグ・ブロックマンも含まれている。

新しいCEOの任命に対する不満: OpenAIの取締役会は、アルトマンの後任として元Twitch CEOのエメット・シアを任命したが、この決定は一部の社員から不満を買ってしまった。シアの任命は、社内での混乱と不安定さをさらに高める結果となった。

投資家との関係: アルトマンの解任は、OpenAIの主要な投資家であるMicrosoftを含む外部ステークホルダーにも影響を及ぼした。MicrosoftはOpenAIへの投資を継続すると表明したが、取締役会や組織内の動きには懸念を示していた。

アルトマンが新たなAIベンチャーを創業することも噂されはじめ、取締役会への批判が高まっていた。

取締役会の中でも議論が分かれ、OpenAI本社にて取締役会とアルトマンを含めて、彼の復帰について話し合いが開かれたが、交渉は決裂。取締役会は次のCEOに、人気動画実況プラットフォーム「Twitch」の創業者、エメット・シアを任命した。これを受けOpenAIの多くの従業員は失望し、退職を表明するものが後を絶たなかった。

誰もがアルトマンをはじめ、OpenAIメンバーが今後どうなっていくのか思案する中、MicrosoftのCEOであるサティヤ・ナデラは、アルトマンとブロックマンを含む元OpenAIのチームを雇用し、新しい高度AI研究チームを設立すると宣言。これにより、彼を支持する多くのOpenAIの社員もMicrosoftへの移籍を表明。

最終的にMicrosoftの総取りとなるかと思われたが、事態はさらに一変する。

急転直下の復帰

取締役会とアルトマンによる連日の議論と、社員の大量退職示唆やMicrosoft移籍など、数々の動揺の後、結果としてアルトマンはOpenAIのCEOとして戻ることが発表された。

新しい初期取締役会のメンバーは下記の通り。

ブレット・テイラー (Bret Taylor): 彼は新しい取締役会の議長を務めており、以前はSalesforceの共同CEOとして活動。テイラーはTwitterの元会長でもあり、現在Shopifyの取締役会にも参加している。
ラリー・サマーズ (Larry Summers): サマーズはビル・クリントン政権下で第71代アメリカ合衆国財務長官を務めた経済学者で、ハーバード大学の元学長。
アダム・ディアンジェロ (Adam D’Angelo): Quoraの共同創立者兼CEOで、以前はFacebook（現Meta）のCTOを務めた。ディアンジェロは既にOpenAIの取締役会メンバーであり、引き続きその役割を果たすことになる。

これらのメンバーは、AI技術の安全な開発と実装に関する意見の相違を克服し、人工知能の倫理的進歩を確保するための構造変更に焦点を当てていくとした。彼らは透明性、オープンな協力、およびAI技術の潜在的な誤用を軽減するためのガイドラインの確立に注力すると発表した。

アルトマンは、新しい取締役会のメンバーとの協力とMicrosoftとのパートナーシップを維持する意欲を表明しており、汎用人工知能（AGI）が全人類に利益をもたらすことを確保する組織の使命を継続的に推進することを目指すとした。

マイクロソフトとの強化された関係

アルトマンの復帰に伴い、マイクロソフトとのパートナーシップが強化され、より密接な統合が予想できる。これは、AI技術の商業化と研究における新たな機会を示唆している。

一連の大騒動を受けて、Microsoftのサティア・ナデラは常にベストな動きを取っていた。

具体的には、アルトマン退任直後のOpenAI取締役会への働きかけ、OpenAIへの出資の継続、アルトマンや彼を支持する社員をMicrosoftに招く決定、またアルトマンが望むならOpenAIに戻ってもよいとしたことである。

圧力や交渉を用いずにMicrosoftの企業価値を最大化する彼の動きは、どこにも波風を立てず、結果として新体制のOpenAIとの結束を深めることになるだろう。そういった意味で、今回の騒動を終えて振り返ると、Microsoftが一番得をしたと言えるかもしれない。

また、この一連の出来事は、AI技術の進歩とその社会への影響に対する敏感な反応を示し、AI業界の今後の方向性に大きな影響を与えることになるだろう。アルトマンの復帰は、AI業界におけるリーダーシップ、倫理、および技術革新のバランスに関する重要な教訓を示している。

具体的には、今回の出来事は商業目線でのAI開発、リーダーシップによるAI開発が時には倫理やリスクよりも優先されかねないということだ。ここからは、AI開発における、AIアライメント問題について掘り下げていく。

AIアライメント問題の深掘り

主要な人物

エリザベス・ビジョルキー（Eliezer Yudkowsky）: AIリスクと合理性に関する研究者。Machine Intelligence Research Institute (MIRI)の共同創設者。
ニック・ボストロム（Nick Bostrom）: 「スーパーインテリジェンス」の著者。オックスフォード大学の未来人類研究所所長。
スチュアート・ラッセル（Stuart Russell）: 「人工知能：近代的アプローチ」の共著者。AIの安全性と倫理に関する研究で知られる。
レイ・カーツワイル（Ray Kurzweil）: 未来学者であり、AIの発展に関する楽観的な予測で知られる。
イーロン・マスク（Elon Musk）: AIの危険性について公に発言しており、OpenAIの共同創設者。

歴史

1950年代-1960年代: AI研究の黎明期。この時期にAIの基礎理論が開発された。
1970年代-1980年代: 限られたAIアプリケーションが登場し始め、AIの可能性とリスクに関する議論が始まる。
1990年代-2000年代: インターネットの台頭と共に、AI技術が急速に発展。この時期にAIアライメントの問題がより注目され始める。
2010年代-現在: 深層学習の進展により、AIアライメントの問題がより緊急性を帯びる。

問題の定義: AIアライメント問題とは何か、なぜ重要なのか

AIアライメントとは、AIが、人間の価値観や倫理観に沿って適切に行動することを保証するための議論や研究を指す。AIアライメント問題は、AIシステムが人間の価値観や目標に適合するように設計することの難しさを指している。

例えば、スチュアート・ラッセル教授は、AIが人間の意図した目標を誤解することで予期せぬ結果を引き起こす可能性を指摘した。この問題は、AIが人間の意図に反して行動するリスクを最小限に抑えるために重要である。AIアライメントは、AIの倫理的な使用、安全性、および社会への影響に直接関連しており、AI技術の進歩に伴い、ますます重要になるだろう。

AI開発企業が仮に、世の中の仕組みに対して雇用の喪失や犯罪利用についてしっかりと検証しないまま、インパクトのあるAI技術をリリースした場合に、大きな社会問題が起きてしまう。リスクについて、提供側は必ず理解し検証しなければならない。だが今回の出来事は、商業利用や個人のリーダーシップが、これらのリスクよりも優先されてしまう危うさをはらんでいると言える。

現在の取り組み: 世界各地でのAIアライメントに関する研究と実践例

世界中の研究機関や企業は、AIアライメント問題に対処するためにさまざまなアプローチを採用している。

例えば、ニック・ボストロム教授は、AIの意思決定プロセスの透明性の向上や、AIシステムの監視と制御メカニズムの強化に関する研究を行っている。

また、イーロン・マスクは、AIの倫理的な使用に関する公的な議論を促進し、AI技術の安全性に関する意識を高めている。

仮に今回、AIアライメントの目線からアルトマンを解任し、リスクを回避しようとした取締役会が、再度のアルトマン復帰に伴い解任されたと考える場合、**OpenAIはストッパーを一段階外してしまったかもしれない。**もちろん、新たな取締役会においてもAIアライメントについて遵守する方針を示している。

将来の展望: AIアライメント問題の解決に向けた将来的な課題と可能性

AIアライメント問題の解決には、技術的な進歩だけでなく、政治家などの政策立案者、業界のリーダー、および我々一般ユーザーの理解と協力も必要である。

今後もAIを安全に利用するためには、将来的にAIアライメントの原則をAI技術の開発と実装のガイドラインとして広く採用していかなければならないだろう。

また、AIの倫理的な使用に関する国際的な基準や規制の策定も、重要な課題となる。AIアライメント問題の解決は、AI技術が人間社会にポジティブな影響を与えるための鍵である。

現在、毎週に及び数々の衝撃的な新しいAIニュースが世界中で話題となっている。さまざまな業界に大きな影響を与えるこの技術は、商業的にこれまでにないほどブルーオーシャンであるともいえる。しかしながら、そこばかりに注目していないか。リスクや倫理的、法的な問題をないがしろにしていないか。「どうせ発展するものだから」と、きちんと確認しなければならない重要な項目について、忘れてしまっていないか。

情報のアップデートが凄まじく早く、日々AIと向き合う我々こそ、こういった問題にも同じように向き合っていく必要があるだろう。