AIアライメントとは｜これからのAIに欠かせない要素に迫る

日本政府が2024年4月にも生成AIに伴うリスクについて研究する機関を創設すると明らかにしました。

日本はこれまで他の先進国に比べると、生成AIの規制に対して穏健的な姿勢をとってきましたが、今回の方針はその姿勢を変えるものとしても捉えられます。

では一体、なぜ日本が生成AIのリスクについて議論を始めるようになったのでしょうか。その背景の一つとして、生成AIを悪用した事例が増えていることが挙げられます。

最近では、災害時の偽画像の拡散や詐欺メールのテンプレート作成といった用途で用いられていると報じられています。

そうした状況を解決する方法の一つとして注目を集めるのが、「AIアライメント」という考え方です。

本記事では、その「AIアラインメントの定義」や「AIアライメントに関する最近の動向」、そして「なぜAIアライメントの必要性が増しているのか」などについて詳しいbioshok氏と共に解説していきます。

bioshok氏：大学では半導体に関する研究、大学院では自然言語処理に関する研究を行う。現在はIoT系のエンジニアとして働く。Xの@bioshok3 にてAIに関するトレンドと、AIがもたらす深刻なリスクに関して発信している。

AIアライメントとは
AIアライメントにおける最近の動向
- OpenAIサム・アルトマンの解任をめぐる騒動
- 各国がAIの規制を強化
なぜAIアライメントの必要性が増しているのか
- AIの民主化が進んだから
- 今後、人工超知能（ASI）の出現が予想されるため

AIアライメントとは

ここからは、AIアライメントとは何かということについて解説していきます。

AIアライメントの定義

まず、AIアライメントの定義から説明します。AIアライメントとは、AIの目標を人間の意図や倫理原則に沿わせることを指します。

元々、英語のalignment（アライメント）は「整合、整列、調整」といった意味で用いられます。そして、AIの文脈では「人間の意図した目標に整合させる」といった意味で用いられます。

このAIアライメント分野自体は、2000年代前半から理論的または概念的に始まりましたが、深層学習ブームが始まった2014年頃から技術的にも本格的に取り組まれるようになりました。

したがって、AIアライメントはAIの進化と共に研究が本格化したため、まだ比較的歴史が浅い研究分野であるといえます。

生成AIの出現とAIアライメント

深層学習ブームで注目を集めたAIアライメントですが、今回の生成AIブームでさらに注目度が高まりました。

特に、OpenAI社がサービスを提供するChatGPTが全世界的に広まる中で、AIアライメントの必要性に注目が集まったといえます。具体的には、ChatGPTが回答する内容の中に危険な回答が混ざらないかといったことなどが争点となりました。

日本でも、ChatGPTが詐欺メールのテンプレートや爆発物の作成方法を回答するパターンがあるといったニュースが報じられて話題となったのは、記憶に新しいのではないでしょうか。

こうした事柄は、生成AIに対するアライメントが求められた事例として挙げられます。さらに画像生成や動画生成においても、人間の意図や倫理原則を外れた出力をする事例も見られるため、生成AIにとってAIアライメントは欠かせない研究領域であるといえます。

AIガバナンスとの違い

そうしたAIアライメントと似た言葉として、AIガバナンスといった言葉も存在します。両者の違いは一体何なのでしょうか。

bioshok氏は次のように語ります。

bioshok氏：AIガバナンスとは、人間社会の中でAIを上手く取り扱うための考え方のことです。具体的には、AIを安全に運用するための法律制定や組織体制の構築といった行為のことを指します。

一方、AIアライメントとは、AI自体を人間の意図や倫理原則に従わせるといった考え方です。したがって、AIアライメントはAI自体の枠組みであり、AIガバナンスはより大きな社会におけるAIへの枠組みとして捉えることができます。

昨今の生成AIの悪用といった問題においては、このAIアライメントとAIガバナンスの両方が関わっているため、この2つが正常に働くような状況を作ることが理想であるといえます。

AIアライメントにおける最近の動向

ここからは注目を集めるAIアライメントの最近の動向について解説していきます。

OpenAIサム・アルトマンの解任をめぐる騒動

まず挙げられるのは、OpenAIのトップが解任されたという騒動です。

具体的には2023年11月17日、OpenAIのサム・アルトマンCEOは取締役会により突如その立場を解任されたという出来事です。

この騒動は、最終的にはサム・アルトマン氏がCEOに復帰するという形で幕を閉じましたが、騒動の背景は不明なままとなっています。

bioshok氏はこの出来事に対し、AIアライメントをめぐる考え方の違いが背景にあったのではないかといいます。

bioshok氏：OpenAIの騒動に関しては、関係者しか正確な背景が分からないという前提のもと、サム・アルトマン氏と解任に関わった取締役会のメンバーについてお話をします。

まず今回の騒動の鍵を握る考え方である「効果的利他主義」という概念を説明します。効果的利他主義とは、簡単にいうと「世界をよりよいものにするためにはどのように行動すればよいか」を考え、実践に移すことを目指す社会的な運動のことです。

この効果的利他主義のコミュニティは、AIが人類に与えるリスクについても問題として捉えています。つまり、AIの悪用や極端なリスクとしてAIが制御不可能になるリスクがある以上、AIの開発は安全かつ慎重に行わなければならないという考え方を持っているということです。

そして、今回の騒動を起こしたOpenAIの取締役会のメンバーもこの効果的利他主義のコミュニティに属していました。一方、サム・アルトマン氏は、反復的にAIの社会実装を進めていくべきといった立場を取っています。効果的利他主義コミュニティにおける慎重派からは迅速なAIの社会への展開として映るでしょう。

そうした考え方の違いやアルトマン氏の決断に危機感を持った取締役会が、今回の騒動を起こしたというのが妥当性の高い説ではないかと考えています。

つまりこの出来事は、AIの開発や展開においてアライメントやガバナンスの側面を重視する考え方と技術開発の促進を重視する考え方の衝突として捉えることができるでしょう。

各国がAIの規制を強化

次に挙げられるのが各国のAI開発規制です。

2023年12月9日には、EUがAIに関する包括的な法規制の暫定的な合意を得られたと発表しました。この法規制は、AIが人権を侵害しないような開発を義務付け、違反すると罰金が設けられるような仕組みとなっています。

さらに、欧州に続いて日本でもAI開発者への規制の流れが始まっています。

2024年2月16日、自民党が生成AIの悪用といった現状を鑑み、生成AIに関する法規制を政府に促す方針であると報じられました。

具体的には、生成AIの利用や開発に関するルールを整備し、欧州と同様に違反者には罰則を設ける方針としています。つまり、AI開発者は開発時から生成AIによる偽情報拡散や権利侵害を防止することが義務付けられる方針といえます。

こうした動きは政府によるAIガバナンスによって、開発者のAIアライメントが求められている事例として理解することができるでしょう。

なぜAIアライメントの必要性が増しているのか

ここまで見てきた通り、AIアライメントはその必要性を増しています。そして、その大きな理由の一つとしては生成AIを中心とするAIの技術的な進化が挙げられます。

しかしながら、AIアライメントが必要性を増す理由は他にも存在します。ここからはその理由について解説します。

AIの民主化が進んだから

まずは、AIの民主化が進んだからといった理由が考えられます。

昨今、ChatGPTを始めとする生成AIの登場により、AIが身近な存在となりました。しかし、生成AIの登場前はAI自体が一部の技術者などに用いられる存在でした。つまり、現在の状況は昔に比べてAIの民主化が進んだ状態といえるでしょう。

ところが、AIが身近な存在になるということは、犯罪者など悪意を持った人もAIを簡単に使えるようになったことを意味します。災害時の偽画像拡散や詐欺メールの事例がそれにあたるでしょう。

さらに、急速な技術発展やサービス開発により、法規制などのAIガバナンスが追いついていないという状況も見られます。

そうした中で、そもそもAIを悪用されないように開発するといったAIアライメントの考え方が必要性を増しています。

今後、人工超知能（ASI）の出現が予想されるため

2つ目としては、今後人工超知能（以下：ASI）の出現が予想されるためという理由が挙げられます。

bioshok氏は、ASIとAIアライメントについて次のように語っています。

bioshok氏：ASIとは、全ての人間の知能を超える人工知能のことです。サム・アルトマン氏は、このASIが「2030年から2031年に出来上がるのではないか」と解釈できる発言をしていました。

したがって、10年以内に人類として初めて自分たちよりも賢い存在と対峙する可能性があるということです。そこでは、AIアライメントをあらかじめプログラムしておくことが重要なことは言うまでもないでしょう。

ただし、AIアライメントは重要ですが、先ほども触れたようにまだ日が浅い研究領域でもあるため、技術的に実現が追いつかなくなる可能性もあると考えています。

そこで、改めてAIガバナンスの重要性も高まってくるでしょう。AIガバナンスに関しては、実現が不透明な研究開発ではなく、人間が議論して決定していく枠組みであるため、実現への道のりは遠くないといえます。

つまりこれらのことから、国際社会だけでなく日本もAIの規制に対する議論を始めた背景には、AIアライメントとAIガバナンスの重要性がより高まっている状況が挙げられるでしょう。