HOME/ 注目のニュース /OpenAI、「超知能」制御に向けた専門チームを組織
2023.07.11

OpenAI、「超知能」制御に向けた専門チームを組織

最終更新日:

画像はOpenAIブログより

2023年7月5日、対話型AI「ChatGPT」を開発するOpenAIは、人間をはるかに超えた「超知能」のリスク管理に焦点を当てた新たな研究チーム「Superalignment」の設立を発表した。OpenAIの共同創設者であるIlya Sutskever氏、アラインメントのトップであるJan Leike氏の連名だ。

超知能が人間よりより賢いAIシステムを監視した場合、現時点では暴走を防ぐ確実な方法がない。この問題に対処するため、OpenAIは新たなガバナンス体制と超知能のアラインメント(調整)を解決するための技術開発に注力する。

Superalignmentチームの目標は、今後4年間で超知能のアラインメントにおける技術的課題を解決することだ。具体的な研究方針としては、スケーラブルな訓練方法の開発、モデルの検証、アラインメントパイプラインのストレステストなどが挙げられる。

また、OpenAIはこの目標に向け、計算リソースの20%を次の4年間でこの問題に投じると表明。チームの構成員については、既存の研究者やエンジニアのほかに、新たに機械学習の専門家を募集する予定という。これらの取り組みは、現在のモデルの安全性向上と並行して行われ、その結果は広く共有される。

OpenAIは5月、核兵器規制におけるIAEAのような国際機関が超知能のガバナンスにおいても必要とブログで表明している。

無料メールマガジン登録

週1回、注目のAIニュースやイベント情報を
編集部がピックアップしてお届けしています。

こちらの規約にご同意のうえチェックしてください。

規約に同意する

あなたにおすすめの記事

「生成AI基盤の最新トレンド ~AIをすべてのデータに~」が7月30日より開催

Generative AI Japan|産官学連携で世界に通用する競争力の獲得を目指す

生成AI時代の人材育成|海城中学高等学校物理部がAI班を作ったワケ

GPT-4oはクレイジーだ―思わず言葉を失うような(信じられない)6つの使用例を紹介

社内の生成AIにおける「回答精度の低さ」をどう克服する?|株式会社クレディセゾンCTOに訊く

博報堂DYグループの挑戦|Human-Centered AI Institute が問うAIと人間の新しい関係性

“現実と仮想の境界線を越えたエンターテイメントとは?” |川田のロンドン体験レポート

低コストで高性能なAIモデル・MoEモデル開発の舞台裏|カラクリCPO中山氏へインタビュー

あなたにおすすめの記事

「生成AI基盤の最新トレンド ~AIをすべてのデータに~」が7月30日より開催

Generative AI Japan|産官学連携で世界に通用する競争力の獲得を目指す

生成AI時代の人材育成|海城中学高等学校物理部がAI班を作ったワケ

GPT-4oはクレイジーだ―思わず言葉を失うような(信じられない)6つの使用例を紹介

社内の生成AIにおける「回答精度の低さ」をどう克服する?|株式会社クレディセゾンCTOに訊く

博報堂DYグループの挑戦|Human-Centered AI Institute が問うAIと人間の新しい関係性

“現実と仮想の境界線を越えたエンターテイメントとは?” |川田のロンドン体験レポート

低コストで高性能なAIモデル・MoEモデル開発の舞台裏|カラクリCPO中山氏へインタビュー