【第4回】AIアクションプラン策定委員会レポート｜AIと人間のインターフェースが抱える問題とは

最終更新日： 2021年6月16日

AIアクションプラン策定委員会とは？
第4回AIアクションプラン策定委員会
健康・医療
生活・都市
AIサイエンス
まとめ

AIアクションプラン策定委員会とは？

現在、人工知能（AI）の技術開発は、米中を中心として世界的に積極的な研究開発投資が行われ、各国は最先端の技術力を得るべく進化を続けています。

日本もこうした時代の潮流に対応できるAI技術開発の体制構築が必要です。

また、米中と比べてビッグデータなどを通じたAI技術の利活用においても遅れを取っている感は否めません。

そこで、2021年1月よりNEDO（国立研究開発法人新エネルギー・産業技術総合開発機構）は、「人工知能（AI）技術分野における大局的な研究開発のアクションプラン策定及び事業抽出のための調査」を開始しました。

そして、本調査を推進するAIアクションプラン策定員会が、2月から開催されています。

AIアクションプラン策定委員会では、有識者による委員会を組成し、海外の事例や国内外の制度政策をふまえて明確なアクションプランを検討します。

委員会は2021年2月〜2021年6月の間で全6回、以下のような流れで行われます。

第1回	委員の所信（あいさつ）、2016年版の「次世代人工知能技術社会実装ビジョン」を振り返りながら自由討議
第2回〜第3回	具体的にどんな技術課題、社会課題について議論するべきかを決める
第4回〜第5回	2〜3回でまとめた議論すべき点（開発の方向性や社会課題など）についての、具体的なアクションプランを検討する
第6回	4〜5回で策定したアクションプランを承認する

また、委員会は、以下の委員で構成されます。

アクションプラン策定委員会　委員長
・中島秀之氏（札幌市立大学学長）
アクションプラン策定委員会　委員（以下五十音順）
・稲見昌彦氏（東京大学先端科学技術研究センター教授）
・牛久祥孝氏（株式会社Ridge-i 取締役 Chief Research Officer／オムロンサイニックエックス株式会社 Principal Investigator）
・川上登福氏（株式会社経営共創基盤共同経営者マネージングディレクター）
・松尾豊氏（東京大学教授）
・丸山宏氏（花王株式会社エグゼクティブフェロー／東京大学人工物工学研究センター特任教授／株式会社Preferred Networks PFNフェロー）
・村川正宏氏（産業技術総合研究所情報・人間工学領域人工知能研究センター　副研究センター長（兼務）人工知能研究戦略部　研究企画室長）

ASCII.jpとAINOWでは、国内のAIの利活用強化に向け、AIアクションプラン策定委員会のメディアパートナーとして発信を行なっていきます。

本記事では、4月27日に行われた第2回のAIアクションプラン策定委員会（人工知能技術分野における大局的な研究開発のアクションプラン策定及び事業抽出のための調査）での議論を紹介していきます。ASCII.jpとAINOWでは、国内のAIの利活用強化に向け、AIアクションプラン策定委員会のメディアパートナーとして発信を行なっていきます。

本委員会に参加した有識者による「人工知能（AI）技術分野における大局的な研究開発のアクションプラン・シンポジウム」が6月15日（火）に開催されます。

シンポジウムの申込詳細はこちら

第4回AIアクションプラン策定委員会

AIアクションプラン策定委員会では、2021年2月に公益財団法人未来工学研究所が調査した「国・機関が実施している科学技術による将来予測に関する調査」をベースに、20個の将来の社会的事象をリストアップし、それをもとに議論を進めていきます。

社会事象の部分には、それぞれ関連性の高いAI技術的キーワードを並べています。

第4回AIアクションプランでは、第2・3回で議論された、実装すべきAI要素技術・技術的な目標・実装される社会事象をもとに、具体的なアクションプランを検討しました。

この記事では、第4回AIアクションプランで議論された中でも特にポイントとなった話題を3つ紹介していきます。

健康・医療

今回最も大きな議論となったのが、「健康・医療」関係の話題です。

AIと人間のインターフェースに関係する話や倫理的な問題など、以下3つの話題を中心に議論が交わされました。

1つ目は、第2回から継続している「医師に代わってAIが診断する。AIが小さい主治医、人間が大きい主治医になる」という社会事象についての話題です。

これに関して委員から、

医師に変わってAIが診断するのではなく、医師とAIが協働で診断する形で話を進めるべき。また、協働診断するとき、AIが人間に説明（根拠を示す）する必要があるが、それは自然言語だけでなく、図やグラフなどでもできると思う。

という意見が出ました。

例えば、患者の治療法をどうするか具体的に決めるとき、「人間がAIの意見を含めて判断するようになる」といったことです。

これを実現するには、AIが小さい主治医として患者を常に診るということが前提にあります。このとき主治医は、患者の背景知識（過去にかかった病気や患者の体質など）を把握しなければなりません。

そのため、小さい主治医のAIには、患者の過去の経緯をデータとして与える必要が出てきます。

仮にそうなった場合は、患者の背景データをどのように取得するか、という部分も検討しなければなりません。

2つ目は、「人間が病気になった後の話（メディテック的）でなく、健康な状態の維持の話（ヘルステック）も入れたほうが良いのではないか」という話題です。

委員からは、

健康維持のためには食生活と運動、フードテック/スポーツテック的なことについても議論を交わしたほうが良いのではないか。

一体的なサービスとして安心安全で美味しいものを食べたい人に届けるために、情報技術を使う新興企業も出てきている。

スポーツについては言わずもがなであり、そういった健康状態を維持する議論が必要になる。

という意見が出ました。

例えば、身体検査の結果をすべてAIに学習させれば、「この数値の人が何年後にこの病気にかかる確率が◯％ある」といったことが分かる可能性があります。

これは、データさえ揃えば実現できそうですが、国内では個人情報保護法もあり、実現は容易ではありません。

身体検査のようなデータは自治体から外に出せないため、全国からデータを集めることは困難であり、そのようなデータ分断の解決も重要な課題だと言えます。

現在、AIが知能を統合できるようなフェデレーテッドラーニング（連合学習）が研究されていますが、それを医療に応用することも含めて研究を進める必要があるでしょう。

自治体の中では統計データにして、それを外部へ共有すればプライバシーは守れます。

研究が進めば、いずれ各都道府県にフェデレーテッドラーニング用のAIを別において、裏で知能同士が繋がっているような状態にできるかもしれません。

※フェデレーテッドラーニング(連合学習)：機械学習の手法の一種で、データをまとめた状態ではなく分散した状態で処理するアプローチ。すべての情報を集めて処理する方法とは異なり、プライバシー問題を解決する手法として注目を浴びている。

参照記事：機械学習の訓練を「分割」、MITメディアラボがプライバシー保護で新手法

3つ目の話題は、「シンボルグラウンディング問題」についてです。

これに関して委員からは、

画像の特徴量と言語を結び付けるのは可能だが、センサー・アクチュエーター複合体の特徴量が取り出せていないことが問題だ。

やり方がわからないわけではないが、まだ解決されていない。センサー・アクチュエーター複合体の特徴量は、ロボット研究においても重要なので政府研究開発プロジェクトとしてやったほうが良いと思う。

例えば、スキップするロボットを今は作れない。アクチュエーターの出力問題はさておき、そういった単純というか、基本的な動作すら未だにできていない。

結局のところ、センサー・アクチュエーター複合体の特徴量が取り出せていないからだ。

という意見が出ました。

これに対して「強化学習でスキップできるロボットは作れないか?」という質問があり、続けて以下のような意見が述べられました。

強化学習の場合、報酬関数を設定する必要がある。つまりスキップの状態と近いかどうかの判定が必要だ。

そもそもスキップの状態の概念が獲得されていないと学習できない。そのため、結局センサー・アクチュエーターの特徴量を使うことになる。

それによって報酬関数も定義され、それに合わせてアクションが階層化していく感じになる。

シンボルグラウンディング問題は、フレーム問題（第2回委員会記事参照）と同じくAIの難問です。これを解決できれば、言葉の意味をAIが理解できるようなるということも期待できる重要な研究となり得ます。

生活・都市

生活と都市の項目では、「人間の知覚にないモダリティーを扱う研究」についての議論がポイントになりました。

委員からは、

画像に限らないマルチモーダルなセンシングをどう統合的に扱っていくかが重要。

例えば、電磁波には波長についても情報量は莫大、そこで人間が知覚できるのはごく一部。

という意見が出ました。

構造物の破壊や亀裂を分析するために、周波数の高い電磁波が予兆検知にも用いられています。

高い周波数の扱いは困難ですが、エッジ側の処理能力が高くなればきちんと扱えるようになるかもしれません。ただ、これもごく一部の話で、さまざまなマルチモーダルなセンサーが出てくるでしょう。

ほかにも、過去の地震をデータ化すれば地殻内の情報が分かり、地震の予知などにも活用できる可能性があります。

さらに、周波数に関しては、委員から以下のような意見があった。

医療機器（MRIなど）は、最終的に人間が見やすくなるよう、立体構造に復元しているが、きっとそれ以上の情報をセンシングしているはず。

そこを落とさないようにすれば、より多くの情報が出るかもしれない。

人間の五感に沿ってやるのは前提としてあるが、解析手段が進歩してその部分を取っ払えば、違うものが見えてくる可能性がある。

電磁波はスペクトラムが大きいため、それをすべて解析することで都市において何が起きているのか分かるかもしれません。

AIサイエンス

AIサイエンスの項目では、サイエンス(科学)にAIが加わることによって発生する新しい可能性についての話が進みました。

まずは「人間のモダリティーを外したときに何ができるのか？」という話題について、委員から

我々が認知・知覚できていないものがどれくらいあるか数え上げられるような手法があれば素晴らしい。それは、ある種のフレーム問題でもある。

また『何のためのサイエンスか』ということで言うと、『ガンを治したい』、『感染病や地震を予知したい』など、一段高いゴールを持っていないとAIもプランニングできない。

つまり一段上の階層は、結果的にサイエンスを何に使いたいかという人間の意志が反映される。

という意見が出ました。

サイエンスに限ったことではありませんが、最終的に「人間の欲求・理想とは何か」を解明することが、今後開発されるAIにとって重要になるかもしれません。

次に「AIがより知的になった場合、AIのやっていることをどうやって人間に説明するか」という議論に入りました。

これに関しては、「説明されなくても良いのではないか」という意見も出ました。

例えば、現在多くの人がスマートフォンや自動車の仕組みを理解していないにも関わらず、機器そのものを信頼しています。

現段階は初期なので、AIに説明されないと嫌な感じがする方もいるでしょうが、AIもスマホや自動車と同じように、将来は説明や仕組みの理解なしに浸透していくかもしれません。

この点に対し別の委員から、

今は説明の定義がされていない。

例えば、説明は受け取る人が納得するかに依存するのではないか、という考え方もできる。まずはそこの研究から始めるべきではないだろうか。

例えば、医者は患者から説明を求められるとそれに対応するが、これを利用して、医者の説明のデータを集めたら、『説明とは何か』が見えてくるかもしれない。

一方で、医者から言われたら患者が納得できるといった話もある。例えば『37.5℃で熱があるのはなぜか？』など、何となく社会的通念が獲得されるとそれ以上は説明不要になってくるのではないか。

という意見が述べられました。