最終更新日： 2017年3月29日

こんにちは、かめきちです。

人工知能について、企業の取り組みを主に紹介してきましたが、新企画として大学のAI研究室紹介をスタート致します！

そこで、記念すべき初回は、慶應義塾大学SFC研究所に新設された「AI社会共創・ラボ」が「人と情報のエコシステム(HITE)」にプロジェクト採択されたとご連絡頂き、慶応のSFCへ取材に行ってきました。

お話をお伺いしたのは、慶應義塾大学 総合政策学部 新保教授。

新保先生の紹介

新保 史生／慶應義塾大学総合政策学部。『情報ネットワーク法学会ロボット法研究会主査』専門は、憲法、情報法。ネットワーク社会における法律問題を研究。

委員歴
・2016年9月
内閣官房情報通信技術（IT）総合戦略室 データ流通環境整備検討会AI、IoT時代におけるデータ活用ワーキンググループ
・2016年5月
内閣府 人工知能と人間社会に関する懇談会
・2016年3月 – 2018年3月
内閣府 総合科学技術・イノベーション会議専門員
・2016年1月
神奈川県「さがみロボット産業特区協議会」 ロボット共生社会推進検討会議座長
・2015年12月
ロボット革命イニシアティブ協議会 会員

人工知能と共にある社会の倫理・制度とは？

かめきち

さっそくですが、今回採択された「法・経済・経営とＡＩ・ロボット技術の対話による将来の社会制度の共創」プロジェクトですが、大きなプラットフォームの定義を決めるのでしょうか？

新保教授

プラットフォームの定義を策定するという点においてはそうですが、このプロジェクトでは、人間の判断を必要としないで動作する自律型のAIが対象になっています。

SF映画に出てくるようなロボット社会について、今から議論をしていくのかと思っていたのですが、少しづつシーンを切り分けて定義していくそうです。
このプロジェクトには、慶應ＳＦＣ研究所 ＡＩ社会共創ラボラトリ、全脳アーキテクチャイニシアチブ、ドワンゴ人工知能研究所など技術分野の専門家の方も参加しているので、より深い議論が繰り広げられますね。

かめきち

具体的にはどのようなアウトプットを策定されるですか？

新保教授

具体的なアウトプットとしては、ガイドラインの提示などを考えています。なぜなら、そこには法的な問題があるためです。たとえば、AIが創作した物の著作権はどうなるのか、これも重要な問題です。人間の判断を必要とせずAIが自律的に判断して作成した物に関しては著作権が発生しないためです。AIやロボットに対する昨今の期待や技術の向上を考慮すると、基本的なガイドラインがあることによって法的問題をクリアし、産業や技術がよい方向に発展していくのではないかと考えています。

新保教授

AIやロボットに対する昨今の期待や技術の向上を考慮すると、基本的なガイドラインがあることによって法的問題をクリアし、産業や技術がよい方向に発展していくのではないかと考えています。

現在、様々なAIやロボットが登場してきていますが、特に関するガイドラインはありません。かなり先の未来かと思っていましたが、自律するAIも技術的に可能なことが見えてきたので、本格的に検討しないといけないですね。

規制することが目的ではない、ロボット法の中身とは？

かめきち

新保先生といえば、ロボット法の立案を提言されていましたが、その背景を教えてください。

新保教授

たしかに、私はロボット法を提唱していますが、行政機関や民間企業、大学といった研究機関が参加せず、成立することはありませんでした。というのも、やはり法律というと、今ある、ないしは今後さらに発展していくであろう技術に対して何らかの制約をかける、といったイメージが蔓延していたのだと思います。

新保教授

ロボット法の検討が必要であるとの認識に至った背景にある考えは、AIといった技術が秘めている可能性を前もって制限しようというものではもちろんなく、今後や社会や世界に対して抜本的な影響力を持っているであろう現在予想することができない技術の活用をよい方向に持っていこうというものだったんです。

確かに、法は規制するイメージが強いですが、何か事故が起こってから法を作ると必要以上に制限されてしまう気がしますよね。
その為、先にガイドラインを示すことで、外からの情報をうまく統制でき、各社の目指すべき方向性も定まって、より高い技術が生まれるとのことです。。

かめきち

ロボット法の話だと、AIが１人を殺すか、全員を殺すのかというトロッコ問題の思考法がよく議題にあがりますが、これについてはどうお考えですか？

新保教授

トロッコ問題は、そうした事態が発生した場合に生じる倫理的側面を持つ問いであると理解していますが、私はそもそも、そうした事態が起こる前に必要な検討を徹底的に練り込んでおかなければならないと考えています。そうした意味において、どちらを選択するのかと考えることには意味がないと考えています。なぜなら、それに関してはAIも人間も決めることはできないし、正解が存在しないためです。

新保教授

たとえばいまはトロッコでしたが、車の自動運転に関して言えば、何が起こりうるのか、そのすべての事例を事前に予測して回避方法をプログラムすることは不可能です。自動運転のレベルでは、人間の運転が不要なレベル４といわれる段階では、行き先を人間が設定するだけでそこまで完全に自動運転が実現している場合、もちろん人間が運転という動作に介入する必要はないわけですが、事故が起こりうることも認識した上で自動運転の車を利用することや、自分が運転をしていない自動運転車で事故が発生した時には、運転者と同様に救護義務が発生するなどといった点を認識する必要があると思います。

言われてみれば、人間も同じ状況下ではAIと判断は変わらないのですよね。
責任の所在がAIにあるのか、人間になるのかということ。
最悪のケースを起こることを前に遡って定義することは普段からやっていますものね。

AIの内部セキュリティを固める必要性

かめきち

先生はセキュリティに関してもスペシャリストですが、自律的なロボットやAIが普及するとハッキングも起こりそうですね。
この部分については、どのようにお考えですか？

新保教授

たとえばアメリカのNHTSA（米国運輸省全国高速道路交通安全局）では、自動運転の技術利用に関してガイドラインが設けられています。そこでは当然、強固なセキュリティが必要になっています。そうした意味において日本はまだセキュリティに関してコンセンサスや実際の動きがないため、ここは喫緊の問題としてあると考えています。

確かに、セキュリティというと外からの防御は進んでいますが、入ってしまえば脆いですよね。AIの場合は全く別の方法で守りを固めて行かなかればなりません。

新保ゼミのORFにも参加してきました

数人でチームを作り、各自がテーマを持って調査・発表をしていました。
民法、労働基準法、刑事法、ロボット法などなど、実際の事例を基に法の定義・あり方について深い議論を展開していくそうですよ。

まとめ

研究室インタビュー募集中!!

AINOWでは、各大学の研究室をビジネス現場と繋いで、AIの技術促進、AIへの理解を深めていければと考えています。
インタビュー希望の方はコチラ

AINOW

AI/DX専門メディア「AINOW（エーアイナウ）」です。AI/DXのプロジェクトに関わる多くの方々に向けて有益な情報を発信し、国内のAI活用とDX推進を加速させていきます。
TwitterやFacebookでも活動の様子を発信しています！