HOME/ AINOW編集部 /AIと倫理~基本のおさらいと争点まとめ~
2020.02.20

AIと倫理~基本のおさらいと争点まとめ~

AI技術に注目が集まり、多くの産業の構造が一変しようとしています。これからAIの必要性はますます増え、AIなしには生活できない社会に近づいていくでしょう。

AIが自律的に動き、社会の中で多くの役割を果たす時代、AIとどのように向き合っていくのか、私たち一人ひとりが考えなければなりません。

AIの活用が進めば、多くの問題も生じてきます。特にAIと倫理について、多くの人が議論を行い、AIに適した社会づくりをソフト面から推し進めていく必要があります。

この記事では、「AIと倫理」に焦点を当て、これからのAIのあり方について考えていきたいと思います。

※この記事におけるAIは、ディープラーニングなどの技術を指しています。

そもそも倫理ってなに?

倫理とは、簡単に言うと「社会生活を送る上での一般的な決まり事」「社会で行為をする際に善悪を判断する根拠」のことを指します。

例えば、道を歩いているときに道端で倒れている人を見つけるとします。その場にはあなたしかいません。倒れている人を放置して通り過ぎれば、後ろめたさを感じることでしょう。これは「倫理的に悪い」とあなたが判断しているからです。

なぜAIが倫理的に問題になっているのか

ディープラーニングなどのAI技術は、膨大なデータを学習することで、画像認識や音声認識、テキスト認識などの領域で飛躍的な進歩をもたらしました。

▼ディープラーニングについて詳しくはこちら

状況を判断できる自律的なシステムを搭載していると、それなりの問題が生じてきます。

それは、特に自動車やロボットに組み込まれた際に起こります。その理由は、AIを組み込んだハードウェアが現実世界で自律的に行動することで、事故を起こすなどの問題が生じ、その際の責任の所在が明確にならないからです。

責任の所在とは、人間でもしばしば物議をかもす非常に難しい問題であります。この問題を問う例としてトロッコ問題が有名です。

トロッコ問題とは!?

トロッコ問題とはイギリスの哲学者であるフィリッパ・フットが提唱した「ある人を助けるために他の人を犠牲にするのは許されるか」という問いです。具体的には以下のような問いです。

線路を走っていたトロッコの制御が不能になりました。このままでは前方で作業中だった5人が猛スピードのトロッコに避ける間もなく轢き(ひき)殺されてしまいます。A氏はこのトロッコの進路を別路線に切り替えることができますが、すると1人が犠牲になります。A氏はどちらの路線にトロッコを走らせるべきなのでしょうか。

ここでの選択権を握る存在を自動運転車にしてみましょう。

直進すれば事故で投げ出されてきた人間5人を轢くことになり、別路線に行けば対向車とぶつかり運転手は命を落とします。また、逆にハンドルをきればそこは崖で自分が死ぬことになります。

私たちは自動運転車をどのような選択をするように設計すべきなのでしょうか。

AIの倫理における現在の問題

AIに選択を任せた場合、倫理的な問題が発生してきます。例えば以下のようなものがあります。

その1 理由を説明できない

就活生エントリーシートをAIに判断させ、合否をきめた企業があるとします。しかし、AIがなぜその決定をしたのかを人間が知ることが出来ない可能性があります。これはAIの「ブラックボックス問題」として課題視されています。

就活生がなぜ不採用になったのか尋ねてきても「AIがそう判断したから」としか説明できないという問題になりかねません。

その2 責任の所在を明確にできない

AIがコントロールする自動車がハンドルを切り、間違って人を轢いてしまったとします。この責任はどこにあるでしょうか。AIを設計した人、部品を作った人、部品を組立てた人。事故の原因が明確でなければ責任の取りようがありません。

その3 どこまでAIに任せるのか

介護施設に簡単なコミュニケーションを行えるロボットが実験的に導入されています。このようなロボットが人間のようにコミュニケーションを行えるようになったとします。ここで、介護施設の入居者の相手を、ロボットにすべて行わせるのは高齢者が人間の温かさに触れられず、孤独になってしまわないかという疑問が残ります。

日々、倫理を感覚で実践している私たちですら、それを具体化するのは困難を伴うのです。そのため、AIに倫理を実装するのはより一層困難を伴うのです。

AIに関わる原則

一方で、AIの振る舞いや、設計方法をルールとして定義しようとする取り組みも多く行われており、AIやロボットの研究において、いくつかの原則が発表されています。

AIに関わる原則として、有名なものではアメリカのSF作家のアイザック・アシモフの「ロボット工学三原則」が挙げられます。それは以下のようなものです。

(第一条)

ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

(第二条)

ロボットは人間にあたえられた命令に服従しなければならない。ただし、与えられた命令が、第一条に反する場合は、この限りでない。

(第三条)

ロボットは、第一条および第二条に反するおそれのないかぎり、自己を守らなければならない。

アイザック・アシモフのロボット工学の三原則【Isaac Asimov’s three laws of robotics】

AIがロボットに実装され、まるで人間のようにロボットが振る舞えるようになる時代、このロボット工学三原則を見れば、あくまでも人間の安全が最優先で、人間を中心とした設計が求められていることがわかります。

また、2019年3月29日に日本政府(統合イノベーション戦略推進会議)は、「人間中心の AI 社会原則」を発表し、その中で、社会全体が意識すべき「AI社会原則」とAIの開発者が意識すべき「AI開発利用原則」の2つを示しています。

特に、「AI社会原則」は、適切で積極的なAIの社会実装を推進するために考えられたもので、AIを開発・提供する会社だけでなく、社会を構成する私たち一人ひとりが、理解し、場合によっては議論を行ってアップデートしていく必要があるでしょう。

AI社会原則(カッコ内は編集部注)

(1)人間中心の原則(AIは人間の基本的人権を侵さない)

(2)教育・リテラシーの原則(AIを扱う全ての人に対する教育の充実)

(3)プライバシー確保の原則(個人情報の慎重な管理)

(4)セキュリティ確保の原則(AIのセキュリティ確保)

(5)公正競争確保の原則(公正な競争環境の維持)

(6)公平性、説明責任及び透明性の原則(企業に決定過程の説明責任)

(7)イノベーションの原則(国境を越えたデータ利用の環境整備)

人間中心のAI社会原則について、詳しくはこちら

人工知能学会は倫理委員会を設置し、AIの倫理を議論

また、AI・人工知能の研究者が集まる人工知能学会は、倫理委員会を設置し、AIの倫理について積極的に啓発活動をしています。

同委員会は2017年2月28日に「人工知能学会 倫理指針」を発表しました。倫理指針では以下のことが掲げられています。

  1. 人類への貢献
  2. 法規制の遵守
  3. 他者のプライバシーの尊重
  4. 公正性
  5. 安全性
  6. 誠実な振る舞い
  7. 社会に対する責任
  8. 社会との対話と自己研鑽
  9. 人工知能への倫理遵守の要請

2019年12月10日に同委員会が発表した「機械学習と公平性に関する声明」では、次の2点が重要だと述べられています。

  1. 機械学習は道具にすぎず人間の意思決定を補助するものであること
  2. 私たちは、公平性に寄与できる機械学習を研究し、社会に貢献できるよう取り組んでいること
    (引用:人工知能倫理委員会 http://ai-elsi.org/archives/888

人間中心のAI

人間中心のAIにあるべき性質の論点としていくつかの議題が挙がっています。1つ目は「公平さ」、2つ目は「説明可能性」、3つ目は「透明性」、4つ目は「攻撃や悪意への耐性」、最後に「仕事を奪わない」ことです。

1つ目の「公平さ」とは、機械学習で学習データに偏りがあった際に人種やジェンダーによって偏った判断を下さないために必要です。

2つ目と3つ目の「説明可能性」と「透明性」は何か問題が起きたときに「原因解明」や「責任判断」を下すために必要です。

4つ目の「攻撃や悪意への耐性」はデータの改ざんや誤認識の誘発に対してAIは絶えられる必要があるということです。

最後の「仕事を奪わない」は人間の仕事を奪わないということですが、仕事を代替するためにAIはつくられたという面もあるため、この議論はあまり広がっていません。

まとめ

AIが私たちの生活に介入してくるとさまざまな問題が起こります。全てをロボットに任せてしまうと責任の所在が不透明になることから、全てをAIに任せる未来は今のところ到来する可能性は低いとみてよいのではないのでしょうか。

AIが倫理的に振る舞えるようになったとしても、人間の温かさがないなどの課題が残るのかもしれません。私たち人間は、どこまでも人間の温かさ、人間味を求め続けるのかもしれません。

無料メールマガジン登録

週1回、注目のAIニュースやイベント情報を
編集部がピックアップしてお届けしています。

こちらの規約にご同意のうえチェックしてください。

規約に同意する

あなたにおすすめの記事

日本初!AIを活用したドッグシッターのサブスクサービス『Furbo ドッグシッター』が開始

先週のAI関連人気ツイートTOP20!【2020/07/06更新】

オープンハウスが物件チラシ全自動作成システムを開発 ー年約3700時間の工数削減

PFNが教育事業を開始、やるきスイッチと提携 -第1弾は小学生向けプログラミング教材

社会人2,000人に調査、51%が「自分の職業はAIに淘汰されない」と回答、「AIを味方」だと捉える人も46%

「今機械学習に必要なのはデータマネジメント」5つの秘訣を実例つきで紹介

688台のAIカメラが導入!関東初のスマートストアが千葉にオープン

「差別を植え付けるデータ」MITが大規模データセットを削除 -問われるデータの公平性

振り込め詐欺をエッジAIで防止 -北洋銀行が実証実験

CEATECと日経新聞主催のAIや交通技術がテーマのイベントが連携し、一大イベントが10月に開催!