HOME/ AINOW編集部 /AIで架空の人物を生成!ディープフェイクとは?
2019.11.19

AIで架空の人物を生成!ディープフェイクとは?

最終更新日:

あたかも人が実際に動いたり話したりしている架空の動画をAIで作れるようになっています。

例えば、先日 Facebook社の共同創業者兼会長兼CEOのザッカーバーグ氏が話しているディープフェイク 動画がインスタグラムにアップロードされ話題を呼びました。

そのように、実際に人を使って撮影しなくてもその人を使った動画を気軽に作成できる技術がディープフェイク です。

ディープフェイク が発展すれば、ニュースや映画などあらゆる業界に改革を巻き起こすかもしれません。

そこで、今回はディープフェイク に関してご紹介していこうと思います。

ディープフェイク に関する翻訳記事はこちら▼

ディープフェイクとは

使われる技術はGAN

AINOW編集部が作成

ディープフェイク に使われる画像はGAN(敵対的生成ネットワーク)です。

GANは生成モデルの一種で、「ジェネレーター(generator)」と「ディスクリミネーター(discriminator)」の2種類のAIを使って画像などの生成を行います。

ジェネレーターは偽物を作ろうとするAIで、ディスクリミネーターはこれをその偽物を見破るAIです。

その2つのAIが偽物を作っては、見破る過程を繰り返します。

はじめのうちは学習量が足りず、ディスクリミネーターは容易に偽物を見破ります。しかし、次第にジェネレーターの学習量が増えていくにしたがって偽物が巧妙になり、最後にはディスクリミネーターは偽物を見破るのが困難になります。

このようにして、GANでは生成物の精度を高めていきます。

ディープフェイク はそのようにGANで生成された動画です。

実在の有無に関わらず生成可能

ディープフェイク は実在する人物はもちろん、実在しない人でも生成することができます。

そのため、動画の分野においては非常に活用の幅が広いと言えます。

例えば、広告モデルとして適切な人物をディープフェイク を使って低コストで的確に生成できるようになるかもしれません。

ディープフェイク の事例5選

オバマ元大統領のスピーチ動画

引用:https://nme-jp.com/news/11407/

2018年4月にオバマ元大統領の架空のスピーチ動画がFacebookに投稿されました。

動画はアメリカのニュースメディア「BuzFeed」と映画監督ジョーダン・ヒールによるものでした。

動画内で、オバマ元大統領はトランプ政権に対して、痛烈に批判しています。

デビッド・ベッカムのマラリア対策推進動画

引用:https://jp.techcrunch.com/2019/04/26/2019-04-25-the-startup-behind-that-deep-fake-david-beckham-video-just-raised-3m/

RG/A、Ridley Scott Associates、Synthesiaが、NPO法人Malaria No Moreのために共同で作成したマラリア対策推進動画です。

すでにこのキャンペーンは世界で4億インプレッションを超えており大きな反響を読んでいます。

このように、有名人×ディープフェイク の活用の幅を広げることで、社会に影響を与えるキャンペーン動画を作成することができます。

イーロン・マスクの幼少期動画

引用:https://www.gizmodo.jp/2019/05/deep-musk-baby.html

アメリカの実業家イーロン・マスク氏を現在の年齢から幼少期の顔を予測して作ったフェイクビデオです。

まだまだ不気味さが残る映像ですが、かなりリアルに再現されています。

精度が向上すれば、大人の写真しか残っていない歴史上の人物などの幼少期を再現できるかもしれません。

架空の人物の全身動画を生成!データグリッド

引用:https://datagrid.co.jp/

大量の全身モデル画像の学習データから、架空の全身モデル画像を高解像度・高品質で生成できます。

広告やアパレルECのバーチャルモデルとしての活用が想定しています。

今後も全身モデル自動生成AIの更なる精度向上及び動作生成AIの研究開発を行っていくそうです。

 

素人の絵でもAIがリアルに!NvidiaのGAU GAN

引用:https://www.nvidia.com/en-us/research/ai-playground/

初心者が描いた絵でもリアリティのある風景画像に変換してくれるディープフェイク です。

落書きのような線であっても、プロのような仕上がりになるのは驚きです。

今までプロに任せていた風景画像の作成が、これからは誰にでもできるようになるのかもしれません。

ディープフェイク動画を作成するためのアプリ

ここで紹介するディープフェイク動画を作成するためのアプリは、以下4つです。

 

  1. 自分の顔を映画スターに!「Zao」(スマホ用)
  2. 他人の顔で動画を作れる!xpression(スマホ用)
  3. Deepfakes Webベータ版(PC用)
  4. FakeApp(PC用)

 

それぞれ解説していきます。

自分の顔を映画スターに!「Zao」(スマホ用)

引用:https://apps.apple.com/cn/app/zao/id1465199127l

Zaoは、顔写真1枚で簡単にディープフェイクを作成できるアプリです。

映画やテレビ番組の映像に任意の顔を当てはめた動画を作ることができることで人気を集め、中国向けiOS App Storeでは無料アプリ人気ランキング1位を獲得しました。

他人の顔で動画を作れる!xpression(スマホ用)

xpressionは、AIで動画に映っている人の顔と自分の顔をリアルタイムで入れ替えられるアプリです。

例えばYouTubeにある大統領のスピーチビデオを使用すれば、大統領になりきって自由にスピーチができ、かなりリアルなビデオを簡単に作成することができます。

Deepfakes Webベータ版(PC用)

Deepfakes

引用:https://deepfakesweb.com/

Deepfakes web ベータ版は、顔の代わりとなる画像や動画をアップロードするだけで、簡単にディープフェイク動画を作成できるアプリです。

作成するにあたって、1時間あたり2ドルの費用がかかりますが、高い精度でディープフェイク動画を作成することができます。

また、PCのスペックに関係なく、高画質なディープフェイク動画を作成できるのも魅力です。

FakeApp(PC用)

引用:https://fakeapp.jp.malavida.com/windows/#gref

FakeAppは、無料で利用できるPC用アプリケーションです。

日本語には対応していませんが、英語の解説動画が用意されているので、問題なく手順を理解することができます。

ディープフェイクは悪用されることも

ディープフェイク動画はpcやスマートフォンを使って誰でも簡単に作ることができます。それ故、悪質なディープフェイク動画がたくさん作られており、問題視されています。

これは、ディープフェイクの技術そのものが悪いということではありません。

ディープフェイクは、対象となる人物が実際には行っていない行動や発言の存在を偽装するために使われることがあるというだけのことです。

そのため、悪意を持った人がディープフェイクを利用すれば、実際には芸能人や有名人が出演していないアダルトビデオを作成することも可能です。

また、政府関係者や政治・経済に影響力のある人物のディープフェイクが作られた場合、騙されたメディアがフェイクニュースとして拡散し、政情不安や外交問題に発展する可能性もあります。

ディープフェイクの犯罪性と違法性

ディープフェイクに関連して、最初の逮捕者が出ました。

警視庁の発表によると、容疑者はセクシー女優の顔を女性タレントの顔に置き換えた動画を有料サイトで公開しました。報道によると、逮捕時の容疑は以下の2つです。

 

  1. 名誉毀損罪
  2. 著作権侵害
  3. プライバシー侵害・肖像権侵害
  4. 法律が技術の発展に追いついていない

 

名誉毀損罪

このケースでは、動画がTwitterや有料動画サイトに投稿され、不特定または多数の人が見ることができます。

その結果、被害者である女性タレントがアダルトビデオに出演しているとの印象を不特定多数の視聴者に与え、名誉を毀損したと判断されました。

著作権侵害

また、アダルトビデオの著作権は、それを制作したアダルトビデオ制作会社に帰属しています。

著作権の一つとして、「著作物同一性保持権」という権利があり、これは、著作権者の意思に反して勝手に著作物を改変されない権利です。

今回のケースでは、アダルトビデオの制作会社に無断で内容を改変したため、制作会社の同一性保持権を侵害されたと言えます。

プライバシー侵害・肖像権侵害

ディープフェイクは、他人の顔を無断で動画利用するものであり、通常は肖像権の侵害該当します。

また、プライバシー権侵害は、端的に表すと、「ある個人のプライベートな事柄(それが真実か否かは問わない)を無断で公開することが違法」という構造であり、ある個人の性的な事象を公開することは、それが偽造されたものであれ、通常はプライバシー侵害に該当します。

法律が技術の発展に追いついていない

しかし、すべてのディープフェイクが名誉毀損や著作権侵害で犯罪になるわけではありません。

基本的に現行法では、AI技術の進歩により高度なディープフェイク動画が作れるようになることは想定していません。

そのため、現行法では犯罪として刑事責任を問えないものもあります。

今回の逮捕に至った動画のように、不特定または多数の人が視聴できるようにし、合成された動画が一般的に著名人のイメージを低下させるような内容であれば、名誉毀損に問われる可能性があります。

このため、現時点では、多くの芸能人が被害に遭った場合、名誉毀損罪が成立すると主張する可能性が高いでしょう。

ディープフェイクの課題と今後

今回は、ディープフェイクの仕組みや作り方、悪用された場合の問題点などを紹介しました。

映像コンテンツ制作の可能性を広げる技術である一方で、悪用されると大きな問題に発展する危険性もあることがお分かりいただけたかと思います。

ディープフェイクを悪用されないためには、私たち一人ひとりがAIに関する知識を蓄え、適切な対策を講じることが重要です。

また、ディープフェイクで作られたコンテンツを安易に拡散させないという意識を個人が持つことも重要です。

AI技術が進化し続ける今だからこそ、悪質な犯罪から身を守り、AIを正しく活用するための対策をしてみてはいかがでしょうか。

▼関連記事

AIによってエロはどう変わる?テクノロジーと共に進化するアダルト業界

▼YouTubeでもこの記事について解説中!


無料メールマガジン登録

週1回、注目のAIニュースやイベント情報を
編集部がピックアップしてお届けしています。

こちらの規約にご同意のうえチェックしてください。

規約に同意する

あなたにおすすめの記事

GPT-4は間もなく登場。それについて私たちが知っていること。

スマートチャネル時代の「ヒト」と「AI」のコミュニケーションとは|株式会社トゥモローネット

圧倒的なAI開発技術、領域横断のDXを促進する株式会社シナモンに迫る

機械学習で最も便利なマルチツール:埋め込み

【Microsoftリサーチ公式ブログ記事】強化学習を用いて医療におけるリスクの高い状態とその治療法を特定する

MLモデルをより早く本番稼動させる方法

あなたにおすすめの記事

GPT-4は間もなく登場。それについて私たちが知っていること。

スマートチャネル時代の「ヒト」と「AI」のコミュニケーションとは|株式会社トゥモローネット

圧倒的なAI開発技術、領域横断のDXを促進する株式会社シナモンに迫る

機械学習で最も便利なマルチツール:埋め込み

【Microsoftリサーチ公式ブログ記事】強化学習を用いて医療におけるリスクの高い状態とその治療法を特定する

MLモデルをより早く本番稼動させる方法