最終更新日： 2022年10月25日

あたかも人が実際に動いたり話したりしている架空の動画をAIで作れるようになっています。

例えば、先日 Facebook社の共同創業者兼会長兼CEOのザッカーバーグ氏が話しているディープフェイク 動画がインスタグラムにアップロードされ話題を呼びました。

そのように、実際に人を使って撮影しなくてもその人を使った動画を気軽に作成できる技術がディープフェイク です。

ディープフェイク が発展すれば、ニュースや映画などあらゆる業界に改革を巻き起こすかもしれません。

そこで、今回はディープフェイク に関してご紹介していこうと思います。

ディープフェイク に関する翻訳記事はこちら▼

ディープフェイクとは

使われる技術はGAN

ディープフェイク に使われる画像はGAN（敵対的生成ネットワーク）です。

GANは生成モデルの一種で、「ジェネレーター（generator）」と「ディスクリミネーター（discriminator）」の2種類のAIを使って画像などの生成を行います。

ジェネレーターは偽物を作ろうとするAIで、ディスクリミネーターはこれをその偽物を見破るAIです。

その2つのAIが偽物を作っては、見破る過程を繰り返します。

はじめのうちは学習量が足りず、ディスクリミネーターは容易に偽物を見破ります。しかし、次第にジェネレーターの学習量が増えていくにしたがって偽物が巧妙になり、最後にはディスクリミネーターは偽物を見破るのが困難になります。

このようにして、GANでは生成物の精度を高めていきます。

ディープフェイク はそのようにGANで生成された動画です。

実在の有無に関わらず生成可能

ディープフェイク は実在する人物はもちろん、実在しない人でも生成することができます。

そのため、動画の分野においては非常に活用の幅が広いと言えます。

例えば、広告モデルとして適切な人物をディープフェイク を使って低コストで的確に生成できるようになるかもしれません。

ディープフェイクは悪用されることも

ディープフェイク動画はpcやスマートフォンを使って誰でも簡単に作ることができます。それ故、悪質なディープフェイク動画がたくさん作られており、問題視されています。

これは、ディープフェイクの技術そのものが悪いということではありません。

ディープフェイクは、対象となる人物が実際には行っていない行動や発言の存在を偽装するために使われることがあるというだけのことです。

そのため、悪意を持った人がディープフェイクを利用すれば、実際には芸能人や有名人が出演していないアダルトビデオを作成することも可能です。

また、政府関係者や政治・経済に影響力のある人物のディープフェイクが作られた場合、騙されたメディアがフェイクニュースとして拡散し、政情不安や外交問題に発展する可能性もあります。

ディープフェイクの犯罪性と違法性

ディープフェイクに関連して、最初の逮捕者が出ました。

警視庁の発表によると、容疑者はセクシー女優の顔を女性タレントの顔に置き換えた動画を有料サイトで公開しました。報道によると、逮捕時の容疑は以下の2つです。

1. 名誉毀損罪
2. 著作権侵害
3. プライバシー侵害・肖像権侵害
4. 法律が技術の発展に追いついていない

名誉毀損罪

このケースでは、動画がTwitterや有料動画サイトに投稿され、不特定または多数の人が見ることができます。

その結果、被害者である女性タレントがアダルトビデオに出演しているとの印象を不特定多数の視聴者に与え、名誉を毀損したと判断されました。

著作権侵害

また、アダルトビデオの著作権は、それを制作したアダルトビデオ制作会社に帰属しています。

著作権の一つとして、「著作物同一性保持権」という権利があり、これは、著作権者の意思に反して勝手に著作物を改変されない権利です。

今回のケースでは、アダルトビデオの制作会社に無断で内容を改変したため、制作会社の同一性保持権を侵害されたと言えます。

プライバシー侵害・肖像権侵害

ディープフェイクは、他人の顔を無断で動画利用するものであり、通常は肖像権の侵害該当します。

また、プライバシー権侵害は、端的に表すと、「ある個人のプライベートな事柄（それが真実か否かは問わない）を無断で公開することが違法」という構造であり、ある個人の性的な事象を公開することは、それが偽造されたものであれ、通常はプライバシー侵害に該当します。

法律が技術の発展に追いついていない

しかし、すべてのディープフェイクが名誉毀損や著作権侵害で犯罪になるわけではありません。

基本的に現行法では、AI技術の進歩により高度なディープフェイク動画が作れるようになることは想定していません。

そのため、現行法では犯罪として刑事責任を問えないものもあります。

今回の逮捕に至った動画のように、不特定または多数の人が視聴できるようにし、合成された動画が一般的に著名人のイメージを低下させるような内容であれば、名誉毀損に問われる可能性があります。

このため、現時点では、多くの芸能人が被害に遭った場合、名誉毀損罪が成立すると主張する可能性が高いでしょう。

ディープフェイク の事例5選

オバマ元大統領のスピーチ動画

2018年４月にオバマ元大統領の架空のスピーチ動画がFacebookに投稿されました。

動画はアメリカのニュースメディア「BuzFeed」と映画監督ジョーダン・ヒールによるものでした。

動画内で、オバマ元大統領はトランプ政権に対して、痛烈に批判しています。

デビッド・ベッカムのマラリア対策推進動画

RG/A、Ridley Scott Associates、Synthesiaが、NPO法人Malaria No Moreのために共同で作成したマラリア対策推進動画です。

すでにこのキャンペーンは世界で4億インプレッションを超えており大きな反響を読んでいます。

このように、有名人×ディープフェイク の活用の幅を広げることで、社会に影響を与えるキャンペーン動画を作成することができます。

イーロン・マスクの幼少期動画

アメリカの実業家イーロン・マスク氏を現在の年齢から幼少期の顔を予測して作ったフェイクビデオです。

まだまだ不気味さが残る映像ですが、かなりリアルに再現されています。

精度が向上すれば、大人の写真しか残っていない歴史上の人物などの幼少期を再現できるかもしれません。

架空の人物の全身動画を生成！データグリッド

大量の全身モデル画像の学習データから、架空の全身モデル画像を高解像度・高品質で生成できます。

広告やアパレルECのバーチャルモデルとしての活用が想定しています。

今後も全身モデル自動生成AIの更なる精度向上及び動作生成AIの研究開発を行っていくそうです。

 

素人の絵でもAIがリアルに！NvidiaのGAU GAN

初心者が描いた絵でもリアリティのある風景画像に変換してくれるディープフェイク です。

落書きのような線であっても、プロのような仕上がりになるのは驚きです。

今までプロに任せていた風景画像の作成が、これからは誰にでもできるようになるのかもしれません。

ディープフェイクの有益な活用方法

最近ディープフェイクは、悪用されたことがニュースで頻繁に報道されてるせいか、悪い印象がついてしまっているかと思います。

しかし、実際、ディープフェイクは、正しい使い方をすれば非常に有益な技術です。

例えば、映画を作る際に、ディープフェイクを使えばより、精巧な動画が作れます。

他にも、美空ひばりさんをあたかも、生き返ったかのように舞台上に登場させた演出が話題になりました。

このように、亡くなった故人を生き返らせるような演出も、ディープフェイクの技術は可能にします。

ディープフェイクの技術は、今までできなかった悪行と同時に、今までできなかった有益な活用方法もあります。

ディープフェイクと共存するためには

最近は、ディープフェイクの画像を誰でも作れるようになりました。当然、現在は非常に精巧な物は専門家クラスの人にしか作れませんが、いずれできるようになるはずです。

そこで、私たちは、情報が本当か嘘かの取捨選択を可能にし、ディープフェイクと共存しなくてはなりません。

そのため、DARPA（米国国防高等研究計画局）は、ディープフェイクの検出のために多額の出資をしています。

他にも、twitterでは、ユーザーに注意書きを書かせる取り組みをし、Facebookは、1000万ドル超をかけて「Deepfake Detection Challenge」という、ディープフェイク検出技術の競技会を立ち上げ、現在、2000以上のチームが参加しています。

情報に高い価値をつける現代において、ディープフェイクの共存は、なしえなくてはならないことです。

まだ、課題はたくさんあるようですが、多くの会社が全力で取り組んでいます。近い将来ディープフェイクと共存できるかもしれません。

ディープフェイクの作り方

前述まで、ディープフェイクがどのようなものであるかを述べてきました。

そこで、ここでは、ディープフェイクの作成方法を紹介していきたいと思います。

ディープフェイクの作成は、GAN（Generative Adversarial Networks）という手法を用います。

GAN（Generative Adversarial Networks）は、偽物を作成し、それが偽物かを判断するネットワークです。

もう少し、細かく説明すると、GANは、GeneratorとDiscriminatorという2つのネットワーク構造からなっています。

Generatorは、本物に近いクオリティーをもった偽物を作ります。

Discriminatorは、Generatorで、作成された偽物を偽物であるか判別します。

この2つの工程を経て、限りなく本物に近いディープフェイクを作成します。

そのため、素人目で見ても、とうてい本物と偽物の区別がつかないディープフェイクになります。

ディープフェイク動画を作成するためのアプリ

ここで紹介するディープフェイク動画を作成するためのアプリは、以下4つです。

1. 自分の顔を映画スターに！「Zao」（スマホ用）
2. 他人の顔で動画を作れる！xpression（スマホ用）
3. Deepfakes Webベータ版（PC用）
4. FakeApp（PC用）

それぞれ解説していきます。

自分の顔を映画スターに！「Zao」（スマホ用）

Zaoは、顔写真1枚で簡単にディープフェイクを作成できるアプリです。

映画やテレビ番組の映像に任意の顔を当てはめた動画を作ることができることで人気を集め、中国向けiOS App Storeでは無料アプリ人気ランキング1位を獲得しました。

他人の顔で動画を作れる！xpression（スマホ用）

xpressionは、AIで動画に映っている人の顔と自分の顔をリアルタイムで入れ替えられるアプリです。

例えばYouTubeにある大統領のスピーチビデオを使用すれば、大統領になりきって自由にスピーチができ、かなりリアルなビデオを簡単に作成することができます。

Deepfakes Webベータ版（PC用）

Deepfakes web ベータ版は、顔の代わりとなる画像や動画をアップロードするだけで、簡単にディープフェイク動画を作成できるアプリです。

作成するにあたって、1時間あたり2ドルの費用がかかりますが、高い精度でディープフェイク動画を作成することができます。

また、PCのスペックに関係なく、高画質なディープフェイク動画を作成できるのも魅力です。

FakeApp（PC用）

FakeAppは、無料で利用できるPC用アプリケーションです。

日本語には対応していませんが、英語の解説動画が用意されているので、問題なく手順を理解することができます。

ディープフェイクの課題と今後

今回は、ディープフェイクの仕組みや作り方、悪用された場合の問題点などを紹介しました。

映像コンテンツ制作の可能性を広げる技術である一方で、悪用されると大きな問題に発展する危険性もあることがお分かりいただけたかと思います。

ディープフェイクを悪用されないためには、私たち一人ひとりがAIに関する知識を蓄え、適切な対策を講じることが重要です。

また、ディープフェイクで作られたコンテンツを安易に拡散させないという意識を個人が持つことも重要です。

AI技術が進化し続ける今だからこそ、悪質な犯罪から身を守り、AIを正しく活用するための対策をしてみてはいかがでしょうか。

▼関連記事

AIによってエロはどう変わる？テクノロジーと共に進化するアダルト業界

▼YouTubeでもこの記事について解説中！