ディープフェイク(deepfake)とは？顔合成AI技術の動画実例と作成方法

最終更新日:2024/09/09

ディープフェイクとは？

急速にAI（人工知能）の技術が進化を遂げている昨今において、「何気なく使用したツールにAIが活用されていた」といったケースは決して少なくありません。それほど、AIは私たちにとって身近な存在となりつつあります。

もちろん、AI技術は私たちの生活をより便利なものにしてくれる存在ですが、最近ではAIが悪用されるケースも多くなってきています。その代表的な例として挙げられるのが「ディープフェイク」です。

本記事では、本物そっくりの顔を生成できる「ディープフェイク」の仕組みや悪用問題についてご紹介するとともに、有益な活用方法についても解説していきますので、ぜひ参考にしてみてください。

ディープラーニングについて詳しく知りたい方は以下の記事もご覧ください。
ディープラーニングとは？仕組みやできること、実用例をわかりやすく紹介

ディープフェイクとは

deepfake

ディープフェイクとは、ディープラーニング技術を活用して作成された合成メディアです。その人が実際に行っていない動作をしたり、実際口に出していないことを発言したりしているかのように描くことができます。

ディープフェイクの技術は年々⾼度化しており、もはや⼈間が眼で見て判別することは困難なレベルの高い画質の画像が⽣成できるようになりつつあります。

また、画像や動画だけでなく、⾳声をクローンする技術も進化しています。この高度な技術が世界的に広まりつつある今、ネット上でのいじめや名誉棄損、脅迫、詐欺などの犯罪行為など、既に大きな問題が多発しているのが現状です。

ディープフェイクには悪用のリスクもある

deepfake abuse

ディープフェイクは、もともと映画やテレビといった動画コンテンツの制作時に用いる加工技術として使われていました。しかし、近年ではディープフェイクが悪用されるケースも多くなってきています。

例1. 登場人物の顔のすり替え

オーストラリア出身の映像作家であるニコラス・ガーディナーは、実験的に製作した短編映画「Proxy」において、ドナルド・トランプの顔が中国の国家主席である習近平にすり替わるというテクニックを利用し、注目を集めました。

これはあくまでも作品内でのすり替えであるため特に問題はありませんでしたが、「ディープフェイクス（Deepfakes）」を名乗る正体不明のプログラマーが顔のすり替えを行えるソフトウェアを公開し、誰でも使用できるようにしてしまいました。これにより、さまざまなフェイク動画が世界中に拡散される事態となりました。

例2. 演説動画の加工

Facebookを運営するMetaは2022年3月16日（現地時間）にウクライナのゼレンスキー大統領に関するディープフェイク動画を発見し、「加工されたメディア」に関する規定違反で削除したと発表しました。

偽動画ではウクライナの兵士や市民に投降を呼びかけていますが、本人より頭部が大きく見え、本人より低い声で語りかけています。

米シンクタンク「アトランティック・カウンシル」によると、ハッカーがウクライナのウェブサイトに動画を投稿したと報じています。

「より価値のある動画コンテンツを制作する」という本来の目的でディープフェイクを活用する分には一切問題ありませんが、影響力のある人物の発言が捏造されることになれば、大きな問題を引き起こすことになります。

便利で魅力的な技術である反面、使い方を間違えれば大きな危険を生んでしまう可能性があることは、あらかじめ把握しておきましょう。

ディープフェイクの悪用防止に向けた動き

上述したようなディープフェイクの悪用を防止するために、国内外でさまざまな取り組みがなされています。

日本国内で進む研究

世界各国でディープフェイクを検出する技術の研究がされていますが、日本でも同様の研究が進んでいます。

東京大学大学院情報理工学系研究科の山崎俊彦准教授のチームによる研究では、新たなディープフェイク検出AIおよび、疑似フェイク画像の生成方法の新技術を開発・提案しています。

この技術は、生成した疑似フェイク画像をAIに学習させることで、ディープフェイクを検出するものです。2020年にMicrosoft社が発表した手法では、似通った特徴を持つ別人物の画像を合成してフェイク画像を生成していました。これに対し山崎准教授のチームでは、1枚の人物画像を微妙に変えた2枚の画像を合成し、ディープフェイクを作成する時に発生する不整合を低く抑えています。この手法で作られたフェイク画像をAIに学習させることで、わずかな偽造痕跡を見落とさず、より高い精度でディープフェイクを検出できます。

出典：ディープフェイクの検出で世界最高性能を達成～SBIsでディープフェイク動画の高精度判定を可能に～

次に、CREST FakeMediaが行っている研究を紹介します。同団体では、AIにより生成されたフェイクメディアがもたらす潜在的な脅威に適切に対処すると同時に、多様なコミュニケーションと意思決定を支援するソーシャル情報基盤技術を確立するとして、フェイクメディアの検出と無毒化に関する研修を行っています。フェイクメディアを大きく3つの型に分け、Security、Multimedia、Computational Social Scienceの領域からアプローチをかける取り組みがされています。フェイクメディアの検出・処理した上で通常のメディアとして活用することを目的とした本研究では、1,000人規模の行動実験による検証が行われると発表されています。

出典：研究概要｜インフォデミックを克服するソーシャル情報基盤技術

最後に紹介するのが、岡山大学大学院自然研究科の栗林稔准教授による研究です。本研究では、動画に対するフェイクコンテンツの識別がテーマに掲げられています。信号処理技術と機械学習を融合させて、ディープフェイクによって捏造された動画と正常に撮影された動画を見分けるシステムの実現を目指すといった趣旨の研究です。

出典：フェイクコンテンツの真贋判定技術〜AIによるウソ発見器〜

検知技術を競うコンテストの開催

2019年9月、Meta（Facebook）などが、ディープフェイクを検出する技術を競うコンテストとして「Deepfake Detection Challenge」を立ち上げました。これには100万ドルの賞金が用意され、8,000を超えるエントリーの末、2,000チーム以上が参加しました。

本コンテストでは、コンテスト用のディープフェイクでは検知率が80％を超えましたが、識別を困難にしたディープフェイクの検知率は65％程度に落ち込む結果となりました。しかしながら、ディープフェイクの存在とそれを検知することの大切さを、多くの人に広めた取り組みです。

出典：Deepfake Detection Challenge | Kaggle

Microsoftによる検知や学習への取り組み

Microsoftはディープフェイクを対処するために、2つのテクノロジーを発表しています。

ひとつ目が、メディアへの信頼度をスコアとして表示するMicrosoft Video Authenticatorです。ディープフェイクを生成する際に発生する、人の目には分からない色あせなど分析することにより、メディアが人工的に操作されているかを判断します。動画コンテンツの場合は、フレームごとにリアルタイムで信頼度が表示されます。

さらにこれに併せて、目に触れるメディアが本物であると保証するテクノロジーも発表されました。コンテンツの制作者はコンテンツにデジタルハッシュと証明書を追加することで、自身のコンテンツがディープフェイクではないことを証明します。それを見る視聴者もブラウザの拡張機能として使えるリーダーで証明書とハッシュを照合し、コンテンツの真偽を判断します。加えて、制作者の詳細情報を閲覧することも可能です。

出典：虚偽情報対策に向けた新たな取り組みについて

ディープフェイクの仕組み

これまで紹介したとおり、ディープフェイクは活用も悪用もできる高度な技術です。それでは、ディープフェイクはどのような仕組みで作られるのでしょうか。ここからは、ディープフェイク（画像生成）の代表的な手法であるGAN（敵対的生成ネットワーク）について詳しく解説します。

GAN（Generative Adversarial Networks）とは

GAN（Generative Adversarial Networks）は、GeneratorとDiscriminatorという2つのネットワーク構造に分けられます。Generatorは、偽物ともいえるデータをランダムなノイズから作り出していくという役割を担っています。Discriminatorは、Generatorで生成された偽物データを、本物データと比較していくことによって、そのデータが本物なのか偽物なのか判定していくという役割を担っています。

このような判定を何度も繰り返しながら、GeneratorとDiscriminatorの精度の高さを改善させていくことによって、「対象の特徴をより自然な形で反映させたデータ」を自動的に生成するGeneratorが生み出されるというわけです。

また、この過程では、対象の特徴を定量化することもできます。そのため、特定のデータに別の特徴を与えたデータを自動的に生成していくこともできるのです。

TransGAN

TransGANとは、畳み込みを用いることなくTransformerだけで画像を生成していく技術のことです。2021年2月に誕生し、注目を集めました。大きな特徴としては、STL-10の画像生成において、CNNベースのGANを超えてState-of-the-Art(SoTA) な性能を示しているという点が挙げられるでしょう。

そんなTransGANのアーキテクチャは、ViTに類似しており、非常にシンプルなものになっています。構成部分としては「レイヤーノーマライゼーション(LN)「マルチヘッドSelf-Attention(MSA)」「全結合層」の3つです。

StyleGAN

StyleGANとは、教師なし学習に分類される機械学習の内の一手法である「Genera tive Adversarial Networks（GAN）」から派生したものです。前述の通りGANは、学習したデータの特徴をもとに、実在していないデータの生成を行ったり、データの変換を行ったりすることができます。

その派生として注目を集めているStyleGANは、「写真を証拠にできる時代は終わった」と言われてしまうほど、極めて高精度な画像の生成を行えるようになりました。実際にStyleGANによって生み出された画像を見てみても、一目で「実在しない人物」だと判断することは不可能なほど高精度な画像であることが分かります。

アプリを使ったディープフェイク動画の作り方

現在は、ディープフェイク動画を作成できるアプリも多くリリースされています。PCはもちろん、スマホでも動画作成を行えるアプリがありますので、ぜひ有効活用してみてはいかがでしょうか。

DeepSwap（PC・スマホ共通）

DeepSwapは、数秒で顔を入れ替えるディープフェイク動画ジェネレーターアプリです。DeepSwapの「顔スワップ」機能でプロの動画編集スキルなしで、動画内のどんな顔でもワンクリックで入れ替えます！

DeepSwapは使いやすいUI、高速な生成速度、高品質なフェイススワップ効果により、世界中のAIソフトウェアユーザーに愛されており数百万のユーザーがこのツールを利用して、映画の役柄のメイクオーバーやフェイスミーム、性別の入れ替えなど、面白い顔合成を作成しています。

DeepSwap：https://www.deepswap.ai/

Xpression（スマホ用）

Xpressionは、iPhoneとAndroidの両方で使用できるスマホ用アプリです。入れ替えたい顔の画像・動画を持っていれば、簡単にディープフェイク動画を作成することができます。ただし、スマホのスペックやバージョンによっては使用できないケースもあるため、使用できない場合には別のアプリを使用してみましょう。

Deepfakes web β（PC用）

Deepfakes web β

Deepfakes web βは、顔を入れ替えるための画像と動画をアップロードするだけで、ディープフェイク動画を簡単に作成できるアプリです。1時間あたり2ドルの使用料が発生しますが、高い精度でディープフェイク動画を制作できます。PCのスペックに関係なく高品質なディープフェイク動画を作成できる点も大きな魅力です。

FakeApp（PC用）

FakeAppは、無料で利用することができるPC用アプリです。日本語には対応していませんが、英語の解説動画が公開されているため、手順は問題なく理解できます。ただし、こちらのアプリはメモリ8GB以上のスペックのPCでなければ使用できないため注意が必要です。「まずは無料アプリでディープフェイクを試してみたい！」という場合におすすめのアプリです。

ディープフェイクの有益な活用例5選

ディープフェイクは、エンターテインメントの分野で積極的に活用されています。ここからは、いくつか代表的な活用事例を見ていきましょう。

1. 実写版『ライオン・キング』のファン動画

2019年に公開された実写版『ライオン・キング』では、現代の3DCG技術を活用することによってリアルな映像を実現し、大きな注目を集めました。3DCG技術を活用することで、これまでにないリアルな映像が完成し、一部からは「不気味の谷を思わせる」という指摘もあったそうです。

そんなリアルな映像が実現されている実写版ライオン・キングですが、「ディープフェイク」を用いて実写版の『ライオン・キング』と顔を入れ替えたムービーも公開されたことで、注目を集めました。

ディープフェイクを活用した映像を制作したのは、アーティストのNikolay Mochkin氏で、公開から2日後には120万回以上再生されたそうです。より一層ディープフェイクという技術に注目が集まるきっかけになったといえます。

余談ですが、Disney+で配信中の「スター・ウォーズ」シリーズのオリジナル実写ドラマ『マンダロリアン』シーズン2でも、実際に利用はされなかったものの、ディープフェイクの利用が検討されました。
ディズニー社の映画やテーマパークでのAI活用は下記の記事をご覧ください。

ディズニーパークやピクサー映画で活用が進むAI技術

2. 映画『ターミネーター2』の再現動画

映画「ターミネーター2」の主人公、T-800役を演じるアーノルド・シュワルツェネッガーの顔を、ディープフェイクによってシルヴェスター・スタローンの顔と入れ替えた動画が公開され、大きな注目を集めました。

上記の動画を見ても、ほとんど違和感がありません。恐ろしさまでリアルに再現されているディープフェイクの精度の高さは、今後のエンターテイメント業界にも大きな影響を与えていくのではないでしょうか。

3. ディズニー風の顔を生成するサイト

toonify

近年はSNSに写真を投稿するユーザーが非常に多く、その写真を「よりオシャレなもの（より綺麗なもの）」にするため、加工を施すというケースも珍しくありません。そのような中で、手軽な操作で画像に加工を加えられるサービスに大きな注目が集まっています。

その一例としては、写真に写る人物を簡単に「ディズニー顔」へと変換することができる無料のウェブサイト「Toonify Yourself!」が挙げられるでしょう。この「Toonify Yourself!」というサイトは、人気すぎて一時的にサイトがクラッシュしてしまったこともあり、現在はユーザーからの寄付による支援でサイトが復活しています。

「ディズニー顔に変換できる」という説明だけではなかなかイメージが湧きにくいかもしれませんが、目や鼻などのパーツを加工することによって、まるでディズニー映画の登場人物のような雰囲気に顔を変換することが可能です。

こういった顔写真の加工が可能なのは、「Toonify Yourself!」にAIのディープラーニングが活用されているからに他なりません。利用方法も非常にシンプルで、同サイトに変換したい写真をアップロードして「Toonify!」というボタンをクリックするだけで加工が完了します。

しかし、すべての顔写真の変換に対応することができるわけではありません。公式サイトによると、アニメのキャラクターに眼鏡をかけている人物は少ないため、眼鏡をかけた人の変換はまだ難しいそうです。とはいえ、「Toonify Yourself!」にはAIが搭載されているという強みがありますので、データの蓄積によって多様な加工が可能になることに期待ができます。

下記記事では、Toonifyの他にも顔を加工するアプリを紹介しているのでぜひご一読ください。

AI搭載の顔認証システムを使ったアプリ・サービスまとめ

4. 多言語へのリアルな吹き替え

2021年5月、イギリスのAIスタートアップ「Falwless」がAIエンジン「TrueSync」を開発したと発表しました。TrueSyncはディープフェイク技術を応用し、俳優の顔と頭に吹き替え役の唇の動きを合成した3Dモデルを作成できる。これを映像技術に活用して、あたかも俳優本人が別の言語を話しているように見せることが可能です。

Falwlessが公開したデモ映像を見てみると、同じ俳優が滑らかに多言語を話しているように見えます。

動画コンテンツの吹き替えには、映像と音声が合わない、映像に音声を寄せすぎると本来の意味から外れてしまうといった問題が常々指摘されています。それが嫌で、字幕版を視聴する人も多いでしょう。しかしこの技術の活用によってリアルな吹き替えが実現されれば、吹き替え版でも高い没入感を得られると期待されています。

またスタジオや俳優にとっても、多言語対応のために撮り直しをするといったコストが削減できるのではないかともいわれています。

5. バーチャル試着室

ディープフェイクは、動画コンテンツ以外でも有用な活用例があります。その代表として挙げられるのが、バーチャル試着室「Zeekit」です。画像認識処理に特化したアプリのZeekitは、ユーザーが自身の全身画像をアップロードし、そこに衣服やアクセサリーを合成させます。体系や髪色を考慮した試着がオンライン上ででき、試着画像をSNSでシェアすることで第三者の意見を聞くことも可能です。

これによりユーザーは、店舗に出向かなくても気軽に試着ができるので、オンラインショップでも買い物がしやすくなります。購買意欲の向上や返品率の低下といった効果に期待が寄せられています。

Zeekit社は2021年5月にウォルマートに買収され、当時話題となりました。2022年9月にはWalmartのiOSアプリ向けに、新しいバーチャル試着サービス「Be Your Own Model」の提供を開始しています。画像処理技術に機械学習モデルが組み合わさり、実際に服を着た際の陰影や生地のたるみといった細部までが、シミュレーションによって再現されます。

さらにはAIによるレコメンデーションなども検討されるなど、今後もさらにサービスが向上していくことが予想されます。

まとめ：ディープフェイクの課題と未来

deepfake future

本記事では、ディープフェイクの仕組みや作り方、悪用問題などについてご紹介しました。動画コンテンツ制作の可能性を広げる技術である一方、悪用されれば大きな問題に発展するリスクがあることもお分かりいただけたのではないでしょうか。

さまざまな対策が打ち出されているとはいえ、ディープフェイクの悪用をゼロにすることは難しいです。悪質な犯罪から身を守るためには、一人ひとりがAIに関する知識を蓄えた上で、しっかりと対策を施していくことが大切になります。「ディープフェイクで作られたコンテンツを安易に拡散しない」など、個人レベルでできる対策も数多くあるので、できることから取り組みましょう。

しかし悪用例だけではなく、バラエティーに富んだ活用例も存在しています。日々進化していくAI技術は、人々の生活を豊かにしてくれるでしょう。AI技術が進化し続ける現代だからこそ、正しい知識を持って、安全かつ楽しく付き合っていきましょう。

画像認識AIのサービス比較と企業一覧を見る

機械学習について詳しく知りたい方は以下の記事もご覧ください。
機械学習とは何か？種類や仕組みをわかりやすく簡単に説明

AIについて詳しく知りたい方は以下の記事もご覧ください。
AI・人工知能とは？定義・歴史・種類・仕組みから事例まで徹底解説