はじめに
本記事は、ディープフェイクについて解説します。本記事を読むことで、ディープフェイクの原理やそのディープフェイクにより生成された偽コンテンツの検知について理解を深めることができます。
※このテーマに関するより専門的な技術解説についてご興味のある方は、「ディープフェイク」をご覧ください。
ディープフェイクとは？
AI技術の発展に伴い、動画や画像などのコンテンツに写った人物の顔や音声をよりリアルに変化させることで、まるで本人が話しているかのように見える偽コンテンツを作成することが可能になっています。このようなリアルな編集技術はディープフェイクと呼ばれ、偽情報の拡散や社会へ悪影響を与えるために利用される可能性があります。実際には有名人や政治家が一切関わっていない偽コンテンツがSNS上で拡散されることは珍しくはなく、社会的な問題にも発展しかねない事例も散見されています。以下では、ディープフェイクによる偽コンテンツの作成やその対策について解説します。
ディープフェイクによる偽コンテンツはどのように作成する？
ディープフェイクにより作成される偽コンテンツの多くは、AI技術を利用し、そこに映っている人物の顔を入れ替えたり、新しい顔を作成したりことで、髪色、性別、および年齢などの外見の情報に変更を加えます[1]。特に動画が作成されることが多く、公開されている専用ツールを利用することで作成できます。
ディープフェイクを支える代表的なAI技術には、オートエンコーダー（Autoencoder）、敵対的ネットワーク（Generative Adversarial Networks、GAN)、および拡散モデル（Diffusion Model）などがあります。これらはオンラインショッピングでの試着や撮影した動画の修正などに応用することで、より効率的にサービスやコンテンツの質を向上できると期待されている一方で、非常に精巧な偽コンテンツを作成するために悪用されているのが現状です。最近では、ChatGPTなどの生成AIサービスの根幹を支える技術であるトランスフォーマー（Transformer）と拡散モデルを組み合わせることでより高品質な偽コンテンツを作成できるようになっており、偽コンテンツを見破ることはさらに困難になっています。
ディープフェイクはどのように悪用されている？
ディープフェイクの悪用の目的としては、主に以下の3つがあります。
なりすましによる情報操作
実在する有名人や政治家の映像や音声をディープフェイクにより作成し、拡散するという事例が散見されています。このような事例は、社会的または、政治的な情報操作に利用される可能性があり、社会的な影響が大きいため、特に注意が必要です。また、非常に見分けることが難しいため、情報の信頼性にも影響を与える事例です。このような悪用の可能性があることを念頭に置き、情報を精査する習慣をつけることが大切です。
詐欺
ディープフェイクを悪用し第三者をだますことで、金銭的被害につながる事例もあります。海外ではオンライン会議の参加者になりすますという事例[2]も発生しています。また、日本国内でもビデオ通話中に別人の顔をリアルタイムで合成するディープフェイクを悪用して、警察官などの捜査員になりすまし、金銭をだまし取るという大胆な事例[3]が発生しています。SNS上の動画だけでなく、リアルタイム性のあるビデオ会議でも注意が必要な時代になっています。
フェイクポルノ
ディープフェイクを悪用して、実在する人物の顔を利用した不適切な偽コンテンツを作成し、SNSやインターネット上でそれを拡散するという事例が非常に多く起こっています。このような事例は個人の人権を侵害する問題に発展する可能性があります。
ディープフェイクはどう見分ける？
ディープフェイクの発展に伴い、ディープフェイクによるコンテンツを検知するための技術も開発されています。ディープフェイクによるコンテンツは、人間の目ではほとんど見分けがつかないことが多いため、主にAIを用いた検知が主流となっています。具体的には、動画から取得できる顔や背景の情報をもとにディープフェイクによる動画と通常の動画を識別するための特徴を取得し、それをもとに検知を行います。例えば、ディープフェイクによる偽コンテンツの多くでは、顔の周辺に加工が施されている一方で、背景には加工がなされていない傾向があります。そのため、ディープフェイクにおける顔周辺の情報と背景の情報の関係性には、通常の動画と比較して微細な差異があり、それを見つけるためにAIが利用されています。既存の検知手法の多くでは、90％以上の正解率でディープフェイクの使用を検知できています[4]。このような技術を利用し、ディープフェイクによる偽コンテンツを見分けることで、情報の信頼性や真正性を見極めることが重要です。
まとめ
本記事では、ディープフェイクについて解説しました。トランスフォーマーや拡散モデルの登場により、非常に質の高い画像や動画を生成できるディープフェイクが開発されています。このような技術を活用することで、新しいコンテンツを次々と効率的に作成することができるでしょう。しかし、ディープフェイクを悪用し、偽情報の拡散を行う事例が多くあり、情報の真正性などを確かめることが今まで以上に重要になっています。また、そのような悪用に対する対策、倫理に関するガイドライン、および法整備などが十分ではないことが課題となっています。今後は、これらを解決するための取り組みを行っていくことが求められています。ディープフェイクに関するより詳細な解説も専門家向け記事として掲載していますので、より専門的な知識や研究動向についてはそちらもご覧ください。
参考文献
[1] Waseem, Saima, et al. “DeepFake on face and expression swap: A review.” IEEE Access 11 (2023): 117865-117906.
[2] https://www.knowbe4.jp/blog/phishing-with-deepfakes
[3] https://www3.nhk.or.jp/news/html/20250404/k10014769261000.html
[4] Edwards, Peter, et al. “A Review of Deepfake Techniques: Architecture, Detection and Datasets.” IEEE Access (2024).