動画認証とディープフェイク対策の最前線

ディープフェイクの技術的背景

ディープフェイク（Deepfake）は、深層学習技術を用いて人物の顔、声、動作を合成・置換する技術の総称であり、2017年にReddit上のユーザーが公開した顔置換動画を契機として社会的認知を得た。2025年現在、ディープフェイク技術は飛躍的に進化し、専門家でさえリアルタイムで真偽を判別することが困難なレベルに到達している。

Deeptrace（現Sensity AI）の2024年報告書によれば、インターネット上のディープフェイク動画の数は2023年から2024年にかけて400%増加し、推定50万本以上のディープフェイク動画がオンライン上に存在する。その98%はポルノグラフィーであり、残りの2%が政治的偽情報、詐欺、嫌がらせに使用されているが、非ポルノグラフィーのディープフェイクが社会に与える影響は極めて大きい。

2024年の米国大統領選挙期間中には、候補者の発言を捏造したディープフェイク動画がソーシャルメディアで広範に拡散され、民主主義プロセスに対する深刻な脅威として認識された。また、企業のCEOになりすましたディープフェイクを用いた詐欺（CEO fraud）による被害額は、2024年だけで全世界で250億ドルを超えたと推定されている。

生成技術の分類と進化

ディープフェイク生成技術は、大きく以下の4カテゴリに分類される。第一は顔置換（Face Swap）であり、ソース動画の人物Aの顔をターゲット人物Bの顔に置き換える技術である。第二は顔再現（Face Reenactment）であり、ソース人物の表情や動きをターゲット人物の顔に転写する技術である。第三は顔合成（Face Synthesis）であり、実在しない人物の顔を完全に生成する技術である。第四は音声合成（Voice Synthesis）と口唇同期（Lip Sync）であり、任意のテキストから対象人物の音声を生成し、口の動きを同期させる技術である。

顔置換技術の代表的手法として、オートエンコーダベースのアプローチがある。二つの顔（ソースとターゲット）に対して共有エンコーダと個別デコーダを学習し、ソース顔のエンコード結果をターゲットのデコーダに通すことで顔置換を実現する。FaceSwapやDeepFaceLab は、この原理に基づく代表的な実装である。

GANベースの手法では、SimSwapやFaceShifterが高品質な顔置換を実現している。SimSwapは、ID（identity）特徴量とアトリビュート（表情、姿勢、照明等）特徴量を分離し、ソースのID特徴量とターゲットのアトリビュート特徴量を融合することで、ターゲットの表情や照明を保持したまま顔のアイデンティティのみを置換する。

2024年以降、拡散モデルベースのディープフェイク生成が急速に台頭している。DiffSwap、DiffFace等の手法は、拡散過程の条件付き生成によって極めて高品質な顔置換を実現する。拡散モデルのデノイジングプロセスは、GANのモード崩壊問題を回避し、より多様で自然な生成結果を産出する。

視覚的特徴に基づく検出手法

ディープフェイク検出の最も基本的なアプローチは、生成プロセスが残す視覚的アーティファクトに基づく手法である。初期のディープフェイクでは、瞬きの欠如、非対称な顔の歪み、不自然な肌のテクスチャ、歯のレンダリングの不自然さなどのアーティファクトが顕著であった。

Liらは、瞬きパターンに基づくディープフェイク検出手法を提案した。初期のディープフェイク生成モデルは、閉じた目の画像がトレーニングデータに少ないため、生成された人物が不自然に瞬きをしないという特徴を持っていた。LRCN（Long-term Recurrent Convolutional Network）を用いて瞬きの時間パターンを学習し、自然な瞬きパターンからの逸脱を検出する。しかし、この手法は生成技術の進歩により急速に有効性を失い、現在のディープフェイクは自然な瞬きを再現できるようになっている。

顔のランドマーク（特徴点）の一貫性に基づく手法も研究されている。ディープフェイクでは、顔の境界部分（顔と背景の境界、顔と髪の境界）に微細な不整合が生じやすい。YangらのHeadPose法は、顔のランドマークから推定される3D頭部姿勢と、全体的なフレーム構造から推定される頭部姿勢の不整合を検出する。この手法は顔置換タイプのディープフェイクに対して特に有効である。

周波数解析に基づく手法は、ディープフェイク画像の周波数スペクトルに特徴的なパターンを検出する。GANベースのディープフェイクは、アップサンプリング層に起因する高周波帯域の周期的なアーティファクト（spectral artifacts）を持つことが知られている。Frankらは、DCTスペクトルの統計的分布を分析し、自然画像とGAN生成画像の周波数特性の差異を利用した検出手法を提案した。

時間的整合性に基づく検出

動画ディープフェイクの検出においては、フレーム間の時間的整合性の分析が重要な役割を果たす。静止画ベースの検出手法では捉えきれない時間的な不自然さを検出することで、より高い精度が達成される。

お金の作り方を学ぶオンライン講座【Finorie｜フィノリー】

光流（Optical Flow）解析は、フレーム間の画素の動きベクトルを推定し、その整合性を評価する手法である。ディープフェイクでは、顔領域の光流パターンと背景の光流パターンの間に不自然な不連続性が生じることがある。Amerinoらは、FlowNetを用いて推定された光流マップの時空間整合性を分析し、顔領域と非顔領域の動きの不整合を検出する手法を提案した。

時空間畳み込みネットワーク（3D-CNN）は、複数フレームを同時に処理して時空間特徴を抽出する。I3D（Inflated 3D ConvNet）やSlowFast Networksのような動画認識アーキテクチャをディープフェイク検出に適用する研究が行われている。Zhengらは、時空間的注意機構を導入したSTAM（Spatio-Temporal Attention Module）を提案し、フレーム間の微細な不整合を効果的に捉える検出器を構築した。

リカレントニューラルネットワーク（RNN）やTransformerを用いたシーケンスモデリングも有力なアプローチである。各フレームからCNNで抽出された特徴ベクトルを時系列として処理し、長期的な時間パターンの異常を検出する。Guらは、Vision Transformer（ViT）の時空間版を用いたVidTFアーキテクチャを提案し、長時間のディープフェイク動画における微細な時間的アーティファクトの検出を実現した。

生体信号ベースの検出技術

生体信号に基づくディープフェイク検出は、人体の生理学的特性がディープフェイク生成モデルでは忠実に再現困難であるという仮説に基づく、独自性の高いアプローチである。

リモートフォトプレチスモグラフィ（rPPG: Remote Photoplethysmography）は、動画から非接触で脈拍信号を推定する技術であり、これをディープフェイク検出に応用する研究が注目されている。実在の人物の動画では、血流に伴う微細な肌の色変化が一貫したパターンで観測されるが、ディープフェイク動画ではこのパターンが欠如するか不自然になる。Ciftciらは、rPPG信号の時間-周波数分析に基づくディープフェイク検出手法を提案し、biological signal inconsistencyの検出が高い精度を達成することを示した。

瞳孔反射分析も生体信号ベースの検出手法として研究されている。自然光下では瞳孔に環境の反射が映り込み、この反射パターンは両目で一貫している。ディープフェイクでは、両目の反射パターンの不整合や、物理的にあり得ない反射パターンが生じることがある。Huらは、高解像度のディープフェイク動画における瞳孔反射の不整合を自動検出する手法を提案した。

リアルタイム検出システム

ビデオ会議やライブストリーミングにおけるリアルタイムディープフェイクの脅威が増大するに伴い、低遅延で動作する検出システムの需要が高まっている。リアルタイム検出では、フレームレート（30fps以上）を維持しつつ高い検出精度を達成する必要があり、計算効率と精度のバランスが重要な設計課題となる。

MobileNetV3やEfficientNetといった軽量CNNアーキテクチャを基盤とした検出器は、モバイルデバイスやエッジデバイス上でのリアルタイム推論を可能にする。知識蒸留（Knowledge Distillation）を用いて大規模な教師モデルの知識を軽量な生徒モデルに転写することで、精度低下を最小限に抑えつつ推論速度を大幅に向上させる手法も研究されている。

Intel のFakeCatcherは、rPPG信号とCNN特徴量を組み合わせたリアルタイムディープフェイク検出プラットフォームであり、96%の検出精度を維持しつつミリ秒レベルの検出遅延を実現している。Microsoftのvideo authenticator、FacebookのDeepfake Detection Challenge（DFDC）ベースラインモデルなど、大手テクノロジー企業も実用的な検出システムの開発を進めている。

敵対的攻撃と検出回避への対抗

ディープフェイク生成者が検出システムの存在を意識し、検出を回避するための技術を適用する「検出回避攻撃」は、ディープフェイク対策における最も深刻な課題の一つである。敵対的摂動（Adversarial Perturbation）を生成画像に加えることで、検出器の判定を反転させる攻撃が報告されている。

[PR] 【固定IPが月額490円から】ロリポップ！固定IPアクセス

Carliniらは、ディープフェイク検出器に対するホワイトボックス攻撃により、最先端の検出器の検出率を0%近くまで低下させられることを示した。攻撃者が検出器のアーキテクチャと重みを知っている場合、勾配ベースの最適化によって最小の摂動で検出を回避する生成画像を作成できる。

この脅威に対して、敵対的訓練（Adversarial Training）と検出器アンサンブルが主要な防御策として研究されている。敵対的訓練は、学習過程で敵対的例を含めることで検出器のロバスト性を向上させる。複数の異なるアーキテクチャの検出器をアンサンブルすることで、特定の検出器を標的とした攻撃に対する耐性が向上する。

プロアクティブな防御として、ディープフェイク生成を困難にする「免疫化」技術も研究されている。FawkesやLowKey等のツールは、公開画像に微細な摂動を加えることで、その画像を学習データとして使用したディープフェイクモデルの品質を著しく低下させる。Ruizらは、画像に知覚不可能な「ワクチン」摂動を加えることで、その画像に対するディープフェイク生成を妨害する手法を提案している。

法制度と社会的対応

ディープフェイクに対する法制度的対応は、各国・地域で急速に整備が進められている。EU AI規制法（AI Act）は、ディープフェイクを含む「AIシステムによって生成または操作された画像、音声、動画コンテンツ」に対して、AI生成であることの開示義務を課している（第50条）。この規定は2026年8月に完全施行される予定である。

米国では、連邦レベルの包括的な法律は未整備であるが、複数の州法がディープフェイク規制を定めている。カリフォルニア州AB 730（選挙関連ディープフェイクの規制）、テキサス州SB 751（選挙妨害目的のディープフェイク作成の犯罪化）、ニューヨーク州の「ディープフェイクポルノ」規制法などが代表的である。連邦レベルでは、DEEPFAKES Accountability Act（2023年提出）が審議中であり、ディープフェイクの明確なラベリング義務を課すことを目指している。

中国は、2023年1月に「深層合成インターネット情報サービス管理規定」を施行し、ディープフェイクを含む深層合成技術の利用に対して包括的な規制を導入した。合成コンテンツへの明確なラベリング、利用者の実名登録、技術提供者の安全評価義務などが規定されている。

日本においては、2024年時点でディープフェイクに特化した法律は存在しないが、名誉毀損罪、肖像権侵害、著作権侵害、リベンジポルノ防止法などの既存法令による対応が行われている。総務省は「AI時代のコンテンツの信頼性確保に関する研究会」を設置し、技術的対策と制度的対策の双方について検討を進めている。

ディープフェイク対策は、技術的検出手法の高度化、法制度の整備、プラットフォーム事業者の自主規制、メディアリテラシー教育の四つの柱によって推進される必要がある。いずれか一つの手段だけでは十分な対策とはなりえず、多層的かつ国際的な協調が不可欠である。

参考文献

1. Tolosana, R. et al., "DeepFakes and Beyond: A Survey of Face Manipulation and Fake Detection," Information Fusion, Vol. 64, pp. 131-148, 2020.
2. Li, Y. et al., "In Ictu Oculi: Exposing AI Created Fake Videos by Detecting Eye Blinking," Proceedings of IEEE WIFS, 2018.
3. Frank, J. et al., "Leveraging Frequency Analysis for Deep Fake Image Recognition," Proceedings of ICML, 2020.
4. Ciftci, U. A. et al., "FakeCatcher: Detection of Synthetic Portrait Videos using Biological Signals," IEEE Trans. PAMI, Vol. 42, No. 5, 2020.
5. Zheng, Y. et al., "Exploring Temporal Coherence for More General Video Face Forgery Detection," Proceedings of ICCV, 2021.
6. Carlini, N. and Farid, H., "Evading Deepfake-Image Detectors with White- and Black-Box Attacks," Proceedings of CVPR Workshops, 2020.
7. Dolhansky, B. et al., "The DeepFake Detection Challenge (DFDC) Dataset," arXiv:2006.07397, 2020.
8. EU Artificial Intelligence Act (Regulation 2024/1689), Article 50.
9. 中華人民共和国「互联网信息服务深度合成管理规定」, 2023年1月10日施行.
10. Sensity AI, "The State of Deepfakes 2024," Annual Report, 2024.