ディープフェイクは、AI で作った本物そっくりの映像・音声・画像で人をだます手口です。かつては政治家のフェイク動画のように「広く拡散して世論を揺らす」型が中心でしたが、いま現場で実害が出ているのは個人や企業をピンポイントで狙う詐欺です。本稿は、検出技術・電子透かし・来歴記録という3つの技術と、それらが完璧にならない前提で組織が取るべき運用ルールを、最新の実態に沿って整理します。
FIG.1 「広く拡散」から「狙い撃ち」へ ―― 脅威の重心が移った
01いま起きている被害の形
抽象論より、実際の手口を知るのが一番の備えになります。2025〜2026 年に確認されている典型は次の4つです。いずれも「もっともらしさ」を武器に、相手の判断のスキを突きます。
- CEO・CFO なりすまし送金：経営層の声や顔を偽り、緊急の振込を指示する。香港の事例では、ビデオ会議の参加者全員が AI 生成の偽物で、財務担当が15回に分けて約2,560万米ドル（約38億円）を送金してしまった。
- 採用・リモート勤務のなりすまし：面接でディープフェイク映像を使い、別人がそのまま勤務を続ける（情報窃取や不正アクセスの足がかりになる）。
- 家族を装う緊急詐欺：肉親の声で「事故を起こした、示談金が要る」と振り込ませる。声はわずか数秒の公開音声からでも複製できる。
- 本人の同意なき性的画像生成：脅迫や嫌がらせの材料にされる。被害の回復が難しく、深刻な人権侵害になる。
規模感も押さえておきましょう。米 FBI の年次レポートには AI 関連の詐欺被害が多数報告され、ディープフェイク絡みの世界の被害額は累計で数十億ドル規模に達するとの推計があります。「自分や自社には関係ない」とは言えない段階に来ています。
02検出技術：頼れるが、頼り切れない
まず「AI が作ったかどうかを後から見破る」検出技術です。代表的なのは、生成物に残る不自然さ（アーティファクト）を機械学習で見つける方法。瞳孔反射の不整合、口の動きと音声のずれ、フレーム間の表情のゆらぎなどを手がかりにします。
ただし、ここで現実を正確に押さえる必要があります。検出器の精度は「実験室」と「現実」で大きく落ちるのです。攻撃側の生成モデルは日々進化し、去年のデータで訓練した検出器は今年の新手法に追いつけません。さらに、SNS にアップロードする際の圧縮、画質劣化、ネットワークのノイズが、検出器が学んでいない形で映像・音声を変えてしまいます。
| 実験室ベンチマーク | 実際の運用（in-the-wild） |
|---|---|
| 整った条件で高い数値が出る | 圧縮・劣化で精度が大きく低下する |
| 既知の生成手法に対して強い | 新しい生成ツールには追従が遅れる |
| 「ほぼ完璧」に見えがち | 市販検出器でも実環境では8割前後に落ちる報告 |
調査では、実環境のディープフェイクに対し主要な商用検出器の精度がおおむね78% 前後に下がり、学術ベンチマークと比べて判別力（AUC）が映像で約5割、音声で約5割低下したという結果も報告されています。つまり検出技術は「補助線」としては有効だが、これ単独で安全を保証するものではない。これが出発点です。
03電子透かし：作る側に印を埋める
検出が「後から見破る」アプローチなら、電子透かし（ウォーターマーキング）は生成する時点で目に見えない印をメディアへ埋め込む先回りのアプローチです。後から「これは AI 生成」と検証できます。Google の SynthID が代表例で、同社は数百億点規模の画像・動画と膨大な音声に SynthID を付与したと公表しています。
FIG.2 透かしは「作る側」に印を残す ―― ただし対応ツールを通った場合のみ
透かしの強みは、スクリーンショットや軽い編集を経ても残りやすいこと（印が画素そのものに埋め込まれるため）。一方で限界も明確です。
- カバレッジの穴：透かしを入れるのは対応ツールだけ。2026 年時点でも多くの生成ツールは無透かしで、そこから作られたものは透かし方式では検出できない。
- 除去のリスク：強い加工や専用ツールで透かしを薄める／消す試みが存在する。研究では「消せるか」ではなく「どれだけ手間がかかり、どこまで検出が残るか」が論点になっている。
つまり透かしは「印が付いていれば AI 生成と分かる」が、「印が無い＝本物」とは言えない。ここを取り違えないことが重要です。
04来歴（Provenance / C2PA）：履歴に署名する
3つ目は、メディアの来歴（作成・編集の履歴）に電子署名を付ける仕組みです。業界標準が C2PA（Content Credentials）で、撮影機材や編集ツールが「いつ・何で・どう編集したか」を署名付きで記録します。署名チェーンがたどれれば真正性の根拠になり、チェーンが切れている＝改ざんの可能性として警告できます。Adobe、Microsoft、報道機関などが採用を進めています。
透かしは画素に印を残し、C2PA は履歴に署名する ―― 役割が違う。
ただし C2PA にも実運用上の大きな弱点があります。多くの SNS は投稿処理の段階で C2PA の署名情報（マニフェスト）を削除してしまうのです。Instagram・X・LinkedIn・TikTok・Facebook などにアップロードすると来歴が剥がれ落ち、スクリーンショットや署名非対応の編集でも同様に失われます。署名が無くなると「改ざんされた」のか「単に剥がれた」のか区別できません。
そのため現実的な構えは、来歴（C2PA）と透かし（SynthID 等）を組み合わせること。管理された環境では C2PA で詳細な履歴を残し、SNS のように情報が剥がれる公開経路では透かしを保険にする ―― この二段構えが 2026 年の到達点です。
053つの技術の使い分け
ここまでの3技術は競合ではなく、得意分野の異なる補完関係です。1枚に整理します。
FIG.3 3つの技術はそれぞれ穴がある。だからこそ組み合わせ、業務側の備えと併用する
06本命は「だまされても被害が出ない」業務設計
ここが最重要です。技術検出は完璧になりません。だからこそ、仮に偽物にだまされても金銭・情報の被害に直結しない業務プロセスを設計するのが、もっとも費用対効果の高い防御になります。鍵は「重要な意思決定に、機械では突破しにくい人手の確認を1つ挟む」ことです。
コールバック検証
送金・契約・採用など重要判断は、連絡が来た番号ではなく登録済みの公式番号へかけ直して本人確認する。
合言葉
家族や経営層の緊急連絡網に、事前共有のキーワードを設定。声が本物そっくりでも合言葉は複製できない。
二重承認
一定額以上の送金や権限変更は、別の担当者による承認を必須にする（一人で完結させない）。
FIG.4 偽の指示が来ても、確認ステップを通せば「実行」の手前で止められる
採用の最終面接では、公的書類との照合や対面化を組み込むのも有効です。「本人らしさ」を信じるのではなく、本人しか持てない手続き（公式番号・合言葉・別経路の承認）で確かめる。これが業務設計の核心です。
07従業員教育：通報しやすさを設計する
仕組みを作っても、現場が「言いにくい」と感じれば機能しません。教育は知識の注入だけでなく、違和感を口に出せる空気づくりまでを設計に含めます。
- 最新動向の定期共有：四半期に1回でよいので、新しい手口の事例を共有する。手口は速く進化するため、知識を古びさせない。
- 「もっともらしさ＝武器」だと刷り込む：完璧に本物っぽいことこそ攻撃の特徴。「上司の声だから/急ぎだから」で判断停止しないよう訓練する。
- 「違和感は通報を」を合言葉に：誤報を責めない文化を明示し、心理的安全性を確保する。止めて確認したことを評価する。
- シミュレーション訓練：偽の音声・メールで送金指示を模擬し、コールバックや二重承認が実際に発動するか試す。
Regulation & Outlook
ルールも動き出している
技術と運用に加え、制度面の動きも押さえておきましょう。EU では AI 法（AI Act）第50条が、AI 生成コンテンツの表示・開示義務を定めており、2026 年にかけて段階的に適用が進む見込みです。これにより、来歴標準や透かしの採用がさらに後押しされると見られています。
FIG.5 技術・運用・制度の三層。実害を防ぐ主役は中央の「運用」
制度が整っても、表示が剥がれたり対応外のツールが使われたりする穴は当面残ります。規制を待つのではなく、いま手元の業務プロセスに確認ステップを差し込んでおくことが、最後の砦になります。
08まとめ
ディープフェイク対策は、検出 × 透かし・来歴 × 業務プロセスの重ね合わせで考えます。検出は実環境で精度が落ち、透かしは無対応ツールに弱く、来歴は SNS で剥がれる ―― どれも単独では穴があります。だからこそ、「だまされても被害が出ない」業務設計が本命です。
技術は「補助線」と割り切る
検出・透かし・来歴を併用しつつ、これだけで安全とは考えない。印が無い＝本物、ではない。
重要判断に確認を1つ挟む
コールバック・合言葉・二重承認を、送金や採用などの意思決定プロセスに組み込む。
通報しやすい文化を育てる
違和感を口に出して止められる空気と、定期的な事例共有・訓練で、現場の防御力を維持する。
技術はこれからも進歩しますが、攻撃側も同じ速度で進みます。「人の確認を1つ挟む」という地味で確実な一手を、今日から業務に組み込んでおきましょう。
