「その動画、本物だと思いますか？」。AI技術の進歩により、本物と見分けがつかない偽動画・偽音声（ディープフェイク）が簡単に作れる時代になりました。
ディープフェイクは、エンターテインメントやクリエイティブ用途に使われる一方、詐欺・なりすまし・フェイクニュースなどに悪用されるケースが増えています。企業のCEOになりすましたビデオ通話で高額送金を指示する詐欺など、深刻な被害も報告されています。
この記事では、ディープフェイクの仕組みから見分け方、個人・企業が取るべき対策までを詳しく解説します。
ディープフェイクとは？仕組みを解説
ディープラーニングで偽映像を生成
ディープフェイクとは、ディープラーニング（深層学習）を使って、人物の顔や声を合成し、本物そっくりの偽映像・偽音声を作成する技術です。「ディープラーニング」と「フェイク」を掛け合わせた造語が名前の由来です。
具体的には、GAN（敵対的生成ネットワーク）やオートエンコーダーなどの技術を用いて（警察庁もサイバー犯罪対策を強化しています）、元の映像に別人の顔を貼り付けたり、特定の人物の声を再現したりします。GANは「生成器」と「識別器」の2つのネットワークが互いに競い合うことで、より精巧な偽映像を作り出す仕組みです。
ディープフェイクで何ができるのか
- 顔の入れ替え（Face Swap）：動画内の人物の顔を別人に置き換える。映画のVFXやエンターテインメントにも使われる技術
- リップシンク：実際には言っていない言葉を話しているように見せる。政治家の偽声明動画などに悪用される
- 音声クローン：数秒〜数十秒の音声サンプルから、その人の声を再現する。電話詐欺に使われるリスクが高い
- 全身生成：存在しない人物のリアルな映像を一から生成する。SNSの偽アカウント作成に使われる
- 年齢変換：人物の外見を若返らせたり老けさせたりする。映画製作で実用化されている
ディープフェイクの被害事例
実際に報告されている被害事例をいくつか紹介します。
- 企業幹部のなりすまし詐欺：幹部の声をAIで再現した電話で、送金を指示。約3,500万ドルの被害が出たと報じられた事例（2020年・UAE）。2024年には香港で、ビデオ会議の偽の同僚・幹部をもとに多額の送金をさせられた事例も報じられています
- 政治家の偽声明動画：選挙期間中に政治家のディープフェイク動画が拡散され、有権者が混乱した事例
- 有名人のなりすまし詐欺：有名人の偽動画を使った投資詐欺広告がSNSで大量に出回った事例
これらに共通しているのは、映像の精巧さそのものより「疑わずに信じてしまう受け手側の状態」が突かれている点です。情報の真偽を確かめる手順を扱った書籍は、家族や社内で共通の物差しを作りたいときの教材として選ばれています。
ディープフェイクの見分け方7つのチェックポイント
1. 瞬きの不自然さ
ディープフェイクは瞬きのパターンが不自然になりやすいです。極端に瞬きが少ない、またはリズムが一定すぎる場合は疑いましょう。人間は1分間に平均15〜20回程度瞬きをするとされますが、ディープフェイクではこの頻度が崩れることがあります（技術の進歩で、この特徴が見られない動画も増えています）。
2. 顔の輪郭のぼけ・ちらつき
顔と背景の境界線が不自然にぼやけていたり、フレームごとに顔の輪郭がちらつく場合があります。特に横顔のアングルで崩れが目立ちやすいです。動画を一時停止してフレーム単位で確認すると気づきやすくなります。
3. 照明の矛盾
顔の照明の方向と背景の照明の方向が一致しない場合は、合成の可能性があります。影の方向にも注目しましょう。たとえば、顔の右側が明るいのに背景の光源は左側にある場合は要注意です。
4. 音声の抑揚の違和感
音声クローンは特定のフレーズを自然に再現できますが、長時間の会話では抑揚が単調になったり、感情の込め方が不自然になったりします。怒り、喜び、驚きなどの感情表現が平板に聞こえる場合は疑ってみましょう。
5. 歯や耳の形状の崩れ
ディープフェイクは歯の細部や耳の形状の再現が苦手な傾向があります。口を大きく開けたときの歯のディテールや、耳のシルエットに注目してみてください。歯が異様に均一だったり、耳の左右が非対称すぎたりする場合は怪しいです。
6. メガネや装飾品の反射
メガネのレンズへの光の反射が不自然だったり、イヤリングなどの装飾品が物理法則に反した動きをしたりする場合があります。メガネのフレームが顔の動きに追従しきれていないケースもあります。
7. 内容そのものを疑う（最重要）
技術が進歩すれば見た目だけでの判別はますます難しくなります。「急な送金依頼」「パスワードの共有要求」「極端に感情を煽る内容」など、内容そのものの不自然さを疑うことが重要な対策です。情報の出所（どのチャネルで受け取ったか）も合わせて確認しましょう。
ディープフェイク検出ツール
無料で使える検出ツール
| ツール名 | 特徴 | 料金 | 対応形式 |
|---|---|---|---|
| Deepware Scanner | 動画をアップロードするだけでAIが真偽を判定 | 無料枠あり（公式で確認） | 動画 |
| Microsoft Video Authenticator | Microsoftが開発した映像解析ツール | 一般向けの提供は限定的 | 動画・画像 |
| Sensity AI | 企業向けのディープフェイク検出プラットフォーム | プランは公式で確認 | 動画・画像・音声 |
| FakeCatcher（Intel） | 血流パターンからリアルタイムで真偽を判定 | 研究用途 | 動画 |
検出ツールも完璧ではなく、高度なディープフェイクは検出を回避できるケースがあります。ツールの結果を過信せず、複数の方法を組み合わせて判断することが大切です。また、検出ツール自体がフィッシングサイトの場合もあるため、信頼性の高い提供元のツールを使いましょう。
個人ができるディープフェイク対策
予防策
- SNSでの顔写真・動画の公開を最小限にする：AIの学習素材になるリスクを減らす。高解像度の正面顔写真は特にリスクが高い
- プライバシー設定を強化する：SNSの公開範囲を限定し、知人以外からのアクセスを制限する
- 二段階認証を有効にする：アカウント乗っ取りを防止し、なりすましのリスクを低減する
三つ目の二段階認証は、SMSのコードよりも物理キーを使うほうが乗っ取りに強いとされています。USBやNFCで挿すだけの認証キーは、SNSアカウントを守る手段としても使われています。
被害に遭った場合の対処
- 怪しいビデオ通話は別チャネルで確認する：電話やメールで本人に直接確認する
- 急な送金要求には応じない：上司や家族を装った送金詐欺に警戒する
- 情報ソースを確認する：SNSで拡散される動画は出所を確認する
- 証拠を保全する：スクリーンショットやURLを記録し、警察や弁護士に相談する
企業が取るべきディープフェイク対策
ルール面の対策
- 「ビデオ通話・電話の指示だけでは送金を実行しない」というルールを社内規程に明記する
- 高額取引や人事異動に関する指示は、書面による二重確認を必須にする
- ディープフェイクに関する社員教育を定期的に実施する（四半期に一度が目安）
- 不審な映像・音声を受け取った場合の報告フローを整備する
技術面の対策
- AI検知ツールを導入して、受信した映像・音声の真偽を自動チェックする
- SNSモニタリングツールで自社関連のディープフェイクコンテンツを早期発見する
- 電子透かし（ウォーターマーク）技術で、自社の公式映像を識別可能にする
- Web会議ツールに本人認証機能を追加する
有事の対応体制
ディープフェイクによる被害が発生した場合に備え、広報・法務・情報システム部門がすばやく集まれるエスカレーションルートを整備しておきましょう。初動対応が早いほど、被害拡大を抑えやすくなります。
具体的な対応フローの例としては、以下の手順が推奨されます。
- ディープフェイクコンテンツの発見・報告
- 該当コンテンツのスクリーンショット・URL等の証拠保全
- 関係部門（広報・法務・IT）への即時連絡
- プラットフォームへの削除要請
- 必要に応じて公式声明の発表
- 警察・弁護士への相談
証拠保全は映像だけでなく音声も対象になります。不審な電話でのやりとりは記憶に頼ると後で説明できなくなるため、録音を残せる機器を用意しておくと相談時の材料になります（録音は自社の規程と関係法令の範囲で行ってください）。
不審な電話の内容を記録しておく手段として、録音から文字起こし・要約までをつなぐAIボイスレコーダーのPLAUD NOTEもあります。公式サイトでは、付属のケースでスマートフォンの背面に装着し、通話録音モードに切り替えて使う設計と案内されています。通話の録音は相手の同意と法令の確認が前提になるため、使う場面は公式サイトの説明と関係法令、社内規程を確認したうえで判断してください。
ディープフェイクに関する法規制の動向
各国でディープフェイクに対する法規制が進んでいます（2026年10月時点で確認できた範囲です）。
| 地域・法律 | 規制内容 | 施行状況 |
|---|---|---|
| EU AI Act | ディープフェイクには生成・加工されたことの開示義務（第50条） | 2026年8月2日から適用（機械可読マーキングには経過措置あり） |
| 米国 TAKE IT DOWN Act | 同意のない性的画像（AI生成を含む）の公開を禁じ、プラットフォームに削除対応を義務づけ | 2025年5月成立（DEFIANCE Actは2026年1月に上院を通過、下院で審議中） |
| 日本 | ディープフェイク全般を対象とする専用法は見当たらず、名誉毀損・肖像権・著作権・詐欺などの既存法で対応 | 政府が性的ディープフェイクへの対応を検討中と報じられている |
| 中国・ディープフェイク規制 | ディープフェイクコンテンツの作成・配信に対する包括的規制 | 施行済み |
法規制の最新動向は総務省の公式サイトで確認できます。
よくある質問（Q&A）
Q. ディープフェイクは違法ですか？
ディープフェイク技術そのものは違法ではありません。映画のVFXや教育目的での利用など、合法的な用途も多くあります。ただし、詐欺、名誉毀損、プライバシー侵害、著作権侵害などに悪用した場合は、各種法律に抵触します。顔入れ替えツールを安全に使うための注意点は、以下の記事で解説しています。
Q. 自分の顔が勝手にディープフェイクに使われた場合はどうすればよいですか？
肖像権侵害やプライバシー侵害として法的措置を取ることが可能です。まずは証拠（スクリーンショット、URL等）を保全し、弁護士に相談しましょう。プラットフォームへの削除依頼も同時に行ってください。速やかに対処することで被害の拡大を抑えやすくなります。
Q. AIが生成した偽ニュースを見分ける方法はありますか？
情報の出所を確認し、複数の信頼できるメディアで同じ内容が報じられているかクロスチェックするのが基本です。SNSで拡散されている動画は特に慎重に扱いましょう。公式の報道機関や政府機関の発表と照らし合わせることが大切です。
Q. ディープフェイクの技術は今後どうなりますか？
技術の進歩により、ディープフェイクの精度は今後さらに向上すると予測されています。一方で、検出技術も進化しており、「作る側」と「見破る側」のいたちごっこが続く見通しです。技術的な検出だけでなく、リテラシー教育や法規制の整備が併せて重要になります。
まとめ
ディープフェイクは技術の進歩に伴い見分けるのがますます難しくなっていますが、瞬きの不自然さ、照明の矛盾、音声の違和感など、注意深く観察すれば気づけるポイントはまだ残っています。
しかし大切なのは、映像や音声の見た目だけに頼らず、「内容そのもの」と「情報の出所」を疑う習慣をつけることです。個人は怪しい送金要求に応じない、企業は書面確認の二重チェックを導入する、といった取り組みが挙げられます。こうした地道な対策がディープフェイク詐欺から身を守る助けになります。
