「ディープフェイク」とは、「ディープラーニング（深層学習）」と「フェイク（偽物）」を組み合わせた造語で、AI技術を用いて生成された偽物のコンテンツまたはその技術を指す。近年、ディープフェイクの悪用による被害が社会問題化しているが、具体的に企業にはどのようなリスクがあるのだろうか。特に注意したい二大リスクを解説する。

なりすまし詐欺に遭うリスク

最も注意したいのが、ディープフェイクによって生成された本物と酷似した音声や動画を用いて金銭をだまし取る「なりすまし詐欺」である。例えば、経営幹部や上司にうり二つの音声や動画を生成して経理担当者に送金を指示するケースが考えられる。

「AIが作っているんでしょ？だまされる人なんているの？」と思うかもしれない。しかし、2024年の香港では実際に、ビデオ会議に出席した会計担当者がディープフェイクで生成された偽物のCFO（最高財務責任者）にだまされ、2億香港ドル（約38億円）を詐欺グループに送金してしまう事件も起きている。

また、昨今はディープフェイクの精度が高まっており、本物との見分けが難しいケースも少なくない。例えば、2025年11月には、宮城県女川町の公式Xが偽物のクマの画像を投稿して不必要な注意喚起を促してしまったこともある。決して人ごとだと思わないことが大切だ。

AIの進歩と共に、なりすまし詐欺の脅威は今後さらに増してくるかもしれない。

企業の信頼性を損ねる誤情報の拡散

ディープフェイクによって生成された、企業の代表者や担当者の偽動画・偽画像が拡散されると、企業の信頼性を損ねるリスクがある。悪意のある第三者がその企業のブランドイメージを傷つけるような動画・画像を生成・拡散する可能性もあるのだ。たとえ企業が否定したとしても、その声が全ての視聴者に届くわけではない。この点は、企業として実に悩ましいリスクと言えるだろう。

ここでは、ディープフェイクの悪用に対して企業が取り組める主な対策を四つ紹介する。これら全てを実行したとしても、リスクを完全にゼロにすることはできないが、その被害の大きさを考えれば、リスクを低減するだけでも十分に取り組む価値があるといえよう。

重要情報のダブルチェック

特に振込先や決済手段の変更、振込金額の増減など、お金に関わる重要な情報を電話やビデオ会議で伝えられた際には、他の担当者にもダブルチェックをしてもらうことでディープフェイク被害のリスクを下げることができる。先述した、ビデオ会議でだまされて詐欺に遭った香港の事件は、ダブルチェックによって詐欺を防げた可能性があるだろう。

ディープフェイク検出ツールの活用

対策の一つとして、AIで生成された偽の動画・画像などを自動で検出してくれる「ディープフェイク検出ツール」の活用は有効だ。同ツールは、人間の目では判断が難しい要素を評価して、フェイクを検出する。

ただし、先述したディープフェイクによって生成されたクマの偽画像を流してしまった宮城県女川町のケースについて、報道では「オンラインのAI判定ツールで真偽を見極めようとしたが、本物と偽物の両方の結果が出て、結局判断はつかなかった」と述べられている。

この報道を参考にするのであれば、現段階でツールの検出結果を絶対視するのはリスクがありそうだ。「ツールを導入したから安心」ではなく、並行して他の対策にもしっかりと取り組むことが重要であろう。

ディープフェイクに対する社内教育の実施

ディープフェイク対策の肝は「従業員の意識向上」にある。たとえ企業として他の対策に力を入れていたとしても、従業員の意識が低いままでは、簡単になりすまし詐欺に遭ってしまう可能性がある。そのため、社内教育の一環として、ディープフェイクが悪用されるリスクや実際の悪用事例などを適宜共有することが大切だ。

コンティンジェンシープランを準備しておく

コンティンジェンシープランとは、緊急事態が発生した場合、その影響を最小限にとどめるために、事前に定める対応策や行動計画のこと。同プランが対象とする「緊急事態」には自然災害や法的な問題など多岐にわたるが、その一つとしてディープフェイクを組み込むことが望ましい。具体的には、なりすまし詐欺に遭った場合の行動や誤情報が拡散された場合の対策などを事前に策定しておくのだ。それによって迅速な対応が可能になり、被害を抑えられるかもしれない。

ここで紹介した複数の対策を講じることで、より効果的にディープフェイクのリスクを低減することができる。一方で、一度に全ての対策に取り組むことが難しい場合もあるだろう。まずは、取り組みやすいものから着手してみてはいかがだろうか。