ディープフェイクは、ディープラーニング（深層学習）とフェイク（偽物）を合わせた造語である。AI技術によって人物の映像・音声・画像を合成することで、一見本人が実際に行動していると思えるほど精巧なコンテンツを生み出す技術を意味する。本来は映像制作の表現手法の一つとして開発された技術だが、近年は詐欺や情報操作への悪用事例が増加してきた。ディープフェイクの手法は主に三つ存在する。

顔の入れ替え

ある人物の顔を別人のものに差し替える技術で、故人の映像復元などに使えるものの、詐欺や名誉毀損を目的に悪用されるケースも少なくない。最新の事例ではWeb会議中にリアルタイムで顔を入れ替える（ライブ・ディープフェイク）などの被害も報告されている。

音声合成

音声サンプルから対象とする人物の音声を再現する技術で、昨今では話し方の癖やトーンまで緻密に再現可能である。そのため、偽の送金指示など悪用事例が急増している。

動きや表情の擬態

体全体の動きや表情をリアルに再現する技術で、架空の人物をゼロから生成する「完全合成型」の再現も可能である。悪用されれば、存在しない人物が詐欺行為を行うこともありえる。

企業が直面する具体的なリスクとして、特に警戒すべき二つの脅威を深掘りする。

なりすまし

他人になりすまして詐欺行為を働く事例が多数報告されている。例えば、ディープフェイクで有名政治家や起業家になりすまして、商品の宣伝や政治活動に利用されたことが話題になった。著名人のブランド力を勝手に悪用することで、意図的に世論誘導ができてしまう。また、企業担当者になりすましてビデオ会議に偽映像で参加する事例も存在する。

サイバー攻撃

例えば、経営者のフェイク動画を悪用すれば、本来指示していない内容を社内に伝達することで機密情報を盗み出すこともありうる。また、偽音声・偽映像を使って自社の経理担当者に送金を指示することで、振り込みを実行させることも可能である。

フィッシング詐欺では偽メールやSMSを介して送金を誘導するが、音声や映像を用いるディープフェイクでは、さらにだまされるリスクが高まる。

巧妙な偽造を見破るために、日常の業務で意識すべき三つのチェックポイントを紹介する。

文章におかしな点はないか

多くの場合、フェイク画像や動画が投稿されればその説明文が添えられている。その説明文に誤字脱字や文法・文脈面での不自然さを確認しよう。あまりにも文章におかしな点が多ければ、翻訳ソフトなどを利用した、海外からの組織的詐欺を疑うべきである。

極端な主張がなされていないか

画像や動画でなされている主張が極端な場合は、別の情報源で事実確認することが欠かせない。少なくとも一つのメディアでしか流されていない情報は、そのまま信じるべきではない。また、有名人がいきなり主張を変えてきた場合、特に注意が必要である。

画像に不可解な点はないか

ディープフェイクの作り込みが甘いと、画像に不可解な点が生じることもある。影や人物の肌色、指の本数など少しでも不可解な点があればディープフェイクを疑ってみよう。また、動画であれば、音声と口元の動きにズレがないかを確認することも、見分けるポイントである。

被害を未然に防ぐため、組織として備えておくべき「技術」と「教育」の両輪から解説しよう。

ディープフェイク検出ツールの活用

ディープフェイク検出ツールを活用することで、不審な映像や音声を自動でスクリーニングできる。写真や動画がAIで生成されたものであるかどうかを判定できるツールや、ビデオ通話をリアルタイム解析できるツールもリリースされており、それらを活用することでなりすまし被害の低減につなげよう。

もちろん、ディープフェイク検出ツールの精度は完全ではないが、少なくとも人の目だけで判定するよりも効率的である。

情報源の確認

最近のディープフェイク画像・動画はかなり精度が上がっており、目視だけで判断することが困難になってきた。そのため、ディープフェイクへの対策として、情報源の確認も不可欠であり、情報源の信頼性が不十分であれば一層疑う必要がある。

例えば、SNSやニュースで拡散されている情報は、信頼できる情報源を複数参照することで信頼性を判定できる。また、送金や機密情報に関する連絡を受けた場合は、電話など別の手段で本人に直接確認すると安心である。

セキュリティ教育の徹底

ディープフェイクの被害を防ぐために、どれほど高精度な検出ツールを導入しても、最後は従業員の意識が欠かせない。それを高めるには、十分なセキュリティ教育が必須である。例えば、定期的にセキュリティ被害の事例を共有して、ディープフェイクの脅威を自分ごととして捉えてもらうことが必要である。

万一、ディープフェイクの被害を受けた場合でも、研修で説明されていたことをすぐに思い出し、適切に対応できれば被害を最小限に抑えられる。

ディープフェイクは「目に見えるもの、聞こえるものが真実とは限らない」という新たなリスクを突きつけている。この脅威を正しく理解し、対策を提案することは、顧客の資産と信頼を守るうえで不可欠な要素となるだろう。