米グーグルは2026年5月12日、サイバー攻撃者がAIを用いた強力なハッキングツールを使用した攻撃を阻止したと発表した。

同社のセキュリティ組織である「Google脅威インテリジェンスグループ（Google Threat Intelligence Group : GTIG）」は、AIで開発したとみられる「ゼロデイエクスプロイト」を仕掛けた犯罪グループを特定した。大規模な悪用イベントで使用する計画を立てていたが、GTIGの働きによって攻撃は阻止されたとみられる。

コードの構造には、AIの顕著な特徴が含まれていた。Pythonの見本に挙げられている例がそのまま使われていたり、存在しない脆弱性に言及するハルシネーションらしき記述があったりしたため、AIが悪質なコード作成を支援したと判断されている。

米Anthropicがリリースした『Claude Mythos』などの高度なAIモデルはシステムの脆弱性を特定する能力が極めて高いとされている。そのため、日本政府は5月12日に、サイバー攻撃のリスクなどの対応策を打ち出している。

内閣官房の国家サイバー統括室が中心となり、関係省庁で対策パッケージをとりまとめるとしている。また、金融庁や金融業界などが官民連携で作業部会を設置し、メガバンクや日本取引所グループ、国内外のIT企業、Anthropicの日本法人が参画することも決まっている。

衝撃的なAIサイバー攻撃は、2024年5月に発生した。生成AIを悪用してマルウェアを作成した川崎市の男性が逮捕され、その後懲役3年執行猶予4年の有罪判決が出ている。生成AIを使用したサイバー攻撃では日本国内で初めての判例である。容疑者にIT企業での勤務経験はなく、IT分野の専門性もなかったという。それにもかかわらず、数種の生成AIを用いてランサムウェアを作れてしまったのだ。

2025年2月には、中学生2名、高校生1名の計3名がAIを用いた犯罪で逮捕されている。「楽天モバイル」のシステムに不正ログインして通信回線を契約した事件だ。

3人は生成AIを用いて、パスワードを機械的に入力して認証されると回線契約を行うというプログラムを作成。そのシステムを運用して楽天モバイルに不正ログインし、通信回線を契約した。プログラムは高校生が独学で自作し、中学生2人はそれを利用したという。

生成AIによるディープフェイクも近年は多発している。2022年、ウクライナのゼレンスキー大統領が自国の兵士に降伏を呼びかける偽動画が拡散された。2023年には、ペンタゴン（米国防総省）付近で大規模爆発が起きたという偽画像が出回り、ニューヨーク株式市場で一時約80ドルの急落が起きている。

サイバー犯罪にAIが使われるようになった半面、セキュリティソリューションにもAIが取り入れられている。AIに関するセキュリティは、大きく2種類に分けられる。

AI for Security：セキュリティのためのAI

AI技術の活用でサイバーセキュリティ対策を強化する考え方。AIは、膨大なログや通信データを迅速かつ高精度に分析し、異常な振る舞いを検知できる。従来のルールをベースにした対策や人手を使った対応は、AIでの対策に変わりつつある。

Security for AI：AIのためのセキュリティ

AIシステムや生成AIの環境を守るためのセキュリティ対策。「プロンプトインジェクション」をはじめとする、AIを狙った攻撃への対策や、入力情報の漏えい防止、シャドーAIへの対応なども含まれる。

巧妙化したサイバー攻撃は、既知のサイバー攻撃を定義したパターンファイルとのマッチングだけでは防ぎきれなくなっている。

新しいセキュリティソリューションには、AIを利用して組織内の資産やリスクを分析することで、潜在的な攻撃経路などを予測するものなどがある。複合的な判断が求められるため人の力では難しいが、AIで分析することで、スピーディーかつ的確にリスクを減らすことができる。

このように、AIによる予防型の防御ができるようになっているほか、通常と異なる挙動を自動で検出するAI異常検知や、膨大なログからAIが脅威を絞り込む自動インシデント分析などのソリューションが開発されている。

セキュリティ対策で必要なことは、基本的な部分では従来と大きく変わることはない。
しかし、サイバー攻撃が巧妙化、激化している現状を踏まえて、AIを活用したソリューションの導入や従業員の教育、脆弱性診断、ペネトレーションテストなども考慮するとよいだろう。