ChatGPTの登場以降、専門家はマルウェアなどサイバー攻撃の技術的ハードルが低くなることに警鐘を鳴らしてきた。ChatGPTを活用することで、ノウハウや知識のない人間でも悪意のあるプログラムが容易に作れてしまうようになったからだ。

実際に、2024年5月には生成AIを悪用してマルウェアを作成した男性が、不正指令電磁的記録作成容疑で逮捕されたという発表があった。この容疑者は、IT分野での職歴はなかったという。

さらに今後心配されるのが、ゼロデイ攻撃・ワンデイ攻撃へのAI利用だ。ベンダーがOSやソフトウェアなどの脆弱（ぜいじゃく）性を発見し、そのセキュリティパッチを配布した日をワンデイ、その前の段階をゼロデイと呼び、ゼロデイ・ワンデイの脆弱性をついた攻撃をそれぞれゼロデイ攻撃・ワンデイ攻撃という。セキュリティパッチを配布した後、すぐに適用できれば攻撃を防げる可能性は高いが、対応が遅れがちなサーバー機器などがサイバー攻撃の標的になりやすい。

また、アメリカの研究者が発表した論文「LLM Agents can Autonomously Exploit One-day Vulnerabilities」では、生成AIを活用した自律的なサイバー攻撃に関する研究結果を公表している。

この研究では、研究者たちが開発したプロンプトと特定の脆弱性情報を組み合わせ、自律的な攻撃を起こさせる試行を実施。その結果、GPT-4は成功率86.7%という数値を叩き出している。ほかのLLM（大規模言語モデル)では成功率が0％という結果だったが、近い将来、あらゆる生成AIでゼロデイ・ワンデイを突いた自律的なサイバー攻撃が行えるようになってしまう可能性があると考えられる。

2024年6月、日本政府は成長戦略として「統合イノベーション戦略2024」を策定した。その3本柱の一つとして、「AI研究開発と安全確保」が据えられている。

「AI開発研究と安全確保」には、「生成AIは社会経済システムに大きな変革をもたらす一方で、偽・誤情報の流布や犯罪の巧妙化など様々なリスクも指摘され、安全・安心の確保が求められる。」と記載されている。

この対策として、独立行政法人情報処理推進機構（IPA）にAIセーフティ・インスティテュート（AISI）を設立し、専門人材の育成・確保と、先進的な技術的知見の集約を進めるとされている。また、内閣府や警察庁、デジタル庁、総務省をはじめとする関係省庁・機関などは、AIの安全確保に向けAISIと協力していくことになる。

偽・誤情報の対策としては、生成AIを利用したものを含めてネット上に拡散された情報のファクトチェックを行い、国際連携を強化しながら制度面を整備すると同時に、AI生成コンテンツを判別する技術の開発や実証、リテラシー向上にも取り組む予定だ。

今後さらに拡大しそうな生成AIによるサイバー攻撃だが、現状生成AIに特化した対策はない。従来のサイバー攻撃よりも手口が巧妙であるため、侵入されることを前提に社内外の全てに対してセキュリティ対策を行うゼロトラストによる考え方が必須となるだろう。

「ゼロトラストセキュリティ」の詳細はこちら!

大きなニュースになった某企業グループへのサイバー攻撃は、EDR（エンドポイントセキュリティ）対策がされていなかった部門から侵入したと報道された。今回EDR対策が遅れていた部門では、ランサムウェアによってデータが暗号化されたり、Active Directoryへの侵入で、PCなどが使用できなくなったりといった被害を受けたという。

「エンドポイントセキュリティ」の詳細はこちら!

この一件からも、EDRの導入は大きな効果があると言えるのではないだろうか。また、EDRに併せてNGAV（次世代アンチウイルス）も導入することでより効果的な対策を行える。生成AIによって作成されたマルウェアは、従来のアンチウイルスソフトのようなパターンマッチングでは、対応が間に合わないことも起こり得るのだ。異常な行動を検知するNGAVであれば、新しいマルウェアを検知できる割合も高まるはずだ。

AIの進化は日進月歩で、常に最新の情報は置き換わっている。今後、どのようなサイバー攻撃が起こり得るのか予測するのは難しいため、万が一サイバー攻撃を受けた際に、被害を最小限に食い止める対策を行っていくことを考えていこう。