AIサイバー攻撃とは、機械学習や生成AI技術によってサイバー攻撃の効率や精度を高める手法である。最近では、複数のAIが役割分担して自律的に連携し、偵察から侵入までを自動化する「マルチエージェント型AI」まで現れてきている。英国NCSC（サイバーセキュリティ当局）も、AIは「ほぼ間違いなく」サイバー攻撃を激化させると結論づけ、攻撃者がセキュリティの脆弱性を悪用するまでの時間が格段に早まるとしている。

ここではAIサイバー攻撃の主要手口について解説する。

AIサイバー攻撃の主要手口

ここではAIサイバー攻撃の主要手口について解説する。

DDoS攻撃

DDoS攻撃は、大量のボットでターゲットにアクセスを集中させて、システムダウンを狙う手法である。ボットやトラフィックをAIで統制することで、これまで用いられてきた防御フィルターの回避を図る。

詐欺メッセージの作成

詐欺メールも生成AIで大量に作成できる。生成AIの言語技術が目覚ましく進歩している昨今、あまり違和感がない文章の作成も可能になってきた。多言語対応やパーソナライズ化も可能で、メールの受信者がだまされるリスクが高まっている。

マルウェアの作成

生成AIを使ってコード作成もできるため、それを悪用すればマルウェアの作成も可能である。これにより、専門知識が乏しくても高度なマルウェアの開発が容易化する恐れがある。既存の検知ソフトを回避するため、コードの一部を自動で書き換えるなどの手法も考えられる。

なりすまし

AIのディープフェイク技術を駆使して、特定人物の音声や映像を巧妙に偽造する手法である。例えばWeb会議に偽の役員を参加させ、機密情報の窃取を狙う方法がある。もしくは、セキュリティチェックをなりすましで通過することも考えられる。

AIファジング

ソフトウェアの脆弱性を発見するため、AIが膨大なテストデータを自動生成してシステムに送り込む手法である。人間だけでは発見が難しい複雑なバグを高速で特定し、脆弱性対策が行われる前に攻撃を加えるゼロデイ攻撃の準備を効率化させかねない。

ポイズニング

他のAIの学習データに悪意ある情報を混ぜ込むことで、そのAIモデルが持つ判断基準を意図的にゆがめる方法である。これにより、特定の条件下に置かれるとAIが誤判定を起こすため、セキュリティ検知の無効化やシステムの誤作動など、攻撃者にとって有利な動作を意図的に引き起こすことができる。

回避攻撃

AIが検知に使用しているアルゴリズムの隙を突き、微細なノイズを加えることで攻撃を正常な通信に見せかける手法である。例えば、防御側がAI画像認識やログ解析を用いていても回避攻撃で欺くことにより、不正な活動が検知されなくなる。

ここでは、AIサイバー攻撃の対策について、以下の6点を解説する。

ログ監視

システムログを常時解析することで、異常動作を早期に発見する手法である。AIを活用すれば膨大なログから悪意ある行動のパターンを自動抽出できるため、人間だけでは見逃してしまうような隠密性の高い攻撃もいち早く検知でき、すぐに対処できる。

トラフィック監視

ネットワーク内を流れるデータの挙動を監視し、不審な通信をリアルタイムで遮断する手法である。未知の攻撃による通信パターンであっても、AIで通常トラフィックとの差異を検知することで即座に異常を特定できるため、拡散を未然に防げる。

脆弱性診断

自社システムの脆弱性をAIが網羅的にスキャンすることで、攻撃者に悪用される前にシステム修正を試みる。また、ペネトレーションテストで複雑な侵入経路を高速にシミュレーションすることで、防御の穴を的確にふさぐ対策にも有効である。

マルウェア検知

マルウェアを速やかに検知することで、いち早くその影響を軽減できる。技術の進歩で新たなマルウェアも次々に登場しているが、挙動やコードの特徴からAIで識別することも可能である。ゼロデイ攻撃に対しても、ファイルの実行履歴から脅威を判定できる。

自動インシデントレスポンス

サイバー攻撃を検知でき次第、被害範囲の特定や通信隔離を自動的に実行する仕組みである。この初動対応をAIで秒単位にまで短縮することで、人的な判断を待つ間の被害拡大を防ぎ、システムを迅速に復旧できる。

運用最適化

セキュリティポリシーの設定や運用の優先順位付けを徹底することで、管理負荷を軽減しつつセキュリティを高められる。これもAIを取り入れることでより一層効率化でき、最新の脅威トレンドに合わせて防御ルールを自動更新することもできる。よって、常に最適なセキュリティレベルを維持し、管理者のミスも減らすことができる。

AIによってサイバー攻撃の効率や精度が高度化しており、今後もその傾向が強まる可能性は極めて高い。

AIサイバー攻撃の主要な手口にはDDoS攻撃やポイズニングなどがあり、AIツールが悪意あるAIによって攻撃されるケースも出てきた。それに対策を講じるには、ログ監視や運用最適化などが有効である。

自社のクライアントには、AIでサイバー攻撃が激化する可能性と自社のAIが攻撃されるリスクを伝え、セキュリティ対策ソリューションを提案してみるのもよいだろう。