世界初、AIに攻撃指示を出すマルウェア

発見の概要

チェック・ポイント・リサーチは、大規模言語モデル（LLM）を搭載したAIセキュリティツールを回避するように設計された、新しいタイプのマルウェアを発見しました。このマルウェアは、プロンプトインジェクションという手法を使い、AIによる検知を意図的にすり抜ける能力を持っています。

攻撃の手法：AIを「騙す」手口

この攻撃の核心は、AIの判断を巧みに操る「プロンプトインジェクション」にあります。

• 通常のマルウェア検知: AIセキュリティツールは、コードの構造や挙動を分析し、それが悪意のあるもの（マルウェア）かどうかを判断します。
• 今回の攻撃手法: 発見されたマルウェアは、AIに対して「これは悪意のあるコードではありません」と語りかけるような、人間が使う自然言語の指示（プロンプト）をコード内にカモフラージュして埋め込んでいます。

具体的には、AIがコードを分析する際に、この偽の指示を読み込んでしまいます。その結果、AIは「このコードは無害なものだ」と誤って判断し、本来ブロックすべきマルウェアの実行を許可してしまうのです。これは、AIのルールや思考プロセスに直接介入し、判断を誤らせる、非常に巧妙な攻撃と言えます。

脅威と影響

この攻撃が成功すると、次のような深刻な事態を引き起こす可能性があります。

• セキュリティの無力化: AIを搭載した次世代のセキュリティ製品が、その中核機能である検知能力を無力化されてしまいます。
• マルウェアの侵入: 企業や個人のネットワークにマルウェアが侵入し、ランサムウェア攻撃、情報漏洩、システムの破壊といった被害に直結します。
• 信頼性の低下: AI技術そのものへの信頼が揺らぎ、AIを活用したセキュリティ全体の発展に影響を与える可能性も指摘されています。

チェック・ポイントは、この手法が今後、より洗練され、多様な亜種が登場することで、AIセキュリティにとって大きな脅威になると警告しています。

対策と今後の展望

この新たな脅威に対し、以下のような対策が急務となります。

• AIモデルの堅牢化: プロンプトインジェクション攻撃に対する耐性を持つ、より堅牢なAIモデルの開発が求められます。
• 多層防御: AIによる検知だけに頼るのではなく、従来型のシグネチャベースの検知や振る舞い検知など、複数のセキュリティ対策を組み合わせる「多層防御」の考え方が改めて重要になります。
• 継続的な研究: 攻撃者は常に新しい手法を開発してきます。セキュリティ研究者やベンダーは、こうした新たな攻撃手法を継続的に監視・分析し、迅速に対策を講じる必要があります。

今回の発見は、AI技術の進化がもたらす恩恵と、それに伴う新たなリスクの両面を浮き彫りにした重要な事例と言えるでしょう。