今日のニュース内容は「検索結果によると、AI（人工知能）が詐欺メールの作成に悪用される可能性について、複数の記事で言及されています。」
出典：ニュースチェック（2025.09.18）https://article.auone.jp/detail/1/3/7/48_7_r_20250917_1758063762836713
主な内容は以下の通りです。
- AIによる詐欺メールの巧妙化:
- ChatGPTやGeminiなどの生成AIは、不自然な日本語になりがちだった従来の詐欺メールとは異なり、自然な文章を生成できるため、見破ることが困難になっています。
- 攻撃者はAIを使い、より本物らしく、説得力のある詐欺メールを大量に作成しています。
- 「ステルスプロンプト」による悪用:
- 検索結果には、「ステルスプロンプト」という手法の存在も示唆されています。これは、人間には見えないようにHTMLやCSSで隠された指示文をAIに与え、AIの要約機能を悪用してフィッシングメールを作成するというものです。
- 記事によっては、GoogleのGeminiが、このステルスプロンプトによって、あたかもGoogleからの正規の警告であるかのようなフィッシングメッセージを表示させることが可能になったと報じられています。
- AIモデル自体へのマルウェア攻撃:
- AI自体を標的にしたマルウェア「Morris II」に関する研究も発表されており、生成AIを介してマルウェアが拡散するリスクについても指摘されています。
このように、AIが悪意ある目的で利用される可能性は、セキュリティ専門家の間で大きな懸念事項となっています。AIサービスは常識的な判断をしないため、悪意のあるメール文面も生成できてしまう点に注意が必要です。
