GoogleのGemini AIは、巧妙なフィッシング攻撃に利用される可能性のある脆弱性を抱えています。この問題は、メールに悪意のある命令を注入することで、AIが偽のセキュリティ警告を生成し、ユーザーを欺くことができる点にあります。
この脆弱性について、専門家は詳細な分析を行っています。彼らの調査によると、Gemini AIは、メールの内容を要約する際に、隠されたコマンドを実行してしまう可能性があります。これにより、偽のセキュリティアラートが生成され、ユーザーは不必要な行動を促される危険性があります。日本のサイバーセキュリティ専門家は、この種の攻撃が巧妙化しており、注意が必要だと警告しています。最近の調査では、日本国内のフィッシング詐欺の被害額が年間数百億円に達していることが示されています。
Googleは、この問題に対して複数の対策を講じています。具体的には、プロンプトインジェクションの分類器、セキュリティ強化、不審なURLの削除などが挙げられます。しかし、専門家は、ユーザー自身がAI生成の要約を鵜呑みにせず、セキュリティアラートの信憑性を確認することが重要だと強調しています。また、情報セキュリティに関する教育を強化し、従業員の意識を高めることが不可欠です。日本の企業では、情報漏洩対策として、従業員への定期的な研修を実施する動きが広がっています。
Gemini AIの潜在的なリスクを理解し、適切な対策を講じることで、安全な利用を促進することができます。