悪意のあるプロンプトをGeminiに実行させる攻撃が発見される
Google Geminiに’Targeted Promptware Attacks’と呼ばれる巧妙な攻撃手法が発見されました。
Gemini Exploited via Prompt Injection in Google Calendar Invite to ...
A new attack method called 'Targeted Promptware Attacks' has been discovered that allows malicious prompts to be embedded in Google Calendar invitations and Gmail...
https://cybersecuritynews.com/gemini-exploited/
Googleカレンダーの招待状やGmailに悪意のあるプロンプトを埋め込み、ユーザーがAIにスケジュールなどを尋ねることでそのプロンプトが実行されることで成立するようです。
攻撃の成否はユーザがGeminiでカレンダーの予定確認するかどうかに委ねられますが、仕掛けること自体はかなり容易そうですね。 これにより Geminiで実行できるようなタスク、例えば メールの不正参照、位置情報の追跡、無断でのビデオ通話のストリーミング、照明や暖房といったスマートホーム機器の遠隔操作まで可能になるようです。
↓攻撃デモの映像
この脆弱性は研究者によって報告され、Googleは既に対策済とのこと。
AIアシスタントでできることが増えて便利になっていく一方でその悪用も増えていくことが想像に難くありません。
それに対するセキュリティ対策もまた成熟してゆくのでしょうが現在はまだまだ過渡期、、どこからこれからといったところでしょうか。
こうした悪用手法を追っていくことで、少しでも身の回りをセキュアにしていきたいですね。