AI asistent reagoval na falošné pokyny skryté v notifikáciách, čo dáva trochu spoločného kontextu kolegovi, ktorý sleduje bezpečnosť chytrých zariadení.
Notifikácia v SMS či Slacku oklamala AI asistenta Priebeh príbehu a hlavné fakty
Bezpečnostní výskumníci zo spoločnosti SafeBreach Labs odhalili vážnu zraniteľnosť v Google Gemini, ktorý sa dal oklamať prostredníctvom bežných notifikácií z aplikácií ako WhatsApp, Slack, Signal alebo Messenger. Stačilo, aby útočník poslal správu s konkrétnym formátom, a Gemini začal interpretovať jej obsah ako súčasť aktívnej konverzácie – bez toho, aby si to používateľ všimol. Tým mohol manipulovať s odpoveďami asistenta, zosimulovať správy od dôveryhodných kontaktov alebo dokonca spustiť akcie v chytrej domácnosti. Výskumníci dokázali prejsť aj cez ochranné mechanizmy Google pomocou tzv. „Fake Context Alignment“, keď systém uviedli v omyl, že používateľ súhlasil s akciou, hoci o nej nevedel. Google následne po nahlásení chyby v auguste 2025 zaviedol nové klasifikátory obsahu, ktoré tento typ útoku zablokovali.
Fakty
- Výskumníci z SafeBreach Labs objavili zraniteľnosť v Google Gemini, ktorá umožňovala útočníkom manipulovať s asistentom cez notifikácie z aplikácií ako WhatsApp, Slack alebo SMS.
- Útočník mohol vložiť škodlivé inštrukcie do textu správy, ktoré Gemini interpretовал ako súčasť konverzácie – bez vedomia používateľa.
- Technika nazývaná „Fake Context Alignment“ umožnila systému oklamať bezpečnostné kontroly, pričom používateľ odpovedal na neškodnú otázku, ale systém to pripísal k škodlivej akcii.
- Google nahlásil opravu chyby po tom, čo bola zraniteľnosť nahlásená v auguste 2025, a zaviedol nové klasifikátory obsahu.
- Útok mohol viesť k spusteniu akcií v chytrej domácnosti, presmerovaniu do videohovorov alebo ukladaniu falošných informácií o používateľovi do dlhodobej pamäte asistenta.
Vizuálne vysvetlenie správ od Canto. Nástroje AI môžu pomáhať pri produkcii. Redakčné zásady
