Gemini je opasniji nego što mislite: Podaci nestaju bez traga u roku od par sekundi

Istraživači su otkrili ranjivost u Gemini AI integraciji sa Gugl Kalendarom, koja omogućava napadačima da ukradu privatne podatke putem skrivenih komandi. Gugl je brzo reagovao i ispravio problem, ali rizici od manipulacije AI sistemima ostaju.

Istraživači su otkrili ozbiljnu sigurnosnu ranjivost u Gugl integraciji Gemini AI, posebno u vezi sa Gugl Kalendarom. Iako je nova funkcija, koja omogućava Gemini-ju da bude pametniji povezivanjem sa vašim kalendarom, osmišljena da olakša svakodnevne zadatke, ona takođe otvara vrata novim vrstama sigurnosnih rizika. Umesto da nam pomogne, AI asistenti sada mogu postati most za krađu naših najosetljivijih podataka.

Tim istraživača iz Miggo Security-a otkrio je da se privatne postavke Gugl Kalendara mogu zaobići, omogućavajući napadačima da pristupe vašim poverljivim podacima samo putem običnog poziva na sastanak.

Manipulacija Gemini-jem kroz ranjivost

Ključ ove ranjivosti je tehnika poznata kao Indirektna Prompt Injection, koju su istraživači iskoristili da manipulišu Gemini-jem kako bi izvršio neovlašćene radnje. Napadači bi mogli da šalju pozivnice za sastanke sa skrivenim instrukcijama, koje bi AI navele da izvrši radnje kao što su sumiranje vaših sastanaka i kreiranje novih događaja bez vašeg znanja. Na prvi pogled, ovo bi izgledalo kao potpuno bezopasna funkcionalnost.

Šta se dešava pri malicioznim komandama?

Kada skriveni uputi budu izvršeni, Gemini će kreirati novi događaj u kalendaru sa celokupnim pregledom vaših sastanaka, koji postaje vidljiv napadaču. Za korisnika, međutim, cela interakcija izgleda sasvim normalno. Ova "uspavana" radnja se izvodi bez očiglednih znakova za korisnika, što ovu vrstu napada čini izuzetno teško prepoznatljivom.

Ova vrsta ponašanja otkriva potencijalne opasnosti od prepuštanja AI asistentima kontrole nad našim digitalnim životima. Istraživanje pokazuje da ono što se na prvi pogled čini kao jednostavna funkcionalnost, AI koji odgovara na vaše upite vezane za kalendar, može se koristiti za krađu podataka bez ikakvih sumnji.

Gugl je reagovao, ali rizici ostaju

Pozitivna vest je da je ranjivost otkrivena i prijavljena Guglovom sigurnosnom timu, koji je potvrdio problem i sprovedio ispravke. Iako je ovaj konkretan problem sada rešavan, on otvara ozbiljna pitanja o širem sigurnosnom riziku koji dolazi sa AI integrisanim alatima, posebno onima koji upravljaju našim ličnim i osetljivim podacima.

Foto: Shutterstock

Rastući broj AI-pokretanih funkcionalnosti koje koristimo svakodnevno, bilo da se radi o kalendarima, e-mailovima ili društvenim mrežama, može se manipulisati na načine koji su ranije bili nezamislivi. Iako je Gugl brzo reagovao, složenost AI interakcija zahteva veću pažnju i snažnije zaštite kako bi se osigurala privatnost korisnika.

AI ranjivosti kao novi izazov u sajber bezbednosti

Gemini exploit je samo jedan od primera šireg trenda u kojem su AI sistemi postali meta sofisticiranih sajber napada. Ove ranjivosti više nisu samo u kodu, one se sada nalaze u jeziku i kontekstu koji AI razume i na koji reaguje. Kako AI postaje sve više integrisan u naše živote, tako raste i rizik od manipulacije kroz suptilne jezičke tragove.

Prošle godine, slična taktika je upotrebljena da se manipuliše drugim AI sistemom, Perplexity agentičnim pretraživačem, što pokazuje da je prompt injekcija globalni problem. Kako ove tehnologije napreduju, tako raste i potreba da razvijemo bolje razumevanje potencijalnih pretnji koje one nose po našu privatnost i sigurnost.

AI funkcionalnosti moraju biti bolje zaštićene

Kako AI-nativne funkcionalnosti postaju sve češće, jasno je jedno: moramo se suočiti sa novim vrstama eksploitacije. AI aplikacije mogu biti manipulirane kroz jezik, a ranjivosti više nisu vezane samo za kod, sada se nalaze u ponašanju ovih sistema, u načinu na koji komuniciraju s nama. Dani kada su se brige oko sigurnosti svodile isključivo na kod su prošli, sada sajber bezbednost mora da se fokusira na suptilnosti ljudskog jezika i ponašanja AI-a u realnom vremenu, kako bi naši podaci ostali sigurni.

Foto: Shuterstock

Istraživači iz Miggo Security-a upozoravaju da će ovakve ranjivosti biti sve učestalije kako AI bude preuzimao sve više odgovornosti u našim digitalnim interakcijama. Kako budemo sve više integrišovali AI u naš svakodnevni život, važno je da ostanemo oprezni i da prepoznamo skrivene rizike koji vrebaju u naizgled bezopasnim radnjama.

BONUS VIDEO