• aktuelno
Dnevne novine
SRBIJA
Informer
Video

21.07.2026

16:10

Nova pretnja za AI asistente: Hakeri mogu da im promene sećanja bez znanja korisnika

Shutterstock

Hi-Tech

Nova pretnja za AI asistente: Hakeri mogu da im promene sećanja bez znanja korisnika

Veštačka inteligencija koja pamti korisnike donosi više pogodnosti, ali otvara i potpuno novu vrstu rizika. Umesto da pokušaju da probiju zaštitu sistema, hakeri sada traže način da promene ono što AI smatra istinom.

Veštačka inteligencija postaje sve ličnija jer moderni asistenti mogu da pamte navike korisnika, prethodne razgovore i važne informacije.

Međutim, upravo ta funkcija dugoročnog pamćenja mogla bi da postane nova slaba tačka koju napadači pokušavaju da iskoriste.

Istraživači sa Univerziteta u Novom Meksiku otkrili su napad nazvan "GhostWriter", koji omogućava ubacivanje lažnih informacija u memoriju AI agenata. Umesto klasične krađe podataka, ovaj napad menja ono što sistem kasnije smatra pouzdanim informacijama.

Kako funkcioniše "trovanje" AI memorije?

Za razliku od napada koji utiču samo na jedan razgovor, GhostWriter ostavlja trag u dugoročnoj memoriji asistenta.

Zlonamerne informacije mogu se ubaciti putem skrivenih instrukcija ili nepouzdanog sadržaja, a zatim se aktivirati tek kasnije kada AI odgovara na neki novi zahtev.

Korisnik pritom možda uopšte ne zna da asistent koristi izmenjene podatke.

Foto: Shutterstock

 

Posledice mogu biti ozbiljne

Ako napadač uspe da promeni memoriju AI sistema, posledice mogu biti različite, od pogrešnih preporuka i netačnih podataka do potencijalno opasnih radnji.

Kompromitovani asistent mogao bi da zapamti pogrešne kontakte, izmišljene rokove ili lažne informacije, a u određenim scenarijima čak i da izvrši neželjene radnje oslanjajući se na tako izmenjena "sećanja".

Testovi pokazali visoku uspešnost napada

Tokom eksperimenata sa naprednim AI agentima, istraživači su zabeležili veoma visoku uspešnost ubacivanja lažnih memorija.

Zlonamerne informacije kasnije su se aktivirale u značajnom broju slučajeva, što pokazuje da postojeći sistemi zaštite još nisu dovoljno otporni.

Zbog toga naučnici predlažu nove metode zaštite, među kojima je i okvir AM-Sentry, čiji je cilj stroža kontrola podataka koje AI sistemi čuvaju i koriste.

Kako AI asistenti sve više preuzimaju ulogu ličnih pomoćnika, zaštita njihove memorije postaje jedno od ključnih pitanja buduće sajber-bezbednosti.

BONUS VIDEO

Komentari

Ostavite komentar

Pravila komentarisanja:

Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.

Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni. Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji, etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.

Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.

Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.

sledeća vest

Politika

TV

Naše kamere nikad ne spavaju! Gledajte "Na merama" u subotu od 20h
Live TV

Naše kamere nikad ne spavaju! Gledajte "Na merama" u subotu od 20h

U prethodnoj epizodi emisije "Na merama" videli ste gde najviše voli da “dokoniše” blokaderski profesor Jovo Bakić, kako penzionerske dane provode blokaderi Dušan Petričić i Žarko Korać, o čemu “pripoveda” blokaderski analitičar Cvijetin Milivojević, zašto je samozvani revolucionar Predrag Voštinić teški licemer, sa kime je to u društvu bila glumica blokaderka Anđelka Prpić...

17.07.2026

15:41

JOŠ TV VESTI

Društvo

Hronika

Planeta

JOŠ Planeta VESTI

Zabava

Džet set