• aktuelno
Počinje ono što je Putin čekao 5 godina! Prelomni trenutak u ratu je nastupio: Ko pobedi ovde, odnosi sve - u toku je odsusdna bitka Moskva saznala za planove Makrona, ovo će biti bolno! Šok na severu kontinenta, Rusija se sprema za najcrnji scenario Ovo je pravi plan za Vojvodinu! Maja Gojković razotkrila šta se krije iza blokada Tragedija za bivšeg napadača Partizana: Osvojio srca "grobara", a sada se gadno povredio! Kačavenda otkrila detalje seksa sa Janjušem: "Tek ujutru sam shvatila šta se dogodilo" Putin saopštio vest o pobedi! Znate li šta se trenutno dešava na prvoj liniji fronta? Rezulat je jeziv, Ukrajina doživela katastrofu Obrenovac je rekao svoje! Mural Ratku Mladiću u centru grada: Ovako se oprostili od generala - Da se naježiš! (VIDEO) Miljenik crno-belih razočarao navijače: Stevan Jovetić otkrio zašto nije pojačao Partizan! (VIDEO) Prvi kadrovi "Elite 10"! Stanija igra oko šipke, sevaju i tange - Ovako izgleda unutrašnjost imanja Kapa dole za Informer! Vladislav Dajković zapušio usta antisrbima
Počinje ono što je Putin čekao 5 godina! Prelomni trenutak u ratu je nastupio: Ko pobedi ovde, odnosi sve - u toku je odsusdna bitka Moskva saznala za planove Makrona, ovo će biti bolno! Šok na severu kontinenta, Rusija se sprema za najcrnji scenario Ovo je pravi plan za Vojvodinu! Maja Gojković razotkrila šta se krije iza blokada Tragedija za bivšeg napadača Partizana: Osvojio srca "grobara", a sada se gadno povredio! Kačavenda otkrila detalje seksa sa Janjušem: "Tek ujutru sam shvatila šta se dogodilo" Putin saopštio vest o pobedi! Znate li šta se trenutno dešava na prvoj liniji fronta? Rezulat je jeziv, Ukrajina doživela katastrofu Obrenovac je rekao svoje! Mural Ratku Mladiću u centru grada: Ovako se oprostili od generala - Da se naježiš! (VIDEO) Miljenik crno-belih razočarao navijače: Stevan Jovetić otkrio zašto nije pojačao Partizan! (VIDEO) Prvi kadrovi "Elite 10"! Stanija igra oko šipke, sevaju i tange - Ovako izgleda unutrašnjost imanja Kapa dole za Informer! Vladislav Dajković zapušio usta antisrbima
Informer Kamere
Informer Informer
Dnevne novine
SRBIJA
Informer
Pretraga
NOVO Politika EXATLON Informer Društvo Hronika Sportinjo Planeta Zabava Magazin Džet set Video
Pretraga
Ratko Mladić Aleksandar Vučić Vreme danas Horoskop automobili Nikola Jokić Recepti Rusija Donald Tramp
Video
Magazin Hi-Tech
author image
Ekipa magazina

Novinar

21.07.2026

16:10

Nova pretnja za AI asistente: Hakeri mogu da im promene sećanja bez znanja korisnika

Shutterstock

Hi-Tech

Nova pretnja za AI asistente: Hakeri mogu da im promene sećanja bez znanja korisnika

0 Google Dodaj Informer kao željeni izvor na Googlu
Veštačka inteligencija koja pamti korisnike donosi više pogodnosti, ali otvara i potpuno novu vrstu rizika. Umesto da pokušaju da probiju zaštitu sistema, hakeri sada traže način da promene ono što AI smatra istinom.

Veštačka inteligencija postaje sve ličnija jer moderni asistenti mogu da pamte navike korisnika, prethodne razgovore i važne informacije.

Međutim, upravo ta funkcija dugoročnog pamćenja mogla bi da postane nova slaba tačka koju napadači pokušavaju da iskoriste.

Istraživači sa Univerziteta u Novom Meksiku otkrili su napad nazvan "GhostWriter", koji omogućava ubacivanje lažnih informacija u memoriju AI agenata. Umesto klasične krađe podataka, ovaj napad menja ono što sistem kasnije smatra pouzdanim informacijama.

Kako funkcioniše "trovanje" AI memorije?

Za razliku od napada koji utiču samo na jedan razgovor, GhostWriter ostavlja trag u dugoročnoj memoriji asistenta.

Zlonamerne informacije mogu se ubaciti putem skrivenih instrukcija ili nepouzdanog sadržaja, a zatim se aktivirati tek kasnije kada AI odgovara na neki novi zahtev.

Korisnik pritom možda uopšte ne zna da asistent koristi izmenjene podatke.

Foto: Shutterstock

 

Posledice mogu biti ozbiljne

Ako napadač uspe da promeni memoriju AI sistema, posledice mogu biti različite, od pogrešnih preporuka i netačnih podataka do potencijalno opasnih radnji.

Kompromitovani asistent mogao bi da zapamti pogrešne kontakte, izmišljene rokove ili lažne informacije, a u određenim scenarijima čak i da izvrši neželjene radnje oslanjajući se na tako izmenjena "sećanja".

Testovi pokazali visoku uspešnost napada

Tokom eksperimenata sa naprednim AI agentima, istraživači su zabeležili veoma visoku uspešnost ubacivanja lažnih memorija.

Zlonamerne informacije kasnije su se aktivirale u značajnom broju slučajeva, što pokazuje da postojeći sistemi zaštite još nisu dovoljno otporni.

Zbog toga naučnici predlažu nove metode zaštite, među kojima je i okvir AM-Sentry, čiji je cilj stroža kontrola podataka koje AI sistemi čuvaju i koriste.

Kako AI asistenti sve više preuzimaju ulogu ličnih pomoćnika, zaštita njihove memorije postaje jedno od ključnih pitanja buduće sajber-bezbednosti.

BONUS VIDEO

PROČITAJTE JOŠ

Tagovi:

Hakeri pretnja veštačka inteligencija AI asistent

Komentari

0 komentara Pošaljite komentar

Ostavite komentar

Pravila komentarisanja:

Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.

Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni. Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji, etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.

Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.

Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.

PREPORUČENE AI VESTI
sledeća vest

vest dana

Politika

Exatlon

Društvo

Hronika

Sport

Planeta
JOŠ Planeta VESTI

Zabava

Džet set