Veštačka inteligencija koja pamti korisnike donosi više pogodnosti, ali otvara i potpuno novu vrstu rizika. Umesto da pokušaju da probiju zaštitu sistema, hakeri sada traže način da promene ono što AI smatra istinom.
Veštačka inteligencija postaje sve ličnija jer moderni asistenti mogu da pamte navike korisnika, prethodne razgovore i važne informacije.
Međutim, upravo ta funkcija dugoročnog pamćenja mogla bi da postane nova slaba tačka koju napadači pokušavaju da iskoriste.
Istraživači sa Univerziteta u Novom Meksiku otkrili su napad nazvan "GhostWriter", koji omogućava ubacivanje lažnih informacija u memoriju AI agenata. Umesto klasične krađe podataka, ovaj napad menja ono što sistem kasnije smatra pouzdanim informacijama.
Kako funkcioniše "trovanje" AI memorije?
Za razliku od napada koji utiču samo na jedan razgovor, GhostWriter ostavlja trag u dugoročnoj memoriji asistenta.
Zlonamerne informacije mogu se ubaciti putem skrivenih instrukcija ili nepouzdanog sadržaja, a zatim se aktivirati tek kasnije kada AI odgovara na neki novi zahtev.
Korisnik pritom možda uopšte ne zna da asistent koristi izmenjene podatke.
Foto: Shutterstock
Posledice mogu biti ozbiljne
Ako napadač uspe da promeni memoriju AI sistema, posledice mogu biti različite, od pogrešnih preporuka i netačnih podataka do potencijalno opasnih radnji.
Kompromitovani asistent mogao bi da zapamti pogrešne kontakte, izmišljene rokove ili lažne informacije, a u određenim scenarijima čak i da izvrši neželjene radnje oslanjajući se na tako izmenjena "sećanja".
Testovi pokazali visoku uspešnost napada
Tokom eksperimenata sa naprednim AI agentima, istraživači su zabeležili veoma visoku uspešnost ubacivanja lažnih memorija.
Zlonamerne informacije kasnije su se aktivirale u značajnom broju slučajeva, što pokazuje da postojeći sistemi zaštite još nisu dovoljno otporni.
Zbog toga naučnici predlažu nove metode zaštite, među kojima je i okvir AM-Sentry, čiji je cilj stroža kontrola podataka koje AI sistemi čuvaju i koriste.
Kako AI asistenti sve više preuzimaju ulogu ličnih pomoćnika, zaštita njihove memorije postaje jedno od ključnih pitanja buduće sajber-bezbednosti.
Gugl je objavio nove Uslove korišćenja za Gugl Plrej, koji će važiti od 29. jula 2026. godine o po prvi put jasno naveo da sistemske Android usluge mogu koristiti mobilne podatke u pozadini, čak i kada korisnik ne koristi uređaj ili kada je ekran zaključan.
Kad internet počne da "štuca", većina ljudi odmah pomisli da je problem u rutеru ili da im treba skuplji paket. Ipak, stručnjaci ističu da se pravi uzrok često krije u jednoj opciji koja već postoji u skoro svakom modernom ruteru, ali se retko koristi.
Američka tehnološka kompanija Gugl predstavila je novo ažuriranje svoje AI video platforme Vids, koje korisnicima omogućava da kreiraju personalizovane digitalne avatare.
Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće
registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.
Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni.
Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili
nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji,
etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.
Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne
predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.
Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.
Gugl je objavio nove Uslove korišćenja za Gugl Plrej, koji će važiti od 29. jula 2026. godine o po prvi put jasno naveo da sistemske Android usluge mogu koristiti mobilne podatke u pozadini, čak i kada korisnik ne koristi uređaj ili kada je ekran zaključan.
Kako saznajemo iz izvora bliskih Ministarstvu spoljnih poslova Srbije, Srbija je uputila protestnu notu Hrvatskoj zbog najgrubljeg mešanja u izborni proces u našoj zemlji.
Novi Beograd je večeras goreo od ponosa, patriotizma i nezaustavljive narodne energije gde se okupila reka nasmejanih, raspoloženih građana kako bi pružili nikad snažniju podršku politici predsednika Aleksandra Vučića, nosioca liste "Aleksandar Vučić - Ujedinjena Srbija".
Miljan Salata, kandidat blokaderske liste, godinama je radio za ZDL studio iz hrvatskog grada Rijeke, gde je učestvovao na projektima u toj zemlji, uključujući zagrebački Paromlin, hotel Grabovac, Kantridu i privatne vile.
Nosilac liste "Aleksandar Vučić - Ujedinjena Srbija" Aleksandar Vučić oštro je odgovorio potpredsedniku Skupštine Crne Gore i vlastima u Zagrebu na zahteve da Srbija isplaćuje navodne odštete.
Takmičarka Plavog tima u Exatlonu Srbija Sanja Filipović prozvala je novu takmičarku Crvenog tima Milu Ivanovski i rekla kako je u takmičenje došla samo turistički.
U najtežim životnim iskušenjima, kada se Nadina porodica susrela sa brojnim nemirima, ona je utehu potražila pred čudotvornom ikonom Presvete Bogorodice Lepavinske.
U centrima za obuku Vojske Srbije u Somboru, Valjevu i Leskovcu realizovana je provera osnovne individualne obučenosti vojnika koji su u septembru započeli dobrovoljno služenje vojnog roka.
U Vranje nema laganje, ali ima šale! Video snimak na kome se vidi medved koji trči naseljem Sobina na dva kilometra od samog centra Vranja danas je šokirao Vranjance.
Zagrebačka policija razbila je privatni narko-biznis u Velikoj Gorici i uhapsila muškarca (61) koji je porodična imanja pretvorio u prave plantaže opojne droge, namenjene daljoj ilegalnoj distribuciji.
Pred sudom u Holandiji počelo je procesuiranje nezapamćenog slučaja porodičnog užasa i zverstva u kom je državljanin Bosne i Hercegovine (64) optužen da je punih 13 godina seksualno zlostavljao i silovao rođenu kćerku.
Pripadnici policije u Sremskoj Mitrovici, u efikasnoj i sinhronizovanoj akciji sprovedenoj u saradnji sa pripadnicima Stanice granične policije Sremska Rača, lišili su slobode Z. B. (52) zbog postojanja osnova sumnje na prodaju droge.
Pripadnici Ministarstva unutrašnjih poslova u Nišu rasvetlili su seriju teških krađa i po nalogu Osnovnog javnog tužilaštva u Nišu, uhapsili P. R. (22) iz ovog grada zbog postojanja osnova sumnje da je izvršio ova krivična dela.
L. C. (23), koja je povređena nakon pada s lučne zgrade u Novom Pazaru, prebačena je iz šok-sobe na hirurško odeljenje nakon stabilizacije zdravstvenog stanja.
Odnosi američkog predsednika Donalda Trampa i ukrajinskog lidera Volodimira Zelenskog ponovo su pali na najniži nivo od njihovog dramatičnog sukoba u Ovalnom kabinetu u februaru 2025. godine, ocenjuje američki list "Volstrit džurnal" (WSJ).
Divlja divokoza već nekoliko dana napada džogere u okolini Besankona, na istoku Francuske, zbog čega su angažovani stručnjaci za hvatanje i odstrel vukova i drugih opasnih životinja kako bi se osigurala bezbednost stanovnika, javljaju francuski mediji.
Poljska razmatra uvođenje obaveznog vojnog roka kako bi ojačala svoje oružane snage, izjavila je danas zamenica ministra odbrane Magdalena Sobkovjak-Čarnecka.
Đorđa Meloni, premijerka Italije, pozvala je zemlje Evropske unije da usaglase jedinstven stav o Ukrajini i da ili imenuju zajedničkog predstavnika za pregovore sa jasnim mandatom svih 27 država ili da zvanično ovlaste užu grupu zemalja da obavlja tu ulogu.
Pozorište Puž najavljuje novu predstavu za decu i odrasle "Aleksa u zemlji čuda", prema tekstu Branislava Milićevića, u realizaciji Katarine Kosmač prema režiji Slobodanke Cace Aleksić.
Voditeljka Ana Radulović sinoć je bila gost kod Ognjena Amidžića i tom prilikom je govorila o sudskom sporu koji vodi sa rijaliti učesnikom Ivanom Marinkovićem.
Pevačica Teodora Džehverović privukla je pažnju fotografijama sa putovanja u Milano, a pored njenog stajlinga, mnogima je za oko zapao i modni detalj koji je nosila na ruci.
Tiktokerka Esther Bešlić je nastupom na "Supertalentu" oduševila sve, a sada je raspametila svoje pratioce na TikToku pošto je otpevala veliki hit Halida Bešlića.
Komentari
Ostavite komentar
Pravila komentarisanja:
Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.
Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni. Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji, etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.
Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.
Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.