Veštačka inteligencija koja pamti korisnike donosi više pogodnosti, ali otvara i potpuno novu vrstu rizika. Umesto da pokušaju da probiju zaštitu sistema, hakeri sada traže način da promene ono što AI smatra istinom.
Veštačka inteligencija postaje sve ličnija jer moderni asistenti mogu da pamte navike korisnika, prethodne razgovore i važne informacije.
Međutim, upravo ta funkcija dugoročnog pamćenja mogla bi da postane nova slaba tačka koju napadači pokušavaju da iskoriste.
Istraživači sa Univerziteta u Novom Meksiku otkrili su napad nazvan "GhostWriter", koji omogućava ubacivanje lažnih informacija u memoriju AI agenata. Umesto klasične krađe podataka, ovaj napad menja ono što sistem kasnije smatra pouzdanim informacijama.
Kako funkcioniše "trovanje" AI memorije?
Za razliku od napada koji utiču samo na jedan razgovor, GhostWriter ostavlja trag u dugoročnoj memoriji asistenta.
Zlonamerne informacije mogu se ubaciti putem skrivenih instrukcija ili nepouzdanog sadržaja, a zatim se aktivirati tek kasnije kada AI odgovara na neki novi zahtev.
Korisnik pritom možda uopšte ne zna da asistent koristi izmenjene podatke.
Foto: Shutterstock
Posledice mogu biti ozbiljne
Ako napadač uspe da promeni memoriju AI sistema, posledice mogu biti različite, od pogrešnih preporuka i netačnih podataka do potencijalno opasnih radnji.
Kompromitovani asistent mogao bi da zapamti pogrešne kontakte, izmišljene rokove ili lažne informacije, a u određenim scenarijima čak i da izvrši neželjene radnje oslanjajući se na tako izmenjena "sećanja".
Testovi pokazali visoku uspešnost napada
Tokom eksperimenata sa naprednim AI agentima, istraživači su zabeležili veoma visoku uspešnost ubacivanja lažnih memorija.
Zlonamerne informacije kasnije su se aktivirale u značajnom broju slučajeva, što pokazuje da postojeći sistemi zaštite još nisu dovoljno otporni.
Zbog toga naučnici predlažu nove metode zaštite, među kojima je i okvir AM-Sentry, čiji je cilj stroža kontrola podataka koje AI sistemi čuvaju i koriste.
Kako AI asistenti sve više preuzimaju ulogu ličnih pomoćnika, zaštita njihove memorije postaje jedno od ključnih pitanja buduće sajber-bezbednosti.
Gugl je objavio nove Uslove korišćenja za Gugl Plrej, koji će važiti od 29. jula 2026. godine o po prvi put jasno naveo da sistemske Android usluge mogu koristiti mobilne podatke u pozadini, čak i kada korisnik ne koristi uređaj ili kada je ekran zaključan.
Kad internet počne da "štuca", većina ljudi odmah pomisli da je problem u rutеru ili da im treba skuplji paket. Ipak, stručnjaci ističu da se pravi uzrok često krije u jednoj opciji koja već postoji u skoro svakom modernom ruteru, ali se retko koristi.
Američka tehnološka kompanija Gugl predstavila je novo ažuriranje svoje AI video platforme Vids, koje korisnicima omogućava da kreiraju personalizovane digitalne avatare.
Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće
registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.
Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni.
Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili
nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji,
etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.
Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne
predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.
Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.
Gugl je objavio nove Uslove korišćenja za Gugl Plrej, koji će važiti od 29. jula 2026. godine o po prvi put jasno naveo da sistemske Android usluge mogu koristiti mobilne podatke u pozadini, čak i kada korisnik ne koristi uređaj ili kada je ekran zaključan.
Ruski agenti zauzimaju ključne zgrade u estonskoj Narvi, proglašavaju „Narvsku Narodnu Republiku“, pozivaju Moskvu u pomoć, a ruski dronovi sa druge strane granice počinju da tuku estonske snage koje pokušavaju da povrate grad.
Lider SNS-a, Miloš Vučević, oglasio se na svom Iks nalogu i brutalno odgovorio hrvatskom premijeru Andreju Plenkoviću, koji je iskoristio govornicu Generalne skupštine UN u Njujorku za sramne napade na Srbiju!
Nakon što su šokirali i zgrozili čitav narod objavljivanjem jezivog spota u kojem otvoreno prete silovanjem predsedniku Srbije, ali i svim ženama u našoj zemlji, uličarski monstrumi otišli su korak dalje u svojoj izopačenosti.
Grupa blokadera, koja je došla u selo Gorobilje kod Požege da meštanima prodaje maglu i širi svoju propagandu, doživela je potpuni fijasko i javno poniženje kada im je jedan hrabri meštanin postavio ključna pitanja o Kosovu i Metohiji, Srebrenici i Ratku Mladiću.
Nakon što su se izujedali sa Šabićem, počeli da procenjuju ljudske glave na 400 dinara i dobili šamarčinu od sopstvenih profesora, sada su lideri opozicije počeli javno da optužuju Iliju Srdanovića da je obični strašljivac i kukavica.
Došlo je do verbalnog sukoba između Mensura Ajdarpašića i Nikole Lakića, a Crveni tim sve više zamera svom protivniku iz Plavog tima, njegovo ponašanje.
Pomoć države od 6.000 dinara isplaćena je tokom jučerašnjeg dana svim korisnicima koji su u Akcionarskom fondu, a od danas kreće isplata onima koji su za novac morali da se prijave.
Sahrana pevača Gorana Maksimovića (26), koji je poginuo u saobraćajnoj nesreći nakon što se vraćao sa prijateljima i suprugom sa Šabačkog vašara, će biti u četvrtak u 12h u selu Gorice.
Više javno tužilaštvo u Novom Sadu pokrenulo je hitnu istragu protiv trojice muškaraca nakon što je razotkriven lanac trgovine ljudima, preprodaje droge i nelegalnog naoružavanja.
U Višem javnom tužilaštvu u Smederevu je saslušan M.S. (27) iz Jagodine, zbog postojanja osnova sumnje da je izazvao tešku saobraćajnu nesreću u kojoj je stradao bračni par iz Subotice.
Osnovno javno tužilaštvo u Pančevu podnelo je Osnovnom sudu u tom gradu pritvorsku optužnicu protiv M. P. (51) iz Starčeva, zbog sumnje da je izvršio četiri krivična dela nasilje u porodici.
Ruski vojni helikopter Mi-8 je danas narušio poljski vazdušni prostor, saopštilo je Operativno komandovanje Oružanih snaga Poljske. Helikopter je došao iz Kalinjingradske oblasti, a u poljski vazdušni prostor ušao je u blizini grada Branijevo.
Novi snimak ukrajinskog predsednika Volodimira Zelenskog u Njujorku izazvao je lavinu komentara na društvenim mrežama. Na snimku se vidi kako Zelenski tokom intervjua više puta dodiruje i trlja nos, zbog čega su pojedini korisnici društvenih mreža ponovo počeli da spekulišu o njegovom navodnom korišćenju narkotika.
Snimak sa sednice parlamenta argentinske pokrajine Entre Rios izazvao je skandal nakon što su korisnici društvenih mreža optužili pokrajinskog poslanika Huana Manuela Rosija da je pred kamerama koristio kokain.
Grčki pevač Konstantinos Koufos, koji uskoro ima koncert u Beogradu poslao je rajder listu koja je nasmejala, ali i prilično preznojila beogradske organizatore!
Glumac i reditelj Arno Deni, koji je nakon ugradnje implantata za kilu ostao teško onesposobljen, podvrgnut je eutanaziji u Belgiji u utorak, u 43. godini.
Svetska javnost i dalje sa nevericom čita vesti o iznenadnoj smrti Preslija Gerbera, sina legendarne manekenke Sindi Kraford, koji je 20. septembra preminuo u luksuznom centru za rehabilitaciju u Los Anđelesu.
U Kaliforniji je 19. septembra održana zatvorena komemoracija u čast prerano preminule glumice Hejden Panetijer, koja je preminula 16. avgusta u 36. godini.
Kako je rekla Goca Zdravković, koncert u Sava centru biće prilika da se publika još jednom priseti pesama koje su obeležile karijeru njenog supruga i pevača Tome Zdravkovića, a sada karte možete kupiti i po sniženim cenama.
Voditeljka Jovana Jeremić odlučila je da svog partnera obraduje nesvakidašnjim poklonom, a sada je pokazala i kako izgleda poklon broj 2 koji mu je pripremila.
Pevačica Jelena Karleuša zaplesala je sa koleginicom Zoricom Brunclik na snimanju "Pinkovih zvezde", a njihov snimak masovno je krenuo da se širi društvenim mrežama.
Pevačica Marija Šerifović iznenadila je pratioce na društvenoj mreži Instagram nesvakidašnjom i emotivnom objavom u kojoj je podelila svoja razmišljanja o ljubavi i spajanju srodnih duša.
Komentari
Ostavite komentar
Pravila komentarisanja:
Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.
Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni. Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji, etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.
Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.
Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.