Veštačka inteligencija koja pamti korisnike donosi više pogodnosti, ali otvara i potpuno novu vrstu rizika. Umesto da pokušaju da probiju zaštitu sistema, hakeri sada traže način da promene ono što AI smatra istinom.
Veštačka inteligencija postaje sve ličnija jer moderni asistenti mogu da pamte navike korisnika, prethodne razgovore i važne informacije.
Međutim, upravo ta funkcija dugoročnog pamćenja mogla bi da postane nova slaba tačka koju napadači pokušavaju da iskoriste.
Istraživači sa Univerziteta u Novom Meksiku otkrili su napad nazvan "GhostWriter", koji omogućava ubacivanje lažnih informacija u memoriju AI agenata. Umesto klasične krađe podataka, ovaj napad menja ono što sistem kasnije smatra pouzdanim informacijama.
Kako funkcioniše "trovanje" AI memorije?
Za razliku od napada koji utiču samo na jedan razgovor, GhostWriter ostavlja trag u dugoročnoj memoriji asistenta.
Zlonamerne informacije mogu se ubaciti putem skrivenih instrukcija ili nepouzdanog sadržaja, a zatim se aktivirati tek kasnije kada AI odgovara na neki novi zahtev.
Korisnik pritom možda uopšte ne zna da asistent koristi izmenjene podatke.
Foto: Shutterstock
Posledice mogu biti ozbiljne
Ako napadač uspe da promeni memoriju AI sistema, posledice mogu biti različite, od pogrešnih preporuka i netačnih podataka do potencijalno opasnih radnji.
Kompromitovani asistent mogao bi da zapamti pogrešne kontakte, izmišljene rokove ili lažne informacije, a u određenim scenarijima čak i da izvrši neželjene radnje oslanjajući se na tako izmenjena "sećanja".
Testovi pokazali visoku uspešnost napada
Tokom eksperimenata sa naprednim AI agentima, istraživači su zabeležili veoma visoku uspešnost ubacivanja lažnih memorija.
Zlonamerne informacije kasnije su se aktivirale u značajnom broju slučajeva, što pokazuje da postojeći sistemi zaštite još nisu dovoljno otporni.
Zbog toga naučnici predlažu nove metode zaštite, među kojima je i okvir AM-Sentry, čiji je cilj stroža kontrola podataka koje AI sistemi čuvaju i koriste.
Kako AI asistenti sve više preuzimaju ulogu ličnih pomoćnika, zaštita njihove memorije postaje jedno od ključnih pitanja buduće sajber-bezbednosti.
Gugl je objavio nove Uslove korišćenja za Gugl Plrej, koji će važiti od 29. jula 2026. godine o po prvi put jasno naveo da sistemske Android usluge mogu koristiti mobilne podatke u pozadini, čak i kada korisnik ne koristi uređaj ili kada je ekran zaključan.
Kad internet počne da "štuca", većina ljudi odmah pomisli da je problem u rutеru ili da im treba skuplji paket. Ipak, stručnjaci ističu da se pravi uzrok često krije u jednoj opciji koja već postoji u skoro svakom modernom ruteru, ali se retko koristi.
Američka tehnološka kompanija Gugl predstavila je novo ažuriranje svoje AI video platforme Vids, koje korisnicima omogućava da kreiraju personalizovane digitalne avatare.
Gugl je objavio nove Uslove korišćenja za Gugl Plrej, koji će važiti od 29. jula 2026. godine o po prvi put jasno naveo da sistemske Android usluge mogu koristiti mobilne podatke u pozadini, čak i kada korisnik ne koristi uređaj ili kada je ekran zaključan.
Večeras je u Savskoj ulici, došlo do blokade na poziv lidera Suverenista Srbije Vukše Dragovića, zbog nasilja i terora koji su obeležili ovih devet dana takozvane demokratske vlasti tzv. Studentske liste.
Pozivi na hapšenje novinarke i voditeljke Informer TV Andree Veskov, koji su se pojavili na društvenim mrežama, ponovo su otvorili pitanje granica političke netrpeljivosti i odnosa prema novinarima koji imaju drugačije stavove.
Poznati novinar Ivan Radovanović i pisac Muharem Bazdulj u jednom podkastu brutalno su ogolili laži, teror i licemerje "Studentske liste" i njihovih političkih nalogodavaca!
Kako Informer saznaje, Milan Kuč, direktor korporativne bezbednosti Aerodroma "Nikola Tesla", koji se dodvorava tzv. Studenstoj listi i novoj budućoj vlasti u Srbiji, prijavio je prolazak Aleksandra Vulina preko VIP terminala, uz tvrdnju da Vulin nije prošao redovnu kontrolu na VIP terminalu.
Lider Srpskih suverenista Vukša Dragović, istakao je da je tokom okupljanja u Savskoj poslata jasna poruka, da građani više neće trpeti teror, i da ih očekuje novi važan zadatak – podrška Informer televiziji.
Glavni i odgovorni urednik Informera, Dragan J. Vučićević, najavio je da će se zbog aktuelnih dešavanja i pritisaka nova epizoda Exatlona Srbija emitovati u izmenjenom terminu.
Menjači sa dvostrukim kvačilom bez većih kvarova mogu podneti vožnju i do 200.000 kilometara, ukoliko se pravilno koriste i održavaju, utvrdili su iz nemačkog automobilskog kluba ADAC.
Meteorolog Ivan Ristić najavio je promenu vremenskih prilika u Srbiji tokom narednih dana, ali i mogućnost jačeg zahlađenja sredinom novembra, koje bi, prema trenutnim prognozama, moglo da donese sneg čak i u nižim predelima.
Prava drama i nezapamćeno nasilje odigrali su se u noći između nedelje i ponedeljka na Banovom brdu, kada su dvojica razbojnika upala u stan devedesetogodišnje starice i brutalno je maltretirala.
Demokratski kandidat za senatora iz Mičigena Abdul el Sajed proglasio je pobedu na međuizborima koji su u Sjedinjenim Američkim Državama održani 3. novembra, čime će, ukoliko i zvanični rezultati to potvrde, postati prvi musliman izabran u američki Senat.
Vladimir Zelenski opstaje na vlasti zahvaljujući sobama za mučenje koje su osnova njegove vlasti, izjavila je predstavnica Ministarstva spoljnih poslova Rusije Marija Zaharova za Sputnjik.
Ruski predsednik Vladimir Putin postepeno izlazi iz međunarodne izolacije u koju su zapadne države pokušale da ga stave nakon početka rata u Ukrajini, a ključnu ulogu u jačanju diplomatskog položaja Moskve ima američki predsednik Donald Tramp, piše Njujork tajms.
Specijalne jedinice brojnih zapadnih država već deluju na teritoriji Ukrajine, a strani vojni stručnjaci neposredno učestvuju u pripremi raketnih udara na ruske vojne i civilne objekte, izjavio je bivši generalni sekretar Organizacije ugovora o kolektivnoj bezbednosti (ODKB) Nikolaj Bordjuža.
Legendarna glumica Jelena Žigon, koju generacije gledalaca pamte po ulozi prije Jelene Todorović u kultnoj "Žikinoj dinastiji", rođena je 3. novembra 1933. godine u Beogradu.
Slikarka i scenografkinja Vasilisa Radojević preminula je u nemaštini, a njen poslednji ispraćaj u Nikšiću organizovao je lokalni Centar za socijalni rad.
Poznati turski glumački par Pinar Altug i Jagmur Atadžan privukao je veliku pažnju javnosti nakon što je otvoreno govorio o neprijatnim situacijama u kojima se nalaze kada ih rođaci i prijatelji zamole za novac.
Marina Tucaković, jedna od najpoznatijih tekstopisaca sa naših prostora, rođena je na današnji dan 1953. godine, a da je živa, danas bi proslavljala 73. rođendan.
Komentari