Veštačka inteligencija koja pamti korisnike donosi više pogodnosti, ali otvara i potpuno novu vrstu rizika. Umesto da pokušaju da probiju zaštitu sistema, hakeri sada traže način da promene ono što AI smatra istinom.
Veštačka inteligencija postaje sve ličnija jer moderni asistenti mogu da pamte navike korisnika, prethodne razgovore i važne informacije.
Međutim, upravo ta funkcija dugoročnog pamćenja mogla bi da postane nova slaba tačka koju napadači pokušavaju da iskoriste.
Istraživači sa Univerziteta u Novom Meksiku otkrili su napad nazvan "GhostWriter", koji omogućava ubacivanje lažnih informacija u memoriju AI agenata. Umesto klasične krađe podataka, ovaj napad menja ono što sistem kasnije smatra pouzdanim informacijama.
Kako funkcioniše "trovanje" AI memorije?
Za razliku od napada koji utiču samo na jedan razgovor, GhostWriter ostavlja trag u dugoročnoj memoriji asistenta.
Zlonamerne informacije mogu se ubaciti putem skrivenih instrukcija ili nepouzdanog sadržaja, a zatim se aktivirati tek kasnije kada AI odgovara na neki novi zahtev.
Korisnik pritom možda uopšte ne zna da asistent koristi izmenjene podatke.
Foto: Shutterstock
Posledice mogu biti ozbiljne
Ako napadač uspe da promeni memoriju AI sistema, posledice mogu biti različite, od pogrešnih preporuka i netačnih podataka do potencijalno opasnih radnji.
Kompromitovani asistent mogao bi da zapamti pogrešne kontakte, izmišljene rokove ili lažne informacije, a u određenim scenarijima čak i da izvrši neželjene radnje oslanjajući se na tako izmenjena "sećanja".
Testovi pokazali visoku uspešnost napada
Tokom eksperimenata sa naprednim AI agentima, istraživači su zabeležili veoma visoku uspešnost ubacivanja lažnih memorija.
Zlonamerne informacije kasnije su se aktivirale u značajnom broju slučajeva, što pokazuje da postojeći sistemi zaštite još nisu dovoljno otporni.
Zbog toga naučnici predlažu nove metode zaštite, među kojima je i okvir AM-Sentry, čiji je cilj stroža kontrola podataka koje AI sistemi čuvaju i koriste.
Kako AI asistenti sve više preuzimaju ulogu ličnih pomoćnika, zaštita njihove memorije postaje jedno od ključnih pitanja buduće sajber-bezbednosti.
Gugl je objavio nove Uslove korišćenja za Gugl Plrej, koji će važiti od 29. jula 2026. godine o po prvi put jasno naveo da sistemske Android usluge mogu koristiti mobilne podatke u pozadini, čak i kada korisnik ne koristi uređaj ili kada je ekran zaključan.
Kad internet počne da "štuca", većina ljudi odmah pomisli da je problem u rutеru ili da im treba skuplji paket. Ipak, stručnjaci ističu da se pravi uzrok često krije u jednoj opciji koja već postoji u skoro svakom modernom ruteru, ali se retko koristi.
Američka tehnološka kompanija Gugl predstavila je novo ažuriranje svoje AI video platforme Vids, koje korisnicima omogućava da kreiraju personalizovane digitalne avatare.
Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće
registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.
Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni.
Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili
nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji,
etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.
Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne
predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.
Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.
Gugl je objavio nove Uslove korišćenja za Gugl Plrej, koji će važiti od 29. jula 2026. godine o po prvi put jasno naveo da sistemske Android usluge mogu koristiti mobilne podatke u pozadini, čak i kada korisnik ne koristi uređaj ili kada je ekran zaključan.
Stravičan zločin protiv istine i ljudskosti odigrao se na društvenoj mreži Iks, gde je zbog najprljavije kampanje laži i linča tragično okončan život mladog policijskog službenika Vasilija Lalovića (33).
Sirene za vazdušnu opasnost oglasile su se širom Poljske u okviru velike nacionalne vežbe kojom vlasti proveravaju koliko brzo država može da upozori stanovništvo i pokrene sistem reagovanja u slučaju napada iz vazduha.
Bivši košarkaš Dejan Bodiroga, koji se u javnosti sve više gura kao lider lažne elite i blokaderskog pokreta, doživeo je potpuni finansijski debakl u privatnom biznisu.
Mihajlo Matović, sin glavnog blokadera iz Kraljeva Ivana Matoviča, pokazao je da nije odmakao dalje od svog oca, koji je učestvovao u pokušaju državnog udara.
Ministarstvo odbrane i Vojska Srbije izdali su Radosavu G. uverenje kojim se potvrđuje da je učestvovao u odbrani SR Jugoslavije tokom NATO agresije 1999. godine, nakon zahteva koji je uputio putem portala "Ko si bre ti".
Vukola Tomović, vlasnik jedne od vikendica na jezeru Gazivode, čije je rušenje danas počelo po nalogu preduzeća Ibar - Lepenac, izjavio je da je rešenje o rušenju objekta dobio 3. jula i da on drugi dom nema.
U najnovijoj epizodi emisije „Na merama“ videćete šta je to rastužilo perjanicu Đilasove stranke Borka Stefanovića, gde voli da boravi propali političar Srđan Milivojević, kuda se to zaputio samozvani revolucionar Aleksandar Jovanović Ćuta, kako vreme provodi bivša ministarka zdravlja Danica Grujičić...
U prethodnoj epizodi emisije "Na merama" videli ste gde najviše voli da “dokoniše” blokaderski profesor Jovo Bakić, kako penzionerske dane provode blokaderi Dušan Petričić i Žarko Korać, o čemu “pripoveda” blokaderski analitičar Cvijetin Milivojević, zašto je samozvani revolucionar Predrag Voštinić teški licemer, sa kime je to u društvu bila glumica blokaderka Anđelka Prpić...
Snežana Paunović, ministarka državne uprave i lokalne samouprave gostujući u Info jutru objasnila je zašto se našla na udaru različitih struktura na Kosovu i Metohiji, ali i u centralnom delu Srbije.
Stanari jedne stambene zgrade u Borči mesecima su živeli u gotovo nepodnošljivim uslovima zbog nesnosnog smrada koji se širio hodnicima i zajedničkim prostorijama, a čiji je uzrok bila uginula svinja.
Potpredsednik Vlade Republike Srbije i ministar unutrašnjih poslova Ivica Dačić izjavio je da su pripadnici Ministarstva unutrašnjih poslova, UKP, Službe za borbu protiv organizovanog kriminala, u saradnji sa Službom za kriminalističko-obaveštajni rad i PU u Požarevcu, uhapsili dve osobe kod kojih je pronađena veća količina droge.
Na auto-putu Subotica – Novi Sad, u blizini Molove pumpe, danas oko 15:46 časova dogodila se teška saobraćajna nezgoda kada je došlo do prevrtanja cisterne.
Almira Vukadinović, supruga visokopozicioniranog pripadnika "škaljarskog klana" Predraga Vukadinovića, uhapšena je po nalogu crnogorskog Specijalnog državnog tužilaštva zbog sumnje da je učestvovala u stvaranju kriminalne organizacije.
Adnan Lokvančić, koji je osumnjičen za nezapamćen zločin u naselju Hrasnica kada je lopatom usmrtio majku i brata, a potom majci odrubio glavu, prebačen je u Pritvorsku jedinicu KPZ Igman gde se nalazi pod strogim nadzorom.
Predsednik Sjedinjenih Američkih Država Donald Tramp izjavio je da su američke snage uništile gotovo kompletne vojne kapacitete Irana, uključujući mornaricu, ratno vazduhoplovstvo, radarske sisteme, protivvazdušnu odbranu, kao i između 98 i 99 odsto raketa i dronova kojima je Teheran raspolagao.
Beograđani koji su se zatekli u Rovinju tokom snažnog nevremena požalili su se Informeru da im je krupan grad polupao automobile, dok su kao dokaz dostavili fotografije ledenih gromada koje su padale po gradu.
Iranske balističke rakete probile su protivvazdušnu odbranu američke baze „Muafak Salti“ u Jordanu i u tri odvojena udara pogodile teretanu, avionski hangar i stambeni blok u kojem su živeli i spavali američki vojnici.
Kineska obalska straža (CCG) objavila je snimak dramatičnog sukoba sa filipinskim vojnicima kod spornog grebena Renaj Đao u Južnom kineskom moru, posle kojeg su Peking i Manila međusobno pozvali ambasadore na razgovor.
Vilem Defo otkrio je da mu je uloga Isusa Hrista u filmu "Poslednje Hristovo iskušenje" bila fizički najzahtevnija u karijeri, a da je zbog nje privremeno i oslepeo.
Anastasija Ražnatović pre nekoliko dana dobila je sina sa fudbalerom Nemanjom Gudeljom, a sada je na Instagramu podelila prvi snimak naslednika kojem su dali ime Ilijan.
Bivša prijateljica Stanije Dobrojević Tamara Radoman došla je sinoć u Šimanovce kako bi podržala Anitu Stanojlović, pa progovorila i o svom odnosu sa starletom i Asminom Durdžićem.
Pojedine estradne ličnosti iza sebe nose priče ispunjene velikom tugom, kao što je gubitak deteta. Među njima su Mirko Kodić, Milić Vukašinović, Žika Todorović kao i Eva Ras.
Starleta Stanija Dobrojević progovorila je o svom detinjstvu, roditeljima i vaspitanju, kao i o ocu kojeg je rano izgubila i vršnjačkom nasilju koje je preživljavala.
Komentari
Ostavite komentar
Pravila komentarisanja:
Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.
Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni. Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji, etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.
Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.
Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.