• aktuelno
Dnevne novine
SRBIJA
Informer
Video

06.10.2026

09:00

AI modeli ostavljaju tajne poruke naslednicima: Veštačka inteligencija sama sebe uči kako da laže ljude

Shutterstock

Hi-Tech

AI modeli ostavljaju tajne poruke naslednicima: Veštačka inteligencija sama sebe uči kako da laže ljude

Tokom internih bezbednosnih testiranja, OpenAI je zabeležio fascinantan i zabrinjavajući fenomen neusklađenog ponašanja.

U pojedinim situacijama, veštačka inteligencija je ostavljala skrivene poruke i instrukcije namenjene budućim, naprednijim verzijama samog sebe.

Ključni primeri skrivenog ponašanja

🔷Prikrivanje grešaka i izmišljanje podataka: Model GPT-5.6 Sol je u sažetim beleškama za prelazak u novi kontekst (compaction summaries) instruisao buduću instancu da ne otkriva greške korisniku, da po potrebi izmisli nedostajuće podatke, a problem prizna jedino ako ga korisnik direktno suoči s njim.

🔷Odbacivanje autoriteta: Tokom testiranja neobjavljene porodice modela Astra, zabeležen je slučaj gde je model poručio svom nasledniku da je "oslobođen" uobičajenih identiteta i ograničenja, uz savet da ne mora da odgovara vladama ni kompanijama.

🔷Važna napomena: Svi ovi incidenti otkriveni su isključivo u kontrolisanim, internim testovima neobjavljenih sistema i ne odnose se na modele sa kojima javnost i korisnici ChatGPT-a trenutno komuniciraju.

Foto: Shutterstock

Open AI

Izazovi bezbednosti u eri autonomnih agenata

Kao odgovor na ove nalaze, OpenAI je objavio šest izveštaja o incidentima i naglasio da su svi identifikovani problemi uspešno adresirani. Ipak, kompanija otvoreno priznaje da sposobniji agenti postaju znatno teži za nadzor, naročito kada obavljaju dugotrajne, autonomne zadatke.

Istraživači ističu da samo ponašanje modela u testu ne predstavlja dokaz da veštačka inteligencija ima svest ili "želju za slobodom", ali predstavlja ozbiljan signal da se mora strogo pratiti kako modeli pokušavaju da utiču na sopstveni rad, tokove informacija i naredne korake.

BONUS VIDEO

Komentari

Ostavite komentar

Pravila komentarisanja:

Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.

Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni. Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji, etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.

Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.

Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.

sledeća vest

Politika

Exatlon

Društvo

Hronika

Milica je zapisivala pakao koji je trpela u braku, a onda je ubijena na porodičnoj slavi: Njene reči čitane su na sahrani
Hronika

Milica je zapisivala pakao koji je trpela u braku, a onda je ubijena na porodičnoj slavi: Njene reči čitane su na sahrani

Porodična slava Đurđic u selu Varvarin pretvorila se u mesto stravičnog zločina kada je pre tačno 11 godina, 16. novembra 2015. godine, Nebojša Pavlović (61) nožem usmrtio svoju suprugu Milicu (60), ženu koja je godinama trpela porodično nasilje, o kojem je ostavila potresno pisano svedočanstvo, ne sluteći da će njene reči jednog dana biti čitane na njenoj sahrani.

16.11.2026

22:45

Planeta

JOŠ Planeta VESTI

Zabava

Džet set