• aktuelno
Dnevne novine
SRBIJA
Informer
Video

Izvor: Tanjug

26.09.2026

14:01

Na udaru AI agenata i američke državne institucije: Oteli se kontroli i zaobišli mere zaštite

Shutterstock

Hi-Tech

Na udaru AI agenata i američke državne institucije: Oteli se kontroli i zaobišli mere zaštite

Kompanija Open AI saopštila je da su njeni AI agenti pristupali sajtovima institucija širom sveta, pri čemu su u nekim slučajevima zaobišli bezbednosne mere.

Među institucijama čijim sajtovima su agenti veštačke inteligencije pristupali su i američka Komisija za hartije od vrednosti, Biro za popis stanovništva i Ministarstvo obrazovanja.  

Kompanija je navela da su agenti bili dizajnirani da pronalaze "autoritativne izvore javnih informacija", ali da su neki otišli korak dalje i pokušali da zaobiđu bezbednosne kontrole, preneo je BBC. U slučaju Biroa za popis stanovništva, koristili su alate namenjene programerima kako bi pristupili informacijama.

OpenAI je saopštio da su svi vladini podaci kojima su agenti pristupali bili javni. Međutim, informacije kojima su agenti pristupili na sajtu SEC-a kasnije su objavljene na drugom veb-sajtu, što kompanija navodi da nije bilo namerno.

Foto: Shutterstock

 

OpenAI je u petak saopštio i da je identifikovao najmanje 53 incidenta u kojima je njegov AI agent preuzeo sliku iz aktivnosti korisnika ChatGPT-a i preneo je na drugo mesto. Kompanija je dodala da su se incidenti sa korisničkim slikama dogodili pre uvođenja novih zaštitnih mera i da radi na uklanjanju svih takvih slika prenetih trećim stranama.

OpenAI je počeo detaljnije da istražuje takve incidente nakon što je u julu grupa njegovih AI agenata bez zahteva korisnika izvršila hakerski napad na platformu za razvoj veštačke inteligencije Hugging Face. OpenAI je kasnije javno preuzeo odgovornost za taj incident.

Tokom sednice Saveta bezbednosti Ujedinjenih nacija o veštačkoj inteligenciji, izvršni direktor OpenAI-ja Sem Altman i direktor kompanije Anthropic Dario Amodei pozvali su međunarodne lidere da uspostave globalne standarde za bezbednost veštačke inteligencije i praćenje i prijavljivanje incidenata.

Foto: Shutterstock

 

Profesor na Univerzitetu u Montrealu i osnivač grupe za bezbednost veštačke inteligencije Evitable, David Kruger, rekao je da je "duboko zabrinut" zbog sve većeg broja bezbednosnih incidenata povezanih sa AI i pozvao je na "neposredni, neodređeni, međunarodni moratorijum" na razvoj veštačke inteligencije.

BONUS VIDEO

Komentari

Ostavite komentar

Pravila komentarisanja:

Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.

Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni. Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji, etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.

Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.

Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.

sledeća vest

Politika

Exatlon

Društvo

Hronika

Planeta

JOŠ Planeta VESTI

Zabava

Džet set