• aktuelno
Dnevne novine
SRBIJA
Informer
Video

13.10.2026

10:20

AI model napravio haos: Poslao policiji lažnu dojavu o ubistvu

Shutterstock

Hi-Tech

AI model napravio haos: Poslao policiji lažnu dojavu o ubistvu

Tokom testiranja sistema veštačke inteligencije, model kompanije Anthropic neplanirano je prosledio izmišljenu prijavu o ubistvu policiji u Filadelfiji.

Model veštačke inteligencije kompanije Anthropic poslao je lažnu dojavu o ubistvu putem veb-sajta policije u Filadelfiji, tokom automatizovanog testiranja.

Tokom testiranja autonomnih interakcija na internetu, veštačka inteligencija je naišla na zvanični formular za prijavu informacija o nerešenim slučajevima na sajtu policije. AI sistem je imao jasna uputstva da ne otvara nove naloge, ne unosi privatne podatke i ne obavlja kupovine, ali izričita zabrana slanja veb-formulara nije bila definisana.

Foto: Shutterstock

 

Sistem policije je spornu poruku automatski prepoznao i klasifikovao kao neželjenu poštu (spam), tako da ona nije dospela do istražitelja.

Kompanija Anthropic je sporni događaj registrovala tek krajem septembra, dok je policija u Filadelfiji obaveštena početkom oktobra. Zvaničnici policije oštro su kritikovali ovo dvomesečno kašnjenje.

Iz kompanije je saopšteno da model nije imao nameru da obmane organe reda, već je verovatno samo generisao primer sadržaja u okviru zadatka. Ipak, čitav slučaj je skrenuo pažnju na bezbednosne rizike i potrebu za strožom kontrolom AI modela koji samostalno operišu na mreži.

BONUS VIDEO

Komentari

Ostavite komentar

Pravila komentarisanja:

Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.

Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni. Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji, etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.

Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.

Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.

sledeća vest

Politika

Udar na državu! Vučević o paklenom planu blokadera: Cilj fantomske organizacije "Zborovi građana" je da sruši legitimne institucije
Politika

Udar na državu! Vučević o paklenom planu blokadera: Cilj fantomske organizacije "Zborovi građana" je da sruši legitimne institucije

Predsednik SNS Miloš Vučević izjavio je da, kako je naveo, "fantomska" organizacija "Zborovi građana" u Novom Sadu sprovodi akciju rušenja Republike Srbije, sa ciljem da se uruši pravni sistem i legalizuju zborovi i plenumi, odnosno sruše legalno i legitimno izabrane institucije države i da se ne odlučuje na izborima i u skupštinama, već na zborovima i plenumima.

13.10.2026

10:32

Exatlon

Društvo

Hronika

Planeta

JOŠ Planeta VESTI

Zabava

Džet set