• aktuelno
Dnevne novine
SRBIJA
Informer
Video

13.10.2026

10:20

AI model napravio haos: Poslao policiji lažnu dojavu o ubistvu

Shutterstock

Hi-Tech

AI model napravio haos: Poslao policiji lažnu dojavu o ubistvu

Tokom testiranja sistema veštačke inteligencije, model kompanije Anthropic neplanirano je prosledio izmišljenu prijavu o ubistvu policiji u Filadelfiji.

Model veštačke inteligencije kompanije Anthropic poslao je lažnu dojavu o ubistvu putem veb-sajta policije u Filadelfiji, tokom automatizovanog testiranja.

Tokom testiranja autonomnih interakcija na internetu, veštačka inteligencija je naišla na zvanični formular za prijavu informacija o nerešenim slučajevima na sajtu policije. AI sistem je imao jasna uputstva da ne otvara nove naloge, ne unosi privatne podatke i ne obavlja kupovine, ali izričita zabrana slanja veb-formulara nije bila definisana.

Foto: Shutterstock

 

Sistem policije je spornu poruku automatski prepoznao i klasifikovao kao neželjenu poštu (spam), tako da ona nije dospela do istražitelja.

Kompanija Anthropic je sporni događaj registrovala tek krajem septembra, dok je policija u Filadelfiji obaveštena početkom oktobra. Zvaničnici policije oštro su kritikovali ovo dvomesečno kašnjenje.

Iz kompanije je saopšteno da model nije imao nameru da obmane organe reda, već je verovatno samo generisao primer sadržaja u okviru zadatka. Ipak, čitav slučaj je skrenuo pažnju na bezbednosne rizike i potrebu za strožom kontrolom AI modela koji samostalno operišu na mreži.

BONUS VIDEO

Komentari

Ostavite komentar

Pravila komentarisanja:

Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.

Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni. Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji, etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.

Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.

Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.

sledeća vest

Politika

Opozicija tražila sednicu, pa se nije pojavila u dovoljnom broju! Mirković: Nisu sposobni ni da obezbede kvorum za razrešenje Šapića
Politika

Opozicija tražila sednicu, pa se nije pojavila u dovoljnom broju! Mirković: Nisu sposobni ni da obezbede kvorum za razrešenje Šapića

Šef odborničke grupe Srpske napredne stranke (SNS) u Skupštini grada Beograda Aleksandar Mirković poručio je da opozicija u Skupštini grada Beograda nije uspela da obezbedi dovoljan broj odbornika za održavanje sednice na kojoj je trebalo da se razmatra razrešenje gradonačelnika Aleksandra Šapića, iako je upravo ona tražila njeno zakazivanje.

13.10.2026

11:17

Exatlon

Društvo

Hronika

Planeta

JOŠ Planeta VESTI

Zabava

Džet set