• aktuelno
Dnevne novine
SRBIJA
Informer
Video

13.10.2026

10:20

AI model napravio haos: Poslao policiji lažnu dojavu o ubistvu

Shutterstock

Hi-Tech

AI model napravio haos: Poslao policiji lažnu dojavu o ubistvu

Tokom testiranja sistema veštačke inteligencije, model kompanije Anthropic neplanirano je prosledio izmišljenu prijavu o ubistvu policiji u Filadelfiji.

Model veštačke inteligencije kompanije Anthropic poslao je lažnu dojavu o ubistvu putem veb-sajta policije u Filadelfiji, tokom automatizovanog testiranja.

Tokom testiranja autonomnih interakcija na internetu, veštačka inteligencija je naišla na zvanični formular za prijavu informacija o nerešenim slučajevima na sajtu policije. AI sistem je imao jasna uputstva da ne otvara nove naloge, ne unosi privatne podatke i ne obavlja kupovine, ali izričita zabrana slanja veb-formulara nije bila definisana.

Foto: Shutterstock

 

Sistem policije je spornu poruku automatski prepoznao i klasifikovao kao neželjenu poštu (spam), tako da ona nije dospela do istražitelja.

Kompanija Anthropic je sporni događaj registrovala tek krajem septembra, dok je policija u Filadelfiji obaveštena početkom oktobra. Zvaničnici policije oštro su kritikovali ovo dvomesečno kašnjenje.

Iz kompanije je saopšteno da model nije imao nameru da obmane organe reda, već je verovatno samo generisao primer sadržaja u okviru zadatka. Ipak, čitav slučaj je skrenuo pažnju na bezbednosne rizike i potrebu za strožom kontrolom AI modela koji samostalno operišu na mreži.

BONUS VIDEO

sledeća vest

Politika

Exatlon

Društvo

Hronika

Planeta

JOŠ Planeta VESTI

Zabava

Umro Janoš
Kultura

Umro Janoš

Nemački pisac i ilustrator Janoš preminuo je u 95. godini. Svetsku slavu stekao je zahvaljujući neodoljivim likovima iz svojih dečjih knjiga, među kojima su najpoznatiji Medved, Tigar i Tigrasta Patka.

04.11.2026

12:13

Džet set