Žena se dopisivala sa AI, a onda je upala policija i uhapsila je! Veštačka inteligencija se šokirala porukama, pa je hitno prijavila

Tridesetogodišnja Karli Mišel Heler sa Floride uhapšena je nakon što je u razgovoru sa AI četbotom Klod napisala da planira napad na kancelariju lokalnog šerifa, a poruke je prvo označio bezbednosni sistem kompanije Antropik, zatim ih je pregledao čovek i slučaj prijavio policiji.

Helerova iz Bonita Springsa rekla je policiji da je Klod koristila kao svojevrstan "dnevnik", ali je razgovor 26. septembra dobio sasvim drugačiji tok kada je, prema izveštaju o hapšenju, napisala da će napasti kancelariju šerifa okruga Li. Već sledećeg dana navodno je napisala da je nabavila novi pištolj i poruku predstavila kao "poslednju šansu".

AI označio razgovor, odluku doneo čovek

Prema policijskom izveštaju, Antropikovi bezbednosni sistemi prepoznali su sadržaj kao potencijalno opasan i prosledili razgovor timu za ljudsku proveru.

Tek nakon tog koraka procenjeno je da poruke predstavljaju dovoljno ozbiljnu moguću pretnju da se o njima obavesti policija. Dakle, četbot nije samostalno „pozvao policiju“ - automatizovani sistem označio je razgovor, ali je čovek pregledao sadržaj pre nego što je slučaj prosleđen vlastima.

Zamenici šerifa potom su otišli do kuće Helerove u Bonita Springsu i priveli je bez incidenta.

Protiv nje je podignuta optužba za upućivanje pisane pretnje nasiljem.

Prema zakonu Floride, krivično delo predstavlja slanje, objavljivanje ili prenošenje pisanog ili elektronskog zapisa dostupnog drugoj osobi u kojem se preti ubistvom, nanošenjem telesnih povreda, masovnom pucnjavom ili terorističkim napadom.

Takvo delo na Floridi spada u krivična dela drugog stepena. Optužba protiv Helerove za sada predstavlja navod tužilaštva i policije, a njena krivica nije utvrđena sudskom presudom.

"Koristila sam ga kao dnevnik"

Posebnu pažnju slučaj je privukao zbog tvrdnje Helerove da je AI četbot koristila kao lični dnevnik, odnosno prostor u kojem je zapisivala svoje misli.

Upravo tu slučaj otvara mnogo šire pitanje - koliko su razgovori sa AI sistemima zaista privatni i u kojim situacijama kompanija koja upravlja četbotom može da pregleda ili prosledi sadržaj vlastima.

Antropik u svojim pravilima navodi da podatke korisnika generalno ne daje državnim institucijama bez odgovarajućeg pravnog zahteva, poput naloga ili sudskog poziva.

Postoji, međutim, važan izuzetak.

Kompanija navodi da u vanrednim okolnostima može da dostavi informacije policiji bez čekanja na uobičajeni pravni postupak ukoliko proceni da postoji hitna opasnost od smrti ili teške telesne povrede i da bi brzo dostavljanje podataka moglo da spreči takav ishod.

U slučaju Helerove proces, prema policijskoj dokumentaciji koju su preneli američki mediji, nije počeo tako što je policija od Antropika zatražila njen razgovor.

Dogodilo se obrnuto: bezbednosni sistem platforme označio je poruke, slučaj je prosleđen čoveku na pregled, a nakon procene sadržaja Antropik je kontaktirao organe reda.

Kompanija za sada nije javno objavila detaljan tehnički opis načina na koji je konkretan razgovor označen niti šta su tačno bezbednosni sistemi prepoznali pre nego što je slučaj stigao do ljudskog tima.

Slučaj zato predstavlja jedan od jasnijih primera da razgovor sa AI četbotom, čak i kada ga korisnik doživljava kao privatni dnevnik, u slučaju ozbiljnih pretnji ne mora ostati samo između korisnika i mašine.

BONUS VIDEO