(VIDEO) Svete, spremi se - stiže terminator scenario! Amerikanac naoružao veštačku inteligenciju, hitno reagovao OpenAI!

OpenAI je zabranio pristup svom API-ju inženjeru koji je, prema izveštajima, koristio Realtime API kompanije za razvoj robotizovanog oružja koje može reagovati na glasovne komande.

Korisnik poznat na internetu kao STS 3D objavio je viralni video u kojem izdaje glasovnu komandu robotu:

- ČetDžiPiTi, napadnuti smo sa prednje leve i prednje desne strane. Reaguj u skladu s tim.

Na snimku se vidi kako robot, navodno, ispaljuje ćorke u pomenutim pravcima, a zatim kaže:

- Ako vam je potrebna dodatna pomoć - samo mi recite.

Jedan korisnik na platformi "Redit" komentarisao je:

- Postoje najmanje tri filma koja objašnjavaju zašto je ovo loša ideja.

OpenAI brzo reagovao i blokirao pristup

Predstavnik OpenAI-ja izjavio je za portal Futurizam, koji je prvi izvestio o incidentu, da je kompanija „proaktivno identifikovala ovo kršenje pravila i obavestila programera da odmah prekine ovu aktivnost“.

- Pravila korišćenja OpenAI-ja izričito zabranjuju upotrebu naših usluga za razvoj ili korišćenje oružja, kao i automatizaciju sistema koji mogu ugroziti ličnu bezbednost - dodali su iz kompanije.

Razvojni inženjer nije komentarisao incident

U oktobru, OpenAI je pokrenuo Realtime API u režimu javne beta verzije. Ovaj alat omogućava programerima da kreiraju dijaloške sisteme sa šest unapred postavljenih glasova, pojednostavljujući razvoj jezičkih aplikacija, edukativnog softvera i korisničke podrške.

STS 3D nije dao nikakve informacije o tome kako je integrisao Realtime API sa oružjem, niti je pojasnio da li je uspeo da zaobiđe sigurnosne mehanizme OpenAI-ja, koji su postavljeni da spreče ovakvu upotrebu tehnologije.

Ostavite komentar

Pravila komentarisanja:

Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.

Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni. Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji, etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.

Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.

Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.