(VIDEO) Svete, spremi se - stiže terminator scenario! Amerikanac naoružao veštačku inteligenciju, hitno reagovao OpenAI!

OpenAI je zabranio pristup svom API-ju inženjeru koji je, prema izveštajima, koristio Realtime API kompanije za razvoj robotizovanog oružja koje može reagovati na glasovne komande.

Korisnik poznat na internetu kao STS 3D objavio je viralni video u kojem izdaje glasovnu komandu robotu:

- ČetDžiPiTi, napadnuti smo sa prednje leve i prednje desne strane. Reaguj u skladu s tim.

Na snimku se vidi kako robot, navodno, ispaljuje ćorke u pomenutim pravcima, a zatim kaže:

- Ako vam je potrebna dodatna pomoć - samo mi recite.

Jedan korisnik na platformi "Redit" komentarisao je:

- Postoje najmanje tri filma koja objašnjavaju zašto je ovo loša ideja.

OpenAI brzo reagovao i blokirao pristup

Predstavnik OpenAI-ja izjavio je za portal Futurizam, koji je prvi izvestio o incidentu, da je kompanija „proaktivno identifikovala ovo kršenje pravila i obavestila programera da odmah prekine ovu aktivnost“.

- Pravila korišćenja OpenAI-ja izričito zabranjuju upotrebu naših usluga za razvoj ili korišćenje oružja, kao i automatizaciju sistema koji mogu ugroziti ličnu bezbednost - dodali su iz kompanije.

Razvojni inženjer nije komentarisao incident

U oktobru, OpenAI je pokrenuo Realtime API u režimu javne beta verzije. Ovaj alat omogućava programerima da kreiraju dijaloške sisteme sa šest unapred postavljenih glasova, pojednostavljujući razvoj jezičkih aplikacija, edukativnog softvera i korisničke podrške.

STS 3D nije dao nikakve informacije o tome kako je integrisao Realtime API sa oružjem, niti je pojasnio da li je uspeo da zaobiđe sigurnosne mehanizme OpenAI-ja, koji su postavljeni da spreče ovakvu upotrebu tehnologije.