Haos u najavi: Evo kada stiže erotski četbot - eksplicitni AI preti da izazove katastrofu

OpenAI je odlučio da odloži pokretanje erotskog četbota zbog niza etičkih, pravnih i tehničkih pitanja koja još nisu razrešena.

Umesto da požuri sa plasiranjem proizvoda, kompanija trenutno daje prednost razvoju svojih ključnih AI rešenja, dok ovaj projekat ostaje na čekanju do pogodnijeg trenutka.

Interno su se pojavile ozbiljne dileme, a zabrinutost zaposlenih i investitora najviše se odnosi na moguće negativne društvene posledice koje bi takva tehnologija mogla da izazove.

Umesto brzog izlaska na tržište, doneta je odluka da se napravi pauza i detaljnije razmotri dalji pravac razvoja. Ovaj potez ukazuje na to da se, uprkos brzom napretku veštačke inteligencije, granice njene primene i dalje pažljivo ispituju i postavljaju.

Foto: Shutterstock

Jedan od glavnih razloga za odlaganje jeste bojazan da bi korisnici mogli razviti previše snažne emotivne veze sa AI sistemom, što bi moglo imati nepredvidive psihološke posledice.

Takođe, postoji rizik da bi mlađi korisnici mogli doći do sadržaja koji nije primeren njihovom uzrastu, što nosi i ozbiljne pravne i reputacione probleme za kompaniju.

Dodatnu komplikaciju predstavlja i sam razvoj modela koji bi mogao da obrađuje eksplicitne teme. Poseban izazov je kako efikasno filtrirati nezakonit sadržaj, a da sistem i dalje funkcioniše kako treba.

Iako se radi na unapređenju sposobnosti modela da prepoznaje problematične situacije, jasna granica između dozvoljenog i nedozvoljenog još uvek nije potpuno definisana, što dodatno usporava projekat.

Foto: Shutterstock

Još jedna slaba tačka je sistem za proveru uzrasta korisnika. Iako je zamišljen kao važna zaštitna mera, trenutna tehnologija nije dovoljno pouzdana i ostavlja prostor za zloupotrebe.

Sa relativno visokim procentom grešaka, i dalje postoji značajan rizik da maloletnici pristupe neprimerenom sadržaju.

U međuvremenu, OpenAI se usmerava na unapređenje svojih glavnih proizvoda i njihovo objedinjavanje u jedinstvenu platformu. Prioritet su sada funkcionalnosti koje imaju širu i bezbedniju primenu, dok su sporedni projekti, uključujući i ovaj, privremeno sklonjeni u drugi plan i čekaće povoljnije okolnosti za eventualni nastavak razvoja.

BONUS VIDEO