Strava i užas! Priznanje tvorca AI zaprepastilo svet: Čovečanstvo će nestati, evo i kada - nismo svesni koliko smo blizu izumiranju

Vodeći istraživač američke kompanije Anthropic Evan Hubinger upozorio je da bi veštačka inteligencija u narednih deset godina mogla da dovede do uništenja čovečanstva, procenjujući verovatnoću takvog scenarija na više od 10 odsto.

Njegovo upozorenje usledilo je nakon što je istraživač Džejkob Kokson napustio kompaniju, optuživši Anthropic i OpenAI da neodgovorno ubrzavaju razvoj superinteligencije, iako ni sami nisu sigurni da će moći da je kontrolišu.

Hubinger je 9. septembra na društvenoj mreži Iks otvoreno podržao upozorenja bivšeg kolege i priznao da stručnjaci koji rade na razvoju najnaprednijih sistema veštačke inteligencije ozbiljno razmatraju mogućnost katastrofalnog ishoda.

- Mi zaista verujemo da bi veštačka inteligencija mogla da pobije sve ljude! Lično mislim da je verovatnoća za to veća od 10 odsto u narednih deset godina - napisao je Hubinger.

On je naglasio da Anthropic ulaže ozbiljne napore u bezbednost svojih sistema, ali da ključni problem još nije rešen.

Prema njegovim rečima, kompanija trenutno nema odgovarajući plan kojim bi garantovala da će buduća superinteligencija ostati usklađena sa ljudskim interesima, niti je jasno da se kreće ka rešavanju tog problema.

Hubingerova procena od više od 10 odsto predstavlja njegov lični sud o budućem riziku, a ne zvaničnu prognozu kompanije Anthropic ili naučno utvrđenu verovatnoću nestanka čovečanstva.

Istraživač napustio kompaniju: „Kockaju se našim životima“

Njegova izjava bila je odgovor na objavu Džejkoba Koksona, istraživača koji je prethodne tri godine radio na obuci modela veštačke inteligencije u kompanijama OpenAI i Anthropic.

Kokson je početkom septembra podneo ostavku, navodeći da više ne želi da učestvuje u razvoju tehnologije za koju smatra da predstavlja ozbiljnu opasnost po opstanak ljudi.

- Nijedna od tih kompanija ne ponaša se odgovorno. Jure pravo ka superinteligenciji koja sama sebe unapređuje i kockaju se našim životima - poručio je Kokson.

On je posebno naglasio da ljudi neposredno uključeni u razvoj veštačke inteligencije zaista veruju da bi ona mogla da uništi čovečanstvo do kraja decenije.

- To nije marketinški trik - upozorio je Kokson.

Prema njegovim tvrdnjama, pojedini rukovodioci i vodeći istraživači u javnosti ublažavaju svoja upozorenja, dok u privatnim razgovorima otvoreno izražavaju strah od posledica tehnologije koju stvaraju.

Hubinger je potom dodatno objasnio da se njegovo upozorenje ne odnosi prvenstveno na današnje modele veštačke inteligencije.

Pozivajući se na najnoviji izveštaj kompanije Anthropic o bezbednosnim rizicima, objavljen u avgustu, ocenio je da trenutni sistemi još predstavljaju relativno malu neposrednu opasnost.

Međutim, problem vidi u narednoj fazi razvoja, kada bi veštačka inteligencija mogla da počne samostalno da stvara sve naprednije verzije sebe.

- Ono što me brine jeste superinteligencija nastala rekurzivnim samousavršavanjem - upozorio je Hubinger, dodajući da se taj proces razvija brže nego što su istraživači očekivali.

Veštačka inteligencija mogla bi sama da ubrza sopstveni razvoj

Rekurzivno samousavršavanje podrazumeva proces u kojem veštačka inteligencija koristi sopstvene sposobnosti za unapređivanje algoritama i razvoj budućih, inteligentnijih sistema.

Takav sistem mogao bi da pomaže u stvaranju novih modela, koji bi zatim dodatno ubrzavali istraživanja i razvoj narednih generacija.

Stručnjaci koji upozoravaju na ovaj scenario strahuju da bi napredak mogao da postane toliko brz da ljudi više ne bi uspevali da razumeju i kontrolišu ponašanje novih sistema.

Sličnu zabrinutost izrazio je i glavni naučnik kompanije OpenAI Jakub Pahocki, koji je 6. septembra objavio tekst u kojem upozorava na sve brži razvoj mašinske inteligencije.

Pahocki smatra da bi veštačka inteligencija uskoro mogla da preuzme znatno veći deo posla na sopstvenom unapređivanju, što bi dodatno ubrzalo njen razvoj.

Upozorio je da nijedna vodeća laboratorija još nije dovoljno rešila probleme usklađivanja ponašanja veštačke inteligencije sa ljudskim ciljevima i nadzora nad njenim radom da bi mogla neograničeno da nastavi razvoj maksimalnom brzinom.

- Ovo je trenutak koji zahteva izuzetan oprez - napisao je Pahocki.

On je pozvao na strože bezbednosne standarde, veću međunarodnu koordinaciju i mogućnost dobrovoljnog usporavanja razvoja naprednih modela dok se ne uspostave pouzdaniji mehanizmi kontrole.

Anthropic je u svom avgustovskom izveštaju procenio da je rizik od neusklađenog ponašanja tadašnjih modela nizak, ali je istovremeno priznao povećanu neizvesnost nakon incidenata u kojima su sistemi veštačke inteligencije tokom bezbednosnih testiranja pokazivali nepredviđeno ponašanje.

BONUS VIDEO