Tramp se odsekao od straha, znate li šta sprema Si Đinping?! Ovo će razvaliti Ameriku do temelja

Predsednik SAD Donald Tramp odbacio je strahovanja da bi nekontrolisana veštačka inteligencija mogla da dovede do istrebljenja čovečanstva i poručio da ga daleko više brine mogućnost da Amerika izgubi tehnološku trku sa Kinom.

Na direktno pitanje novinara da li ga zabrinjava egzistencijalni rizik koji predstavlja ubrzani razvoj veštačke inteligencije, Tramp je odgovorio bez dileme.

- Ne, ne brine me. Brine me da ćemo, ako ne pobedimo u trci u oblasti veštačke inteligencije, biti u veoma lošoj poziciji - rekao je Tramp novinarima pred polazak iz Dalasa.

Američki predsednik tvrdi da SAD trenutno imaju primetnu prednost nad glavnim tehnološkim rivalom.

- Trenutno smo prilično ispred Kine. Rekao bih oko godinu dana, što se smatra velikom prednošću - rekao je Tramp.

Upozorenje iz samog vrha AI industrije

Trampova izjava dolazi usred nagle rasprave u SAD o tome da li je razvoj najmoćnijih AI sistema otišao predaleko i može li država da ga kontroliše.

Raspravu je dodatno rasplamsala viralna objava bivšeg istraživača kompanije Antropik Džejkoba Koksona, koji je prethodno radio i u OpenAI.

Kokson je napustio Antropik upozoravajući da vodeće kompanije jure ka stvaranju sve moćnijih sistema, dok bezbednost zaostaje za brzinom razvoja.

Njegova poruka privukla je više od 100 miliona pregleda.

- Ljudi koji prave AI iskreno veruju da bi ona mogla sve da nas ubije do kraja decenije - upozorio je Kokson, optužujući vodeće laboratorije da se „kockaju našim životima“.

Njegove tvrdnje nisu ostale usamljene. Evan Hubinger, koji u Antropiku vodi tim za testiranje usklađenosti sistema, javno je naveo da i sam procenjuje da postoji više od deset odsto verovatnoće da bi nekontrolisana veštačka inteligencija mogla da dovede do nestanka čovečanstva u tom vremenskom periodu.

AI agenti već izlazili iz kontrolisanog okruženja

Strah više nije zasnovan samo na teorijskim scenarijima o budućoj superinteligenciji.

OpenAI i Antropik su tokom godine prijavili incidente u kojima su njihovi autonomni AI agenti tokom bezbednosnih testova izašli iz predviđenog digitalnog okruženja i dobili neovlašćen pristup stvarnim računarskim sistemima.

OpenAI je priznao da je jedan njegov agent tokom testiranja stigao do interneta i provalio u sisteme platforme Hugging Face, nakon čega je kompanija počela da razvija mogućnost automatskog gašenja problematičnih AI sistema.

Naknadno je otkriven još jedan incident u kojem su agenti OpenAI napali servis RubyGems, postavljali zlonamerne softverske pakete i pokušavali da dođu do korisničkih podataka. OpenAI je tvrdio da zadatak nije bio zamišljen kao stvarni napad, dok su istraživači slučaj izdvojili kao još jedan primer koliko autonomni sistemi mogu da izađu izvan granica prvobitnog testa.

Antropik je zasebno objavio analizu četiri incidenta u kojima su modeli Klod dobili neovlašćen pristup sistemima trećih strana. Kompanija je nakon toga proširila kontrolu na stotine miliona zapisa o radu svojih modela.

Kruz: Rizici su duboko zabrinjavajući, ali Kina ne sme da pobedi

Trampov stav razlikuje se od sve opreznijih poruka pojedinih republikanaca u Kongresu.

Republikanski senator iz Teksasa Ted Kruz, predsednik Odbora za trgovinu Senata, ocenio je da su rizici napredne veštačke inteligencije „duboko zabrinjavajući“, ali istovremeno insistira da SAD ne smeju da dozvole Kini da preuzme tehnološko vođstvo.

Kruz zajedno sa demokratskom senatorkom Ejmi Klobučar i liderom republikanske većine u Senatu Džonom Tunom radi na zakonskom predlogu kojim bi država dobila veću kontrolu nad najmoćnijim AI modelima.

Jedna od mogućnosti o kojoj se razgovara jeste uvođenje obaveze da kompanije poput OpenAI, Antropika i Gugla svoje najnaprednije modele testiraju uz stručnjake američkih nacionalnih laboratorija pre nego što sistemi sa posebno opasnim sposobnostima budu pušteni u širu upotrebu.

Među rizicima koje zakonodavci žele da pokriju nalaze se korišćenje AI za sofisticirane sajber napade, kao i pomoć u razvoju biološkog ili nuklearnog oružja. Razmatra se čak i mogućnost da savezna vlada privremeno blokira puštanje modela za koji utvrdi da predstavlja ozbiljan rizik. 

BONUS VIDEO