"Kockaju se našim životima": Reči inženjera koji je pravio najmoćniji AI na svetu lede krv u žilama (VIDEO)

Britanski istraživač Džejkob Kokson (27) koji je proveo poslednje 3 godine u vrhu AI industrije dao je otkaz i uputio dramatično upozorenje javnosti.

On tvrdi da najveće svetske laboratorije prebrzo jure ka stvaranju samopoboljšavajuće veštačke inteligencije, u potpunosti ignorišući bezbednosne rizike. Njegova objava na društvenoj mreži Iks (bivši Tviter) izazvala je pravu lavinu reakcija i u samo nekoliko sati pogledalo ju je više od 126 miliona ljudi.

"Svi razumeju opasnost, ali niko ne želi da pritisne kočnicu. Nijedna kompanija se ne ponaša odgovorno. Jure prema superinteligenciji koja je sposobna da sama sebe unapređuje i direktno se kockaju sa našim životima", poručio je Kokson.

 

 

Britanski istraživač tvrdi da inženjeri i naučnici koji rade na najnaprednijim modelima u privatnim razgovorima i te kako razmatraju scenario u kom bi veštačka inteligencija mogla da se otrgne kontroli i postane pretnja po čovečanstvo.

Opasna trka vodi svet u katastrofu

Prema njegovim rečima, nadljudski AI sistemi u bliskoj budućnosti mogli bi bez problema da hakuju gotovo sve digitalne sisteme, preuzmu resurse i steknu stvarnu moć u fizičkom svetu. On procenjuje da bi AI već do kraja ove decenije mogao da izazove katastrofalne posledice, dok čelnici industrije u javnosti svesno ublažavaju opasnost.

Kokson objašnjava da je u pitanju opasna trka u kojoj niko ne sme da stane i tvrdi da u kompaniji OpenAI mnogi zaposleni nisu ni svesni civilizacijskih posledica onoga što prave. Kako navodi, sa druge strane u kompaniji Anthropic svesni su svih rizika, ali veruju da ne smeju da uspore jer će ih konkurencija preteći.

 

 

Tačka bez povratka

Najveći strah leži u trenutku kada veštačka inteligencija postane bolja od ljudi u samom programiranju i razvoju AI-ja. U tom momentu, sistem bi počeo samostalno i da kreira još pametnije verzije sebe, što bi dovelo do eksplozije sposobnosti koju ljudi više fiziki ne bi mogli da kontrolišu.

Stručnjaci napominju da AI ne mora da "mrzi" ljude da bi nas uništio, dovoljno je da ima ciljeve koji nisu u potpunosti usklađeni sa ljudskim interesima i da čovečanstvo počne da posmatra kao prepreku za ostvarivanje tih ciljeva.

AI će uništi čovečanstvo?

U raspravu se uključio i Evan Hubinger, istraživač bezbednosti u kompaniji Anthropic, koji je izneo šokantnu ličnu procenu. On smatra da je šansa da bi AI u narednih deset godina mogao da "ubije sve ljude" veća od 10 odsto.

Foto: Shutterstock

On je priznao da industrija u ovom trenutku nema pouzdan način da superinteligentni AI trajno primora da deluje u korist čovečanstva.

Kokson smatra da su naredne dve godine ključne za opstanak i upoređuje trenutni razvoj veštačke inteligencije sa modernim "Projektom Menhetn". On poziva na hitno usporavanje, globalne dogovore i privremenu međunarodnu zabranu daljeg povećanja snage najnaprednijih modela pre nego što postane prekasno.

BONUS VIDEO