Čoveče, dokle više?! Bil Gejts čovečanstvu najavio neprijatno iznenađenje: Počinju masovni napadi, niste svesni šta nam dolazi

Svet bi već 2027. godine mogao da se suoči sa talasom ozbiljnih sajber napada, finansijskih ucena i poremećaja na tržištima, jer kriminalci dobijaju pristup sve naprednijim modelima veštačke inteligencije bez odgovarajućih bezbednosnih ograničenja, upozorio je suosnivač Majkrosofta Bil Gejts.

On smatra da najveća neposredna opasnost nije da AI samostalno izmakne ljudskoj kontroli, već da njegovo korišćenje u kriminalne svrhe postane znatno lakše i opasnije.

U intervjuu za Si-En-En, Gejts je ocenio da će upravo sajber bezbednost biti oblast u kojoj će se tokom naredne godine najjasnije videti negativne posledice ubrzanog razvoja AI.

- Kada zlonamerni ljudi imaju najnovije AI modele, a pritom ne postoje nikakvi zaštitni mehanizmi, upravo tada nas u narednoj godini, pre svega u oblasti sajber napada, očekuje mnogo neprijatnih iznenađenja - upozorio je Gejts.

Kriminalci bi mogli da izazivaju poremećaje na finansijskim tržištima

Gejts je objasnio da sajber kriminal već funkcioniše po dobro poznatom poslovnom modelu: napadači prete kompanijama ili pojedincima i zahtevaju novac kako bi odustali od napada.

Napredni AI sistemi mogli bi da takve operacije učine znatno efikasnijim, omogućavajući kriminalcima da brže pronalaze bezbednosne propuste, automatizuju napade i istovremeno ugrožavaju veliki broj organizacija.

Posebno je upozorio na mogućnost izazivanja poremećaja koji bi uticali na berzansko poslovanje, gde bi napadači pokušavali da finansijski iskoriste posledice sopstvenih aktivnosti.

- Oblast u kojoj ćemo sledeće godine verovatno videti najdramatičnije promene jesu sajber napadi. Tu već postoji poznat poslovni model: pretite da ćete nešto uraditi i zatim tražite novac da to ne biste učinili, ili izazovete poremećaj koji utiče na berzu - objasnio je Gejts.

Takvi napadi mogli bi da ugroze poslovanje banaka, kompanija i drugih organizacija koje zavise od neprekidnog rada informacionih sistema. Gejts, međutim, nije tvrdio da je neki konkretan napad već planiran za 2027. godinu, već je upozorio na povećanje rizika.

Najveći problem su AI sistemi iz kojih se uklanjaju zaštitna ograničenja

Prema Gejtsovoj oceni, vodeće tehnološke kompanije već ugrađuju zaštitne mehanizme kako bi sprečile korišćenje njihovih modela za sajber kriminal i razvoj biološkog oružja.

Međutim, upozorio je da postoje sistemi kod kojih takva ograničenja mogu da budu uklonjena, što omogućava njihovo korišćenje bez uobičajenih bezbednosnih kontrola.

Gejts upravo kombinaciju naprednih modela, odsustva zaštite i kriminalnih namera smatra najvećom neposrednom pretnjom.

On je naglasio da se opasnost od veštačke inteligencije koja bi potpuno izmakla ljudskoj kontroli ne sme zanemariti, ali smatra da bi ozbiljnije posledice takvog scenarija mogle da se pojave tek za nekoliko godina.

- Prava opasnost trenutno nije u tome da AI izmakne kontroli. Moramo da radimo na tom problemu, ali do njegovih velikih posledica ima još nekoliko godina - rekao je Gejts.

Gejts traži državnu kontrolu: Kompanije ne mogu same da odlučuju

Suosnivač Majkrosofta oštro se usprotivio ideji da tehnološke kompanije same određuju pravila za razvoj i korišćenje AI.

Prema njegovoj oceni, država mora da ima aktivnu ulogu u nadzoru, uspostavljanju obaveznih bezbednosnih standarda i sprečavanju zloupotreba.

Gejts je veštačku inteligenciju opisao kao tehnologiju koja je opasnija od mnogih drugih oblasti koje već podležu strogim zakonskim propisima, uključujući proizvodnju automobila, avio-industriju i lekove.

- Ideja da, kada je reč o najopasnijoj tehnologiji koju je čovečanstvo ikada stvorilo, poslednju reč imaju same kompanije i da je to jedina kontrola koju društvo ima, pokazuje da ne činimo dovoljno - ocenio je Gejts.

On je i krajem septembra pozvao američki Kongres da usvoji zakone kojima bi se uvela obavezna pravila za razvoj i nadzor naprednih AI sistema.

Prema njegovom stavu, u odlučivanje moraju da budu uključeni političari, nadležni državni organi i stručnjaci za bezbednost, jer oslanjanje isključivo na dobrovoljna pravila tehnoloških kompanija nije dovoljno.

Njegovo najnovije upozorenje dolazi u trenutku kada se mogućnosti AI modela ubrzano povećavaju, a njihova primena u sajber kriminalu već postaje ozbiljan problem za državne institucije i privatne kompanije.

Gejts zato 2027. godinu vidi kao period u kojem bi posledice nedovoljne kontrole AI mogle da postanu mnogo vidljivije, pre svega kroz napade na digitalne sisteme i finansijske ucene, čak i pre nego što se ostvare mnogo ozbiljniji scenariji povezani sa gubitkom ljudske kontrole nad tehnologijom.

BONUS VIDEO