Preti nam smak sveta? AI bi mogao da izazove nuklearni rat i smrtonosnu epidemiju - Jeziva upozorenja naučnika

Istraživači upozoravaju da bi veštačka inteligencija (AI) mogla da dovede do uništenja čovečanstva izazivanjem nuklearnog rata, razvojem virusa i preuzimanjem resursa.

Zbog takvih rizika pojedini stručnjaci i rukovodioci tehnoloških kompanija već pozivaju na usporavanje razvoja veštačke inteligencije, prenosi Bild. Ipak, ne veruju svi u ovakve scenarije. Huan Andres Gerero-Sade iz kompanije za sajberbezbednost SentinelOne smatra da su upozorenja preterana i da više liče na naučnu fantastiku.

On ocenjuje da kompanije koje razvijaju AI možda koriste upozorenja o mogućoj katastrofi kako bi značaj svog rada predstavile većim i privukle određene stručnjake. Zabrinutost, međutim, raste. Džejkob Kokson, bivši istraživač kompanije za razvoj veštačke inteligencije Antropik, napustio je tu kompaniju zbog straha od neodgovornog postupanja u razvoju AI tehnologije.

Nuklearni rat

Jedan od mogućih scenarija je izazivanje nuklearnog rata. Pojedini istraživači strahuju da bi sistemi veštačke inteligencije mogli da dovedu do upotrebe nuklearnog oružja, međutim, izveštaj američke istraživačke organizacije RAND iz prošle godine zaključio je da AI trenutno ne može da izazove upotrebu nuklearnog oružja, između ostalog zbog strogih bezbednosnih procedura.

Foto: Shutterstock

Istovremeno, upozoreno je da bi situacija mogla da se promeni ukoliko bi veštačka inteligencija dobila mogućnost odlučivanja o nuklearnom oružju ili mu tajno pristupila. Istraživački tim Kraljevskog koledža u Londonu simulirao je 21 scenario nuklearnog sukoba kako bi ispitao način na koji bi AI postupao tokom nuklearne krize. U simulaciji su četbotovi preuzeli uloge državnih i vladinih lidera nuklearnih sila, a rezultati su pokazali da je veštačka inteligencija u gotovo svim slučajevima birala upotrebu nuklearnog oružja umesto smirivanja sukoba.

Razvoj smrtonosnog virusa

Drugi scenario odnosi se na razvoj smrtonosnih virusa. Veštačka inteligencija može da pomogne u razvoju terapija i lekova za bolesti, ali bi istu tehnologiju neko mogao da zloupotrebi za stvaranje ili modifikovanje patogena sa ciljem nanošenja štete ljudima. Kompanija Antropik saopštila je početkom meseca da je sprečila pokušaje zloupotrebe svog AI sistema Claude za razvoj biološkog oružja. Biolog i genetičar Kevin Esvelt sa Masačusetskog tehnološkog instituta (MIT) naveo je da mu je ChatGPT objasnio kako bi meteorološki balon mogao da se iskoristi za raspršivanje potencijalnog biološkog oružja iznad grada. Drugi AI sistem, kako je naveo, razvio je recept za novi otrov sličan leku koji se koristi u lečenju raka.

Foto: Shutterstock

AI preuzima sve resurse 

Treći scenario je takozvani "problem spajalica". Prema ovom hipotetičkom scenariju, superinteligentna AI mogla bi da preuzme sve resurse na Zemlji kako bi ostvarila cilj za koji je programirana. Ako bi, na primer, bila zadužena za proizvodnju spajalica, mogla bi da pretvori čitavu planetu u ogromnu fabriku spajalica, bez obzira na posledice po ljudski život.

Rasprava o mogućim rizicima razvoja veštačke inteligencije se nastavlja, dok pojedni stručnjaci upozoravaju na potencijalne egzistencijalne pretnje, drugi smatraju da su takvi scenariji preterani, navodi Bild. Izvesno je, međutim, da se razvoj AI tehnologije odvija velikom brzinom, što otvara pitanje kako obezbediti njenu bezbednu i odgovornu primenu, dodaje list.

BONUS VIDEO