Drama! Rat Kine i Amerike samo što nije počeo: Veštačka inteligencija napravila jeziv potez - vojska u punoj pripravnosti za dejstvo

Američka vojska bila je na korak od presretanja kineskog broda na Bliskom istoku, naoružani vojnici spremali su se za ukrcavanje, a vojni avioni već su bili u vazduhu kada je otkriveno da je obaveštajni izveštaj koji je pokrenuo čitavu operaciju bio pogrešan i napravljen uz pomoć veštačke inteligencije.

Incident se dogodio ovog proleća, usred rata sa Iranom, otkriva CNN. Izveštaj koji je počeo da kruži američkim vojnim strukturama tvrdio je da kineski brod na Bliskom istoku prevozi komponente povezane sa programom nuklearnog naoružanja.

Alarm je praktično odmah podignut.

Prema četiri izvora upoznata sa slučajem, američka vojska počela je pripreme za presretanje plovila. Dva izvora navela su da su naoružane američke jedinice već bile spremne da se ukrcaju na kineski brod, dok su vojni avioni bili podignuti u vazduh kao podrška operaciji.

Operacija pred početkom, a onda je neko proverio izveštaj

Tek neposredno pre nego što je operacija trebalo da počne, američki zvaničnici detaljnije su proverili dokument koji je sastavio analitičar jedne komande za specijalne operacije.

Tada je otkriven problem: analitičar je koristio četbot zasnovan na veštačkoj inteligenciji, a sistem je pogrešno identifikovao materijal koji je kineski brod prevozio.

Jedan od izvora Si-En-Ena opisao je ceo obaveštajni izveštaj kao „potpuno netačan“ i rekao da je slučaj „umalo započeo rat“. Direktno američko vojno dejstvo protiv kineskog broda u takvim okolnostima moglo je da preraste u mnogo širi sukob dve nuklearne sile.

Si-En-En nije uspeo da utvrdi šta je zapravo bilo na brodu.

Priča postaje još ozbiljnija kada se vidi kako je greška nastala.

Početne informacije o brodskom manifestu poticale su od američke Komande za specijalne operacije Pacifika sa sedištem na Havajima. Analitičar je te podatke uneo u četbot i zatražio dodatnu analizu.

Nije poznato da li je koristio javno dostupan komercijalni sistem ili alat koji je razvila američka vlada.

Veštačka inteligencija potom je spojila podatke iz otvorenih izvora sa poverljivim američkim obaveštajnim podacima prikupljenim presretanjem signala i izvela pogrešan zaključak da brod prevozi materijal povezan sa nuklearnim programom.

Tu se greška nije završila.

Analitičar je ponovo upotrebio veštačku inteligenciju da dobijene podatke pretvori u standardni američki obaveštajni izveštaj, odnosno dokument u formatu na koji se vojni komandanti oslanjaju prilikom donošenja odluka.

Takav dokument je zatim prosleđen dalje kroz vojni sistem.

Drugim rečima, pogrešan zaključak četbota nije ostao samo odgovor na ekranu jednog analitičara. Pretvoren je u zvanično oblikovan obaveštajni proizvod, prošao kroz sistem i na kraju pokrenuo pripreme za stvarnu vojnu operaciju.

Hegset ubrzano uvodi AI u američku vojsku

Slučaj se dogodio upravo u trenutku kada Pentagon pokušava da masovno proširi korišćenje veštačke inteligencije u praktično svim delovima američke vojske.

Američki ministar odbrane Pit Hegset u januaru je predstavio „Strategiju ubrzanja veštačke inteligencije“, čiji je cilj brže uvođenje AI sistema u vojno planiranje i operacije.

- Oslobodićemo eksperimentisanje, ukloniti birokratske prepreke, usmeriti investicije i pokazati način izvršenja potreban da obezbedimo vodeću poziciju u vojnoj veštačkoj inteligenciji - rekao je Hegset prilikom predstavljanja strategije.

Plan predviđa da napredni modeli veštačke inteligencije postanu dostupni ogromnom broju zaposlenih u Ministarstvu odbrane, uključujući civilno i vojno osoblje i rad na različitim nivoima tajnosti.

Američka vojska već koristi ili razvija AI za obradu ogromnih količina obaveštajnih podataka, logistiku, raspoređivanje snaga, izbor ciljeva i planiranje udara. Problem je što, prema izvorima Si-En-Ena, različiti delovi vojske i obaveštajnog aparata koriste različite sisteme, pod različitim pravilima i sa različitim bezbednosnim standardima.

Ne postoji jedinstven sistem koji određuje kako se informacije koje proizvede veštačka inteligencija moraju proveriti pre nego što budu korišćene.

Upravo je slučaj kineskog broda pokazao koliko taj problem može da bude opasan.

Jedan izvor upoznat sa američkom vojnom politikom rekao je da se korišćenje veštačke inteligencije prilikom određivanja ciljeva ubrzano širi, ali da još ne postoje jasna pravila koja bi garantovala da će ljudska kontrola sprečiti pogibiju civila ili slučajno dejstvo po sopstvenim snagama.

BONUS VIDEO