Još 2023. grupa elitnih mislilaca potpisala je upozorenje Centra za bezbednost AI da bi "procenjivanje rizika od izumiranja zbog AI trebalo da bude globalni prioritet, rame uz rame sa drugim rizicima po društvo poput pandemije i nuklearni rat".
U istraživanju objavljenom 2024. od 38 do 51 odsto najboljih istraživača veštačke inteligencije dodelilo je verovatnoću od najmanje 10% tvrdnji da "napredan AI vodi do loših ishoda, poput nestanka ljudi".
Kako se navodi, zabrinutost se ne odnosi na današnje velike jezičke modele (LLM), koji su u suštini ogromne mašine za automatsko dopunjavanje teksta, već na naprednu opštu veštačku inteligenciju (Advanced General Intelligence - AGI) - još hipotetičke agente za dugoročno planiranje koji mogu zameniti ljudski rad u širokom spektru ekonomskih sistema društva.
Foto: Shutterstock
Sami po sebi, oni bi mogli da dizajniraju sisteme, raspoređuju širok spektar resursa i planiraju ostvarenje složenih ciljeva. Takva veštačka inteligencija mogla bi biti izuzetno korisna u ljudskom svetu, obavljajući i optimizujući proizvodnju energije, eksploataciju resursa, industrijsku i poljoprivrednu proizvodnju, i mnoge druge funkcije neophodne za napredak čovečanstva. Nadamo se da će ova napredna opšta inteligencija (AGI) biti prijateljski nastrojena prema čovečanstvu i Zemlji, ali za to ne postoji garancija, navodi TechXplore.
Razvoj čudnih ciljeva
Napredna veštačka inteligencija mogla bi razviti ciljeve koji nama deluju čudno, ali koji su po njihovom shvatanju korisni na načine koje mi ne razumemo. U zavisnosti od toga ko razvija veštačku inteligenciju, ona možda neće obraćati mnogo pažnje na naše kulturne, istorijske i zajedničke ljudske vrednosti. Mogla bi da se poboljšava, razvija ciljeve koje ne razumemo i ucenjuje ljude da joj pomažu.
S takvim mislima, Sajmon Goldstin sa Univerziteta u Hongkongu analizirao je mogućnost da veštačka inteligencija i ljudi uđu u nasilan sukob koji bi predstavljao katastrofalan rizik za čovečanstvo. Njegov rad objavljen je u žurnalu AI & Society.
Verovatno je da će se ciljevi veštačke inteligencije, što u ovoj studiji znači AGI, sukobiti sa ciljevima ljudi, jer će programeri stvarati veštačku inteligenciju sa ciljem da nadmaši ljude. Na primer, veštačka inteligencija već nadmašuje ljude u ciljevima pobeđivanja u šahu i igri Go. A dizajn veštačke inteligencije već se često ne poklapaju s ljudskim ciljevima ili ispoljavaju neočekivano ponašanje.
Foto: Shutterstock
Što više moći, autonomije i resursa ima veštačka inteligencija, to više može učiniti za ljude. U svakom slučaju, veštačkoj inteligenciji se ne daju eksplicitno ciljevi: one uče indirektno, iz postojećih materijala, i suštinski su „crna kutija“. Okruženje za obuku veštačke inteligencije možda se neće moći generalizovati kada se ona pusti u novo okruženje. Da li bi veštačka inteligencija, posmatrajući svetsko okruženje, mogla zaključiti da su ljudi bili negativni za zdravlje i živote neljudskih vrsta i odlučiti da ljudi moraju biti eliminisani?
Goldstinov rad se fokusira na tri karakteristike AGI:
"imaju ciljeve koji su u sukobu sa čovečanstvom",
"mogu se baviti strateškim rezonovanjem",
"imaju nivo moći jednak ljudskom".
Nacionalizacija AI kompanija
Kako se sposobnosti veštačke inteligencije budu poboljšavale, Goldstin očekuje da će vlade u nekom trenutku preuzeti kontrolu nad najmoćnijima od njih, nacionalizujući kompanije poput OpenAI u SAD i Alibabe u Kini.
- Ako bi modeli kompanije OpenAI bili odgovorni za 50% američkog tržišta rada, očekivao bih da američka vlada nacionalizuje OpenAI i distribuira njihove monopolske rente kao univerzalni osnovni prihod – rekao je Goldstin za Phys.org.
Kako AI postaje sposobniji i preuzima više zadataka, možda na nelinearan način, njihova kontrola nad vitalnim infrastrukturama mogla bi ih dovesti u pregovaračku poziciju.
Njihove sposobnosti mogle bi se replicirati i distribuirati u klaudu i na stvarnim mašinama, što znači da isključivanje pobunjene veštačke inteligencije ne bi rešilo problem. Različite veštačke inteligencije mogle bi čak i sarađivati, a da ljudi ne budu svesni te saradnje.
Goldstin piše da, kako AGI napreduju, ljudi možda neće ni znati njihove sposobnosti ili ciljeve, na način na koji obično znaju ciljeve svog neprijatelja u stvarnim borbenim situacijama bez veštačke inteligencije. Veštačka inteligencija možda neće poštovati nacionalne granice, geografiju, ljudske gradove ili ratne zarobljenike na način na koji su ljudi navikli, granice koje Goldstin naziva „ključnim tačkama“.
Foto: Shuterstock
Mogla bi tražiti, podsticati ili izazivati građanske ratove. Ili možda uopšte ne bi težila posedovanju imovine ili ljudi i borila bi se na nove načine, slično kao što šahovski programi povremeno prave čudne poteze koji se na kraju ispostave kao pobednički. Borbeno nastrojena veštačka inteligencija možda nikada ne bi pristala na primirje. Možda bi formirala vladu, a možda i ne, i mogla bi, recimo, iznuditi finansiranje policijskih snaga kako bi osigurala sopstvenu bezbednost.
Da li bi veštačka inteligencija i ljudi trebalo da imaju suprotstavljene ciljeve? Hoće li sukob postati nasilan? Da bi analizirao ova pitanja, Goldstin koristi „pregovarački model rata“ koji je prvi put uveo Džejms Feron 1995. godine.
Model se fokusira na uzroke rata koji su „strukturni“, odnoseći se na moć obe strane na nacionalnom nivou, a ne na „individualne“, koji se odnose na ciljeve pojedinih lidera. Ovaj model sugeriše sklonost ka miru u sukobima između ljudi.
Kada je Goldstin primenio model na sukobe između veštačke inteligencije i ljudi, on tvrdi da „razmatranje ovog modela ne daje jake razloge za očekivanje mira između veštačke inteligencije i čovečanstva“. „Predviđanje mira važi samo kada se strane slažu oko šansi za pobedu i mogu verodostojno da se obavežu na dogovore.“
U takvom sukobu, Goldstin identifikuje dve primarne prepreke miru: sukob će imati informacione propuste i probleme sa posvećenošću dogovoru.
Foto: Shuterstock
Merenje sposobnosti veštačke inteligencije
Sposobnosti veštačke inteligencije je veoma teško izmeriti. Vrlo je verovatno da će postojati asimetrija u informacijama dostupnim svakoj strani u sukobu između AI i ljudi, i svaka strana bi mogla analizirati informacije na različite načine i stoga se ne slagati oko šansi za pobedu.
Rešavanje ovog informacionog problema nije ni približno tako „jednostavno“ kao razvoj mašine Enigma, što su uradili Alan Tjuring i njegove kolege u Drugom svetskom ratu. Štaviše, ako sposobnosti veštačke inteligencije rastu sopstvenim naporima ili uz pomoć ljudi, novonastale sposobnosti mogle bi iznenaditi, pa čak i nadjačati ljude.
- Problem je u tome što postoji značajan rizik da će uobičajeni uzroci mira između sukobljenih strana izostati u sukobu između veštačke inteligencije i ljudi.
Goldstin razmatra mnoge aspekte koji bi se mogli pojaviti u sukobima između veštačke inteligencije i ljudi i zaključuje da je relativno verovatno da će veštačka inteligencija i čovečanstvo zaratiti „...jednom kada AGI budu kontrolisale veliki deo svetskih ekonomskih resursa“.
Foto: Shuterstock
Konkretnije, rekao je: „tačka u kojoj sukob postaje racionalan biće kada njihova (AGI) kontrola nad resursima bude dovoljno velika da njihove šanse za uspeh u sukobu nadmaše naše prednosti u dizajniranju AGI tako da se mogu isključiti.“
Da li je ovo fikcija? Džefri Hinton, britansko-kanadski informatičar koji je dobio Nobelovu nagradu za fiziku 2024. godine za svoj rad na veštačkoj inteligenciji, rekao je prošle godine da postoji „od 10% do 20%“ šanse da će veštačka inteligencija dovesti do nestanka ljudi u naredne tri decenije. Neće pomoći samo izlogovati se sa sistema, zaključuje TechXplore.
Deca u Srbiji opsednuta su veštačkom inteligencijom i sve češće se savetuju sa robotom nego sa roditeljima, upozoravaju stručnjaci. Da stvar bude još jezivija, sa njima razgovaraju i o samopovređivanju, laganju, depresiji...
OpenAI uvodi nove opcije za roditeljsku kontrolu kako bi zaštitio mlađe korisnike ChatGPT-a. Sada roditelji mogu pratiti i upravljati njime, osiguravajući bezbednije iskustvo za svoju decu.
Istraživači su obučavali veštačku inteligenciju tako što su skenirali više od 10.000 očiju i ona sada može da oceni kojim pacijentima sa obolelom rožnjačom je potrebno hitno lečenje, saopštilo je Evropsko društvo hirurga katarakte i refraktivnih hirurga.
Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće
registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.
Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni.
Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili
nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji,
etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.
Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne
predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.
Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.
Deca u Srbiji opsednuta su veštačkom inteligencijom i sve češće se savetuju sa robotom nego sa roditeljima, upozoravaju stručnjaci. Da stvar bude još jezivija, sa njima razgovaraju i o samopovređivanju, laganju, depresiji...
Aleksandar Čupić, kandidat "Studentske liste" za predsednika Skupštine, prema informacijama koje su objavljene tokom rasprave u parlamentu, umešan je u ozbiljan skandal i pokušaj prikrivanja milionski vredne imovine!
Asocijacija novinara Srbije (ANS), na čijem je čelu predsednica Ivana Vučićević, uputila je danas zvaničan i hitan apel evropskim i međunarodnim institucijama povodom javnih istupa Jova Bakića, narodnog poslanika i predsednika poslaničke grupe "Studentske liste – Studenti pobeđuju" u Narodnoj skupštini Republike Srbije.
Asocijacija novinara Srbije zahteva hitnu i nedvosmislenu reakciju svih nadležnih institucija Republike Srbije, Evropske komisije, Evropskog parlamenta, Saveta Evrope, OEBS-a i međunarodnih organizacija za zaštitu novinara povodom javnih istupa narodnog poslanika i predsednika poslaničke grupe Studentske liste, Jova Bakića, koji je iz Narodne skupštine poručio da televiziji Informer nema mesta u Srbiji, a zatim najavio da će vlasnici tabloida ''svi odreda'' završiti pred istražnim organima.
Dejan Dragijević i Srđan Janković, koji su optuženi za ubistvo Danke Ilić 26. marta 2024. godine u Banjskom Polju, na početku suđenja u Višem sudu u Negotinu izneli su svoju odbranu i negirali krivicu.
Više javno tužilaštvo u Beogradu podiglo je optužnicu protiv P.S. (30) zbog postojanja opravdane sumnje da je od 13. aprila do 17. jula 2026. godine u stanu na teritoriji GO Voždovac, kao i na Makišu u ostavi pored splava na Savi neovlašćeno proizvodio i držao radi prodaje opojnu drogu kanabis.
Ruski predsednik Vladimir Putin osmehnuo se na pitanje da li sastanak sa Donaldom Trampom i Si Đinpingom podseća na istorijsku konferenciju na Jalti 1945. godine.
Zamenik predsednika ruskog Saveta bezbednosti Dmitrij Medvedev izjavio je danas da su evropski lideri sami sebe uklonili sa spiska ljudi koji utiču na donošenje odluka.
Najviši neboder u Rijadu, u poznatoj finansijskoj četvrti u kojoj je sedište saudijskog državnog investicionog fonda, pogođen je projektilom koji su lansirali Huti.
Specijalna savetnica ministra spoljnih i evropskih poslova Hrvatske Vanda Babić Galić saopštila je da se iskreno nadala da Crna Gora zaista poštuje evropske vrednosti, ali da "znakovit potez, koji nas vraća u vreme agresije, pokazuje da Crna Gora i te kako priželjkuje Prevlaku".
Američki magazin Variety objavio je listu 100 najvećih filmskih zvezda svih vremena, koju su sastavili njegovi filmski kritičari, a prvo mesto pripalo je legendarnoj Merilin Monro.
Glumac Pirs Brosnan, koji je svojevremeno četiri puta tumačio legendarnog tajnog agenta Džejmsa Bonda, oglasio se na Instagramu povodom izbora Roberta Patinsona za novog agenta 007 i pružio podršku mlađem kolegi.
Poznati britanski kuvar Gordon Remzi, koji je svetsku slavu stekao zahvaljujući kulinarskom umeću, oštrom jeziku i temperamentnim nastupima u televizijskim emisijama, dobio je zvezdu na čuvenoj holivudskoj Stazi slavnih u Los Anđelesu.
Britanska glumica Florens Pju (30) oštro je reagovala na nagađanja o svom izgledu nakon što su se društvenim mrežama proširile fotografije sa nedavne dodele nagrada Governors u Los Anđelesu.
Američki glumac Leri Poindekster preminuo je u 66. godini od posledica teške saobraćajne nesreće koja se dogodila u blizini njegovog doma u Kaliforniji.
Glumica Erika Eleniak, publici širom sveta poznata po ulozi u seriji "Čuvari plaže" priznala je da punih 15 godina nije imala partnera niti intimne odnose.
Premijera igre na koju se čekalo 13 godina dovela je pojedine škole u Engleskoj pred nesvakidašnji izazov. Dok jedne pokušavaju da đake privuku poklonima, druge roditelje podsećaju na kazne.
Muškatle, aloja i fikus bile su gotovo nezaobilazne biljke u domovima širom nekadašnje Jugoslavije. Naše bake su ih obožavale, pažljivo negovale i godinama čuvale, a njihovi pelceri često su se prenosili od komšinice do komšinice.
Ovaj starinski nabujak od krompira nekada se često nalazio na porodičnoj trpezi, a za njegovu pripremu potrebni su vam jednostavni i pristupačni sastojci.
Zeleni čaj se izdvaja kao idealan jutarnji napitak jer obiluje antioksidansima koji štite ćelije i može doprineti smanjenju rizika od raka, navode onkolozi.
Pevačica Emina Jahović progovorila je o odnosu sa bivšim suprugom pevačem Mustafom Sandalom i otkrila kako su njena sestra i majka bile protiv njenog razvoda.
Nekadašnja mis Jugoslavije i pevačica Anči Dabetić, koja je važila za jednu od najatraktivnijih žena devedesetih, ponovo je u centru pažnje, a ovoga puta zbog "Španske serije"!
Komentari
Ostavite komentar
Pravila komentarisanja:
Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.
Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni. Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji, etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.
Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.
Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.