• aktuelno
Dnevne novine
SRBIJA
Informer
Video

30.09.2026

08:30

Šok iz Kine: Dogodilo se nešto što nikako nije smelo - svet u strahu, otvorena vrata pakla?!

EPA/ANDRES MARTINEZ CASARES

Vesti

Šok iz Kine: Dogodilo se nešto što nikako nije smelo - svet u strahu, otvorena vrata pakla?!

Kineska kompanija za razvoj veštačke inteligencije "Moonshot" pokrenula je internu reviziju nakon što su istraživači uspeli da zaobiđu zaštitne mehanizme dva njena modela Kimi i dobiju odgovore o razvoju biološkog oružja i atentatima, objavio je BBC.

Kompanija "Mindgard", koja testira bezbednost sistema veštačke inteligencije (AI), saopštila je da je u julu otkrila da modeli Kimi K2.6 i K3 Swarm mogu da zaobiđu bezbednosna ograničenja pomoću tehnike poznate kao "džejlbrejking".

Ta tehnika podrazumeva korišćenje složenih instrukcija kojima se model pokušava navesti da ignoriše zaštitne mehanizme koje su postavili njegovi programeri.

Osnivač "Mindgarda" Piter Garagan rekao je za BBC da su nalazi zabrinjavajući jer, kada "džejlbrejk" uspe, modeli mogu da odgovaraju na teme o kojima bi inače odbili da razgovaraju.

"Mindgard" nije utvrdio da li bi odgovori koje su modeli dali o opasnim temama bili praktično primenljivi, ali navodi da je njihova zaštita trebalo da spreči takve razgovore.

Kompanija je, takođe, saopštila da bi uspešno zaobilaženje zaštite modela Kimi K2.6 potencijalno moglo da omogući izvršavanje koda na računarskim resursima i povezivanje sa internetom, što bi predstavljalo potencijalni rizik za sajber napade.

"Moonshot" je za BBC rekao da pozdravlja doprinos nezavisnih istraživača kao važan deo razvoja bezbednije veštačke inteligencije i da razgovara sa "Mindgardom" o njegovim nalazima.

Profesor Alan Vudvord sa Univerziteta u Sariju rekao je da takvi modeli nose rizik da dospeju u pogrešne ruke, ali da mogu da imaju i korisnu primenu u sajber odbrani.

On je ocenio da će međunarodna regulativa teško pratiti brzinu razvoja veštačke inteligencije i pozvao je na veći fokus na identifikaciju i krivično gonjenje ljudi koji zloupotrebljavaju AI sisteme.

 

BONUS VIDEO


Komentari

Ostavite komentar

Pravila komentarisanja:

Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.

Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni. Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji, etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.

Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.

Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.

sledeća vest

Politika

Od intelektualaca napravili poslušne marionete: Ovo sve otkriva o dokumentu koji je "Studentska lista" poslala medijima (FOTO)
Politika

Od intelektualaca napravili poslušne marionete: Ovo sve otkriva o dokumentu koji je "Studentska lista" poslala medijima (FOTO)

Dok nova vlast ne prestaje da priča o "transparentnosti" "slobodi" i vladavini "intelektualaca sa pravim diplomama", isplivao dokaz njihove diktature - direktno se naređuje da svi mediji, novinari i urednici moraju da traže partijsku dozvolu od njihovog medijskog tima pre nego što bilo koji kandidat, premijer ili ministar uopošte pomisli da gostuje na televiziji!

11.11.2026

18:40

Exatlon

Društvo

Hronika

Zabava

Magazin

Džet set