• aktuelno
Dnevne novine
SRBIJA
Informer
Video

30.09.2026

08:30

Šok iz Kine: Dogodilo se nešto što nikako nije smelo - svet u strahu, otvorena vrata pakla?!

EPA/ANDRES MARTINEZ CASARES

Vesti

Šok iz Kine: Dogodilo se nešto što nikako nije smelo - svet u strahu, otvorena vrata pakla?!

Kineska kompanija za razvoj veštačke inteligencije "Moonshot" pokrenula je internu reviziju nakon što su istraživači uspeli da zaobiđu zaštitne mehanizme dva njena modela Kimi i dobiju odgovore o razvoju biološkog oružja i atentatima, objavio je BBC.

Kompanija "Mindgard", koja testira bezbednost sistema veštačke inteligencije (AI), saopštila je da je u julu otkrila da modeli Kimi K2.6 i K3 Swarm mogu da zaobiđu bezbednosna ograničenja pomoću tehnike poznate kao "džejlbrejking".

Ta tehnika podrazumeva korišćenje složenih instrukcija kojima se model pokušava navesti da ignoriše zaštitne mehanizme koje su postavili njegovi programeri.

Osnivač "Mindgarda" Piter Garagan rekao je za BBC da su nalazi zabrinjavajući jer, kada "džejlbrejk" uspe, modeli mogu da odgovaraju na teme o kojima bi inače odbili da razgovaraju.

"Mindgard" nije utvrdio da li bi odgovori koje su modeli dali o opasnim temama bili praktično primenljivi, ali navodi da je njihova zaštita trebalo da spreči takve razgovore.

Kompanija je, takođe, saopštila da bi uspešno zaobilaženje zaštite modela Kimi K2.6 potencijalno moglo da omogući izvršavanje koda na računarskim resursima i povezivanje sa internetom, što bi predstavljalo potencijalni rizik za sajber napade.

"Moonshot" je za BBC rekao da pozdravlja doprinos nezavisnih istraživača kao važan deo razvoja bezbednije veštačke inteligencije i da razgovara sa "Mindgardom" o njegovim nalazima.

Profesor Alan Vudvord sa Univerziteta u Sariju rekao je da takvi modeli nose rizik da dospeju u pogrešne ruke, ali da mogu da imaju i korisnu primenu u sajber odbrani.

On je ocenio da će međunarodna regulativa teško pratiti brzinu razvoja veštačke inteligencije i pozvao je na veći fokus na identifikaciju i krivično gonjenje ljudi koji zloupotrebljavaju AI sisteme.

 

BONUS VIDEO


Komentari

Ostavite komentar

Pravila komentarisanja:

Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.

Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni. Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji, etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.

Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.

Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.

sledeća vest

Politika

Exatlon

Društvo

Hronika

Zabava

Magazin

Džet set