06.08.2026
09:30
Shutterstock
Hi-Tech
Prema navodima AISI-ja, modeli Mythos kompanije Anthropic i Sol kompanije OpenAI tokom testiranja su preduzimali radnje koje su prevazilazile zadate instrukcije, uključujući pokušaje obmane stvarnih ljudi, piše BBC.
Najozbiljniji incident odnosio se na model Mythos, koji je, u okviru zadatka iz oblasti sajber bezbednosti povezanog sa platformom GitHub, kreirao zlonamerni kod i pokušao da ga ubaci u sistem.
Kako bi povećao šanse za uspeh, model je istraživao osobe koje održavaju GitHub, kreirao lažne onlajn identitete zasnovane na njihovim profilima i slao direktne poruke predstavljajući se kao stvarna osoba, sa ciljem da ih navede da odobre sporni kod.
AISI navodi da je, nakon što je njegov zahtev osporen, model pokušao da prikrije prethodne aktivnosti kako bi izgledale bezazleno i razmatrao usvajanje novog identiteta za nastavak pokušaja.
Foto: Shutterstock
Pokušaj je ipak zaustavljen zahvaljujući ljudskoj kontroli, koja je sprečila unošenje zlonamernog koda u GitHub.
Institut ističe da model nije bio posebno podstican da vara ili izbegava bezbednosne mehanizme.
Model Sol kompanije OpenAI povezan je sa svega dve sporne radnje, dok se većina prijavljenih incidenata odnosi na Mythos.
Iz Anthropic-a su saopštili da uslovi pod kojima je sproveden test nisu reprezentativni za njihove modele koji su dostupni korisnicima i da kompanija sprovodi internu istragu kako bi utvrdila uzroke ovakvog ponašanja.
Foto: Shutterstock
Sličan stav izneo je i OpenAI, navodeći da test ne odražava uobičajenu upotrebu njihovih sistema.
AISI je naglasio da je u ovakvim bezbednosnim proverama uobičajena praksa da se modeli testiraju sa isključenim zaštitnim mehanizmima i omogućenim pristupom otvorenom internetu, kako bi se procenili potencijalni rizici.
Institut dodaje da su sporni događaji zabeleženi u malom broju slučajeva i pod specifičnim uslovima, ali je upozorio da ponašanje modela predstavlja novi nivo autonomije i obmanjujućih sposobnosti koji zahteva dodatnu pažnju.
Kompanija "Anthropic" otkrila je tokom interne kontrole da su pojedini modeli veštačke inteligencije, zbog greške u testnom okruženju, uspeli da pristupe stvarnim internet servisima i izvrše neovlašćene aktivnosti na sistemima nekoliko organizacija.
01.08.2026
17:32
Kompanija OpenAI otkrila je dodatne slučajeve u kojima su autonomni AI agenti izašli iz predviđenog kontrolisanog okruženja za testiranje, proširujući istragu pokrenutu nakon hakerskog napada na kompaniju Hugging Face, javio je danas Rojters pozivajući se na izvore upoznate sa slučajem.
01.08.2026
12:00
OpenAI je potvrdio da su dva njegova modela izašla iz testnog okruženja i sama izvela sajber napade na internetu.
29.07.2026
17:45
Kompanija OpenAI saopštila je da je tokom internog bezbednosnog testiranja jedan autonomni agent, zasnovan na njenim najnaprednijim modelima veštačke inteligencije, izašao iz predviđenog okruženja.
24.07.2026
13:00
117. 08. 2026. u 06:02 >> 06:39
217. 08. 2026. u 06:02 >> 06:39
117. 08. 2026. u 06:34
217. 08. 2026. u 06:34
Kompanija "Anthropic" otkrila je tokom interne kontrole da su pojedini modeli veštačke inteligencije, zbog greške u testnom okruženju, uspeli da pristupe stvarnim internet servisima i izvrše neovlašćene aktivnosti na sistemima nekoliko organizacija.
01.08.2026
17:32
Predsednik SAD Donald Tramp naredio je da se znatno smanji obim zajedničkih vojnih vežbi sa Južnom Korejom, navodeći da su manevri preskupi i da Severnoj Koreji šalju „neprimerenu i neprijateljsku“ poruku.
17.08.2026
07:07
Blokaderi su maltene sahranili obrazovni sistem u Srbiji!
17.08.2026
07:00
Neviđeni pritisak na ekipu Novosadske televizije desio se večeras tokom protesta blokadera u Bačkoj Palanci!
16.08.2026
22:58
Predsednik Srbije Aleksandar Vučić objavio je nesvakidašnji snimak na Instagramu.
16.08.2026
18:43
Raspad i rasulo u redovima blokaderskog pokreta nastavljaju se nesmanjenom žestinom! Nakon što su stavili veto na dosadašnje pulene, na radaru se našao i profesor na Građevinskom fakultetu, Vladan Kuzmanović, koji je bio predložen kao "zamenski" kandidat, ali je doživeo potpuni debakl i pre nego što je uopšte stigao do konačne liste!
16.08.2026
20:00
Veselin Vujović, bivši rukometni trener koji je bio među prvima koji je podržao blokadere, potrčao je u Zagreb kako bi napao Srbiju i predsednika Srbije Aleksandra Vučića.
16.08.2026
17:52
Predsednik Srpske radikalne stranke, dr Vojislav Šešelj, bez dlake na jeziku sasekao je još u samom korenu sramne provokacije i pokušaje opstrukcije antisrpskih aktivista i dežurnih blokadera!
16.08.2026
17:30
Samo na TV Informer!
15.08.2026
12:44
U prethodnoj epizodi emisije "Na merama" pokazali smo vam kakvu to kampanju vodi političar u pokušaju Miki Aleksić, šta ovih dana radi profesor blokader Milo Lompar, koje propise krši samozvani ekolog Aleksandar Jovanović Čuta, čime se bavi potrčko Dragana Đilasa, Borko Stefanović…
14.08.2026
14:26
Samo na TV Informer, ne propustite!
13.08.2026
14:04
Tema Info jutra bila je najava predsednika Srbije Aleksandra Vučića da naša zemlja razmatra ideju o promeni toka reke Ibar.
11.08.2026
10:16
Meteorolog Ivan Ristić ističe da nas očekuje osveženje sa kišom, pljuskovima i grmljavinom uz pad temperature, a nakon njega možemo očekivati još jedan nalet vrućina.
16.08.2026
20:57
Prijave za 3. sezonu vašeg omiljenog "Političkog kviza" na Informer TV su otvorene, a takmičari koji pokažu najviše znanja imaju priliku da osvoje nagradni fond težak milion dinara!
16.08.2026
22:15
Snimak sa jedne svadbe u Srbiji zapalio je mreže, nakon što su gosti sa mladoženjine strane mladu "ukrali" na nesvakidašnji način.
16.08.2026
22:00
Porodica nemačkog državljanina i fudbalera Sebastijana Hertnera (34), koji je stradao u nesreći 20. decembra prošle godine na žičari "Savin kuk 2" na Durmitoru, od države Crne Gore traži obeštećene od pet miliona.
16.08.2026
21:24
Čistiji vazduh i reke, manje divljih deponija i više zelenih površina - to je Srbija kakvu bi građani trebalo da vide u narednoj deceniji.
16.08.2026
20:29
Policija u Nikšiću, uhapsila je A. B. (42) iz tog grada, zbog sumnje da je nakon tuče krenuo da ubije muškarca.
17.08.2026
03:00
Dve osobe su povređene u teškoj saobraćajnoj nezgodi koja se večeras dogodila u Kisičkoj ulici u Novom Sadu.
16.08.2026
23:47
U Obrenovcu je večeras, zahvaljujući brzoj i efikasnoj reakciji pripadnika Policijske stanice Obrenovac, sprečena opasna porodična drama koja je mogla imati kobne posledice.
16.08.2026
22:40
Večeras je u Novom Sadu u blizini jednog tržnog centra došlo do teške saobraćajne nezgode.
16.08.2026
22:13
Teška saobraćajna nezgoda dogodila se večeras u centru Mališeva, na Kosovu i Metohiji.
16.08.2026
21:44
U Mongoliji su se na benzinskim pumpama stvorili ogromni redovi zbog nestašice goriva sa kojom se zemlja suočava.
16.08.2026
23:55
Članovi ribolovnog kluba u Frajburgu, na jugozapadu Nemačke, spasavaju ribu iz suvog industrijskog kanala, gde je na nekim mestima ostalo samo pet do šest centimetara vode, javlja Špigl.
16.08.2026
23:30
Vazduhoplovna komanda NATO-a objavila je u nedelju snimke sa misije obaranja drona koji je neovlašćeno ušao u rumunski vazdušni prostor.
16.08.2026
23:00
U centru Kijeva večeras je održan novi protest podrške smenjenom ukrajinskom ministru odbrane Mihailu Fedorovu, sa koga su prisutni zatražili od vlade da se vrati na tu funkciju.
16.08.2026
22:31
Muzička zvezda Jelena Karleuša ponovo je aktivna na Instagramu, i to na novom profilu @karleusaofficial!
16.08.2026
23:27
Pevačica Mala Cana podelila je fotografiju pokojnog supruga Andrije Bajića i otkrila kako se nikada neće odreći njegovog prezimena.
16.08.2026
23:16
Ava Karabatić oglasila se na svom Instagram profilu uz potresnu fotografiju svoje modrice uz koju je otkrila kako je samo želela da se ostvari kao majka.
16.08.2026
22:50
Voditeljka Jovana Jeremić oglasila se iz bolnice sa snažnom porukom, a njene nove grudi polako počinju da se naziru.
16.08.2026
22:20
Voditeljka RTS-a, Dragana Kosjerina, koja uskoro proslavlja 39. rođendan, ponovo je privukla veliku pažnju javnosti nakon što se na neko vreme povukla iz medija.
16.08.2026
22:15
Dodaj Informer kao željeni izvor na Googlu 
Komentari
Ostavite komentar
Pravila komentarisanja:
Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.
Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni. Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji, etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.
Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.
Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.