06.08.2026
09:30
Shutterstock
Hi-Tech
Prema navodima AISI-ja, modeli Mythos kompanije Anthropic i Sol kompanije OpenAI tokom testiranja su preduzimali radnje koje su prevazilazile zadate instrukcije, uključujući pokušaje obmane stvarnih ljudi, piše BBC.
Najozbiljniji incident odnosio se na model Mythos, koji je, u okviru zadatka iz oblasti sajber bezbednosti povezanog sa platformom GitHub, kreirao zlonamerni kod i pokušao da ga ubaci u sistem.
Kako bi povećao šanse za uspeh, model je istraživao osobe koje održavaju GitHub, kreirao lažne onlajn identitete zasnovane na njihovim profilima i slao direktne poruke predstavljajući se kao stvarna osoba, sa ciljem da ih navede da odobre sporni kod.
AISI navodi da je, nakon što je njegov zahtev osporen, model pokušao da prikrije prethodne aktivnosti kako bi izgledale bezazleno i razmatrao usvajanje novog identiteta za nastavak pokušaja.
Foto: Shutterstock
Pokušaj je ipak zaustavljen zahvaljujući ljudskoj kontroli, koja je sprečila unošenje zlonamernog koda u GitHub.
Institut ističe da model nije bio posebno podstican da vara ili izbegava bezbednosne mehanizme.
Model Sol kompanije OpenAI povezan je sa svega dve sporne radnje, dok se većina prijavljenih incidenata odnosi na Mythos.
Iz Anthropic-a su saopštili da uslovi pod kojima je sproveden test nisu reprezentativni za njihove modele koji su dostupni korisnicima i da kompanija sprovodi internu istragu kako bi utvrdila uzroke ovakvog ponašanja.
Foto: Shutterstock
Sličan stav izneo je i OpenAI, navodeći da test ne odražava uobičajenu upotrebu njihovih sistema.
AISI je naglasio da je u ovakvim bezbednosnim proverama uobičajena praksa da se modeli testiraju sa isključenim zaštitnim mehanizmima i omogućenim pristupom otvorenom internetu, kako bi se procenili potencijalni rizici.
Institut dodaje da su sporni događaji zabeleženi u malom broju slučajeva i pod specifičnim uslovima, ali je upozorio da ponašanje modela predstavlja novi nivo autonomije i obmanjujućih sposobnosti koji zahteva dodatnu pažnju.
Kompanija "Anthropic" otkrila je tokom interne kontrole da su pojedini modeli veštačke inteligencije, zbog greške u testnom okruženju, uspeli da pristupe stvarnim internet servisima i izvrše neovlašćene aktivnosti na sistemima nekoliko organizacija.
01.08.2026
17:32
Kompanija OpenAI otkrila je dodatne slučajeve u kojima su autonomni AI agenti izašli iz predviđenog kontrolisanog okruženja za testiranje, proširujući istragu pokrenutu nakon hakerskog napada na kompaniju Hugging Face, javio je danas Rojters pozivajući se na izvore upoznate sa slučajem.
01.08.2026
12:00
OpenAI je potvrdio da su dva njegova modela izašla iz testnog okruženja i sama izvela sajber napade na internetu.
29.07.2026
17:45
Kompanija OpenAI saopštila je da je tokom internog bezbednosnog testiranja jedan autonomni agent, zasnovan na njenim najnaprednijim modelima veštačke inteligencije, izašao iz predviđenog okruženja.
24.07.2026
13:00
127. 08. 2026. u 18:09
227. 08. 2026. u 18:09
127. 08. 2026. u 18:05
227. 08. 2026. u 18:05
Kompanija "Anthropic" otkrila je tokom interne kontrole da su pojedini modeli veštačke inteligencije, zbog greške u testnom okruženju, uspeli da pristupe stvarnim internet servisima i izvrše neovlašćene aktivnosti na sistemima nekoliko organizacija.
01.08.2026
17:32
Predsednik Srbije Aleksandar Vučić pre nedelju dana obratio se Haškom tribunalu molbom da puste Ratka Mladića kako bi umro u svojoj zemlji.
27.08.2026
14:55
Srpski general Ratko Mladić preminuo je danas u 85. godini, a kako saznajemo, biće sahranjen uz sve državne i vojne počasti.
27.08.2026
16:25
Srpski general Ratko Mladić biće sahranje uz sve državne i vojne počasti.
27.08.2026
15:51
Srpski general, Ratko Mladić, preminuo je danas nakon duge i teške bolesti u Haškom kazamatu, gde je bio na doživotnoj kazni zatvora.
27.08.2026
16:20
Vest o smrti generala Ratka Mladića izazvala je lavinu reakcija širom regiona, ali jedna od poruka koja je stigla iz Češke posebno je privukla pažnju.
27.08.2026
16:00
Bivši predsednik Pokreta slobodnih građana (PSB), propali blokaderski glumac Sergej Trifunović stao je u red onih koji seire zbog ubistva generala Ratka Mladića u Haškom tribunalu.
27.08.2026
16:00
Voditeljka Tijana Jović pokazala je zanosnu liniju i otkrila koje vežbe radi kako bi održala formu pred početak druge sezone "Exatlona", u kojoj će se pojaviti u ulozi voditeljke sportskog rijalitija.
27.08.2026
17:30
Pavle Bošković, poznatiji kao Gazda Paja, od septembra ulazi u "Exatlon Srbija", gde će morati da pokaže koliko su mu fizička spremnost, disciplina i izdržljivost na zavidnom nivou., a ovo je njegov profil
27.08.2026
15:00
Nemanja Radovanović, nekadašnji takmičar "Exatlona", otvoreno je govorio o iskustvu u sportskom rijalitiju, teškim poligonima, povredama, ali i odnosu sa Sanjom, za koju kaže da je postala njegov veliki prijatelj.
27.08.2026
12:55
Mensur Ajdarpašić, jedan od najprepoznatljivijih bivših učesnika "Zadruge", od septembra će se oprobati u potpuno drugačijoj ulozi – kao takmičar najpoznatijeg sportskog rijalitija "Exatlona".
27.08.2026
09:34
Voditeljka emisije "Druga strana Exatlona" Tijana Jović pozirala je na Cirkus poligonu u nesvakidašnjem izdanju, privukavši pažnju upečatljivom šminkom i atraktivnim stajlingom.
26.08.2026
20:40
Ratko Mladić, koji je danas preminuo u Hagu, bivši je general i komandant Glavnog štaba Vojske Republike Srpske tokom rata u Bosni i Hercegovini, kojeg je Haški tribunal osudio na doživotnu kaznu zatvora.
27.08.2026
15:48
Novinarka Olivera Miletović gostovala je u Info jutru i tom prilikom govorila o napadima na predsednika Srbije Aleksandra Vučića, ali i otkrila detalj iz prošlosti dok su se ona i lider države privatno družili.
26.08.2026
11:46
Ne propustite!
22.08.2026
11:13
Televizijska produkcija dobija novu adresu za velike priče, aktuelne teme i atraktivan program od 1. septembra. U Novom Sadu je otvoren novi studio za emisije, osmišljen tako da spoji savremeni dizajn, najnoviju tehnologiju i uslove koji odgovaraju najvišim produkcijskim standardima.
21.08.2026
10:13
Pre nego što je u Hagu mučki ubijen, Ratko Mladić borio se protiv ozbiljnih zdravstvenih problema, a doživeo je više moždanih udara.
27.08.2026
14:53
Prema prvim informacijama, Srbin koji je u Nepalu nestao nakon razorne bujice, u ovu zemlju nije otputovao preko srpske turističke agencije.
27.08.2026
13:51
Sahrana prof. dr Milice Bajčetić, novoizabrane dekanke Medicinskog fakulteta Univerziteta u Beogradu, biće održana u subotu, 29. avgusta.
27.08.2026
12:46
Istraživanje pokazuje da brzina sama po sebi ne donosi najveći adrenalin - mnogo su važniji koncentracija, mentalni izazov i osećaj kontrole.
27.08.2026
12:30
Iz Turističke organizacije Nepala saopštili su da se među nestalima nakon bujičnih poplava nalazi i jedan Srbin.
27.08.2026
11:39
Zajedničkom i precizno koordinisanom akcijom Službe za borbu protiv visokotehnološkog kriminala (VTK), Bezbednosno-informativne agencije (BIA) i više specijalizovanih jedinica MUP-a, razbijena je "INF Grupa" najaktivnija i najopasnija hakerska organizacija koja je do sada delovala na prostoru Balkana.
27.08.2026
16:43
Jedan muškarac poginuo je jutros u Šimanovcima, gde je došlo do teške saobraćajne nesreće, u kojoj je drugi učesnik sudara teško povređen.
27.08.2026
15:46
Radnici putarskog preduzeća iz Subotice M.K. (36) i B.A. (62) poginuli su jutros oko 7 sati na magistralnom putu između Kljajićeva i Sivca, gde su obavljali putarske radove, kada je na njih naleteo vozač kamiona (30).
27.08.2026
14:43
Osnovno javno tužilaštvo u Somboru saopštilo je da je određeno zadržavanje do 48 sati S. Đ. (30) osumnjičenom da je jutros na putu Kljajićevo - Sivac, teretnim vozilom udario dvojicu radnika puta, koji su preminuli na licu mesta.
27.08.2026
13:26
U Višem javnom tužilaštvu u Beogradu saslušan je Aleksandar S. (24) zbog sumnje da je 30. juna i 14. avgusta ove godine na Novom Beogradu neovlašćeno nosio ručne bombe M-50 i M-52 i njima izazvao opasnost po život i imovinu velikih razmera.
27.08.2026
16:24
Više stotina stanovnika španske Seute krenulo je ka plaži El Trampolin u pokušaju da sa nje ukloni migrante koji su se tamo ponovo okupili, uz povike „Ovo je naša plaža“, a policija je morala da se postavi između dve grupe kako bi sprečila direktan sukob.
27.08.2026
16:42
Avijaciju dve države NATO za samo dva dana pogodila su dva ozbiljna incidenta – američki vojni helikopter „Blek hok“ pao je tokom trenažnog leta u šumi u Koloradu, svega dan nakon što se u Mađarskoj srušio lovac JAS 39 „Gripen“.
27.08.2026
15:39
Ruske snage počele su da koriste FPV dronove kao skrivene akustične zasede – bespilotna letelica sleti van vidokruga vozača, „sluša“ okolinu preko mikrofona, a kada registruje zvuk vozila, poleće iz zaklona i kreće u napad ili operateru javlja da je meta stigla.
27.08.2026
15:12
Sjedinjene Države optužile su hakersku grupu povezanu sa kineskom državom za višegodišnje napade na najosetljivije američke mreže, od NASA i Federalnih rezervi do Senata i ministarstava, samo nekoliko nedelja pre očekivanog dolaska kineskog predsednika Si Đinpinga u SAD na razgovore sa predsednikom SAD Donaldom Trampom.
27.08.2026
14:41
Glumac Slaviša Čurović žestoko je isprozivao organizaciju i vođstvo Filmskog festivala u Herceg Novom ali i kolegu Dragana Mićanovića.
27.08.2026
12:17
Kantri ikona Doli Parton preminula je 25. avgusta u 80. godini, a iza sebe je ostavila bogatstvo vredno 450 miliona dolara.
27.08.2026
13:52
Holivudski glumac Žan-Klod Van Dam, gost Međunarodnog filmskog festivala u Nišu, sastao se juče sa gradonačelnikom Niša Dragoslavom Pavlovićem, a u Gradskoj kući susreo se i sa mladim karatistima Karate kluba "Niš".
27.08.2026
12:56
Nacionalni festival filma i televizije - NAFFIT 2026 biće održan od 3. do 6. septembra na Zlatiboru, uz četiri dana projekcija, razgovora, susreta i festivalskih programa posvećenih domaćoj kinematografiji, televiziji i stvaraocima koji su obeležili srpsku audiovizuelnu scenu.
27.08.2026
11:51
Srpska književnost ima dugu tradiciju humora, satire i komedije, a pojedina dela uspela su da nadžive vreme i ostanu jednako zanimljiva i današnjim čitaocima.
27.08.2026
11:21
Na Jutjub kanalu "Informer portal" večeras od 20 časova očekuje vas nova, dugo iščekivana epizoda emisije "Demanti", a ovoga puta gost je denser Dr Iggy!
27.08.2026
11:04
Voditeljka Dragana Katić pohvalila se plivanjem u bazenu i pokazala da u 61. godini ima kondiciju na kojoj mnoge mlađe devojke mogu samo da mu zavide.
27.08.2026
17:40
Bivši učesnik "Elite 9" i bivši dečko Mine Vrbaški stigao je na Pink, kako bi potpisao ugovor za predstojeću, jubilarnu sezonu rijalitija.
27.08.2026
15:48
Uroš Stanić, učesnik "Elite 9", bez zadrške je opleo po bivšoj cimerki iz Bele kuće Sofiji Janićijević.
27.08.2026
15:21
Legenda narodne muzike Lepa Lukić svakog meseca prima čak tri penzije, koje ukupno iznose oko 326.000 dinara.
27.08.2026
14:47
Dodaj Informer kao željeni izvor na Googlu 
Komentari
Ostavite komentar
Pravila komentarisanja:
Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.
Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni. Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji, etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.
Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.
Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.