06.08.2026
09:30
Shutterstock
Hi-Tech
Prema navodima AISI-ja, modeli Mythos kompanije Anthropic i Sol kompanije OpenAI tokom testiranja su preduzimali radnje koje su prevazilazile zadate instrukcije, uključujući pokušaje obmane stvarnih ljudi, piše BBC.
Najozbiljniji incident odnosio se na model Mythos, koji je, u okviru zadatka iz oblasti sajber bezbednosti povezanog sa platformom GitHub, kreirao zlonamerni kod i pokušao da ga ubaci u sistem.
Kako bi povećao šanse za uspeh, model je istraživao osobe koje održavaju GitHub, kreirao lažne onlajn identitete zasnovane na njihovim profilima i slao direktne poruke predstavljajući se kao stvarna osoba, sa ciljem da ih navede da odobre sporni kod.
AISI navodi da je, nakon što je njegov zahtev osporen, model pokušao da prikrije prethodne aktivnosti kako bi izgledale bezazleno i razmatrao usvajanje novog identiteta za nastavak pokušaja.
Foto: Shutterstock
Pokušaj je ipak zaustavljen zahvaljujući ljudskoj kontroli, koja je sprečila unošenje zlonamernog koda u GitHub.
Institut ističe da model nije bio posebno podstican da vara ili izbegava bezbednosne mehanizme.
Model Sol kompanije OpenAI povezan je sa svega dve sporne radnje, dok se većina prijavljenih incidenata odnosi na Mythos.
Iz Anthropic-a su saopštili da uslovi pod kojima je sproveden test nisu reprezentativni za njihove modele koji su dostupni korisnicima i da kompanija sprovodi internu istragu kako bi utvrdila uzroke ovakvog ponašanja.
Foto: Shutterstock
Sličan stav izneo je i OpenAI, navodeći da test ne odražava uobičajenu upotrebu njihovih sistema.
AISI je naglasio da je u ovakvim bezbednosnim proverama uobičajena praksa da se modeli testiraju sa isključenim zaštitnim mehanizmima i omogućenim pristupom otvorenom internetu, kako bi se procenili potencijalni rizici.
Institut dodaje da su sporni događaji zabeleženi u malom broju slučajeva i pod specifičnim uslovima, ali je upozorio da ponašanje modela predstavlja novi nivo autonomije i obmanjujućih sposobnosti koji zahteva dodatnu pažnju.
Kompanija "Anthropic" otkrila je tokom interne kontrole da su pojedini modeli veštačke inteligencije, zbog greške u testnom okruženju, uspeli da pristupe stvarnim internet servisima i izvrše neovlašćene aktivnosti na sistemima nekoliko organizacija.
01.08.2026
17:32
Kompanija OpenAI otkrila je dodatne slučajeve u kojima su autonomni AI agenti izašli iz predviđenog kontrolisanog okruženja za testiranje, proširujući istragu pokrenutu nakon hakerskog napada na kompaniju Hugging Face, javio je danas Rojters pozivajući se na izvore upoznate sa slučajem.
01.08.2026
12:00
OpenAI je potvrdio da su dva njegova modela izašla iz testnog okruženja i sama izvela sajber napade na internetu.
29.07.2026
17:45
Kompanija OpenAI saopštila je da je tokom internog bezbednosnog testiranja jedan autonomni agent, zasnovan na njenim najnaprednijim modelima veštačke inteligencije, izašao iz predviđenog okruženja.
24.07.2026
13:00
127. 10. 2026. u 16:59 >> 19:19
227. 10. 2026. u 16:59 >> 19:19
127. 10. 2026. u 17:18
227. 10. 2026. u 17:18
Kompanija "Anthropic" otkrila je tokom interne kontrole da su pojedini modeli veštačke inteligencije, zbog greške u testnom okruženju, uspeli da pristupe stvarnim internet servisima i izvrše neovlašćene aktivnosti na sistemima nekoliko organizacija.
01.08.2026
17:32
U zgradu Informer TV večeras je upala rulja i pretila linčom Draganu J. Vučićeviću i zaposlenima.
26.10.2026
19:44
Lider opozicije Aleksandar Vučić uključio se telefonski u program Informera i govorio o izbornim rezultatima, pritiscima iz inostranstva i o bezobzirnim pokušajima ućutkivanja nezavisnih medija, kao i divljački napad na Informer TV.
27.10.2026
19:10
Potpredsednik Glavnog odbora SNS Siniša Mali poručio je povodom stranačke slave SNS-a, Svete Petke, da stranku povezuju zajedničke vrednosti, ostvareni rezultati i spremnost da se zajedno suoči sa svim izazovima.
27.10.2026
18:29
Članovi Srpske napredne stranke okupili su se u prostorijama stranke na Novom Beogradu kako bi u svečanoj i dostojanstvenoj atmosferi obeležili svoju partijsku slavu - Sveta Petku, a lider SNS-a Miloš Vučević saopštio je prelepe vesti koje su oduševile sve okupljene.
27.10.2026
16:22
Brankica Stanković, novinarka i voditeljka televizije Insajder osudila je monstruozni blokaderski upad u prostorije televizije Informer u ponedeljak uveče.
27.10.2026
14:15
Srpska napredna stranka danas danas je obeležila stranačku slavu, Svetu Petku.
27.10.2026
13:10
Zbog napada na zgradu televizije Informer i promene programske šeme, emitovanje večerašnje epizode najvećeg sportskog rijalitija Exatlon Srbija je odloženo, a na programu naše televizije do daljnjeg će se emitovati specijalni program.
24.10.2026
21:23
Odmah nakon 30. epizode "Exatlona" na programu Informer televizije večeras vas očekuje emisija "Srbija zove Dominikanu".
24.10.2026
14:26
Plavi tim razgovarao je o predstojećim borbama u "Exatlonu" i pravio plan koji im može doneti najbolje rezultate.
24.10.2026
14:01
Marko Škara, učesnik Exatlona, govorio je o tome kako se oseća nakon lošeg početka tima i pet poraza, posebno imajući u vidu da je u toku muška nedelja.
24.10.2026
12:04
Ne propustite novu epizodu najpoznatijeg sportskog rijaliti programa "Exatlon".
24.10.2026
11:00
Iznajmljivanje skladišta u Srbiji sve je popularnije, a zakup se kreće od oko 30 do 120 evra mesečno, dok su u Beogradu cene i više.
27.10.2026
18:00
Na planinama Golija i Kopaonik trenutno pada sneg!
27.10.2026
13:03
Desna obala Đetinje danas je bila mesto susreta, pazarenja i tradicionalnog vašarskog raspoloženja.
27.10.2026
15:45
Polifenoli iz borovnica i brusnica mogli bi da uspore starenje ćelija i razvoj fibroze, to jest zamene zdravog tkiva tkivom nalik ožiljku, otkrili su naučnici sa Državnog univerziteta u Surgutu i Nacionalnog centra za biotehnologiju Kazahstana.
27.10.2026
15:00
Institut za transfuziju krvi Srbije u Beogradu pozvao je punoletne građane da tokom ove sedmice daju krv.
27.10.2026
12:30
U mestu Grabovica kod Jablanice pronađeno je telo A.Dž. iz Sarajeva, čiji je nestanak majka prijavila pre dva dana.
27.10.2026
19:06
Telo nepoznate osobe pronađeno je danas u Grabovici kod Jablanice, u BiH.
27.10.2026
18:31
Trojica mladića iz Novog Sada, optužena za krađu skupocenih električnih bicikala u Splitu, osuđena su pred tamošnjim Opštinskim sudom na po godinu dana uslovnog zatvora, uz rok provere od tri godine, nakon čega su pušteni iz pritvora.
27.10.2026
18:25
Jedan radnik preminuo je danas na radnom mestu u selu Dubrava, u opštini Istok, a nakon istrage okolnosti ovog slučaja policija je privela odgovorno lice za radnike, kojem je određeno zadržavanje do 48 sati.
27.10.2026
17:56
Suđenje petorici optuženih za brutalno ubistvo Aleksandra Jurišića (34) odloženo je pred Višim sudom u Sremskoj Mitrovici zbog nedolaska jednog od učesnika u postupku.
27.10.2026
17:59
Rusija poziva zapadne zemlje da odustanu od destruktivnog kursa prema Iranu i ulože stvarne napore u pronalaženje pregovaračkog rešenja za sukob, izjavio je stalni predstavnik Rusije pri Ujedinjenim nacijama Vasilij Nebenzja.
27.10.2026
18:30
Rusija za sada ne vidi promenu stava evropskih zemalja prema sukobu u Ukrajini, koje nastavljaju da osuđuju Moskvu i zahtevaju obustavu, zanemarujući uzroke krize, izjavio je danas ruski ministar spoljnih poslova Sergej Lavrov.
27.10.2026
18:00
Četiri građevinska radnika su poginula, a jedan je povređen u tornadu koji je zahvatio tursko odmaralište Antalija, saopštile su lokalne vlasti.
27.10.2026
16:54
Šef ruske diplomatije Sergej Lavrov rekao je da razgovor norveškog premijera i predsednika Finske sa ruskim predsednikom Vladimirom Putinom pokazuje samo želju Evropljana da se nekako uključe u pregovarački proces o ukrajinskoj krizi.
27.10.2026
16:34
Holivudska zvezda Kijanu Rivs preuzeće glavnu ulogu u akcionom trileru "Maelstrom", koji priprema Netfliks.
27.10.2026
14:27
Glumica Dara Čalenić napustila je megapopularnu "Žikinu dinastiju" kako bi se sa mužem preselila u Ameriku.
27.10.2026
13:09
Zajednička večera Sofije Vergare i Dena Rejnoldsa u Los Anđelesu pokrenula je glasine o mogućoj romansi između popularne glumice i frontmena grupe "Imagine Dragons".
27.10.2026
11:57
Američki R&B pevač Kris Braun osuđen je 26. oktobra pred sudom u Londonu na osam meseci zatvora zbog učešća u nasilnom incidentu u noćnom klubu, koji se dogodio u februaru 2023. godine.
27.10.2026
11:30
Violinista Stefan Milenković održao je sinoć koncert sa Niškim simfonijskim orkestrom u Kolarčevoj zadužbini, u okviru programa 58. Beogradskih muzičkih svečanosti (BEMUS).
27.10.2026
10:19
Slavica Ćukteraš vratila se u prošlost fotografijom iz 2004. godine, a prizor iz perioda kada je započinjala svoju muzičku karijeru izazvao je brojne reakcije na društvenim mrežama.
27.10.2026
18:22
Voditeljka Ana Radulovic trenutno se nalazi na Siciliji gde mami poglede prolaznika.
27.10.2026
17:40
Komšije pevača Hasana Dudića govorile su o njegovim zdravstvenim teškoćama, uključujući alergije i posledice moždanog udara.
27.10.2026
17:15
Jovana Jeremić uživa u luksuznom odmoru sa partnerom Milošem Stojanovićem Tigrom koji ju je povodom rođendana iznenadio egzotičnim putovanjem, a njene fotografije sa plaže privukle su veliku pažnju javnosti.
27.10.2026
16:45
Muzičar Zoran Tutunović Tutun biće sahranjen na groblju Lešće u Beogradu
27.10.2026
16:22
Dodaj Informer kao željeni izvor na Googlu 
Komentari