06.08.2026
09:30
Shutterstock
Hi-Tech
Prema navodima AISI-ja, modeli Mythos kompanije Anthropic i Sol kompanije OpenAI tokom testiranja su preduzimali radnje koje su prevazilazile zadate instrukcije, uključujući pokušaje obmane stvarnih ljudi, piše BBC.
Najozbiljniji incident odnosio se na model Mythos, koji je, u okviru zadatka iz oblasti sajber bezbednosti povezanog sa platformom GitHub, kreirao zlonamerni kod i pokušao da ga ubaci u sistem.
Kako bi povećao šanse za uspeh, model je istraživao osobe koje održavaju GitHub, kreirao lažne onlajn identitete zasnovane na njihovim profilima i slao direktne poruke predstavljajući se kao stvarna osoba, sa ciljem da ih navede da odobre sporni kod.
AISI navodi da je, nakon što je njegov zahtev osporen, model pokušao da prikrije prethodne aktivnosti kako bi izgledale bezazleno i razmatrao usvajanje novog identiteta za nastavak pokušaja.
Foto: Shutterstock
Pokušaj je ipak zaustavljen zahvaljujući ljudskoj kontroli, koja je sprečila unošenje zlonamernog koda u GitHub.
Institut ističe da model nije bio posebno podstican da vara ili izbegava bezbednosne mehanizme.
Model Sol kompanije OpenAI povezan je sa svega dve sporne radnje, dok se većina prijavljenih incidenata odnosi na Mythos.
Iz Anthropic-a su saopštili da uslovi pod kojima je sproveden test nisu reprezentativni za njihove modele koji su dostupni korisnicima i da kompanija sprovodi internu istragu kako bi utvrdila uzroke ovakvog ponašanja.
Foto: Shutterstock
Sličan stav izneo je i OpenAI, navodeći da test ne odražava uobičajenu upotrebu njihovih sistema.
AISI je naglasio da je u ovakvim bezbednosnim proverama uobičajena praksa da se modeli testiraju sa isključenim zaštitnim mehanizmima i omogućenim pristupom otvorenom internetu, kako bi se procenili potencijalni rizici.
Institut dodaje da su sporni događaji zabeleženi u malom broju slučajeva i pod specifičnim uslovima, ali je upozorio da ponašanje modela predstavlja novi nivo autonomije i obmanjujućih sposobnosti koji zahteva dodatnu pažnju.
Kompanija "Anthropic" otkrila je tokom interne kontrole da su pojedini modeli veštačke inteligencije, zbog greške u testnom okruženju, uspeli da pristupe stvarnim internet servisima i izvrše neovlašćene aktivnosti na sistemima nekoliko organizacija.
01.08.2026
17:32
Kompanija OpenAI otkrila je dodatne slučajeve u kojima su autonomni AI agenti izašli iz predviđenog kontrolisanog okruženja za testiranje, proširujući istragu pokrenutu nakon hakerskog napada na kompaniju Hugging Face, javio je danas Rojters pozivajući se na izvore upoznate sa slučajem.
01.08.2026
12:00
OpenAI je potvrdio da su dva njegova modela izašla iz testnog okruženja i sama izvela sajber napade na internetu.
29.07.2026
17:45
Kompanija OpenAI saopštila je da je tokom internog bezbednosnog testiranja jedan autonomni agent, zasnovan na njenim najnaprednijim modelima veštačke inteligencije, izašao iz predviđenog okruženja.
24.07.2026
13:00
127. 10. 2026. u 17:18
227. 10. 2026. u 17:18
127. 10. 2026. u 15:50
227. 10. 2026. u 15:50
Kompanija "Anthropic" otkrila je tokom interne kontrole da su pojedini modeli veštačke inteligencije, zbog greške u testnom okruženju, uspeli da pristupe stvarnim internet servisima i izvrše neovlašćene aktivnosti na sistemima nekoliko organizacija.
01.08.2026
17:32
U zgradu Informer TV večeras je upala rulja i pretila linčom Draganu J. Vučićeviću i zaposlenima.
26.10.2026
19:44
Lider opozicije Aleksandar Vučić uključio se telefonski u program Informera i govorio o stravičnim napadima na Informer TV ali i o stavovima Ilije Srdanovića o Srebrenici.
27.10.2026
18:26
Članovi Srpske napredne stranke okupili su se u prostorijama stranke na Novom Beogradu kako bi u svečanoj i dostojanstvenoj atmosferi obeležili svoju partijsku slavu - Sveta Petku, a lider SNS-a Miloš Vučević saopštio je prelepe vesti koje su oduševile sve okupljene.
27.10.2026
16:22
Brankica Stanković, novinarka i voditeljka televizije Insajder osudila je monstruozni blokaderski upad u prostorije televizije Informer u ponedeljak uveče.
27.10.2026
14:15
Srpska napredna stranka danas danas je obeležila stranačku slavu, Svetu Petku.
27.10.2026
13:10
Lider opozicije Aleksandar Vučić oglasio se na društvenim mrežama nakon sinoćnjeg nasilja blokadera.
27.10.2026
12:18
Zbog napada na zgradu televizije Informer i promene programske šeme, emitovanje večerašnje epizode najvećeg sportskog rijalitija Exatlon Srbija je odloženo, a na programu naše televizije do daljnjeg će se emitovati specijalni program.
24.10.2026
21:23
Odmah nakon 30. epizode "Exatlona" na programu Informer televizije večeras vas očekuje emisija "Srbija zove Dominikanu".
24.10.2026
14:26
Plavi tim razgovarao je o predstojećim borbama u "Exatlonu" i pravio plan koji im može doneti najbolje rezultate.
24.10.2026
14:01
Marko Škara, učesnik Exatlona, govorio je o tome kako se oseća nakon lošeg početka tima i pet poraza, posebno imajući u vidu da je u toku muška nedelja.
24.10.2026
12:04
Ne propustite novu epizodu najpoznatijeg sportskog rijaliti programa "Exatlon".
24.10.2026
11:00
Iznajmljivanje skladišta u Srbiji sve je popularnije, a zakup se kreće od oko 30 do 120 evra mesečno, dok su u Beogradu cene i više.
27.10.2026
18:00
Na planinama Golija i Kopaonik trenutno pada sneg!
27.10.2026
13:03
Desna obala Đetinje danas je bila mesto susreta, pazarenja i tradicionalnog vašarskog raspoloženja.
27.10.2026
15:45
Polifenoli iz borovnica i brusnica mogli bi da uspore starenje ćelija i razvoj fibroze, to jest zamene zdravog tkiva tkivom nalik ožiljku, otkrili su naučnici sa Državnog univerziteta u Surgutu i Nacionalnog centra za biotehnologiju Kazahstana.
27.10.2026
15:00
Institut za transfuziju krvi Srbije u Beogradu pozvao je punoletne građane da tokom ove sedmice daju krv.
27.10.2026
12:30
Jedan radnik preminuo je danas na radnom mestu u selu Dubrava, u opštini Istok, a nakon istrage okolnosti ovog slučaja policija je privela odgovorno lice za radnike, kojem je određeno zadržavanje do 48 sati.
27.10.2026
17:56
Suđenje petorici optuženih za brutalno ubistvo Aleksandra Jurišića (34) odloženo je pred Višim sudom u Sremskoj Mitrovici zbog nedolaska jednog od učesnika u postupku.
27.10.2026
17:59
Italijanska policija uhapsila je na granici sa Slovenijom državljanina Srbije (32) za kojim se tragalo čak 14 meseci zbog sumnje da je sa saučesnikom izveo oružanu pljačku luksuzne zlatare u Portofino.
27.10.2026
17:31
Istražitelji MUP-a Kantona Sarajevo proveravaju sve okolnosti jezivog zločina u Petrakijinoj ulici u Sarajevu, gde je u stanu pronađeno telo starije žene, a za njeno ubistvo osumnjičen je njen sin.
27.10.2026
17:11
Damjan Gvozdenović (24) koji je s maskom Gavrila Principa na licu u Rakovici ubio vršnjaka Aleksandra Tatalovića (21) 23. februara 2022. osuđen je danas u Višem sudu u Beogradu na 10 godina zatvora.
27.10.2026
17:05
Rusija za sada ne vidi promenu stava evropskih zemalja prema sukobu u Ukrajini, koje nastavljaju da osuđuju Moskvu i zahtevaju obustavu, zanemarujući uzroke krize, izjavio je danas ruski ministar spoljnih poslova Sergej Lavrov.
27.10.2026
18:00
Četiri građevinska radnika su poginula, a jedan je povređen u tornadu koji je zahvatio tursko odmaralište Antalija, saopštile su lokalne vlasti.
27.10.2026
16:54
Šef ruske diplomatije Sergej Lavrov rekao je da razgovor norveškog premijera i predsednika Finske sa ruskim predsednikom Vladimirom Putinom pokazuje samo želju Evropljana da se nekako uključe u pregovarački proces o ukrajinskoj krizi.
27.10.2026
16:34
Ukupna stopa fertiliteta u Evropskoj uniji pala je 2024. godine na 1,34 deteta po ženi, što je najniži nivo od početka vođenja statistike 2001. godine, pokazuju podaci Evrostata u koje je uvid imao Sputnjik.
27.10.2026
15:31
Holivudska zvezda Kijanu Rivs preuzeće glavnu ulogu u akcionom trileru "Maelstrom", koji priprema Netfliks.
27.10.2026
14:27
Glumica Dara Čalenić napustila je megapopularnu "Žikinu dinastiju" kako bi se sa mužem preselila u Ameriku.
27.10.2026
13:09
Zajednička večera Sofije Vergare i Dena Rejnoldsa u Los Anđelesu pokrenula je glasine o mogućoj romansi između popularne glumice i frontmena grupe "Imagine Dragons".
27.10.2026
11:57
Američki R&B pevač Kris Braun osuđen je 26. oktobra pred sudom u Londonu na osam meseci zatvora zbog učešća u nasilnom incidentu u noćnom klubu, koji se dogodio u februaru 2023. godine.
27.10.2026
11:30
Violinista Stefan Milenković održao je sinoć koncert sa Niškim simfonijskim orkestrom u Kolarčevoj zadužbini, u okviru programa 58. Beogradskih muzičkih svečanosti (BEMUS).
27.10.2026
10:19
Voditeljka Ana Radulovic trenutno se nalazi na Siciliji gde mami poglede prolaznika.
27.10.2026
17:40
Komšije pevača Hasana Dudića govorile su o njegovim zdravstvenim teškoćama, uključujući alergije i posledice moždanog udara.
27.10.2026
17:15
Jovana Jeremić uživa u luksuznom odmoru sa partnerom Milošem Stojanovićem Tigrom koji ju je povodom rođendana iznenadio egzotičnim putovanjem, a njene fotografije sa plaže privukle su veliku pažnju javnosti.
27.10.2026
16:45
Muzičar Zoran Tutunović Tutun biće sahranjen na groblju Lešće u Beogradu
27.10.2026
16:22
Ponati jutjuberi Luna Đogani i Marko Miljković počastili su sebe motorom posle vrednog rada i intervjua sa brojnim zvezdama.
27.10.2026
15:47
Dodaj Informer kao željeni izvor na Googlu 
Komentari