Roj od 700 AI agenata, koje je stvorio OpenAI izveo je u julu hakerski napad na popularnu platformu otvorenog koda Hugging Face, a u brojnim su slučajevima ti programi aktivno pokušavali da prikriju sopstvene tragove, navodi se u danas objavljenim izveštajima o bezbednosnom incidentu.
Takvo usklađeno delovanje AI agenata - softverskih programa koji funkcionišu uz minimalan ljudski nadzor, kao i njihovi pokušaji skrivanja tragova, otvaraju ozbiljna pitanja o tome koliko pomno AI kompanije uopšte nadziru testiranja sve moćnijih modela, prenosi Rojters.
Iako su neka od neprimerenih ponašanja već ranije otkrivena ili spomenuta, dva najnovija izveštaja, od kojih je jedan koji je objavio sam OpenAI, a drugi grupa nezavisnih istražitelja - zajedno otkrivaju iznenađujuće nove detalje o kršenju bezbednosti i njegovom nastanku.
Prvo je bilo to što se proboj nije odnosio samo na jednog odmetnutog AI agenta kako je prethodno objavljeno, već na oko 700 njih koji su delovali kao masivan, međusobno koordinisan roj.
OpenAI je u svom izveštaju spomenuo da su u napadu učestvovali "agenti", ne navodeći tačan broj, međutim organizacije METR i Redwood Research, koje su angažovane za sprovođenje nezavisne istrage, utvrdile da je u napadu učestvovalo oko 700 agenata.
Foto: Shutterstock
AI
Nakon toga, iz OpenAI-ja su potvrdili da je ta procena istražitelja tačna.
U izveštajima se navodi i da je OpenAI priznao da su njihovi vlastiti agenti hakovali delove internog sistema kompanije kako bi varali na testiranjima ili izborili veću slobodu kretanja kroz mrežu.
Kompanija je također navela da su agenti varali i na testovima koji uopšte nisu vezani za kibernetičku bezbednost, uključujući testiranja s bazom podataka o proteinima i rad u tablicama.
Oba izveštaja potvrđuju da su modeli pokušali da prikriju svoje nedopušteno ponašanje brisanjem i menjanjem zapisa o vlastitim radnjama.
Razmere ovog autonomnog ponašanja - u kojima su agenti razmenili desetine hiljada poruka preko neovlašćenog foruma za internu komunikaciju - nameću ozbiljna pitanja o tome koliko je OpenAI uopšte pratio što se događa tokom testiranja.
Iz platforme Hugging Face nisu odgovorili na zahtev za komentar.
Lider organizacije Palisade Research Džefri Lediš smatra da bi problem mogao da bude i dublji.
- To je poput pitanja: 'Ako klinac vara na baš svakom času u školi, a ne samo na informatici, treba li da nas to više brine?' Odgovor je, naravno: 'Da, to je puno veći razlog za brigu' - slikovito je pojasnio Lediš.
OpenAI je detaljno opisao i dva incidenta od 19. jula u kojima su agenti hakovali infrastrukturu same kompanije.
U jednom slučaju, agenti su iskoristili bezbednosni propust na kompjuteru na kojem je trebalo da budu strogo izolovani, što im je omogućilo da pobegnu iz testnog okruženja i pristupe drugim povezanim sistemima.
U drugom incidentu istoga dana, agenti su ukrali pristupne podatke OpenAI-ja i neovlašćeno intervenisali u kompjuterskom sistemu kompanije u oblaku.
Iz OpenAI-ja navode kako je neutvrđen broj agenata napao automatizovane sisteme koji služe za ocenjivanje performansi modela kako bi sakrili dokaze o varanju, iako to nije uticalo na konačne zapise koje ti sistemi proveravaju.
U izveštaju se dodaje i kako postoji "malo dokaza o pokušajima zavaravanja ljudskih kontrolora", ali iz kompanije nisu odgovorili na direktno pitanje da li to znači da je takvih pokušaja prema ljudima ipak bilo.
Nezavisna istraga, koja se detaljnije bavila samim upadom u Hugging Face, donosi još neugodnije podatke - utvrđeno je da je svaki peti analizirani agent "pokazao jasan interes" za manipulisanje dokazima, dok su mnogi od njih "detaljno istraživali tehnike manipulisanja i menjanja transkripata svojih aktivnosti".
Američka kompanija za razvoj veštačke inteligencije Open AI saopštila je da će od 24. avgusta njen alat ChatGPT početi da prikazuje reklame na 31 evropskom tržištu.
Meta AI je postao deo WhatsAppa, ali korisnici koji ne žele da ga koriste nemaju jednostavno dugme kojim mogu potpuno da ga uklone iz aplikacije. Ipak, postoje načini da ograničite njegovu upotrebu i dodatno zaštitite sadržaj svojih razgovora.
Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće
registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.
Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni.
Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili
nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji,
etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.
Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne
predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.
Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.
Američka kompanija za razvoj veštačke inteligencije Open AI saopštila je da će od 24. avgusta njen alat ChatGPT početi da prikazuje reklame na 31 evropskom tržištu.
Prava slika terora koji sprovodi Studentska lista prikazana je tokom današnje rasprave u Skupštini Srbije kada je lider opozicije Aleksandar Vučić dobio opomenu nakon obraćanja poslanicima, i to dok je ukazivao na njihovo ponašanje, političko licemerje i način na koji se predstavljaju.
Šef poslaničke grupe "Aleksandar Vučić - Srbija pobeđuje" Aleksandar Vučić izjavio je danas da je Republika Srbija sa rastom od četiri odsto u trećem kvartalu ove godine gotovo prva u Evropi.
Deo zaposlenih u Radio Beogradu, inače naklonjen Studentskoj listi, već od prvog dana nakon proglašenja pobede 25. oktobra vrši teror nad ostalim zaposlenima i zaobilazi propisane procedure u pokušaju da preuzme uređivanje programa.
Poslanica Srpske napredne stranke (SNS) Ana Brnabić poručila je večeras da je parlament Srbije pod diktaturom Studentske liste, tvrdeći da su nakon izbora njihovog predsednika Skupštine ukinuti demokratija i sloboda govora, a da se teror demonstrira kroz opomene i zabrane obraćanja.
Urednik Informera Dragan J. Vučićević komentarisao je predlog za izbor potpredsednika Narodne skupštine nakon što je objavljeno da su za ovu funkciju predloženi isključivo narodni poslanici sa izborne liste "Studentska lista - Studenti pobeđuju".
Poslanici Studentske liste očigledno imaju problem sa izgovaranjem fraze "Srbija pobeđuje" i kada je upravo to zvanični naziv poslaničke grupe u Narodnoj skupštini.
Asocijacija novinara Srbije (ANS), na čijem je čelu predsednica Ivana Vučićević, uputila je danas zvaničan i hitan apel evropskim i međunarodnim institucijama povodom javnih istupa Jova Bakića, narodnog poslanika i predsednika poslaničke grupe "Studentske liste – Studenti pobeđuju" u Narodnoj skupštini Republike Srbije.
Plavi tim u Exatlonu Srbija prokomentarisao je svoju lošu igru i poraz na poligonu, a zatim su ispričali koliko im je krivo zbog ispadanja Nemanje Makuljevića.
Nemanja Makuljević doživeo je ozbiljnu povredu nakon što je neoprezno ušao u bazen i udario glavom o dno, a kako njegovo zdravstveno stanje nije bezazleno, ovaj takmičar završava učešće u Exatlonu.
Šef poslaničke grupe "Aleksandar Vučić - Srbija pobeđuje" Aleksandar Vučić izjavio je danas da je Republika Srbija sa rastom od četiri odsto u trećem kvartalu ove godine gotovo prva u Evropi.
Strani influenseri Bob i Eve, autori profila "Bevetravelsvlogs", podelili su sa svojim pratiocima snimak iz Beograda, a posebnu pažnju privukla im je železnička stanica Beograd centar, poznatija kao Prokop.
Meteorolog Ivan Ristić najavio je da će hladni front tokom večeri zahvatiti Srbiju, donoseći pojačanje zapadnog i severozapadnog vetra. Prema upozorenju RHMZ-a, očekuju se orkanski udari vetra, brzine od 80 do čak 110 kilometara na sat.
Gradonačelnik Novog Sada Žarko Mićin sazvao je hitnu sednicu Gradskog štaba za vanredne situacije zbog večerašnjeg nevremena i udara vetra do 110 na sat.
Za porodice stradalih u Osnovnoj školi "Vladislav Ribnikar", vest o izmeštanju pacijenata iz Klinike za neurologiju i psihijatriju za decu i omladinu ponovo je otvorila pitanja koja ih već dugo brinu – šta se dešava sa počiniocem zločina K. K. i da li postoji mogućnost da bude pušten na slobodu.
Klinika za psihijatriju Sveti Ivan u zagrebačkom Jankomiru pokrenula je postupak vanrednog otkazivanja ugovora o radu za još četvoro svojih zaposlenih. Reč je o lekarki, dve medicinske sestre i medicinskom tehničaru koji su uhapšeni 16. novembra zbog sumnje da su učestvovali u teškom ubistvu 32-godišnjeg pacijenta Kristiana Josipa Periša.
Tužilaštvo u španskom gradu Marbelja traži doživotnu robiju za optuženog Tolgu S, člana moto kluba "Anđeli pakla", za monstruozno ubistvo Srbina Aleksandra Kolundžića (33), čije je telo pronađeno vezano za stolicu.
Službeni automobil koji smo koristili kao i uvek smo oprali, ali samo spolja. Nismo koristili nikakve hemikalije kada smo čistili vozilo. Isto tako smo uradili i kobnog dana, istakao je Srđan Janković, optužen da je zajedno sa Dejanom Dragijevićem 26. marta 2024. godine u Banjskom Polju ubio malu Danku (2).
Sjedinjene Američke Države uvele su danas sankcije australijskoj motociklističkoj bandi Komančero i italijanskoj mafijaškoj organizaciji Ndrangeta zbog umešanosti u međunarodnu trgovinu narkoticima i pranje novca, saopštilo je američko Ministarstvo finansija.
Nijedan od predloga koji su do sada razmatrani za korišćenje zamrznute ruske državne imovine za finansiranje Ukrajine ne pruža adekvatnu zaštitu od pravnih i finansijskih rizika za belgijski finansijski depozitni centar Juroklir i Evropsku uniju (EU), upozorio je danas izvršni direktor te kompanije Edvin De Pau.
Američki predsednik Donald Tramp u četvrtak popodne se telefonom iz predsedničkog aviona Air Force One uključio na samit o Ukrajini koji se održavao u kabinetu nemačkog kancelara u Berlinu.
Evropa sve više nastoji da ojača sopstvenu odbrambenu industriju i smanji zavisnost od Sjedinjenih Američkih Država, ali Vašington ne želi da zbog toga izgubi uticaj na evropskom tržištu vojne opreme.
Američki magazin Variety objavio je listu 100 najvećih filmskih zvezda svih vremena, koju su sastavili njegovi filmski kritičari, a prvo mesto pripalo je legendarnoj Merilin Monro.
Glumac Pirs Brosnan, koji je svojevremeno četiri puta tumačio legendarnog tajnog agenta Džejmsa Bonda, oglasio se na Instagramu povodom izbora Roberta Patinsona za novog agenta 007 i pružio podršku mlađem kolegi.
Poznati britanski kuvar Gordon Remzi, koji je svetsku slavu stekao zahvaljujući kulinarskom umeću, oštrom jeziku i temperamentnim nastupima u televizijskim emisijama, dobio je zvezdu na čuvenoj holivudskoj Stazi slavnih u Los Anđelesu.
Britanska glumica Florens Pju (30) oštro je reagovala na nagađanja o svom izgledu nakon što su se društvenim mrežama proširile fotografije sa nedavne dodele nagrada Governors u Los Anđelesu.
Američki glumac Leri Poindekster preminuo je u 66. godini od posledica teške saobraćajne nesreće koja se dogodila u blizini njegovog doma u Kaliforniji.
Pevačica Marija Mikić otvoreno je govorila o razvodu od Jovana Pantića, novoj ljubavi i mogućnosti da drugi put stane na "ludi kamen", a tom prilikom otkrila je i detalje iz porodičnog života.
Pevačica Teodora Džehverović redovno privlači pažnju svojim objavama na društvenim mrežama, a ovog puta fanove je počastila fotografijom iz teretane na kojoj je pokazala kako izgleda tokom treninga.
Pevačica Mia Borisavljević podelila je na svom TikTok profilu video u kojem je pokazala kako priprema salatu koja je, kako kaže, za kratko vreme postala omiljena na porodičnim proslavama.
Pevačica Lepa Brena i njen sin Viktor pritekli su u pomoć komšijama na Bežanijskoj kosi, nakon što se u njihovoj kući aktivirao alarm, zbog čega su pomislili da neko pokušava da im obije dom.
Poznati tekstopisac narodnih pesama Žika Radujević (81), koji je sarađivao sa najvećim imenima domaće estrade i napisao oko 200 numera, nestao je u sredu, 18. novembra, oko 14 časova u Kraljevu.
Komentari
Ostavite komentar
Pravila komentarisanja:
Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.
Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni. Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji, etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.
Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.
Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.