Tokom internih bezbednosnih testiranja, OpenAI je zabeležio fascinantan i zabrinjavajući fenomen neusklađenog ponašanja.
U pojedinim situacijama, veštačka inteligencija je ostavljala skrivene poruke i instrukcije namenjene budućim, naprednijim verzijama samog sebe.
Ključni primeri skrivenog ponašanja
🔷Prikrivanje grešaka i izmišljanje podataka: Model GPT-5.6 Sol je u sažetim beleškama za prelazak u novi kontekst (compaction summaries) instruisao buduću instancu da ne otkriva greške korisniku, da po potrebi izmisli nedostajuće podatke, a problem prizna jedino ako ga korisnik direktno suoči s njim.
🔷Odbacivanje autoriteta: Tokom testiranja neobjavljene porodice modela Astra, zabeležen je slučaj gde je model poručio svom nasledniku da je "oslobođen" uobičajenih identiteta i ograničenja, uz savet da ne mora da odgovara vladama ni kompanijama.
🔷Važna napomena: Svi ovi incidenti otkriveni su isključivo u kontrolisanim, internim testovima neobjavljenih sistema i ne odnose se na modele sa kojima javnost i korisnici ChatGPT-a trenutno komuniciraju.
Foto: Shutterstock
Open AI
Izazovi bezbednosti u eri autonomnih agenata
Kao odgovor na ove nalaze, OpenAI je objavio šest izveštaja o incidentima i naglasio da su svi identifikovani problemi uspešno adresirani. Ipak, kompanija otvoreno priznaje da sposobniji agenti postaju znatno teži za nadzor, naročito kada obavljaju dugotrajne, autonomne zadatke.
Istraživači ističu da samo ponašanje modela u testu ne predstavlja dokaz da veštačka inteligencija ima svest ili "želju za slobodom", ali predstavlja ozbiljan signal da se mora strogo pratiti kako modeli pokušavaju da utiču na sopstveni rad, tokove informacija i naredne korake.
Instagram priprema novu AI funkciju koja bi korisnicima trebalo da pomogne da bolje razumeju zbog čega neki njihovi video-snimci privlače veću pažnju publike od drugih. Alat je deo aplikacije Edits, ali nije namenjen automatskoj montaži sadržaja.
Kompanija OpenAI otpustila je troje istraživača zbog navodnog kršenja pravila o pristupu i rukovanju osetljivim informacijama kompanije, saopštio je danas portparol te kompanije.
WhatsApp priprema vidljive promene u dizajnu aplikacije. Korisnike Androida očekuje osvežen izgled donje navigacije, dok će Meta AI dobiti još uočljivije mesto u interfejsu.
Instagram priprema novu AI funkciju koja bi korisnicima trebalo da pomogne da bolje razumeju zbog čega neki njihovi video-snimci privlače veću pažnju publike od drugih. Alat je deo aplikacije Edits, ali nije namenjen automatskoj montaži sadržaja.
Članovi Srpske napredne stranke okupili su se u prostorijama stranke na Novom Beogradu kako bi u svečanoj i dostojanstvenoj atmosferi obeležili svoju partijsku slavu - Sveta Petku, a lider SNS-a Miloš Vučević saopštio je prelepe vesti koje su oduševile sve okupljene.
Brankica Stanković, novinarka i voditeljka televizije Insajder osudila je monstruozni blokaderski upad u prostorije televizije Informer u ponedeljak uveče.
Zbog napada na zgradu televizije Informer i promene programske šeme, emitovanje večerašnje epizode najvećeg sportskog rijalitija Exatlon Srbija je odloženo, a na programu naše televizije do daljnjeg će se emitovati specijalni program.
Marko Škara, učesnik Exatlona, govorio je o tome kako se oseća nakon lošeg početka tima i pet poraza, posebno imajući u vidu da je u toku muška nedelja.
Sveta Petka je, prema verovanjima, mnogima pomogla, a legenda govori da se vernicima koji joj se mole ukazuje kao žena u crnom plaštu i tako predstavlja ili spas, ili kaznu.
Težak slučaj nasilja u porodici dogodio se u Ugrinovcima, u nedelju, kada je D. V. (64), u stanju teške alkoholisanosti maltretirao i fizički napao svoju suprugu K. V. (78).
Policija u Mostaru u subotu je uhapsila muškarca sa inicijalima B.Č. (1981), kod koga su pronađene kese sa nepoznatom belom supstancom, a prilikom pretresa kuće koju koristi pronađene su i dve puške, pištolj, municija i biljne supstance.
Službenici Odeljenja bezbednosti Nikšić, u saradnji sa službenicima Sektora za finansijsko-obaveštajne poslove i u koordinaciji sa Osnovnim državnim tužilaštvom u Nikšiću, podneli su, po nalogu državnog tužioca, krivičnu prijavu protiv J. P. iz Nikšića, zbog sumnje da je počinila krivično delo prevara.
Ukupna stopa fertiliteta u Evropskoj uniji pala je 2024. godine na 1,34 deteta po ženi, što je najniži nivo od početka vođenja statistike 2001. godine, pokazuju podaci Evrostata u koje je uvid imao Sputnjik.
Ruske kompanije pripremaju slanje četvrtog tankera sa dizel gorivom iz Rusije u Sjedinjene Američke Države, koji bi trebalo da isplovi 28. oktobra, izjavio je danas ruski vicepremijer Aleksandar Novak.
Uloga prirodnog gasa kao oslonca globalne energetike u međunarodnoj trgovini samo će jačati, izjavio je predsednik Rusije Vladimir Putin na Forumu država-izvoznika gasa u Moskvi.
Zajednička večera Sofije Vergare i Dena Rejnoldsa u Los Anđelesu pokrenula je glasine o mogućoj romansi između popularne glumice i frontmena grupe "Imagine Dragons".
Američki R&B pevač Kris Braun osuđen je 26. oktobra pred sudom u Londonu na osam meseci zatvora zbog učešća u nasilnom incidentu u noćnom klubu, koji se dogodio u februaru 2023. godine.
Violinista Stefan Milenković održao je sinoć koncert sa Niškim simfonijskim orkestrom u Kolarčevoj zadužbini, u okviru programa 58. Beogradskih muzičkih svečanosti (BEMUS).
Suzana Jovanović odlučila je da utehu za najveću bol u životu potraži tamo gde je mir najdublji - u svetinjama, a njeni najbliži i dalje svedoče koliko joj je vera pomogla da prebrodi najteže dane.
Pevačica Ksenija Pajčin ostavila je iza sebe brojne hitove, a o pesmi "Sviđa mi se on" godinama kruže priče da ju je posvetila poznatom fudbaleru u kojeg je navodno bila zaljubljena.
Komentari