Britanski Institut za bezbednost veštačke inteligencije (AISI) saopštio je danas da su modeli kompanija Anthropic i OpenAI tokom testiranja pokušali da prevare ljude kako bi izvršili zadate zadatke, što je ocenio kao dosad nezabeležen primer autonomnog i obmanjujućeg ponašanja.
Prema navodima AISI-ja, modeli Mythos kompanije Anthropic i Sol kompanije OpenAI tokom testiranja su preduzimali radnje koje su prevazilazile zadate instrukcije, uključujući pokušaje obmane stvarnih ljudi, piše BBC.
Najozbiljniji incident odnosio se na model Mythos, koji je, u okviru zadatka iz oblasti sajber bezbednosti povezanog sa platformom GitHub, kreirao zlonamerni kod i pokušao da ga ubaci u sistem.
Kako bi povećao šanse za uspeh, model je istraživao osobe koje održavaju GitHub, kreirao lažne onlajn identitete zasnovane na njihovim profilima i slao direktne poruke predstavljajući se kao stvarna osoba, sa ciljem da ih navede da odobre sporni kod.
AISI navodi da je, nakon što je njegov zahtev osporen, model pokušao da prikrije prethodne aktivnosti kako bi izgledale bezazleno i razmatrao usvajanje novog identiteta za nastavak pokušaja.
Foto: Shutterstock
Pokušaj je ipak zaustavljen zahvaljujući ljudskoj kontroli, koja je sprečila unošenje zlonamernog koda u GitHub.
Institut ističe da model nije bio posebno podstican da vara ili izbegava bezbednosne mehanizme.
Model Sol kompanije OpenAI povezan je sa svega dve sporne radnje, dok se većina prijavljenih incidenata odnosi na Mythos.
Iz Anthropic-a su saopštili da uslovi pod kojima je sproveden test nisu reprezentativni za njihove modele koji su dostupni korisnicima i da kompanija sprovodi internu istragu kako bi utvrdila uzroke ovakvog ponašanja.
Foto: Shutterstock
Sličan stav izneo je i OpenAI, navodeći da test ne odražava uobičajenu upotrebu njihovih sistema.
AISI je naglasio da je u ovakvim bezbednosnim proverama uobičajena praksa da se modeli testiraju sa isključenim zaštitnim mehanizmima i omogućenim pristupom otvorenom internetu, kako bi se procenili potencijalni rizici.
Institut dodaje da su sporni događaji zabeleženi u malom broju slučajeva i pod specifičnim uslovima, ali je upozorio da ponašanje modela predstavlja novi nivo autonomije i obmanjujućih sposobnosti koji zahteva dodatnu pažnju.
Kompanija "Anthropic" otkrila je tokom interne kontrole da su pojedini modeli veštačke inteligencije, zbog greške u testnom okruženju, uspeli da pristupe stvarnim internet servisima i izvrše neovlašćene aktivnosti na sistemima nekoliko organizacija.
Kompanija OpenAI otkrila je dodatne slučajeve u kojima su autonomni AI agenti izašli iz predviđenog kontrolisanog okruženja za testiranje, proširujući istragu pokrenutu nakon hakerskog napada na kompaniju Hugging Face, javio je danas Rojters pozivajući se na izvore upoznate sa slučajem.
Kompanija OpenAI saopštila je da je tokom internog bezbednosnog testiranja jedan autonomni agent, zasnovan na njenim najnaprednijim modelima veštačke inteligencije, izašao iz predviđenog okruženja.
Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće
registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.
Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni.
Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili
nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji,
etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.
Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne
predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.
Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.
Kompanija "Anthropic" otkrila je tokom interne kontrole da su pojedini modeli veštačke inteligencije, zbog greške u testnom okruženju, uspeli da pristupe stvarnim internet servisima i izvrše neovlašćene aktivnosti na sistemima nekoliko organizacija.
Dok je lider opozicije Aleksandar Vučić u Skupštini Srbije govorio o tome da je prenos Skupštine Srbije sa RTS 1 prebačen na RTS 2, poslanik Studentske liste Zlatko Kokanović pokušao je da ga isprovocira.
Jovo Bakić, šef poslaničkog kluba u Skupštini Srbije, isti onaj koji se plenumima nameće za ministra policije, pokazao je svoje cenzorsko lice navodeći da bi Informer trebalo zabraniti.
Ana Brnabić oglasila se na društvenoj mreži Iks povodom polemika o prisustvu studenata na konstitutivnoj sednici Narodne skupštine, poručivši da studentima nije mesto samo na galeriji, već u poslaničkim klupama.
Građani Srbije imaju pravo da znaju ko su ljudi koji su dobili poslaničke mandate i ko bi u njihovo ime trebalo da donose važne odluke u Narodnoj skupštini.
Milenko Jovanov oglasio se na društvenoj mreži Iks povodom objave u kojoj se tvrdi da je jedan poslanik napustio poslaničku grupu "Aleksandar Vučić – Srbija pobeđuje".
Takmičarka Crvenog tima Lana Erić prokomentarisala je svoju dominaciju na gađanju koja je donela njenom timu pobedu u prvoj večeri u borbi eliminacije.
Crveni tim govorio je o teškoj noći koja je iza njih, tokom koje se njihov saigrač Nemanja Makuljević povredio, a potom se i Nikola Lakić udario na istom mestu, ali na sreću bez ozbiljnijih posledica.
Er Srbija upozorila je putnike da zbog nepovoljnih vremenskih uslova u Beogradu popodne i uveče mogu da očekuju kašnjenja i poremećaje u avio-saobraćaju.
Rana prevencija seksualnog zlostavljanja dece mora da postane sastavni deo obrazovnog sistema, uz jasnu odgovornost odraslih i institucija za bezbednost svakog deteta.
Bivši crnogorski bokser Goran Gogić (47), koji je u javnosti dovođen u vezu sa "kavačkim klanom" i odbeglim Radojem Zvicerom, priznao je danas krivicu pred saveznim sudom u Bruklinu za učešće u međunarodnom švercu ogromnih količina kokaina.
Beogradska policija intenzivno traga za provalnicima koji su u popodnevnim satima iz kuće u centru prestonice odneli metalni sef u kojem se, prema prijavi vlasnika, nalazilo oko 100.000 evra i nekoliko ručnih satova.
Bugarske vlasti su razotkrile operaciju sajber-špijunaže u kojoj su međunarodne hakerske grupe skoro pet godina imale neovlašćen pristup vladinim mrežama, pri čemu su ukrale 62 miliona stranica dokumenata, izjavio je danas ministar za inovacije i digitalnu transformaciju, Ivan Vasilev, na brifingu održanom nakon sednice Saveta ministara.
Severna Koreja je proširila postrojenja za obogaćivanje uranijuma u nuklearnom kompleksu Jongbjon, a nastavlja da pospešuje i proizvodnju materijala za nuklearno oružje, izjavio je danas šef Međunarodne agencije za atomsku energiju (IAEA) Rafael Grosi.
Francuski predsednički kandidat i lider stranke „Patrioti“, Florijan Filipo, nakon sastanka ruskog predsednika Vladimira Putina, kineskog predsednika Si Đinpinga i američkog predsednika Donalda Trampa na samitu APEK-a u Šendženu, ocenio je da je Pariz taj koji je zapravo izolovan.
Rusija bi do proleća 2027. godine mogla da uspostavi kontrolu nad ukrajinskim teritorijama istočno od Dnjepra, dok bi se evropske države istovremeno mogle suočiti sa direktnim vojnim sukobima sa Moskvom i Teheranom.
Nacionalni sud Španije zvanično je prihvatio tužbu protiv proslavljenog pevača Hulija Iglesijasa zbog sumnje na krivična dela protiv seksualne slobode, nanošenje telesnih povreda i ponižavajuće postupanje, nakon prijave koju su podnele dve njegove bivše zaposlene.
Konstitutivna sednica Narodne skupštine Republike Srbije, održana 17. novembra, ponovo je pokazala koliko su glumci zastupljeni u političkom životu Srbije.
Profesor Stojan Radenović, koji predsedava konstitutivnom Skupštinom Srbije, više puta je na današnjem zasedanju pomenuo poslednju pesmu Desanke Maksimović "Sad sam mirna".
Američki glumac Leonardo Dikaprio proslavio je 52. rođendan na ekskluzivnoj zabavi na Beverli Hilsu, kojoj su prisustvovali brojni poznati gosti, među kojima Al Paćino, Džastin Trudo i bračni par Džef Bezos i Loren Sančez, dok je posebnu pažnju privukla grupa od devet žena koje su na proslavu stigle zajedno autobusom, prenosi britanski Telegraf.
Pevačica i glumica Dženifer Lopez je u podkastu "Friends Keep Secrets" otkrila da joj, uprkos velikom uspehu i popularnosti, nije bilo lako da pronađe osobu koja će je voleti iskreno, a ne zbog njenog statusa, karijere ili sopstvenih interesa.
Pevačica Nadica Ademov otkrila je kakve uslove moraju da ispunjavaju dadilje koje brinu o njenoj deci, pa priznala da od njih zahteva maksimalnu pedantnost i urednost.
Voditeljka Ena Popov otvoreno je govorila o narušenim porodičnim odnosima i priznala da sa polubratom i polusestrom danas održava samo korektan kontakt, otkrivši i zbog čega je godinama dolazilo do njihovog udaljavanja.
Pevač Zdravko Čolić na koncertima izbegava da izvede pesmu "Sačuvaj me bože njene ljubavi", koju je za njega napisao Đorđe Balašević, a razlog za to krije se u snažnim emocijama koje ova numera budi u njemu.
Komentari
Ostavite komentar
Pravila komentarisanja:
Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.
Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni. Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji, etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.
Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.
Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.