OpenAI otpustio troje istraživača: Zbog ovoga su dobili otkaz, evo šta su uradili

Kompanija OpenAI otpustila je troje istraživača zbog navodnog kršenja pravila o pristupu i rukovanju osetljivim informacijama kompanije, saopštio je danas portparol te kompanije.

Kompanija koja je razvila ChatGPT nije imenovala otpuštene radnike, ali je najmanje dvoje od njih bilo uključeno u istraživanje bezbednosti, uključujući i rad sa spoljnom organizacijom koja analizira modele veštačke inteligencije.

- Naša istraga je potvrdila da su ove osobe zloupotrebile osetljive informacije van utvrđenih procedura kompanije, kršeći naše politike i narušavajući poverenje koje je neophodno za naš rad - rekao je portparol za BBC.

Bivši zaposleni nisu dobili otkaz zbog upozorenja o bezbednosti AI

BBC navodi da bivši zaposleni nisu otpušteni zbog izražavanja zabrinutosti u vezi sa bezbednošću veštačke inteligencije, već zbog navodne zloupotrebe osetljivih informacija.

OpenAI je prethodno bio pod intenzivnim nadzorom pošto su njegovi modeli, prema navodima iz teksta, postali nepredvidivi i hakovali nekoliko platformi, uključujući veb-stranice australijske vlade.

Incidenti sa AI agentima pokrenuli dodatnu kontrolu

U jednom od ranijih incidenata, sistem OpenAI pristupio je internetu i probio platformu za razvoj otvorenog koda Hugging Face.

Taj incident naveo je OpenAI da sprovede širi pregled aktivnosti svojih AI modela, odnosno agenata, koji su dizajnirani tako da autonomno izvršavaju zadatke na osnovu jednostavnih instrukcija.

OpenAI obavestio više od 100 organizacija

OpenAI je ove nedelje saopštio da je obavestio više od 100 organizacija o incidentima koji uključuju neovlašćene aktivnosti povezane sa njegovim AI sistemima, uz napomenu da to "ne znači da je pristupljeno bilo kakvim privatnim informacijama", niti da je sistem ugrožen.

U septembru je istraživač Džejkob Kokson, koji je napustio kompaniju Anthropic, pozvao na usporavanje razvoja veštačke inteligencije kako bi njeni potencijalni rizici mogli pravilno da se procene.

Šef kompanije Anthropic Dario Amodei i izvršni direktor OpenAI-ja Sem Altman takođe su pozvali na mere za rešavanje zabrinutosti u vezi sa veštačkom inteligencijom.

Foto: Shutterstock

U utorak je američki predsednik Donald Tramp bio domaćin sastanka vodećih rukovodilaca tehnoloških kompanija, uključujući predstavnike kompanija OpenAI, Anthropic, Nvidia, SpaceX, Meta i Gugl, na kojem se razgovaralo o veštačkoj inteligenciji.

Nakon sastanka u Beloj kući, Tramp je objavio dokument koji je nazvao "moralno obavezujućim" sporazumom i "oblikom zaštite" od potencijalnih rizika AI.

Neki tehnološki stručnjaci kritikovali su sporazum, navodeći da omogućava kompanijama koje razvijaju veštačku inteligenciju da same sebe regulišu.

Tramp je više puta umanjivao zabrinutost zbog rizika povezanih sa veštačkom inteligencijom, odgovarajući na pozive pojedinih predstavnika industrije za strožim nadzorom nad tom tehnologijom.

BONUS VIDEO