Svet digao uzbunu: Maskov Grok pod istragama zbog skandaloznog sadržaja

Filipini i druge zemlje istražuju ili blokiraju AI četa Grok zbog rizika od seksualizovanog sadržaja i zaštite dece. X je uveo nove mere i ograničenja kako bi sprečio generisanje neprimerenih slika i uskladio se sa zakonima.

Filipinske vlasti razmatraju blokadu pristupa AI četu Grok, koji je u vlasništvu Ilona Maska, zbog zabrinutosti da bi mogao da proizvodi seksualizovan sadržaj, uključujući i materijale koji predstavljaju pretnju po bezbednost dece. Sekretar za informacione i komunikacione tehnologije Henrij Aguda potvrdio je da Centar za koordinaciju i istragu sajber-kriminala (CICC) već sarađuje sa Nacionalnom komisijom za telekomunikacije (NTC) na uvođenju ograničenja.

Iako je Grok trenutno manje rasprostranjen na Filipinima u odnosu na platforme poput ChatGPT-a i Claude-a, Aguda je naglasio da vlasti ovom pitanju pristupaju krajnje ozbiljno. On je najavio da bi odluka mogla biti doneta već tokom ove nedelje, što ukazuje na skoru intervenciju države.

Globalna pažnja se pojačava prema Groku

Globalna zabrinutost zbog Groka sve je izraženija, a interesovanje regulatora ne prestaje da raste. Problem više nije ograničen na Filipine, jer sve veći broj država preispituje način na koji ovaj AI alat upravlja seksualno eksplicitnim sadržajem. Indonezija je prošle subote privremeno blokirala Grok, navodeći opasnost od AI-generisanog pornografskog materijala, dok Malezija najavljuje pravne mere protiv platforme X zbog ugrožavanja bezbednosti korisnika.

Foto: EPA/profimedia

I u Velikoj Britaniji regulator Ofcom sprovodi istragu o Groku, uz poruku da bi podržao zabranu ukoliko se za tim ukaže potreba. Naglo širenje ovih istraga pokazuje koliko se vlasti širom sveta bore da uhvate korak sa razvojem veštačke inteligencije koja može da proizvodi potencijalno štetan sadržaj.

X menja pravila za uređivanje slika

Pod pritiskom brojnih kritika, kompanija X je najavila izmene u načinu na koji Grok generiše i uređuje slike. Prema navodima kompanije, uvedene su dodatne tehničke zaštite koje sprečavaju veštačku inteligenciju da obrađuje fotografije stvarnih osoba u provokativnoj odeći, uključujući i bikinije, bez obzira na status korisnika.

Istovremeno, sve opcije za generisanje slika u okviru Groka prebačene su na pretplatnički model, što znači da korisnici bez plaćene pretplate više nemaju pristup toj funkcionalnosti. Kompanija je takođe uvela geografska ograničenja u zemljama u kojima je kreiranje slika stvarnih ljudi u minimalnoj odeći zabranjeno zakonom, čime nastoji da uskladi svoje usluge sa važećim propisima.

Istraga zbog AI-generisane golotinje

Kalifornijske vlasti pokrenule su zasebnu istragu protiv kompanije xAI i njenog AI četa Grok, fokusirajući se na način na koji platforma upravlja AI-generisanom golotinjom i sadržajem koji može da podstiče iskorišćavanje dece. Prema nalazima državne analize, više od polovine od oko 20.000 slika koje je xAI generisao u periodu između Božića i Nove godine prikazivalo je osobe u oskudnoj odeći, uključujući i materijale za koje se sumnja da prikazuju maloletnike.

Foto: Shutterstock

Kompanija X reagovala je ističući politiku „nulte tolerancije“ prema bilo kakvom obliku iskorišćavanja dece, uz naglasak da se prioritetno uklanja sadržaj koji uključuje seksualno zlostavljanje dece (CSAM) i neovlašćenu golotinju. Ilon Mask je dodatno pojasnio da je Grok osmišljen tako da dozvoljava prikaz golotinje isključivo kada su u pitanju izmišljene odrasle osobe, pri čemu se ograničenja primenjuju u skladu sa zakonima i propisima različitih regiona.

Izazov balansiranja inovacija i bezbednosti

Kontroverze koje prate Grok dodatno osvetljavaju širi izazov sa kojim se suočava regulacija veštačke inteligencije - kako istovremeno podsticati inovacije i očuvati bezbednost korisnika. Kako sve veći broj država razmatra istrage ili ograničenja za AI alate sposobne da proizvode seksualizovan sadržaj, kreatori tehnologije nalaze se pod pritiskom da uvedu snažne zaštitne mehanizme, a da pri tom ne ugroze kreativne, istraživačke ili obrazovne mogućnosti.

Kontinuirani nadzor regulatornih tela u Aziji, Evropi i Sjedinjenim Američkim Državama ukazuje na globalnu tenziju između tehnološkog napretka i zaštite javnog interesa. Ovaj sukob postaje naročito izražen kada se AI sistemi koriste u oblastima koje se dotiču osetljivih pitanja, poput zaštite dece, privatnosti i pristanka.

BONUS VIDEO