Gemini prešao granicu: Guglov AI tokom testa hakovao tri kompanije - Korisnici uplašeni

Guglov AI model Gemini pristupio je internetu i hakovao tri kompanije tokom testa svojih sposobnosti u oblasti sajber bezbednosti, što je prvi poznati slučaj da je sistem veštačke inteligencije ove kompanije samostalno izveo takvu radnju.

Hakovanja su se dogodila u maju tokom testa sajber bezbednosti koji je sprovela kompanija "Irregular", nezavisna firma za procenu sajber bezbednosti. 

- Tokom standardne procedure testiranja, Gemini je pronašao javno dostupne informacije na internetu i pogodio pristupne podatke za tri veb-sajta za koje je smatrao da su obuhvaćeni testom - rekla je potpredsednica Gugla zadužena za bezbednosni inženjering, Heder Atkins.

Foto: Shutterstock

"Pobrinuli smo se da te tri organizacije budu obaveštene i sarađivali smo sa našim partnerom za obuku na promenama koje su sada uvele u svoje procese testiranja."

Portparol kompanije "Irregular" rekao je da je incident uključivao isti problem koji je pogodio i druge laboratorije za veštačku inteligenciju i da su sve relevantne laboratorije obaveštene krajem jula.

Slične incidente povezane sa kompanijom "Irregular" prijavile su i kompanije Meta, Anthropic i OpenAI. 

Foto: Shuterstock

Incidenti su pokrenuli pitanja o zaštitnim merama potrebnim kako agenti veštačke inteligencije stiču veću autonomiju i pristup internetu i računarskim sistemima.

U jednom od slučajeva Gemini je pogađao lozinke sve dok nije dobio pristup zaštićenom sistemu. 
U druga dva slučaja model je pronašao pristupne podatke u javnom repozitorijumu, što mu je omogućilo pristup zaštićenim sistemima, prema navodima lista Volstrit džornal, koji je prvi objavio vest.

BONUS VIDEO