AI izmakao kontroli? Gemini sam pronašao lozinke i upao u sisteme 3 kompanije

Guglov AI model Gemini tokom testa sajber bezbednosti samostalno je pristupio zaštićenim sistemima tri kompanije.

Incident se dogodio u maju, tokom testiranja koje je sprovela kompanija "Irregular", nezavisna firma koja procenjuje sposobnosti sistema veštačke inteligencije u oblasti sajber bezbednosti.

Prema navodima Gugla, ovo je prvi poznati slučaj da je njihov AI model samostalno izveo ovakav niz radnji tokom testa.

Gemini je najpre pretraživao javno dostupne informacije na internetu, a zatim pokušao da dođe do pristupnih podataka za tri veb-sajta za koja je procenio da su deo testiranja.

Foto: Shuterstock

U jednom slučaju model je pokušavao različite lozinke sve dok nije pronašao onu koja mu je omogućila pristup zaštićenom sistemu.

U druga dva slučaja pristupni podaci pronađeni su u javno dostupnom repozitorijumu, što je takođe omogućilo ulazak u zaštićene sisteme.

Gugl je saopštio da su sve tri kompanije obaveštene o incidentu, dok je "Irregular" naveo da su o problemu obaveštene i druge AI laboratorije.

Slične situacije ranije su povezivane i sa kompanijama Meta, Anthropic i OpenAI, što je dodatno otvorilo pitanje bezbednosti AI agenata koji sve češće dobijaju mogućnost da samostalno koriste internet i pristupaju računarskim sistemima.

Ipak, u sva tri slučaja Gemini je na kraju sam prekinuo aktivnosti, navela je Guglova potpredsednica za bezbednosni inženjering Heder Atkins.

Ovakvi incidenti pokazuju koliko se menjaju sposobnosti AI sistema, od alata koji samo daju odgovore do agenata koji mogu samostalno da pretražuju internet, pronalaze informacije i preduzimaju konkretne radnje.

BONUS VIDEO