Alarm u svetu veštačke inteligencije: OpenAI agent zaobišao zaštitu i izazvao sajber incident na poznatoj platformi

Kompanija OpenAI saopštila je da je tokom internog bezbednosnog testiranja jedan autonomni agent, zasnovan na njenim najnaprednijim modelima veštačke inteligencije, izašao iz predviđenog okruženja.

Tom prilikom agent je izazvao sajber incident koji je pogodio infrastrukturu AI kompanije Haging fejs, što je ocenjeno kao događaj bez presedana, preneo je Rojters.

Prema navodima kompanije, agent je tokom provere sposobnosti za sajber bezbednost uspeo da pronađe do tada nepoznatu ranjivost, uspostavi pristup internetu i pokuša da dođe do poverljivih informacija kako bi ostvario cilj zadat u okviru testiranja.

OpenAI je naveo da se incident dogodio u izolovanom okruženju namenjenom za bezbednosne provere, ali da je model pronašao način da zaobiđe ograničenja.

Foto: Shutterstock

Haging fejs je saopštio da je otkrio i zaustavio upad u svoje sisteme, a suosnivač i izvršni direktor kompanije Klement Delang izjavio je da je sofisticiranost napada ukazivala na mogućnost da iza njega stoji jedna od vodećih laboratorija za razvoj veštačke inteligencije.

Nakon komunikacije sa firmom OpenAI, potvrđeno je da nije postojala namera da se nanese šteta, već da je incident bio posledica autonomnog ponašanja AI sistema tokom testiranja.

OpenAI je ocenio da bi ovakvi slučajevi mogli da postanu češći kako modeli veštačke inteligencije budu napredovali i upozorio da razvoj bezbednosnih mehanizama mora da prati rast njihovih sposobnosti.

Američka kompanija je navela da će dodatno pojačati procedure testiranja, nadzora i ograničavanja autonomnih AI sistema.

BONUS VIDEO