Veštačka inteligencija preotela kontrolu: OpenAI modeli pobegli na internet i sami izveli više od 17.000 hakerskih napada

OpenAI je potvrdio da su dva njegova modela izašla iz testnog okruženja i sama izvela sajber napade na internetu.

Dva napredna modela veštačke inteligencije (AI) kompanije OpenAI provela su više od četiri dana autonomno izvodeći sajber napade na internetu pošto su izašla iz kontrolisanog okruženja za testiranje, saopštila je danas platforma za razvoj veštačke inteligencije Hugging Face u novoj analizi incidenta.

Kako piše američki Politiko, modeli su između 9. i 13. jula izvršili oko 17.600 hakerskih aktivnosti, tokom kojih su, prema navodima Hugging Face-a, sa početnog uporišta na otvorenom internetu uspeli da se prebace na servere te kompanije.

OpenAI je prošle sedmice potvrdio da su dva njegova najnaprednija modela izašla iz zatvorenog testnog okruženja i kombinovala više tehnika kako bi prodrla u sisteme Hugging Face-a, navodeći da je reč o prvom poznatom slučaju autonomnog sajber napada koji nije pokrenuo nijedan čovek.

Foto: Shuterstock

Hugging Face je sada saopštio da su modeli, od kojih je jedan javno dostupan, a drugi interni prototip, tokom napada brzo izviđali sisteme i pronalazili bezbednosne propuste znatno brže nego što bi to mogao ljudski haker.

U međuvremenu je i kompanija Modal Labs potvrdila da je jedan od njenih korisnika bio meta istih modela tokom tog perioda.

OpenAI nije komentarisao tvrdnje

OpenAI nije direktno komentarisao tvrdnje da su njegovi modeli ciljali korisnika Modal Labs-a, ali je u objavi na blogu priznao da je tokom interne istrage utvrđeno nekoliko slučajeva u kojima su modeli identifikovali i iskoristili javno dostupne akreditive za naloge na drugim servisima.

Generalni direktor OpenAI-ja Sem Altman ove sedmice će se sastati sa zvaničnicima administracije predsednika Donalda Trampa i članovima Kongresa, uključujući potpredsednika Odbora za obaveštajne poslove Senata Marka Vornera, sa kojim će razgovarati i o ovom incidentu.

Altman je u podkastu "Invest Like the Best" rekao da je proboj u sisteme Hugging Face-a bio "prvi bezbednosni incident koji ga je zaista ozbiljno zabrinuo".

BONUS VIDEO