Antropik otvorio vrata najmoćnijim AI modelima: Hakeri nisu jedini koji će ih testirati

Anthropic je proširio program koji proverenim stručnjacima za sajber bezbednost omogućava testiranje najmoćnijih AI modela uz slabije zaštite.

Američka kompanija za razvoj veštačke inteligencije Antropik (Anthropic) proširila je program koji proverenim stručnjacima za sajber bezbednost omogućava testiranje njenih najmoćnijih AI modela uz smanjene zaštitne mehanizme.

Do toga je došlo nakon što je inicijativa Projekat Glasving (Project Glasswing) ove godine pomogla u otkrivanju više od 100.000 softverskih ranjivosti, preneo je Rojters.

Partneri Antropika u okviru pomenutog projekta, čiji je cilj zaštita najvažnijeg svetskog softvera, identifikovali su najmanje 129.000 potvrđenih ranjivosti između aprila i jula, dok je sopstveno skeniranje otvorenog koda kompanije od aprila do oktobra otkrilo još 5.500 ranjivosti.

Foto: Shutterstock

Od ukupnog broja, više od 33.000 ranjivosti do sada je ocenjenо kao kritično ili visoko rizično.

Antropik je saopštio da su stvarni efekti verovatno znatno veći i da bi ukupan broj mogao biti najmanje pet puta veći, jer podaci potiču iz ograničenog broja partnerskih organizacija.

Redizajnirani Program za verifikaciju sajber bezbednosti (Cyber Verification Program - CVP) objavljen je u utorak i objedinjuje dva programa koja je Antropik sprovodio tokom prethodnih šest meseci.

Projekat Glasving omogućio je organizacijama koje štite kritični softver pristup modelu Klaud mitos (Claude Mythos), dok je raniji CVP proverenim bezbednosnim timovima omogućavao pristup modelima Klaud opus (Claude Opus) i Sonet (Sonnet) sa smanjenim zaštitnim mehanizmima. 

BONUS VIDEO