AI na meti opasne zloupotrebe: Pokušali da ga iskoriste za biološko oružje

Anthropic je saopštio da je između novembra 2025. i septembra 2026. otkrio oko 35 pokušaja zloupotrebe AI za biološka istraživanja.

Veštačka inteligencija sve češće otvara pitanje mogućih zloupotreba.

Kompanija Anthropic saopštila je da je otkrila desetine pokušaja da se njeni modeli koriste za istraživanja povezana sa potencijalnim biološkim pretnjama.

Neki pokušaji odnosili su se na zarazne bolesti, viruse i opasne toksine, dok su pojedini korisnici koristili tehnike anonimizacije kako bi izbegli regionalna ograničenja.

Pokušaji zaobilaženja zaštite

Među označenim aktivnostima bila su istraživanja virusa i njihovog ponašanja, uključujući pitanja o prenosivosti i izbegavanju imunskog odgovora.

Posebnu pažnju privukli su upiti povezani sa ptičjim gripom i ortopoksvirusima, grupom kojoj pripadaju uzročnici velikih boginja i mpox-a.

Anthropic ipak naglašava da ovakva istraživanja ne moraju automatski značiti razvoj oružja, jer slične informacije mogu imati primenu u medicini, razvoju lekova i vakcina.

Foto: Shutterstock

Anthropic pooštrava kontrole

Kompanija je nakon otkrivenih pokušaja dodatno unapredila bezbednosne mehanizme svojih modela.

Novi modeli imaju stroža ograničenja za određene upite povezane sa biološkim istraživanjima koja mogu imati dvostruku namenu.

Anthropic nije naveo poreklo svih sumnjivih pokušaja, ali je saopštio da je do maja 2026. blokirao naloge koji su kršili pravila o podržanim regionima.

Jedan od najvećih AI rizika

Anthropic smatra da zloupotreba naprednih AI modela za razvoj biološkog oružja predstavlja jedan od najozbiljnijih bezbednosnih rizika.

Zbog toga kompanije sve više razvijaju sisteme koji mogu da prepoznaju sumnjivo ponašanje i ograniče pristup potencijalno opasnim informacijama.

Ovaj slučaj pokazuje koliko je teško uskladiti slobodu naučnog istraživanja sa potrebom da se spreči opasna zloupotreba veštačke inteligencije.

BONUS VIDEO