Upotreba veštačke inteligencije više neće biti ista: Kreće primena zakona koji strogo kontroliše šta radite

Miloš Radojković za Biznis Kurir analizirao je Zakon EU Artificial Intelligence Act i potvrdio da era nekontrolisanog AI razvoja u Evropi postaje prošlost.

Evropska unija je usvojila prvi sveobuhvatan zakon o veštačkoj inteligenciji EU Artificial Intelligence Act, poznat kao Uredba (EU) 2024/1689, koji uvodi stroga pravila, bezbednosne standarde i sistem monitoringa za najrizičnije AI sisteme. Iako Srbija nije članica Evropske unije, ovaj zakon ima eksteritorijalni efekat, što znači da će uticati i na domaće firme koje razvijaju ili izvoze AI rešenja na evropsko tržište.

Miloš Radojković, stručnjak iz oblasti primene i implementacije AI standarda, detaljno je pojasnio koje obaveze nosi novi zakon, koje mere bezbednosti propisuje, šta znači monitoring AI sistema i da li u EU postoje zabranjene AI primene.

Zašto se uvodi novi zakon

Radojković je objasnio suštinu novog evropskog propisa i razloge za njegovo donošenje:

- Implementiraju se jasna i stroga pravila za upotrebu veštačke inteligencije u Evropskoj uniji, sa posebnim fokusom na visokorizične AI sisteme koji utiču na prava, bezbednost i ljude.

On naglašava da ceo sistem zakona nije ograničen samo na tehničke standarde, već pokriva čitav životni ciklus AI rešenja od razvoja i testiranja, do sertifikacije i nadzora nakon puštanja u rad.

Radojković objašnjava da se uvodi i jasan mehanizam sertifikacije.

- Pruža kompletno rešenje end-to-end, rešenje za identifikaciju rizika, prikupljanje dokaza, izradu zakonski obavezne dokumentacije i pripremu CE sertifikata. To je CE sertifikat, svaka veštačka inteligencija koja prođe sertifikaciju moraće da ima određenu obaveznu oznaku da je legitimno.

Prema njegovim rečima, svaki sistem u kategoriji high-risk moraće da prođe kroz strogu proceduru pre nego što uopšte može na tržište.

Foto: Shutterstock

Najrizičniji AI sistemi

Kada je reč o najrizičnijim AI sistemima  poput onih u medicini, infrastrukturi, pravosuđu ili zapošljavanju, obaveze su preskriptivne i zahtevne. Radojković pojašnjava:

- Ako jedan od AI sistema spada u high risk, on mora imati nadzor, logovanje, ljudsku kontrolu i praćenje rada sistema.

Ovaj deo je u potpunosti u skladu sa EU AI Act-om, čiji čl. 26 propisuje da deployer mora da prati rad visokorizičnog sistema, primenjuje uputstva za upotrebu, uspostavi ljudski nadzor i čuva automatski generisane logove najmanje šest meseci.Ovo znači da AI sistem više ne može da funkcioniše kao "crna kutija". Mora postojati ljudski nadzor, pristup logovima i mogućnost intervencije ako se uoči rizik ili greška.

Tema monitoringa jedna je od ključnih u novom zakonu. Radojković objašnjava šta se dešava kada se sistem pusti u rad:

- Kada se pusti, ako je high risk, on automatski dobija i praćenje rada sistema, čuvanje logovanja, reagovanje na rizike i redovno analiziranje performansi samog AI sistema.

Naglašava da je kontinuirani nadzor jedan od najkritičnijih segmenata propisa, jer sprečava greške i zloupotrebe.

Radojković dodaje da je suština monitoringa zaštita građana i transparentnost.

- Služi kako bi se smanjio rizik od zloupotrebe AI, komunikacije, kao i da bi se sam nadzor AI doveo pod lupu. Mora da bude praćeno ljudskim okom.

Foto: Shutterstock

Na pitanje da li postoje primene koje će biti zabranjene, Radojković ističe da će finalne odluke stići nakon usklađivanja:

- Trenutno ne, ali saznaćemo nakon usklađivanja u januaru 2026. godine.

Uticaj novog zakona na Srbiju

Važno pitanje je da li će zakon uticati na kompanije u Srbiji. Radojković kaže:

- Ukoliko firma posluje u Srbiji zaštićena je jer nismo deo Evropske unije. Ukoliko proizvodi za strano tržište, onda se odnosi i na nju, odnosno samo ukoliko proizvodi za stranu državu koja pripada Evropskoj uniji.

Ističe da firme koje plasiraju AI sisteme u EU, SAD ili druge regione moraju ispuniti sve uslove sertifikacije:

- Moraće da sertifikuju svoj AI sistem, proradi procenu rizika, da se uradi monitoring i kontrola istog.

Radojković naglašava da zakon nije statičan.

- Ima nekoliko aneksa, što se ažurira non-stop. Kako se razvija, tako se i menja. To znači da će standardi postajati sve stroži, a monitoring sve obimniji.

Radojković zaključuje da evropski zakon o veštačkoj inteligenciji predstavlja najstroži regulatorni okvir na svetu. Uspostavlja potpunu kontrolu nad visokorizičnim AI sistemima, od sertifikacije, preko logovanja, do obaveznog ljudskog nadzora i kontinuiranog monitoringa.

Iako Srbija nije deo EU, sve kompanije koje žele da izvoze AI rešenja moraće da poštuju ova pravila. U suprotnom, njihovi proizvodi neće moći da uđu na tržište Evropske unije.