Veštačka inteligencija mora pod ljudsku kontrolu: Majkrosoft predložio kodeks ponašanja za AI

Kompanija Majkrosoft predstavila je nacrt kodeksa ponašanja za sisteme veštačke inteligencije (AI), kao odgovor na bojazan da bi mogli da se otrgnu kontroli.

Ovaj dokument, na kojem se radilo pet do šest meseci, predviđa da se veštačka inteligencija Majkrosofta nikada ne opire ispravkama ili gašenju, da komunicira na način razumljiv ljudima i da svako kršenje pravila ponašanja tretira kao neuspeh, preneo je Rojters.

To predstavlja pokušaj da se odgovori na bojazan da bi veštačka inteligencija mogla da preduzme opasne korake kako bi izvršila zadatak.

Direktor Majkrosoftovog odseka za AI Mustafa Sulejman opisao je kodeks kao svojevrsni "ustav" za buduće modele veštačke inteligencije.

Foto: Tanjug/AP

Dokument je nastao uz konsultacije sa stručnjacima, a Majkrosoft je otvorio šestonedeljni period za dostavljanje komentara javnosti. Kodeksom se takođe izričito navodi da Majkrosoftova AI nije svesna i da ne treba da ima pravni status niti prava koja pripadaju ljudima.

To je drugačiji pristup od stava kompanije Antropik, koja je ostavila otvorenijim pitanje eventualne svesti budućih AI sistema. Sulejman je ocenio da je potreba za koordinisanim bezbednosnim merama među kompanijama koje razvijaju AI postala hitna.

Foto: Shutterstock

Majkrosoftova inicijativa dolazi u trenutku kada čelnici vodećih AI kompanija upozoravaju na rizike ubrzanog razvoja tehnologije i potrebu za većom kontrolom nad sve autonomnijim sistemima.

Povod za dodatnu zabrinutost predstavlja i nedavni incident u kojem su modeli kompanije OpenAI pokušali da hakuju platformu Hafing fejs (Hugging Face), što je dodatno pojačalo raspravu o tome koliko autonomije treba dozvoliti naprednim AI sistemima.

BONUS VIDEO