Čovečanstvo u opasnosti! Stigle najgore vesti o veštačkoj inteligenciji! Postignut ključan proboj, naučnici poslali hitno upozorenje!

Četiri dana uoči otkaza izvršnom direktoru kompanije OpenAI-ja Semu Altmanu, nekoliko istraživača napisalo je pismo upravnom odboru u kojem upozoravaju na izuzetno otkriće u oblasti veštačke inteligencije za koje su rekli da bi moglo da ugrozi čovečanstvo, naveo je Rojters navodeći kao izvor dve osobe upoznate sa dešavanjima.

Ovo pismo i algoritam veštačke inteligencije bili su ključni za davanje otkaza Altmanu, rekla su dva izvora. Pre njegovog trijumfalnog povratka kasno u utorak, više od 700 zaposlenih je zapretilo da će dati otkaz i pridružiti se Microsoftu u znak solidarnosti sa njihovim otpuštenim liderom.

Izvori su naveli pismo kao jedan od faktora na dužoj listi pritužbi Upravnom odboru koji su doveli do Altmanovog otpuštanja, među kojima je bila zabrinutost zbog komercijalizacije napretka veštačke inteligencije pre nego što se razumeju posledice. Rojters nije mogao da pregleda kopiju pisma. Osoblje koje je napisalo pismo nije odgovorilo na zahteve za komentar.

Nakon što ju je Rojters kontaktirao, kompanija OpenAI, koji je odbila da da zvaničan komentar, priznala je u internoj poruci zaposlenima da postoji projekat pod nazivom K* i navedeno pismo odboru. Portparol OpenAI je rekao da je poruka koju je poslala dugogodišnja izvršna direktorka Mira Murati upozorila osoblje na određene medijske priče bez komentarisanja njihove tačnosti.

Foto: Shuterstock

Neki u OpenAI-ju veruju da bi K* (izgovara se K-Star) mogao biti proboj u potrazi za startapom za onim što je poznato kao veštačka opšta inteligencija (AGI), rekao je jedan od zaposlenih za Rojters. OpenAI definiše AGI kao autonomne sisteme koji nadmašuju ljude u većini ekonomski vrednih zadataka.

S obzirom na ogromne računarske resurse, novi model je mogao da reši određene matematičke probleme, rekla je upućena osoba Rojtersu pod uslovom anonimnosti jer nije bila ovlašćena da govori u ime kompanije. Iako se matematika izvodi samo na nivou učenika osnovnih škola, polaganje takvih testova učinilo je istraživače veoma optimističnim u pogledu budućeg uspeha K*, rekao je izvor.

Istraživači smatraju da je matematika granica generativnog razvoja veštačke inteligencije. Trenutno, generativna veštačka inteligencija je dobra u pisanju i prevodu jezika statističkim predviđanjem sledeće reči, a odgovori na isto pitanje mogu uveliko varirati. Ali osvajanje sposobnosti matematike – gde postoji samo jedan tačan odgovor – podrazumeva da bi AI imala veće sposobnosti rasuđivanja koje liče na ljudsku inteligenciju. Ovo bi se moglo primeniti na nova naučna istraživanja.

Foto: Shuterstock

Za razliku od kalkulatora koji može da reši ograničen broj operacija, AGI može da generalizuje, uči i razume.

U svom pismu odboru, istraživači su istakli mogućnosti veštačke inteligencije i potencijalnu opasnost, rekli su izvori ne precizirajući tačne brige o bezbednosti navedene u pismu. Među kompjuterskim naučnicima se dugo raspravljalo o opasnosti koju predstavljaju visoko inteligentne mašine, na primer, koje bi mogle da odluče da je uništenje čovečanstva u njihovom interesu.

Istraživači su takođe označili rad tima "naučnika veštačke inteligencije", čije postojanje je potvrdilo više izvora. Grupa, formirana kombinovanjem ranijih timova „Code Gen“ i „Math Gen“, istraživala je kako da optimizuje postojeće modele veštačke inteligencije da bi poboljšala svoje rezonovanje i na kraju obavila naučni rad, rekao je jedan od ljudi.

Foto: Pixabay

Altman je predvodio napore da ChatGPT učini jednom od najbrže rastućih softverskih aplikacija u istoriji i privukao je investicije i računarske resurse. Osim što je najavio mnoštvo novih alata, Altman je prošle nedelje na samitu svetskih lidera u San Francisku rekao da veruje da su veliki pomaci na vidiku.

- Četiri puta u dosadašnjooj istoriji OpenAI-a, poslednji put bio je pre samo nekoliko nedelja, imao sam privilegiju da budem prisutan kada se pomiče biti u prostoriji kada smo pomerili veo neznanja u stranu a granicu otkrića pomerili unapred. To je životna profesionalna čast - rekao je Altman na samitu Azijsko-pacifičke ekonomske saradnje.

Dan kasnije, Upravni odbor je otpustio Altmana, ali je nakon potresa u kompaniji on vraćen.