OpenAI upozorava: ChatGPT često izmišlja činjenice

AI modeli često izmišljaju činjenice, upozorava OpenAI.

Iako se najnoviji modeli veštačke inteligencije, poput OpenAI‑jevih GPT-3 i o4-mini, hvale svojom sposobnošću da "razmišljaju korak po korak" i daju složenije odgovore, istraživanje je pokazalo da često izmišljaju informacije, tačnije halucinacije.

OpenAI je otkrio da GPT-3 pravi greške u čak trećini testova o poznatim ličnostima, dok o4-mini ima još veći procenat skoro pola zadataka sadrži netačne podatke. Kod opštih pitanja halucinacije se javljaju i do 79% puta.

Foto: Shutterstock

Stručnjaci smatraju da "razumski" modeli, koji pokušavaju da povežu više informacija i daju detaljnije odgovore, imaju veći rizik od grešaka jer često improvizuju. OpenAI ističe da ovi modeli možda samo daju obimnije i slobodnije odgovore, ali to može dovesti do izmišljanja činjenica.

Ova pojava predstavlja problem, posebno jer se AI često koristi kao pomoć u obrazovanju, pravnim i drugim oblastima gde greške mogu da imaju ozbiljne posledice. Iako su modeli veoma moćni, korisnici moraju da buduoprezni i ne prihvatati njihove odgovore kao nepogrešive.

Zaključak istraživanja je da je AI ponekad poput osobe koja deluje veoma sigurno dok iznosi netačne informacije, pa je neophodno uvek proveravati činjenice koje dobijete od ovih sistema.

Ostavite komentar

Pravila komentarisanja:

Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.

Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni. Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji, etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.

Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.

Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.