OpenAI upozorava: ChatGPT često izmišlja činjenice

AI modeli često izmišljaju činjenice, upozorava OpenAI.

Iako se najnoviji modeli veštačke inteligencije, poput OpenAI‑jevih GPT-3 i o4-mini, hvale svojom sposobnošću da "razmišljaju korak po korak" i daju složenije odgovore, istraživanje je pokazalo da često izmišljaju informacije, tačnije halucinacije.

OpenAI je otkrio da GPT-3 pravi greške u čak trećini testova o poznatim ličnostima, dok o4-mini ima još veći procenat skoro pola zadataka sadrži netačne podatke. Kod opštih pitanja halucinacije se javljaju i do 79% puta.

Foto: Shutterstock

Hi-Tech

Pao ChatGPT! Najpopularnija AI platforma doživljava globalni kolaps - reaguju korisnici širom sveta

Korisnici ChatGPT-ja širom sveta, uključujući i one iz Srbije, trenutno ne mogu da pristupe ovom popularnom servisu veštačke inteligencije.

23.01.2025

13:26

Hi-Tech

ChatGPT dobio sistem mapa za bolju organizaciju! Zadaci će sada biti dosta lakši

OpenAI je uveo opciju "Projekti" u ChatGPT, koja omogućava korisnicima da lakše organiziraju svoje aktivnosti kroz sistem mapa.

16.12.2024

15:00

Stručnjaci smatraju da "razumski" modeli, koji pokušavaju da povežu više informacija i daju detaljnije odgovore, imaju veći rizik od grešaka jer često improvizuju. OpenAI ističe da ovi modeli možda samo daju obimnije i slobodnije odgovore, ali to može dovesti do izmišljanja činjenica.

Ova pojava predstavlja problem, posebno jer se AI često koristi kao pomoć u obrazovanju, pravnim i drugim oblastima gde greške mogu da imaju ozbiljne posledice. Iako su modeli veoma moćni, korisnici moraju da buduoprezni i ne prihvatati njihove odgovore kao nepogrešive.

Zaključak istraživanja je da je AI ponekad poput osobe koja deluje veoma sigurno dok iznosi netačne informacije, pa je neophodno uvek proveravati činjenice koje dobijete od ovih sistema.

Ostavite komentar

Pravila komentarisanja:

Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.

Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni. Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji, etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.

Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.

Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.