AI modeli haluciniraju: Pretvaraju projekte u katastrofu - novac nestaje preko noći

AI modeli često haluciniraju zbog načina na koji su trenirani, pa čak i nagrađeni za pogrešne procene, što dovodi do uverljivih ali netačnih odgovora.

Pokazalo se da najnapredniji AI modeli i dalje imaju ozbiljan problem - halucinacije. To znači da, iako zvuče ubedljivo i samouvereno često generišu netačne ili izmišljene informacije.

Primera nema malo

Foto: Shutterstock

Hi-Tech

ChatGPT uvodi grupna ćaskanja: Evo kako se koriste i čemu zapravo služe

Kompanija za razvoj veštačke inteligencije Open AI objavila je da je uvela novu funkciju grupnih ćaskanja (Group Chats) za registrovane korisnike širom sveta u svoj popularni alat Čet Dži-Pi-Ti (ChatGPT).

21.11.2025

15:00

Hi-Tech

Moguće velike promene za ChatGPT - ovo se nikome neće svideti

U beta izdanju ChatGPT aplikacije za Android otkriven je kod koji nagoveštava nove funkcije - među njima i potencijalno uvođenje reklama.

02.12.2025

14:20

U 2025. godini su se u SAD-u pojavili brojni sudski slučajevi u kojima su advokati oslanjajući se na AI-alate, podneli podneske sa izmišljenim pravnim izvorima - citati i reference koje nisu postojale. Neki su zbog toga i kažnjeni, piše "Lawnext".

Stručna studija koja je ispitala popularne AI-alate za pravno istraživanje pokazala je da i oni i pored optimizacija i dalje "haluciniraju" između 17 odsto i 33 odsto vremena.

Rizik za kompanije i institucije

Foto: Shuterstock

Kako AI zauzima sve više uloga u preduzećima, oslanjanje na netačne informacije može imati ozbiljne posledice.

Prema analizi objavljenoj 2025, mnogi AI projekti ne uspevaju da pređu iz faze pilot-projekta u proizvodnu upotrebu - procene kažu da se veliki deo takvih inicijativa odustaje. 

Čak i kada su u pitanju "visokoprecizni" modeli, kako navodi "AI Academy", fenomen halucinacija ostaje, a u oblastima kao što su pravo, finansije, medicina ili bezbednost, posledice mogu biti dalekosežne.

Zašto se to dešava?

Foto: Shuterstock

Suština problema je u tome što veliki jezički modeli ne razumeju stvarnost kao ljudi, već samo predviđaju koju reč bi statistički trebalo da sledi u rečenici, što često nema nikakve veze s istinom.

Kada nemaju dovoljno podataka ili je pitanje previše složeno, radije "pogađaju" nego priznaju neizvesnost.

Istraživači iz OpenAI-ja nedavno su istakli da je koren problema u samom procesu učenja i ocenjivanja modela - današnji sistemi nagrađuju model čak i kada samo "pogađa", pa zato često stvara uverljive, ali netačne odgovore.

Šta to znači za korisnike i kompanije

Foto: Shutterstock

AI ne treba koristiti kao konačni autoritet u oblastima gde je tačnost kritična - poput prava, medicine ili finansija.

Svaki AI-generisan podatak mora da se proveri citate, reference, činjenice.

Kompanije koje planiraju da uvedu AI, moraju razmotriti da li je model koji koriste adekvatan za njihove potrebe i rizike.

Ostavite komentar

Pravila komentarisanja:

Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.

Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni. Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji, etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.

Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.

Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.