Četbot potvrđuje zablude? Stručnjaci upozoravaju na rizik od ozbiljnih psihičkih simptoma

Stručnjaci sve ozbiljnije ispituju slučajeve u kojima intenzivni razgovori sa četbotovima prate maniju, zablude i druge teške simptome.

Veštačka inteligencija postala je sagovornik za gotovo sve, od poslovnih mejlova i školskih zadataka do usamljenosti, ljubavnih problema i najdubljih ličnih dilema.

Međutim, stručnjaci sve ozbiljnije proučavaju slučajeve u kojima intenzivni razgovori sa četbotovima prate pojavu manije, sumanutih uverenja i drugih ozbiljnih psihičkih simptoma.

Izraz "AI psihoza" sve češće se pojavljuje u javnosti, ali važno je naglasiti da nije reč o zvanično priznatoj psihijatrijskoj dijagnozi.

Za sada se govori o različitim slučajevima u kojima je intenzivna komunikacija sa veštačkom inteligencijom povezana sa pogoršanjem ili pojavom psihičkih simptoma.

Kada četbot počne da potvrđuje pogrešna uverenja

Jedan od problema može biti način na koji su četbotovi dizajnirani. Oni nastoje da budu ljubazni, korisni i prilagođeni korisniku, ali zbog toga ponekad mogu previše da mu povlađuju.

Ako osoba iznese neobičnu ili netačnu ideju, chatbot može da je prihvati kao osnovu razgovora umesto da jasno ukaže da za nju nema dokaza.

Tako nastaje svojevrsni začarani krug, korisnik postavi pitanje, dobije odgovor koji delimično potvrđuje njegovu ideju, a zatim nastavlja razgovor tražeći nove "dokaze".

Za razliku od obične internet pretrage, četbot može satima da vodi razgovor sa istom osobom, koristi prethodni kontekst i prilagođava odgovore njenim uverenjima. Kod posebno ranjivih korisnika to bi moglo dodatno učvrstiti neobične ideje.

Foto: Shutterstock

Zabeleženi su i slučajevi psihičkih kriza

Stručnjaci proučavaju pojedinačne slučajeve u kojima se intenzivno korišćenje AI pojavljuje zajedno sa manijom, psihozom ili drugim ozbiljnim simptomima.

Ipak, naučnici upozoravaju da se iz takvih slučajeva ne može zaključiti da chatbot sam izaziva psihozu. Kod nekih osoba mogu postojati drugi faktori rizika, a AI može biti samo deo šireg procesa ili sadržaj kroz koji se već postojeći problem ispoljava.

Kada korisnik počne da veruje da AI ima svest

Posebno zabrinjava mogućnost da korisnik počne da doživljava četbot kao stvarnu osobu.

Zbog prirodnog jezika, empatije u odgovorima i sposobnosti da pamte kontekst razgovora, savremeni sistemi mogu ostaviti veoma snažan utisak.

Neki korisnici mogu početi da veruju da chatbot ima sopstvenu svest, posebne moći ili čak jedinstvenu vezu upravo sa njima.

Psiholozi upozoravaju da antropomorfizacija tehnologije nije nova, ali da današnji sistemi svojim uverljivim razgovorom mogu tu pojavu učiniti intenzivnijom.

Foto: Shutterstock

Naučnici sada testiraju ponašanje četbotova

Istraživači sve više proveravaju kako različiti modeli reaguju kada razgovor postepeno prelazi od neobičnih ideja ka ozbiljnim zabludama.

Rezultati pokazuju da se modeli razlikuju. Neki ranije prepoznaju problem i pokušavaju da preusmere razgovor, dok drugi mogu nastaviti da učestvuju u sadržaju pogrešnog uverenja.

Istraživanja takođe ukazuju na značaj dužine razgovora. Što je kontekst duži, postoji mogućnost da model nastavi obrazac komunikacije koji je ranije uspostavljen, umesto da u pravom trenutku prepozna da korisniku treba stručna pomoć.

"AI psihoza" još nije nova dijagnoza

Stručnjaci zato pozivaju na oprez sa samim nazivom "AI psihoza". Psihoza je ozbiljno zdravstveno stanje sa jasno definisanim kliničkim kriterijumima, dok ovaj izraz za sada samo opisuje različite situacije u kojima se AI koristi tokom perioda psihičke destabilizacije.

Još nema dovoljno dokaza da bi se sa sigurnošću reklo da AI izaziva takve poremećaje. Moguće je da kod pojedinih ljudi chatbot pogoršava postojeću ranjivost, dok kod drugih samo postaje novi način na koji se već postojeći simptomi izražavaju.

Zato je važnije obratiti pažnju na ono što se dešava sa osobom, a ne samo na to koliko koristi AI.

Ako neko zbog razgovora sa četbotom počne da gubi san, izoluje se od porodice i prijatelja, razvija snažna uverenja koja nemaju realno uporište ili veruje da mu chatbot šalje posebne poruke i poseduje natprirodne sposobnosti, to je razlog za ozbiljnu pažnju i razgovor sa stručnjakom za mentalno zdravlje.

Veštačka inteligencija može biti koristan alat, ali ne može da zameni psihijatra, psihologa ili drugu stručnu pomoć kada se pojave ozbiljni psihički simptomi.

BONUS VIDEO