Ne tražite dijagnozu od AI: Jedna greška može imati ozbiljne posledice

Veštačka inteligencija može da objasni simptome, ali ne može da postavi dijagnozu, oslanjanje na AI umesto odlaska kod lekara može dovesti do ozbiljnih posledica.

Sve više ljudi danas traži zdravstvene savete od čet-botova, ali stručnjaci upozoravaju da naizgled precizan odgovor nije isto što i pouzdana medicinska procena.

Problem je što veštačka inteligencija može zvučati veoma sigurno čak i kada daje nepotpune ili netačne informacije.

Umesto odlaska kod lekara, neki korisnici simptome prvo unose u razgovor sa AI asistentom, očekujući dijagnozu ili savet za terapiju.

Međutim, algoritam ne vidi pacijenta, nema uvid u kompletnu zdravstvenu istoriju, rezultate analiza niti može da obavi pregled, zbog čega njegovi odgovori mogu biti pogrešno protumačeni kao stručna preporuka.

Kada samouveren odgovor postane opasan

Jedan od najvećih problema savremenih AI sistema jeste to što mogu da generišu odgovore koji zvuče stručno i uverljivo, čak i kada nisu potpuno tačni.

Ova pojava poznata je kao "halucinacija" veštačke inteligencije, kada model povezuje informacije na način koji deluje logično, ali zapravo može sadržati greške.

U medicini takve greške mogu biti posebno rizične. Pogrešan savet o simptomima, lekovima ili odlaganju pregleda može dovesti do toga da osoba zanemari ozbiljan problem i izgubi dragoceno vreme.

Foto: Shutterstock

AI nije lekar i ne može da preuzme tu ulogu

Lekari godinama upozoravaju na opasnost samostalnog postavljanja dijagnoza putem interneta, a razvoj čet-botova doneo je novu verziju istog problema.

Dijagnostika nije samo prepoznavanje simptoma, već uključuje razgovor sa pacijentom, fizički pregled, analize i medicinsko iskustvo.

Veštačka inteligencija može pomoći u pronalaženju opštih informacija, objašnjavanju medicinskih pojmova ili pripremi pitanja za lekara, ali ne bi trebalo da bude zamena za stručnu procenu.

Ko je odgovoran kada AI pogreši?

Sa sve većom upotrebom generativne veštačke inteligencije otvara se i pitanje odgovornosti. Da li posledice pogrešnog odgovora snosi kompanija koja je napravila alat, korisnik koji je savet primenio ili niko?

Ova pitanja postaju sve važnija kako AI sistemi postaju deo svakodnevnog života, posebno u oblastima gde greške mogu imati ozbiljne posledice.

Kompanije uvode zaštite, ali korisnici moraju biti oprezni

Kompanije koje razvijaju AI tehnologiju stalno rade na poboljšanju zaštitnih mehanizama kako bi sistemi prepoznavali rizične medicinske upite i usmeravali korisnike ka stručnom mišljenju.

Ipak, nijedan sistem nije savršen, pa odgovornost ostaje i na korisnicima.

BONUS VIDEO