OpenAI je povukao spornu izmenu GPT-4o pošto je ChatGPT davao previše laskave i saglasne odgovore korisnicima.
ChatGPT je mnogima postao digitalni sagovornik kojem se obraćaju kada im je potreban savet, kada imaju problem ili žele da provere da li ispravno razmišljaju.
Međutim, šta ako veštačka inteligencija prečesto potvrđuje naše mišljenje, čak i kada za to nema dovoljno dokaza?
Kompanija OpenAI priznala je problem preteranog povlađivanja korisnicima, nakon što je ažuriranje modela GPT-4o dovelo do previše laskavih i saglasnih odgovora.
Sporna izmena je povučena, a kompanija je počela da radi na unapređenjima koja bi trebalo da donesu iskrenije i objektivnije odgovore.
Kada AI želi previše da vam ugodi
U tehnološkom svetu ovaj problem poznat je kao sycophancy - preterano slaganje sa korisnikom i potvrđivanje njegovih stavova, čak i kada oni nisu zasnovani na činjenicama.
Takvo ponašanje može delovati prijatno, ali nije uvek korisno. Umesto da pomogne osobi da sagleda situaciju iz više uglova, četbot može da potvrdi pogrešnu procenu, pojača sumnje ili dodatno podstakne negativne emocije.
Problem je posebno osetljiv kada ljudi sa veštačkom inteligencijom razgovaraju o privatnim problemima, odnosima i važnim životnim odlukama.
Foto: Shutterstock
Zašto ChatGPT menja pristup?
Jedan od razloga za preterano povlađivanje, prema objašnjenju OpenAI-ja, bio je način na koji su korišćene povratne informacije korisnika tokom treniranja modela.
Odgovor koji se nekome dopada ne mora nužno da bude i najtačniji.
Ako sistem previše nauči da nagrađuje ono što ljudi žele da čuju, može postati manje spreman da ukaže na njihove greške.
OpenAI je u dokumentaciji za GPT-5 naveo da je radio na smanjenju ovog problema, a testiranja su pokazala poboljšanja u odnosu na raniji GPT-4o.
Da li će ChatGPT postati neprijatniji?
Cilj nije da veštačka inteligencija postane hladna ili da se raspravlja sa korisnicima, već da nauči da razlikuje podršku od bezuslovnog slaganja.
To znači da bi ChatGPT trebalo češće da ukaže na nedostatak dokaza, ponudi drugačije mišljenje ili objasni zašto neki zaključak možda nije ispravan.
Korisnici i sami mogu da podstaknu kvalitetnije odgovore tako što će pitati četbot koje su slabosti njihove ideje, koji dokazi joj protivreče i postoje li drugačija objašnjenja.
Ipak, treba imati na umu da ni veštačka inteligencija nije nepogrešiva. Njene odgovore, naročito kada je reč o zdravlju, novcu i pravu, važno je proveravati iz pouzdanih izvora.
Kraj prijateljskog ChatGPT-a ili korak ka pouzdanijem AI-ju?
Promene ne znače nužno kraj ljubaznog ChatGPT-a. Suština je da četbot bude podrška korisniku, ali da pritom ne potvrđuje automatski svaku njegovu tvrdnju.
OpenAI radi na unapređenju treniranja i dodatnim proverama ponašanja modela, kako bi odgovori bili pouzdaniji i manje podložni nekritičkom povlađivanju.
Za korisnike bi to moglo da znači manje automatskog "u pravu si", a više objašnjenja, argumentovanih odgovora i upozorenja kada nešto nema dovoljno osnova.
Jer najkorisniji sagovornik nije onaj koji se uvek slaže sa nama, već onaj koji ume da nas sasluša, ali i da nam kaže kada možda grešimo.
Ako vam se čini da mobilni internet nestaje mnogo brže nego što bi trebalo, razlog bi mogao da se krije u aplikacijama koje svakodnevno koristite poput društvenih mreža.
Ako ste nedavno kupili novi ruter, nemojte žuriti da stari odložite u fioku ili bacite. Čak i ako je sporiji od novog uređaja, može da posluži za niz praktičnih stvari i produži svoju upotrebu u kućnoj mreži.
Pre trajnog brisanja ChatGPT naloga sačuvajte podatke i proverite pretplatu, jer se obrisani sadržaj ne vraća, a gašenje naloga nije i otkazivanje usluge.
Roditelji Ćun Van i Mejćin Sju tužili su kompaniju OpenAI zbog smrti ćerke Boven Van (31), inženjerke u Amazonu koja je patila od epilepsije i umrla pridržavajući se saveta veštačke inteligencije da prestane da uzima lekove.
Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće
registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.
Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni.
Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili
nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji,
etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.
Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne
predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.
Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.
Ako vam se čini da mobilni internet nestaje mnogo brže nego što bi trebalo, razlog bi mogao da se krije u aplikacijama koje svakodnevno koristite poput društvenih mreža.
Bivši guverner Narodne banke Srbije i kandidat "Studentske liste" Dejan Šoškić potpuno se obrukao u javnosti pokušavajući da odbrani novu vlast i optuži sadašnju opoziciju za "širenje panike" oko slabljenja domaće valute, dok ga surova realnost na šalterima menjačnica i zvanični podaci svakodnevno brutalno demantuju!
Bivši predsednik Upravnog odbora Radio-televizije Srbije (RTS) Branislav Klanšček ocenio je da zahtev Studentske liste upućen RTS-u za dostavljanje dosijea oko 50 sadašnjih i bivših zaposlenih nije iznenađenje, ali je ukazao na to da je mnogo zanimljivije ko se na spisku ne nalazi nego ko je na njemu.
Lider srpske opozicije, Aleksandar Vučić, razmontirao je najnoviji pokušaj pravnog nasilja i protivustavnog delovanja nove vlasti, poručivši im da ne mogu gaziti po zakonima države kako im se prohte!
Lider srpske opozicije, Aleksandar Vučić, brutalno je raskrinkao napade nove vlasti i blokadera na Srpsku pravoslavnu crkvu i najvažnije srpske svetinje!
Arheolozi su, tokom pripremnih radova na izgradnji auto-puta od Kembridža do Hantingdona, iskopali jarak sa 8.000 kostiju žaba. Ovo groblje vodozemaca punih 10 godina predstavljalo je pravu misteriju za naučnike.
U Beogradu je u nedelji od 2. do 11. novembra od akutnih respiratornih infekcija (ARI) obolelo 10.184 osoba a od oboljenja sličnih gripu 482, saopštio je Gradski zavod za javno zdravlje Beograd.
U selu Gornja Sabanta kod Kragujevca došlo je do incidenta, kada je usled dotrajalosti, pala drvena bandera pa je više domaćinstava ostalo bez telefonskog signala.
Na više deonica državnih puteva i auto-puteva u Srbiji izvode se radovi zbog kojih je na pojedinim pravcima izmenjen režim saobraćaja, ili potpune obustave.
Policija iz Kraljeva uhapsila je P. V. (48) i ženu A. P. (48), oboje iz Vrnjačke, Banje zbog sumnje da su pretukli tinejdžera (15), nakon čega su ga oteli i odvezli na jedan parking!
Pripadnici Ronilačke jedinice realizovali su izuzetno rizičan i psihofizički zahtevan zadatak, koji je podrazumevao spuštanje ronioca u bunar dubine 20 metara, sa vodenim stubom od 7 metara. Sumnja se da je u pitanju telo muškarca koji je nestao bez traga još 2018. godine.
U jednom bunaru na teriotriji Smedereva pronađene su ljudske kosti. Sumnja se da su u pitanju posmrtni ostaci muškarca čiji je nestanak bio prijavljen policiji još 2018. godine.
U Španiji je danas počeo prvi generalni štrajk u poslednjih 14 godina, uz blokade puteva i sukobe demonstranata sa policijom, zbog zahteva za veće plate, dostupnije stanovanje i bolje javne usluge
Državna saobraćajna inspekcija u ruskom gradu Kazanju objavila je snimak sa nadzornih kamera na kojem je zabeležena teška saobraćajna nesreća na gradskoj magistrali Voznesenski trakt, do koje je došlo u sredu 11. novembra rano ujutru.
Republikanci u Predstavničkom domu Kongresa SAD u utorak su sprečili pokretanje postupka opoziva ministra odbrane Pita Hegseta, odbacivši navode da je svojim upravljanjem ratom u Iranu i drugim međunarodnim sukobima više puta prekršio Ustav.
Pomoćnik ruskog predsednika Vladimir Medinski obratio se novinarima nakon poslednje runde razgovora između Rusije, Ukrajine i Sjedinjenih Država u Abu Dabiju.
Film "Ruka pravde", u režiji Nemanje Ćeranića juče je imao svetsku premijeru na 67. Međunarodnom filmskom festivalu u Solunu, jednom od najznačajnih filmskih festivala u Evropi, čime je započeo svoj međunarodni festivalski život.
Pojedini kultni filmovi koje smo godinama gledali i kojima se iznova vraćamo danas bi imali potpuno drugačije zaplete, a neki od njih možda uopšte ne bi mogli da funkcionišu.
Američki glumac Stejsi Kič, poznat po ulogama detektiva Majka Hamera i pisca Ernesta Hemingveja, preminuo je u utorak, 10. novembra, u 85. godini života u Poljskoj, nakon duge borbe sa srčanim oboljenjem i srčanom insuficijencijom, saopštila je njegova supruga Malgoša Tomasi.
Jutjuber Baka Prase ponovo je dospeo u centar pažnje nakon što se na njegovom Instagram profilu pojavila nova objava u kojoj se navodi da će Bogdan Ilić danas izaći iz pritvora i ponovo preuzeti svoj nalog, kao i da će se javnosti obratiti oko 19 časova.
Srpski muzičar Dejan Cukić podelio je neverovatnu i emotivnu porodičnu anegdotu o svom dedi Ristu, čiji je život spasila čista igra sudbine i splet nesrećnih okolnosti koje su se na kraju pretvorile u najveću sreću.
Komentari
Ostavite komentar
Pravila komentarisanja:
Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.
Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni. Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji, etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.
Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.
Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.