• aktuelno
Letnji prelazni rok, uživo: Posao završen, Zvezda zaradila 670.000 evra Noćna mora za blokadere! Aleksićev poslanik Kurtiju drži leđa, a brine za svoj holidej! (VIDEO) Požar u Beogradu: Vatrogasci odmah izašli na teren Šta se krije iza kapije rodne kuće Mirka Kodića? Meštani progovorili o harmonikašu - Komšije više ne ćute! Sindrom srpskog fudbala: Tanjga otišao, a Koković ostao poslednji "preživeli" Iran na nogama, ono što je Tramp smislio će se završiti jezivo! Amerika šalje vojsku u poslednju specijalnu operaciju, nećete verovati šta planiraju Kulminacija blokaderskog ludila: Bjelogrlić otvoreno poziva na nasilje: Moramo saseći ovo zlo... Najlepša slika srpskog sela! Na novom asfaltu - novi klinci, meštani dočekali ono što su godinama čekali Roganović likvidiran u sačekuši: "Kavčanina" pratili, pa brutalno izrešetali Cure informacije iz Užica: Svi je znaju kao Poršelinu, a njena prošlost intrigira Srbe - Ovo niste imali pojma!
Letnji prelazni rok, uživo: Posao završen, Zvezda zaradila 670.000 evra Noćna mora za blokadere! Aleksićev poslanik Kurtiju drži leđa, a brine za svoj holidej! (VIDEO) Požar u Beogradu: Vatrogasci odmah izašli na teren Šta se krije iza kapije rodne kuće Mirka Kodića? Meštani progovorili o harmonikašu - Komšije više ne ćute! Sindrom srpskog fudbala: Tanjga otišao, a Koković ostao poslednji "preživeli" Iran na nogama, ono što je Tramp smislio će se završiti jezivo! Amerika šalje vojsku u poslednju specijalnu operaciju, nećete verovati šta planiraju Kulminacija blokaderskog ludila: Bjelogrlić otvoreno poziva na nasilje: Moramo saseći ovo zlo... Najlepša slika srpskog sela! Na novom asfaltu - novi klinci, meštani dočekali ono što su godinama čekali Roganović likvidiran u sačekuši: "Kavčanina" pratili, pa brutalno izrešetali Cure informacije iz Užica: Svi je znaju kao Poršelinu, a njena prošlost intrigira Srbe - Ovo niste imali pojma!
Informer Kamere
Informer Informer
Dnevne novine
SRBIJA
Informer
Pretraga
NOVO Politika Informer Društvo Hronika Sportinjo Sportinjo Planeta Zabava Magazin Džet set Video
Pretraga
exatlon tajne malog grada Vreme danas automobili Nikola Jokić Recepti Vladimir Putin Donald Tramp
Video
Magazin Hi-Tech
author image
Informer.rs

Novinar

19.03.2024

22:00

Ljudi, ovo nije naivno! Četbotovi imaju veliku manu - upozorenje za korisnike

Shutterstock

Hi-Tech

Ljudi, ovo nije naivno! Četbotovi imaju veliku manu - upozorenje za korisnike

0 Google Dodaj Informer kao željeni izvor na Googlu
Ukoliko korisite ChatGPT, trebalo bi da budete oprezni s informacijama koje s njim delite.

Naime, šef laboratorije za istraživanje ofanzivne veštačke inteligencije na izraelskom Univerzitetu Ben-Gurion Jisroel Mirski otkrio je da je trenutno moguće čitati privatne razgovore sa ChatGPT-a i drugih sličnih servisa.

Nema zaštite za podatke

Iako usluge kao što je ChatGPT koriste šifrovanje za zaštitu razgovora između korisnika i servisa, kako Mirski ističe, to šifrovanje nije dovoljno dobro da zaštiti podatke.

Objašnjava kako hakeri, ili drugi zlonamerni akteri koji su na istoj mreži kao i "žrtva", mogu da posmatraju saobraćaj između korisnika i servisa i uz pomoć metapodataka i velikih jezičkih modela koji su posebno obučeni za ovaj zadatak, preciziraju ove podatke i otkrijte o čemu su "hakovani" raspravljali u razgovoru.

 - Otkrili smo da je ovaj napad izuzetno dobar u dešifrovanju odgovora na uobičajena pitanja koja ljudi postavljaju svojim pomoćnicima (npr. istorijski podaci, saveti), ali se muči da dešifruje proizvoljan sadržaj (npr. rešavanje zagonetke)  -  napisao je Mirski.

Napad je pasivan i može se desiti bez znanja OpenAI ili njihovog klijenta.

 - OpenAI šifruje njihov saobraćaj kako bi sprečio ove vrste napada, ali naše istraživanje je pokazalo da je način na koji OpenAI koristi šifrovanje pogrešan i da je sadržaj poruka izložen -  rekao je on za Ars Technica.

Foto: Shuterstock

 

 

Postoji samo jedan koji nije podložan napadu

Zanimljivo je da ChatGPT nije jedini četbot koji je izložen takvom napadu, ali takođe, jedini chatbot koji nije ranjiv je Google Gemini.

Istraživači su u svojoj studiji dali dva predloga za ublažavanje efikasnosti takvih napada. Prvi je da sledite Guglov primer i prestanete da šaljete pakete jedan po jedan, jer slanje na taj način olakšava njihovo otkrivanje i prevođenje. Druga je primena tehnike koja dodaje nasumične količine razmaka paketima tako da svi imaju fiksnu dužinu jednaku najvećem mogućem paketu. To bi otežalo njihovo prepoznavanje.

Ali problem je u tome što bi primena oba predloga bio usporen odgovor četbota korisniku, što bi degradiralo korisničko iskustvo. Kako Mirski objašnjava, slanje tokena u velikim serijama može izazvati kašnjenja, dok bi dopunski paketi povećali količinu saobraćaja koji se šalje u svakom odgovoru.

Nakon što je ova studija objavljena, OpenAI i Cloudflare su implementirali promene koje bi trebalo da smanje mogućnost ovakvih napada.


PROČITAJTE JOŠ

Tagovi:

magazin veštačka inteligencija mana četbotovi

Komentari

0 komentara Pošaljite komentar

Ostavite komentar

Pravila komentarisanja:

Komentare objavljujemo prema vremenu njihovog pristizanja. Prednost u objavljivanju komentara imaće registrovani korisnici. Molimo Vas da ne pišete komentare velikim slovima, kao i da vodite računa o pravopisu.

Redakcija Informer.rs zadržava pravo izbora, brisanja komentara, ili modifikacije komentara koji će biti objavljeni. Prema Zakonu o informisanju zabranjeno je objavljivanje svih sadržaja koji podstiču diskriminaciju, mržnju ili nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja određenoj rasi, veri, naciji, etničkoj grupi, polu ili zbog njihovog seksualnog opredeljenja.

Nećemo objavljivati komentare koji sadrže govor mržnje, psovke i uvrede. Sadržaj objavljenih komentara ne predstavlja stavove redakcije Informera ili portala Informer.rs, već isključivo stavove autora komentara.

Sugestije ili primedbe možete da šaljete na redakcija@informer.rs.

PREPORUČENE AI VESTI
sledeća vest

vest dana

Politika

Društvo

Hronika

Sport

Planeta
JOŠ Planeta VESTI

Zabava

Džet set