Ljudi, ovo nije naivno! Četbotovi imaju veliku manu - upozorenje za korisnike

Ukoliko korisite ChatGPT, trebalo bi da budete oprezni s informacijama koje s njim delite.

Naime, šef laboratorije za istraživanje ofanzivne veštačke inteligencije na izraelskom Univerzitetu Ben-Gurion Jisroel Mirski otkrio je da je trenutno moguće čitati privatne razgovore sa ChatGPT-a i drugih sličnih servisa.

Nema zaštite za podatke

Iako usluge kao što je ChatGPT koriste šifrovanje za zaštitu razgovora između korisnika i servisa, kako Mirski ističe, to šifrovanje nije dovoljno dobro da zaštiti podatke.

Objašnjava kako hakeri, ili drugi zlonamerni akteri koji su na istoj mreži kao i "žrtva", mogu da posmatraju saobraćaj između korisnika i servisa i uz pomoć metapodataka i velikih jezičkih modela koji su posebno obučeni za ovaj zadatak, preciziraju ove podatke i otkrijte o čemu su "hakovani" raspravljali u razgovoru.

 - Otkrili smo da je ovaj napad izuzetno dobar u dešifrovanju odgovora na uobičajena pitanja koja ljudi postavljaju svojim pomoćnicima (npr. istorijski podaci, saveti), ali se muči da dešifruje proizvoljan sadržaj (npr. rešavanje zagonetke)  -  napisao je Mirski.

Napad je pasivan i može se desiti bez znanja OpenAI ili njihovog klijenta.

 - OpenAI šifruje njihov saobraćaj kako bi sprečio ove vrste napada, ali naše istraživanje je pokazalo da je način na koji OpenAI koristi šifrovanje pogrešan i da je sadržaj poruka izložen -  rekao je on za Ars Technica.

Foto: Shuterstock

 

Postoji samo jedan koji nije podložan napadu

Zanimljivo je da ChatGPT nije jedini četbot koji je izložen takvom napadu, ali takođe, jedini chatbot koji nije ranjiv je Google Gemini.

Istraživači su u svojoj studiji dali dva predloga za ublažavanje efikasnosti takvih napada. Prvi je da sledite Guglov primer i prestanete da šaljete pakete jedan po jedan, jer slanje na taj način olakšava njihovo otkrivanje i prevođenje. Druga je primena tehnike koja dodaje nasumične količine razmaka paketima tako da svi imaju fiksnu dužinu jednaku najvećem mogućem paketu. To bi otežalo njihovo prepoznavanje.

Ali problem je u tome što bi primena oba predloga bio usporen odgovor četbota korisniku, što bi degradiralo korisničko iskustvo. Kako Mirski objašnjava, slanje tokena u velikim serijama može izazvati kašnjenja, dok bi dopunski paketi povećali količinu saobraćaja koji se šalje u svakom odgovoru.

Nakon što je ova studija objavljena, OpenAI i Cloudflare su implementirali promene koje bi trebalo da smanje mogućnost ovakvih napada.