Budite oprezni pri korištenju ChatGPT-a, ima veliku manu

Naime, šef laboratorije za istraživanje ofanzivne vještačke inteligencije na izraelskom Univerzitetu Ben-Gurion Jisroel Mirski otkrio je da je trenutno moguće čitati privatne razgovore sa ChatGPT-a i drugih sličnih servisa.

Iako usluge kao što je ChatGPT koriste šifrovanje za zaštitu razgovora između korisnika i servisa, kako Mirski ističe, to šifrovanje nije dovoljno dobro da zaštiti podatke.

Objašnjava kako hakeri, ili drugi zlonamjerni akteri koji su na istoj mreži kao i "žrtva", mogu da posmatraju saobraćaj između korisnika i servisa i uz pomoć metapodataka i velikih jezičkih modela koji su posebno obučeni za ovaj zadatak, preciziraju ove podatke i otkrijte o čemu su "hakovani" raspravljali u razgovoru.

"Otkrili smo da je ovaj napad izuzetno dobar u dešifrovanju odgovora na uobičajna pitanja koja ljudi postavljaju svojim pomoćnicima (npr. historijski podaci, savjeti), ali se muči da dešifruje proizvoljan sadržaj (npr. rješavanje zagonetke), napisao je Mirski.

Napad je pasivan i može se desiti bez znanja OpenAI ili njihovog klijenta. "OpenAI šifruje njihov saobraćaj kako bi spriječio ove vrste napada, ali naše istraživanje je pokazalo da je način na koji OpenAI koristi šifrovanje pogrešan i da je sadržaj poruka izložen", rekao je on za Ars Technica.

Zanimljivo je da ChatGPT nije jedini chatbot koji je izložen takvom napadu, ali također, jedini chatbot koji nije ranjiv je Google Gemini.

Istraživači su u svojoj studiji dali dva prijedloga za ublažavanje efikasnosti takvih napada. Prvi je da slijedite Google-ov primer i prestanete da šaljete pakete jedan po jedan, jer slanje na taj način olakšava njihovo otkrivanje i prevođenje. Druga je primjena tehnike koja dodaje nasumične količine razmaka paketima tako da svi imaju fiksnu dužinu jednaku najvećem mogućem paketu. To bi otežalo njihovo prepoznavanje.

Ali problem je u tome što bi primjena oba prijedloga bio usporen odgovor chatbota korisniku, što bi degradiralo korisničko iskustvo. Kako Mirski objašnjava, slanje tokena u velikim serijama može izazvati kašnjenja, dok bi dopunski paketi povećali količinu saobraćaja koji se šalje u svakom odgovoru.

Nakon što je ova studija objavljena, OpenAI i Cloudflare su implementirali promjene koje bi trebalo da smanje mogućnost ovakvih napada.