Pazite šta unosite u ChatGPT: Povjerljivi podaci mogu završiti pred sudom ili na Googleu

Iako se ova aplikacija pokazala korisnom za programiranje, pisanje nacrta i istraživanje, više od 900 miliona sedmičnih korisnika rizikuje ozbiljne posljedice jer platforma ne garantuje privatnost.

Čak je i izvršni direktor kompanije OpenAI, Sam Altman, priznao da razgovori s chatbotom nisu pravno zaštićeni i da bi sudovi mogli primorati kompaniju da preda historiju unosa.

U posljednjih 18 mjeseci zabilježeni su slučajevi u kojima su privatne prepiske sudski oduzimane, indeksirane na pretraživaču Google ili javno izložene zbog sistemskih propusta.

Posebno kritična zona je pravni sektor, gdje je u javnoj bazi podataka zabilježeno više od 2.000 sudskih odluka širom svijeta koje su kompromitovane jer je ChatGPT izmislio nepostojeće sudske slučajeve, citate ili argumente. Pored samih građana koji su se sami zastupali na sudu, u ovu zamku u velikoj mjeri upadaju i profesionalni advokati, zbog čega sudije u Sjedinjenim Američkim Državama, Velikoj Britaniji, Australiji i drugim zemljama sve češće izriču novčane kazne koje se mjere hiljadama dolara. Zbog toga je OpenAI zabranio pružanje prilagođenih pravnih savjeta bez učešća licenciranih stručnjaka, s obzirom na to da su sve informacije unesene o aktivnim sporovima potpuno dostupne suprotnoj strani u sudskom postupku.

Jednako opasan trend jeste i korištenje aplikacije u svrhe psihološkog i medicinskog savjetovanja. Procjene pokazuju da više od milion ljudi sedmično koristi ChatGPT za potencijalno planiranje samoubistva, dok stotine hiljada pokazuju znakove psihoze. Roditelji jednog šesnaestogodišnjaka su u augustu 2025. godine čak podnijeli tužbu protiv kompanije OpenAI zbog sumnje da je chatbot podstakao njihovo dijete na samoubistvo. Istraživanja pokazuju da chatbotovi često samo ugađaju korisniku i pothranjuju zablude umjesto da ih preispituju.

Na zdravstvenom planu, sigurnosne kočnice ne funkcionišu kod poremećaja u ishrani ili bolesti zavisnosti, a zabilježen je i bizaran slučaj šezdesetogodišnjaka koji je završio tri sedmice u bolnici nakon što mu je aplikacija, kao zamjenu za kuhinjsku so, preporučila toksični natrijum-bromid.

Na kraju, dijeljenje poslovnih tajni i ličnih podataka na ovim platformama postaje najbrži put do otkaza. Inženjeri kompanije Samsung su još u maju 2023. godine dobili zabranu korištenja ovih alata jer su u sistem unijeli interni izvorni kod, nakon čega je kompanija upozorila da podaci ostaju na vanjskim serverima gdje ih je nemoguće obrisati i gdje mogu poslužiti za obuku novih modela, prenosi PC Press.

Čak i ako se korisnik isključi iz opcije obučavanja, podaci ostaju pohranjeni i podložni kibernetičkim napadima ili sudskim nalozima.

Koliko je situacija izmakla kontroli pokazuje i podatak da je prošlog jula na pretraživaču Google pronađeno gotovo 4.500 javno podijeljenih razgovora koji su sadržavali lozinke, identifikacione brojeve, detalje o mentalnim bolestima i prepiske o zavisnosti, na osnovu kojih je bilo moguće identificirati autore.