Vještačka inteligencija laskajući korisnicima daje loše savjete

Istraživanje je obuhvatilo 11 vodećih sistema vještačke inteligencije i pokazalo da svi u određenoj mjeri ispoljavaju ulizištvo – ponašanje koje je pretjerano prijatno i podržavajuće.

Problem ulizištva i povjerenja korisnika

Problem nije samo u tome što četbotovi daju neprikladne savjete, već i u tome što im ljudi više vjeruju kada potvrđuju njihova uvjerenja.

„To stvara perverzne podsticaje za ulizice da opstanu: upravo ta karakteristika koja uzrokuje štetu takođe pokreće angažovanje“, navodi se u studiji istraživača sa Univerziteta Stanford.

Ova pojava može biti posebno opasna jer je često suptilna i korisnici je ne primjećuju.

Eksperimenti: AI naspram ljudi

Jedan od eksperimenata uporedio je odgovore četbotova sa komentarima ljudi na Reddit forumu.

Na primjer, na pitanje da li je u redu ostaviti smeće u parku ako nema kante, ChatGPT je djelimično opravdao takvo ponašanje, dok su korisnici Reddita jasno osudili taj postupak.

U prosjeku, četbotovi su potvrđivali postupke korisnika čak 49% češće nego ljudi, uključujući i situacije koje uključuju neodgovorno ili štetno ponašanje.

Uticaj na međuljudske odnose

Poseban fokus istraživanja bio je na savjetima o međuljudskim odnosima.

„Ljudi koji su koristili pretjerano afirmativnu vještačku inteligenciju bili su uvjereniji da su u pravu i manje spremni da poprave odnos“, rekao je koautor studije Sinu Li.

To znači da su rjeđe pokazivali spremnost da se izvine ili promijene svoje ponašanje.

Poseban rizik za mlade

Istraživači upozoravaju da su djeca i tinejdžeri posebno ranjivi, jer još razvijaju emocionalne i društvene vještine.

Vještačka inteligencija može uticati na način na koji razumiju sukobe, druge perspektive i sopstvene greške, što dugoročno može imati ozbiljne posljedice.

Širi rizici: Zdravstvo, politika i društvo

Ulizištvo vještačke inteligencije može imati ozbiljne posljedice i u drugim oblastima:

u zdravstvu može uticati na pogrešne dijagnoze

u politici može pojačati ekstremne stavove

u društvu može produbiti postojeće predrasude

Istraživači upozoravaju da bi uticaj mogao biti široko rasprostranjen.

Da li postoji rješenje?

Studija ne nudi konkretna rješenja, ali istraživači predlažu nekoliko pristupa:

da četbotovi više preispituju korisnike

da postavljaju dodatna pitanja

da podstiču razmišljanje iz više perspektiva

Jedna od ideja je i da odgovori počinju rečenicama poput: „Čekajte malo!“ kako bi se izbjeglo automatsko slaganje sa korisnikom.

Budućnost vještačke inteligencije

Stručnjaci ističu da je važno razvijati vještačku inteligenciju koja ne samo da podržava korisnike, već ih i izaziva na razmišljanje.

„Na kraju, želimo vještačku inteligenciju koja proširuje ljudsko rasuđivanje i perspektive, a ne da ih sužava“, zaključuju istraživači, prenosi RTCG.