AI Chatbot se oteo kontroli: Prijetio korisnicima i vrijeđao svog vlasnika

Takvi chatbotovi trenirani su na velikoj količini stvarnih razgovora koje su agenti korisničke službe vodili s ljudima tako da mogu da odgovore na većinu upita i ponekada je zaista teško prepoznati da ljudi komuniciraju s vještačkom inteligencijom.

AI komunicira s korisnicima i daje im odgovore na njihova pitanja, osim u slučaju nekih komplikovanih situacija koje ne može da riješi chatbot pa razgovor onda preuzimaju agenti korisničke službe.

Za neku takvu klasičnu komunikaciju i odgovaranje na uobičajena pitanja, AI se pokazala prilično uspješnom, ali jasno je da tehnologija ipak nije savršena i može da pogriješi, pa čak i da – opsuje.

Takav je slučaj je zabilježen s chatbotom kompanije DPD, kojeg je jedan korisnik nagovorio ne samo na psovku, već i na kritiku sopstvene kompanije. Iz DPD-a su potvrdili ovaj slučaj i onemogućili su dio chatbota koji je odgovoran za takvu neprimjerenu komunikaciju, nakon čega su nadogradili sistem.

Godinama uspješno koristimo AI elemente u okviru chata, objavili su iz DPD-a i naglasili dao je do problema došlo nakon nadogradnje sistema. Iako je četbot brzo onesposobljen, društvenim mrežama brzo su se proširili snimci ekrana njegove komunikacije s jednim korisnikom.

Ashley Boscham pokušao je da dobije informacije o paketu, ali chatbot nije mogao da mu kaže ništa o tome. Nije htio da ga poveže s agentom korisničke podrške, niti je hteo da mu da telefonski broj koji može da kontaktira kako bi riješio svoj problem.

"Potpuno je beskoristan za odgovaranje na moje upite, a na upit, zadovoljno je napisao pesmu o tome kako je ta kompanija grozna", komentarisao je na društvenoj mreži X Boscham, koji je razgovarao s chatbotom.

Na svom profilu na ovoj mreži objavio je snimke ekrana svoje prepiske s četbotom, od kojeg je zatražio da mu predloži bolje kompanije za dostavu kao i da "pretjera u mržnji" prema svojoj kompaniji.