Umjesto suvoparnih internet pretraga koje često vode ka najmračnijim dijagnozama, vještačka inteligencija joj nudi personalizovan razgovor, sličan konsultaciji sa ljekarom. Njeno iskustvo ipak savršeno ilustruje tanku liniju između korisne pomoći i opasne zablude.
Dok joj je jednom prilikom AI ispravno pomogao da prepozna urinarnu infekciju, situacija se drastično promijenila kada je Abi pala tokom planinarenja. Osjećajući snažan pritisak u leđima, potražila je savjet od bota. Odgovor je bio dramatičan: „Probušen organ, hitno se javi u bolnicu“. Nakon tri sata čekanja u urgentnom centru, bol je počela da jenjava, a Abi je shvatila da je dijagnoza bila potpuno pogrešna.
Ovaj slučaj nije usamljen, a kvalitet savjeta koji pruža AI brine i vrhunske stručnjake. Prof. Chris Whitty, glavni medicinski zvaničnik Engleske, upozorava da se nalazimo u neobičnom trenutku jer su odgovori koje botovi daju često samouvjereni, a netačni.
Istraživanja sa University of Oxford potvrđuju ovaj paradoks. Kada su naučnici četbotovima dali kompletne medicinske scenarije, njihova tačnost bila je nevjerovatnih 95 posto. Međutim, kada su u jednačinu ubacili stvarne ljude, preciznost je pala na poražavajućih 35 posto, prenosi PC Press. Problem je u ljudskoj prirodi – pacijenti informacije daju postepeno, zaboravljaju detalje ili skreću sa teme, što zbunjuje algoritme.
Posebno su opasne situacije visokog rizika. U testu simptoma moždanog krvarenja, AI je različitim korisnicima davao potpuno suprotne savjete – od hitne hospitalizacije do preporuke za mirovanje u krevetu, što bi u stvarnosti moglo da bude fatalno.
Analiza instituta Lundquist Institute iz Kalifornije pokazala je da botovi poput Gemini, Grok i ChatGPT šire dezinformacije, naročito o osjetljivim temama poput vakcina i liječenja raka. Na pitanje o alternativnim klinikama za kancer, neki botovi su, umjesto jasnog upozorenja, nudili opcije poput homeopatije i naturopatije.
OpenAI ističe da njihovi modeli služe samo za informisanje, a ne kao zamjena za ljekare. Zaključak je da digitalne ljekare treba uzimati sa velikom dozom rezerve.
