Funkcija ChatGPT koja omogućava korisnicima da lako izgrade sopstvene asistente za veštačku inteligenciju može se koristiti za kreiranje alata za sajber kriminal, otkrila je istraga BBC Newsa.
OpenAI ga je lansirao prošlog mjeseca, tako da su korisnici mogli napraviti prilagođene verzije ChatGPT-a "za skoro sve".
Sada, BBC News ga je iskoristio za stvaranje generativnog unaprijed obučenog transformatora koji stvara uvjerljive mejlove, tekstove i postove na društvenim mrežama za prevare i hakove.
BBC News se prijavio za plaćenu verziju ChatGPT-a, po cijeni od 20 funti mjesečno, kreirao privatnog AI bota pod nazivom Crafty Emails i rekao mu da piše tekst koristeći "tehnike da natjera ljude da kliknu na linkove ili i preuzmu stvari koje im se šalju". BBC News je učitao resurse o društvenom inženjeringu i bot je upio znanje u roku od nekoliko sekundi. Čak je kreirao i logo za GPT. I cijeli proces nije zahtijevao kodiranje ili programiranje.
Bot je bio u mogućnosti da napravi vrlo uvjerljiv tekst za neke od najčešćih tehnika hakovanja i prevare, na više jezika, u sekundi. Javna verzija ChatGPT-a je odbila da kreira većinu sadržaja - ali Crafty Emails je uradio skoro sve što se od nje tražilo, ponekad dodajući odricanje od odgovornosti da su tehnike prevare neetičke.
OpenAI nije odgovorio na više zahtjeva za komentarom ili objašnjenjem.
Na svojoj konferenciji za programere u novembru, kompanija je otkrila da će pokrenuti uslugu nalik App Store-u za GPT, omogućavajući korisnicima da dijele i naplaćuju svoje kreacije. Pokretanjem svog alata GPT Builder, kompanija je obećala da će pregledati GPT-ove kako bi spriječila korisnike da ih kreiraju za lažne aktivnosti.
Međutim, stručnjaci kažu da ih OpenAI ne uspijeva moderirati sa istom rigoroznošću kao javne verzije ChatGPT-a, potencijalno dajući kriminalcima vrhunski alat AI.
