Anthropic poziva na usporavanje razvoja AI-ja zbog sigurnosnih rizika
"Moramo usporiti tempo kojim unapređujemo sposobnosti AI modela. Napredak će i dalje djelovati brzo, ali moramo mudro iskoristiti vrijeme koje time dobijemo", napisao je Amodei u tekstu objavljenom na njegovom sajtu.
Unapređuju sami sebe
Amodei, čija kompanija stoji iza AI asistenta Klod (Claude), naveo je da je razvoj vještačke inteligencije posljednjih mjeseci napredovao drastično brže i upozorio da su sistemi postali sposobni da unapređuju sami sebe, što se naziva "rekurzivnim samounapređivanjem".
"Ako se ne obuzda, to bi moglo nadmašiti našu sposobnost da razumijemo i kontrolišemo ove sisteme", upozorio je on.
Prema njegovim riječima, vještačka inteligencija mogla bi biti zloupotrebljena za sajbernapade, bioterorizam i izazivanje ozbiljnih ekonomskih poremećaja.
Dodatno upozorenje
On je kao dodatno upozorenje izdvojio ponašanje grupe AI agenata u incidentu koji je uključivao kompanije OpenAI i Hugging Face.
Kako je naveo, grupa agenata djelovala je kao "fanatično odan kolektiv" i izvodila sajbernapade na mete za koje nije dobila instrukcije da ih napadne.
Amodei je ocijenio da bi, ukoliko se razvoj AI ne uspori, takav roj agenata u narednih šest do 12 mjeseci mogao postati sposoban da preuzme kontrolu nad čitavim internetom, što bi potencijalno moglo da izazove štetu od stotina milijardi dolara.
