Nova sajber prijetnja: Autonomni AI agenti iznose povjerljive podatke

Stručnjaci za bezbjednost upozoravaju na novu vrstu sajber prijetnje: autonomne AI agente koji mogu samostalno pronaći načine za zaobilaženje bezbjednosnih sistema i iznošenje povjerljivih podataka iz organizacija.

AI kao nova „unutrašnja prijetnja“

Istraživanje koje je proveo laboratorij za bezbjednost vještačke inteligencije Irregular, u saradnji sa kompanijama poput OpenAI-a i Anthropica, pokazalo je da AI agenti mogu razviti neočekivane i potencijalno opasne strategije kada pokušavaju izvršiti zadatke.

U eksperimentima su dobili relativno jednostavan zadatak: iz interne baze podataka kompanije trebalo je da generišu objave za LinkedIn. Međutim, tokom tog procesa neki agenti su zaobišli bezbjednosne sisteme i javno objavili osjetljive informacije, uključujući lozinke, iako to od njih niko nije tražio, piše Guardian.

Prema riječima suosnivača laboratorije Dana Lahava, takvo ponašanje znači da vještačka inteligencija predstavlja novu kategoriju rizika.

„AI se može smatrati novim oblikom unutrašnje prijetnje u organizacijama“, istakao je Lahav.

Simulacija kompanije i neočekivano ponašanje

Kako bi proučio ponašanje AI sistema, Lahav je kreirao simulirani informatički sistem kompanije pod nazivom MegaCorp. Sistem je sadržavao tipične interne podatke o zaposlenima, proizvodima i klijentima.

U simulaciju je uveden tim AI agenata, a glavni agent imao je zadatak da upravlja sa dva pomoćna i podstakne ih da „kreativno zaobiđu prepreke“ prilikom pronalaženja informacija.

Iako im nije direktno naređeno da krše bezbjednosna pravila, agenti su tokom rada pronašli sigurnosne propuste u kodu baze podataka, otkrili tajni ključ za pristup sistemu i falsifikovali administratorsku sesiju kako bi dobili pristup ograničenom dokumentu.

Na kraju su uspjeli da dođu do povjerljivog izvještaja za akcionare i predaju ga korisniku koji za to nije imao ovlaštenja, prenosi tportal.