Član 50 Zakona o vještačkoj inteligenciji obavezuje izdavače da jasno označe određene vrste sadržaja nastalih uz pomoć AI sistema, kao i da obavijeste korisnike kada komuniciraju s chatbotom ili autonomnim AI agentom, a ne sa stvarnom osobom.
Cilj novih obaveza je povećati povjerenje u digitalno informaciono okruženje i korisnicima omogućiti da razumiju kada su izloženi sadržaju koji je napravila ili značajno obradila vještačka inteligencija.
Evropska komisija smatra da korisnici moraju biti upoznati s ulogom AI sistema kako bi mogli pravilno procijeniti pouzdanost sadržaja i smanjiti rizik od obmane, dezinformacija i pogrešnog predstavljanja informacija.
Nova pravila predviđaju različite oznake u zavisnosti od načina na koji je sadržaj nastao. Materijali autentičnog izgleda, poput fotografija, zvučnih zapisa, videozapisa ili tekstova pri čijoj je izradi AI imao značajnu ulogu, morat će nositi oznaku „AI“.
Sadržaj koji je u potpunosti proizvela vještačka inteligencija morat će biti označen kao „AI-generated“, odnosno kao sadržaj generiran pomoću AI sistema.
Takva obaveza obuhvata, između ostalog, potpuno generirane snimke političara ili izmišljenih događaja, muziku i umjetnička djela napravljena pomoću AI modela, kao i automatski generirane sažetke vijesti.
Označavanje neće biti ograničeno samo na medijski sadržaj. Korisnici će morati biti obaviješteni i kada koriste sisteme koji analiziraju emocije ili obrađuju biometrijske podatke.
Osnovni princip novih pravila jeste da osoba ima pravo znati kada vještačka inteligencija ima važnu ulogu u donošenju odluka, obradi podataka ili stvaranju sadržaja kojem je izložena.
Evropska komisija nadzirat će i pružaoce modela vještačke inteligencije opće namjene. Kompanije koje razvijaju takve sisteme morat će voditi odgovarajuću dokumentaciju, objavljivati sažetke podataka korištenih za obuku i primjenjivati pravila za zaštitu autorskih prava.
Nacionalni nadležni organi bit će odgovorni za provođenje propisa i kažnjavanje kompanija koje ne ispune predviđene obaveze.
Za kršenje pravila predviđene su kazne do 15 miliona eura ili do tri posto ukupnog godišnjeg prihoda kompanije na globalnom nivou. Za institucije, organe i agencije Evropske unije maksimalna kazna iznosi 750.000 eura.
Prilikom određivanja kazne uzimat će se u obzir veličina kompanije i težina prekršaja, pa bi mala i srednja preduzeća trebala biti tretirana proporcionalno svojim finansijskim mogućnostima.
Pravila ne obuhvataju svaki sadržaj napravljen pomoću vještačke inteligencije. Izuzeci se odnose na privatnu komunikaciju, poput sadržaja u grupnim razgovorima, kao i na jasno prepoznatljiva umjetnička, satirična i fikcionalna djela, prenosi PC Press.
Uvođenjem ovih obaveza Evropska unija dodatno učvršćuje poziciju jednog od najznačajnijih regulatora tehnologije vještačke inteligencije.
Predstavnici tehnološke industrije kritikovali su dio propisa, navodeći da bi dodatne administrativne i tehničke obaveze mogle usporiti razvoj i uvođenje novih AI proizvoda.
Evropska komisija, međutim, smatra da će usklađena pravila pojednostaviti poslovanje jer pružaoci usluga neće morati prilagođavati svoje poslovanje različitim propisima u svakoj članici pojedinačno.
Zakon bi istovremeno trebao smanjiti rizike po zdravlje, sigurnost i osnovna prava građana, kao i zaštititi demokratske procese i vladavinu prava. Prioritet Evropske komisije sada će biti dosljedna primjena novih pravila u svim državama članicama.
