Kina pooštrava nadzor nad umjetnom inteligencijom: Xi Jinping traži hitne mehanizme

Poruka dolazi u trenutku kada se AI sve brže koristi u industriji, državnoj upravi, obrazovanju, sigurnosti i svakodnevnim digitalnim servisima.

Kina želi ubrzati razvoj umjetne inteligencije, ali istovremeno sve jasnije poručuje da ta tehnologija mora ostati pod nadzorom države. Fokus nije samo na inovacijama i ekonomskom rastu, već i na sprečavanju zloupotreba, sigurnosnih incidenata, dezinformacija i nekontrolisanog širenja sistema koji mogu utjecati na društvo.

Mehanizmi za hitno reagovanje koje kinesko rukovodstvo spominje trebali bi omogućiti bržu reakciju kada AI sistemi naprave ozbiljnu grešku, proizvedu štetan sadržaj, ugroze podatke ili budu iskorišteni za napade. Takav pristup pokazuje da se AI više ne tretira samo kao tehnološki sektor, već kao pitanje nacionalne sigurnosti i društvene stabilnosti, prenosi PC Press.

Kina već ima stroga pravila za generativnu umjetnu inteligenciju, uključujući obavezu da sadržaj bude u skladu s državnim propisima i zahtjevima za sigurnost podataka. Kompanije koje razvijaju AI alate moraju voditi računa o tome kako se modeli treniraju, koji se podaci koriste i kakav sadržaj isporučuju korisnicima.

Ovakav model razlikuje se od zapadnog pristupa, gdje se mnogo više raspravlja o ravnoteži između inovacija, tržišne konkurencije, privatnosti i prava korisnika. U Kini je naglasak snažnije stavljen na koordinaciju između države, tehnoloških kompanija i regulatora, uz jasnu poruku da razvoj AI-ja ne smije izmaći političkoj i institucionalnoj kontroli.

Ipak, pretjerano stroga kontrola može imati i svoju cijenu. Ako kompanije moraju prolaziti kroz složene procedure i stalno izbjegavati regulatorni rizik, razvoj novih AI proizvoda mogao bi biti sporiji. S druge strane, kineske vlasti očigledno procjenjuju da je rizik od nekontrolisane primjene dovoljno velik da opravda snažniji nadzor.

Poruka je zato dvostruka: Kina želi biti jedan od globalnih lidera u AI-ju, ali ne želi tu tehnologiju prepustiti samo tržištu i velikim kompanijama. U narednim godinama vjerovatno će se sve više vidjeti pokušaj da se AI razvija brzo, ali unutar sistema koji omogućava intervenciju države čim se pojavi ozbiljan rizik.