Kalifornija uvela nova pravila za djecu na internetu: Stroža kontrola društvenih mreža i AI chatbot

Jedan dio novih zakona reguliše način na koji maloljetnici mogu komunicirati s AI chatbotovima. Kompanije će morati uvesti vremenska ograničenja, kao i dodatne zaštitne mehanizme namijenjene mladim korisnicima.

Chatbotovi će morati nuditi informacije o resursima za mentalno zdravlje i imati jasno definirane protokole za krizne situacije. Posebna pravila primjenjivat će se kada maloljetnik tokom razgovora spomene samopovređivanje ili samoubistvo.

Roditelji bi trebali dobiti obavijest ako dijete isključi određene sigurnosne postavke. Time država pokušava spriječiti situacije u kojima mladi korisnik ukloni zaštitna ograničenja, a roditelj ili staratelj o tome ne bude informiran.

Kompanije koje razvijaju AI chatbotove morat će provoditi godišnje procjene rizika i omogućiti nezavisne sigurnosne provjere za djecu. Ako ne ispune propisane obaveze, mogle bi snositi pravnu odgovornost za posljedice.

Zakon posvećen chatbotovima nazvan je Adamov zakon, prema Adamu Raineu. Kalifornijske vlasti predstavljaju ga kao najstroži američki propis koji uređuje sigurnost djece prilikom korištenja takozvanih companion chatbotova, sistema napravljenih za vođenje dužih i ličnijih razgovora s korisnicima.

Ove mjere dolaze ubrzo nakon što je Newsom potpisao dodatne zakone o regulaciji AI industrije. Kalifornija je uspostavila okvir za nezavisne organizacije koje će provjeravati da li sistemi vještačke inteligencije poštuju državne propise.

Formira se i registar AI revizora, uz standarde koji bi trebali osigurati njihovu nezavisnost, transparentnost i profesionalni integritet. Cilj je da kompanije više ne budu jedine koje procjenjuju sigurnost vlastitih proizvoda.

Mnogo više polemike izazvao je dio paketa koji se odnosi na društvene mreže. Platformama će biti zabranjeno da korisnicima mlađim od 16 godina nude funkcije koje zakon definira kao potencijalno zavisničke, prenosi PC Press.

Ta definicija obuhvata automatsko pokretanje videa, obavijesti i personalizirane sadržajne tokove koje algoritam formira na osnovu historije korištenja i profila korisnika.

Namjena ovih funkcija često je da zadrže korisnika što duže na platformi. Automatska reprodukcija ne zahtijeva da osoba svjesno izabere sljedeći video, dok personalizirani algoritam neprekidno prikazuje sadržaj za koji procjenjuje da će izazvati novu reakciju.

Kalifornija smatra da takvi mehanizmi mogu posebno snažno utjecati na djecu i tinejdžere, zbog čega želi ograničiti njihovu dostupnost. Ipak, protivnici tvrde da je definicija toliko široka da bi mogla ukloniti osnovne funkcije gotovo svake moderne društvene mreže.

Organizacija Electronic Frontier Foundation ocijenila je da mjera u praksi predstavlja zabranu društvenih mreža za osobe mlađe od 16 godina. Prema stavu organizacije, uklanjanje osnovnih alata za pristup i snalaženje u digitalnim zajednicama neće nužno učiniti mlade sigurnijim ili zdravijim.

Drugi veliki problem odnosi se na provjeru dobi. Da bi platforma maloljetnicima ograničila određene funkcije, morat će utvrditi koliko korisnik ima godina. Kritičari upozoravaju da bi to moglo primorati sve korisnike, uključujući punoljetne osobe, da dostave dodatne lične podatke.

Na taj način zakon koji pokušava povećati sigurnost djece može istovremeno uvesti nove rizike po privatnost. Sličan argument već je korišten protiv drugih propisa koji zahtijevaju identifikaciju ili procjenu dobi prije pristupa internet sadržaju.

Paket sadrži i mjere koje proširuju definiciju seksualne eksploatacije djece. Propisi će sada obuhvatati i slike napravljene generativnom vještačkom inteligencijom, kao i digitalno izmijenjeni materijal koji prikazuje osobu mlađu od 18 godina u seksualnom kontekstu.

Dodatni zakoni štite maloljetnike od ciljanog oglašavanja i ograničavaju način na koji AI sistemi koriste podatke učenika od vrtića do završetka srednje škole.

Kalifornijske vlasti predstavljaju paket kao pokušaj da sigurnosna pravila prate brz razvoj tehnologije. Međutim, rasprava o društvenim mrežama pokazuje koliko je teško pronaći ravnotežu između zaštite maloljetnika, prava na pristup digitalnim prostorima i privatnosti svih korisnika.