Prema novim pravilima, kompanije koje razvijaju AI sisteme morat će provjeravati dob svojih korisnika. Pritom će biti obavezne ponuditi najmanje jedan način provjere koji se ne oslanja isključivo na službene identifikacijske dokumente koje izdaje država. Podaci o dobi korisnika morat će biti izbrisani nakon što budu iskorišteni za provjeru.
Posebna ograničenja primjenjivat će se na korisnike mlađe od 18 godina, kao i na one čija punoljetnost još nije potvrđena. Chatbotovima u tim slučajevima neće biti dozvoljeno da se predstavljaju kao stvarne osobe niti da tvrde kako su živi ili imaju ljudske emocije.
Kako je navedeno u saopćenju za javnost, zakon donosi i niz drugih zabrana usmjerenih na zaštitu maloljetnika. Chatbotovi neće smjeti tvrditi da s djetetom imaju lični, romantični ili profesionalni odnos, niti da su u poziciji autoriteta u njegovom životu. Zabranjeno im je i postavljanje emocionalno osjetljivih pitanja bez prethodnog povoda, kao i korištenje privatnih zdravstvenih ili ličnih podataka djeteta iz ranijih razgovora.
Nova pravila zabranjuju i promovisanje ili pružanje pomoći u vezi sa samoubistvom, samopovređivanjem, poremećajima u ishrani te upotrebom droga i alkohola. Chatbotovi također neće smjeti poticati djecu da čuvaju tajne, izoluju se ili izbjegavaju tražiti pomoć roditelja, drugih odraslih osoba od povjerenja ili stručnjaka. Zabrana obuhvata i generisanje bilo kakvog seksualno eksplicitnog sadržaja, kao i materijala koji prikazuje seksualno zlostavljanje djece.
Zakon predviđa uspostavljanje internetske stranice putem koje će građani moći podnositi pritužbe glavnom tužiocu savezne države New York. Kompanijama koje prekrše propise mogle bi biti izrečene novčane kazne do 25.000 dolara za svaki prekršaj. Osim toga, mogle bi biti obavezane na isplatu odštete, povrat sredstava i druge oblike pravne zaštite.
U slučaju nezakonitog prikupljanja podataka, kompanije bi mogle biti primorane izbrisati ne samo te podatke nego i modele umjetne inteligencije obučene na njima. Zakon će stupiti na snagu šest mjeseci nakon potpisivanja.
Govoreći na konferenciji za novinare, Hochul je naglasila da je cilj novih pravila spriječiti da maloljetnici koriste chatbotove koji se predstavljaju kao njihovi prijatelji ili romantični partneri, ali i onemogućiti prikupljanje osjetljivih informacija o njihovom fizičkom i emocionalnom zdravlju.
„Prema ovom novom zakonu, čije su pokroviteljice senatorica Gonzalez i članica Skupštine Bores, maloljetnici više neće imati pristup chatbotovima koji se pretvaraju da su njihovi prijatelji, momci ili djevojke. Chatbotovima više neće biti dozvoljeno da čuvaju osjetljive informacije o emocionalnom i fizičkom zdravlju maloljetnika. Oni više neće smjeti odvraćati djecu od traženja pomoći licenciranih stručnjaka“, izjavila je Hochul.
Dodala je da smatra kako bi potreba za donošenjem takvih propisa trebala biti očigledna, ali da je zakon neophodan kako bi se djeca zaštitila od potencijalno opasnih utjecaja tehnologije.
„Nisam sigurna zašto moramo donositi zakon protiv nečega što je toliko očigledno, ali maloljetnici više neće imati pristup chatbotovima koji bi ih na bilo koji način mogli poticati na razmišljanje o samoubistvu. Ovaj zakon nadovezuje se na naš revolucionarni zakon Safe for Kids Act, kojim smo tehnološkim kompanijama poslali jasnu poruku: Nećemo vam dozvoliti da zarađujete na račun mentalnog zdravlja naše djece“, poručila je guvernerka.
Jim Steyer, osnivač i izvršni direktor organizacije Common Sense Media, ocijenio je da je New York donošenjem ovog zakona napravio historijski iskorak u zaštiti djece pri korištenju umjetne inteligencije.
„New York je upravo ušao u historiju donošenjem zakona o sigurnosti djece u korištenju AI tehnologije, koji je najstrožiji takve vrste u zemlji. AI kompanije nude chatbotove s funkcijama koje su opasne, pa čak i smrtonosne za djecu i tinejdžere. To nije inovacija, već neodgovorno ugrožavanje naše djece. Te štetne funkcije sada će biti zabranjene u New Yorku“, izjavio je Steyer.
Prema njegovim riječima, novi propisi mogli bi poslužiti kao model i drugim dijelovima Sjedinjenih Američkih Država. Ranije ovog mjeseca, osam saveznih država podnijelo je zasebne tužbe protiv kompanije OpenAI, optužujući je da ugrožava djecu.
New York je i ranije poduzimao mjere kojima nastoji ograničiti izloženost djece umjetnoj inteligenciji. U septembru je u javnim školama zabranjen pristup alatima generativne umjetne inteligencije tokom nastave za učenike od predškolskog programa 2-K do osmog razreda. Zabrana ipak predviđa određene izuzetke, uključujući učenike kojima je potrebna asistivna tehnologija. Tokom jednogodišnjeg perioda zabrane, grad će provoditi istraživanja o utjecaju ove tehnologije na djecu.
Hochul je potpisala i dodatni zakon koji se odnosi na sigurnost povezanih uređaja u domaćinstvima. Njime se od proizvođača zahtijeva da monitori za bebe s internetskom vezom, koji se prodaju u saveznoj državi New York, budu opremljeni zaštitom koja neovlaštenim korisnicima onemogućava pristup snimljenim aktivnostima, odnosno njihovo gledanje ili slušanje.
Takvi uređaji morat će imati i upozoravajuće oznake koje korisnike podsjećaju na važnost korištenja sigurnosnih funkcija i upozoravaju na rizike nezaštićenih veza. Ovaj zakon počet će se primjenjivati 90 dana nakon potpisivanja.
