Apple kreće u obračun s AI zloupotrebama: Nove zabrane za aplikacije u App Storeu

Novim pravilima Apple je obavezao programere aplikacija koje omogućavaju objavljivanje korisničkog sadržaja da aktivno sprečavaju zloupotrebu vještačke inteligencije za pretvaranje običnih fotografija u seksualno eksplicitne slike.

Od programera se zahtijeva da filtriraju intimne sadržaje nastale bez pristanka prikazanih osoba, omoguće korisnicima prijavljivanje neprimjerenog materijala i blokiranje naloga koji uznemiravaju druge. Također, moraju spriječiti objavljivanje takvih fotografija i ukloniti sadržaje koji ipak prođu postojeće sigurnosne provjere.

Aplikacijama koje ne uvedu odgovarajuće zaštitne mjere ili ne otklone utvrđene povrede nakon prijave prijeti uklanjanje iz prodavnice App Store.

Apple je dodatno pojasnio pravila za aplikacije koje prikrivaju svoju stvarnu namjenu tokom postupka odobravanja. Ukoliko se utvrdi da aplikacija, uprkos drugačijem predstavljanju, omogućava digitalno uklanjanje odjeće s fotografija, kompanija je može ukloniti iz prodavnice, a njenog kreatora isključiti iz Appleovog programa za programere, prenosi PC Press.

Kompanija već dugo zabranjuje pornografski sadržaj i aplikacije namijenjene generisanju eksplicitnih slika. Nova pravila predstavljaju dodatni korak ka tome da odgovornost za sprečavanje zloupotreba snose i sami programeri, a ne samo platforma.

Ovim potezom Apple nastoji ograničiti širenje intimnih fotografija izrađenih bez pristanka, čija izrada i distribucija mogu ozbiljno narušiti privatnost i dostojanstvo žrtava.