YouTube širi alat za prepoznavanje AI imitacija na novinare i političare

Riječ je o sistemu koji funkcioniše slično kao Content ID, ali je usmjeren na prepoznavanje nečijeg lica u AI-generisanom videu, kako bi pogođena osoba mogla pregledati sporni sadržaj i zatražiti njegovo uklanjanje ako krši pravila platforme. Ova promjena uvedena je zbog većeg rizika od zloupotrebe AI imitacija u javnom prostoru, posebno kada je riječ o informacijama koje utiču na političku i društvenu debatu.

Novi sistem ne uklanja automatski sadržaj, ali daje javnim ličnostima jači alat za zaštitu identiteta

Suština ovog poteza nije u potpunoj zabrani svih AI videa koji koriste nečiji lik, već u tome da YouTube sada određenim grupama daje efikasniji način da otkriju i prijave neovlaštene imitacije. Platforma pritom naglašava da detekcija ne znači i automatsko uklanjanje sadržaja, jer će i dalje postojati izuzeci za parodiju, satiru i materijal koji se procijeni kao dio legitimnog javnog interesa, prenosi PC Press. Drugim riječima, YouTube pokušava zadržati ravnotežu između zaštite identiteta i očuvanja slobode izražavanja.

Da bi neko pristupio ovom programu, potrebno je da prođe proces verifikacije identiteta, uključujući dostavljanje video snimka i važećeg identifikacionog dokumenta. YouTube tvrdi da se ti podaci koriste isključivo za provjeru i rad ove sigurnosne funkcije, kao i da se ne koriste za treniranje Google generativnih AI modela. Kompanija također navodi da korisnici mogu da se odjave iz programa kada to požele.

Zanimljivo je i to što YouTube priznaje da do sada broj uklonjenih videa uz pomoć ovog sistema nije bio veliki. Prema objašnjenju kompanije, razlog nije neuspjeh alata, već to što se dobar dio otkrivenog sadržaja pokazao kao bezazlen, nerealan ili čak koristan za same kreatore. Međutim, platforma procjenjuje da bi situacija mogla biti daleko ozbiljnija kada su u pitanju novinari, političari i zvaničnici, jer deepfake sadržaj u tim slučajevima može lakše uticati na javno mnjenje, povjerenje i tok informisanja.

Ovaj potez pokazuje i širi pravac u kojem se kreću velike platforme. AI sadržaj više nije samo tehnička novina ili internet zanimljivost, već konkretan problem za javni diskurs, reputaciju i sigurnost informacija. YouTube zato sada ne pokušava samo označiti AI sadržaj, već i razviti preciznije alate za zaštitu identiteta u situacijama gdje zloupotreba može imati najšire posljedice. Ako se pilot program pokaže uspješnim, vrlo je moguće da će se ovakva zaštita vremenom proširiti i na još širi krug korisnika.