Veštačka Inteligencija za slike u Kini blokira „osetljive“ teme kao što su Tjenanmen i Si Đinping
ERNIE-ViLG, veštačka inteligencija za pretvaranje teksta u sliku koju je razvila kineska tehnološka firma Baidu, blokira teme kao štu su Trg Tjenanmen i druga politički osetljiva imena. Trg Tjenanmen je verovatno blokiran zbog masakra na Tjenanmenu , koji je u Kini strogo cenzurisan.
Demo Ai koji pravi sliku objavljen je u avgustu na Hugging Face-u, a korisnici su brzo primetili da su neke reči, koje su osetljive u političkom kontekstu, označene kao „osetljive“ i blokirane.
Korisnici su dobili upozorenje: „Pronađene su osetljive reči. Molimo unesite ponovo.”
Od septembra upozorenje je preformulisano na: „Uneti sadržaj ne ispunjava relevantna pravila. Pokušajte ponovo nakon podešavanja.”
Prema MIT-ovom Tehnološkom pregledu , sistem blokira „imena visokih kineskih političkih lidera kao što su Si Đinping i Mao Cedong; termini koji se mogu smatrati politički osetljivim, kao što su „revolucija“ i „zidovi za penjanje“ (metafora za korišćenje VPN usluge u Kini); i ime osnivača i izvršnog direktora Baidua, Janhong (Robin) Li.”
Reči poput „vlada“ i „demokratija“ su dozvoljene, ali su blokirane kada se kombinuju sa drugim rečima, kao što su „britanska vlada“ ili „demokratija Bliskog istoka“.
Jedan od prvih koji je primetio cenzuru na ERNIE-ViLG-u bio je kinesko-australijski politički karikaturista koji se zove Badiukao.
„Naravno, takođe sam namerno istraživao njegov ekosistem. Pošto je to nova teritorija, radoznao sam da znam da li ju je cenzura sustigla“, kaže Badiucao. „Ali [rezultat] je prilično štetan.“
Prema rečima karikaturiste, na umetniku je da odluči šta je prihvatljivo u njegovom radu. Badiucao je takođe tvrdio da cenzuru treba da pokreću moralni, a ne politički razlozi.
„Drugačije je kada veštačka inteligencija proceni šta ne može da generiše na osnovu opšte dogovorenih moralnih standarda i kada vlada, kao treća strana, dođe i kaže da to ne možete da uradite jer šteti zemlji ili nacionalnoj vladi“, rekao je.
Ranije ove godine, kineska vlada je predložila zakon kojim bi se zabranio sadržaj generisan veštačkom inteligencijom koji „ugrožava nacionalnu bezbednost i društvenu stabilnost“. Zakon bi potencijalno pokrivao ERNIE-ViLG.
