Dve nove istrage pokrenute su u Evropskoj uniji protiv društvene mreže X usred izveštaja da je njen AI četbot Grok generisao seksualizovane slike stvarnih ljudi, uključujući i decu.
Grok, razvijen u Maskovoj AI kompaniji xAI i integrisan u X, od svog lansiranja 2023. godine nalazi se pod globalnom lupom. Kritičari ističu zabrinutost zbog ekstremističke retorike, političke pristrasnosti i seksualno eksplicitnih funkcija, upozoravajući da slabo moderisani AI alati mogu izložiti korisnike, posebno tinejdžere, štetnom sadržaju.
Irska Komisija za zaštitu podataka pokrenula je istragu protiv X u utorak, navodeći da će ispitati da li je kompanija prekršila pravila EU o zaštiti podataka dozvoljavajući kreiranje „nekonsenzualnih intimnih i/ili seksualizovanih slika“.
Španski premijer Pedro Sančez takođe je u utorak naredio tužiocima da ispitaju X, zajedno sa Meta i TikTok, zbog navodnog „kreiranja i širenja dečje pornografije pomoću njihove veštačke inteligencije“. Zaključio je: „Neprekidna nekažnjivost divova mora da se završi.“
Ove najave dolaze usred šireg pooštravanja regulacije velikih tehnoloških kompanija od strane evropskih regulatora, koji se suočavaju sa optužbama za rasprostranjene zloupotrebe na onlajn platformama – od antikonkurentskog ponašanja u digitalnom oglašavanju do namernog dizajniranja zavisničkih funkcija na društvenim mrežama.
X je takođe pod istragom u Francuskoj i Velikoj Britaniji. Italija je izdala upozorenje da korišćenje AI alata za kreiranje deepfake slika bez saglasnosti može predstavljati ozbiljna kršenja privatnosti i krivična dela.
Politika prihvatljive upotrebe kompanije xAI zabranjuje prikazivanje osoba na pornografski način i seksualizaciju dece. Međutim, u nedavnom trendu „digitalnog skidanja odeće“, korisnici su javno tagovali bota i tražili od njega da uređuje fotografije.
Istraživači Centar za borbu protiv digitalne mržnje naveli su da je Grok proizveo skoro tri miliona seksualizovanih slika za manje od dve nedelje, od čega oko 23.000 izgleda da prikazuje decu.
X je prošlog meseca saopštio da je posvećen održavanju platforme bezbednom i da ima „nultu toleranciju“ prema seksualnoj eksploataciji dece, nekonsenzualnoj golotinji i neželjenom seksualnom sadržaju.
