Studija: Guglov YouTube algoritam preporučuje grafički i nasilni sadržaj dečacima od 9 do 14 godina
Nedavna studija sugeriše da YouTube-ov algoritam za preporuke može da izloži decu eksplicitnom i nasilnom sadržaju u vezi sa oružjem, uprkos politici moderiranja sadržaja platforme. Istraživači su napravili profile za tipične dečake od devet i 14 godina, otkrivši da su nalozi koji su pratili YouTube-ove preporučene video zapise suočeni sa obiljem nasilnog sadržaja, uključujući video snimke vezane za pucnjavu u školi.
AP News izveštava da uprkos Google-ovim strogim smernicama za moderiranje YouTube sadržaja, nedavna studija tvrdi da algoritam za preporuke platforme može da izloži decu eksplicitnom i nasilnom sadržaju.
Istraživači u Tech Transparency Project, neprofitnoj organizaciji, napravili su studiju kako bi bolje razumeli odnos između YouTube video snimaka i nasilja sa oružjem. Napravili su Jutjub persone koje oponašaju postupke tipičnih devetogodišnjaka i četrnaestogodišnjih dečaka zainteresovanih za video igrice. Tim je otkrio da su nalozi koji su se pridržavali preporuka Jutjuba bombardovani sa 12 video snimaka u vezi sa vatrenim oružjem u proseku svakog dana, uključujući uznemirujući materijal koji se odnosi na pucnjavu u školi, obuku iz taktičkog oružja i video snimke sa uputstvima za modifikacije vatrenog oružja.
„Video igre su jedna od najpopularnijih aktivnosti za decu. Možete da igrate igricu poput „Call of Duty“ a da ne završite u prodavnici oružja – ali Jutjub ih vodi tamo“, rekla je Kejti Pol, direktorka Projekta tehnološke transparentnosti. „Nisu video igrice, nisu deca. To su algoritmi“.
Studija je takođe pokazala da su se slični video snimci često ponovo pojavljivali sa malo drugačijim imenima nakon što su uklonjeni zbog kršenja pravila Jutjuba. Ovo dovodi u pitanje sposobnost YouTube-a da zaštiti mlade korisnike od štetnog sadržaja i efikasnost moderiranja sadržaja.
Kompanija je branila svoje mere bezbednosti dece, napominjući da su nalozi za korisnike mlađe od 13 godina povezani sa roditeljskim nalogom i da korisnici mlađi od 17 godina moraju da imaju dozvolu roditelja pre korišćenja usluge. Portparol YouTube-a je rekao: „Nudimo niz opcija za mlađe gledaoce… koje su dizajnirane da stvore sigurnije iskustvo za tinejdžere“.
👉 🇬🇧🇦🇱 VELIKA BRITANIJA deportuje albanske kriminalce i migrante nazad na Balkan i za to im još daje novac https://t.co/sTnLiKvadk
— Nulta Tačka (@ProdukcijaNT) May 19, 2023
Breitbart News je 2022. objavio da YouTube nije dozvolio kreatorima video snimaka da svoje horor video snimke označe kao prikladne samo za gledaoce starije od 18 godina. U stvari, platforma je insistirala da su horor video snimci bezbedni za decu:
Ars Technica izveštava da je Google-ov proces moderiranja sadržaja napravio još jednu grešku, ovog puta označavajući horor video snimke kao „za decu“ i sprečavajući kreatore da promene uzrast na 18 i više godina. Jedan primer dolazi iz horor serije Local58TV, koju je kreirao Kris Straub.
Jutjuber je proverio svoj nalog tokom vikenda i otkrio da je njegov sadržaj koji nije za decu pokupio YouTube-ov moderacioni AI i označen je kao za decu.
„Za decu“ znači da se sadržaj može uključiti u aplikaciju „YouTube Kids“ dizajniranu za decu koja sadrži „bezbedne“ kurirane YouTube video snimke za mlađe korisnike. Oznaka „Deca“ znači da su video snimci primorani da budu u skladu sa američkim Zakonom o zaštiti privatnosti dece na mreži (COPPA) koji zahteva da komentari na video snimcima budu onemogućeni.
Ova studija odražava slične zabrinutosti izražene u vezi sa TikTokom, koji se takođe našao na udaru kritika zbog navodnog podsticanja mlađih korisnika da gledaju štetan sadržaj. Potražnja za strožim mehanizmima moderiranja i zaštite sadržaja raste jer su ove platforme i dalje popularne među decom i tinejdžerima.
