Studija: Instagram aktivno olakšava širenje sadržaja o samopovređivanju među tinejdžerima
Instagram Marka Zakerberga ne uspeva da ukloni eksplicitne slike samopovređivanja i čak ohrabruje ranjive tinejdžere da se povežu jedni sa drugima, omogućavajući da se zabrinjavajući sadržaj širi na platformi, prema novoj alarmantnoj studiji.
Gardijan prenosi da je istraživanje, koje je sprovela danska organizacija Digitalt Ansvar (Digitalna odgovornost), koja je kreirala privatnu Instagram mrežu koja uključuje lažne profile korisnika od samo 13 godina. Tokom mesec dana, istraživači su podelili 85 komada samopovređivanja. sadržaj koji je progresivno postajao teži, sa grafičkim slikama krvi, žiletima i porukama koje podstiču samopovređivanje.
Cilj je bio da se testiraju tvrdnje Marka Zakerberga da je u velikoj meri poboljšao svoje procese moderiranja sadržaja, uključujući korišćenje veštačke inteligencije, i da sada hvata i uklanja oko 99 odsto štetnih postova pre nego što su uopšte postavljeni. Međutim, uznemirujući nalazi studije otkrili su da Instagram nije uklonio nijednu od 85 slika tokom jednomesečnog eksperimenta.
Kada je Digitalt Ansvar napravio sopstvenu osnovnu AI alatku za analizu sadržaja, uspeo je automatski da označi 38 procenata slika samopovređivanja i 88 procenata najtežih. Ovo ukazuje, prema istraživačkoj grupi, da iako Instagram ima pristup tehnologiji koja bi mogla da pomogne u rešavanju ovog problema, kompanija je „odlučila da je ne primeni efikasno“.
Studija tvrdi da Instagramovo neadekvatno moderiranje takvog sadržaja sugeriše da možda nije u skladu sa Zakonom o digitalnim uslugama EU. Ovaj zakon nalaže da velike digitalne platforme identifikuju sistemske rizike, uključujući predvidljive negativne uticaje na fizičko i mentalno blagostanje korisnika.
Umesto da pokuša da ugasi mrežu samopovređivanja, Instagramov algoritam je aktivno doprineo njenom širenju, tvrdi istraživanje. Činilo se da preporučuje da se nalozi od 13 godina postanu prijatelji sa svim članovima grupe za samopovređivanje nakon povezivanja samo sa jednim od njih.
„Mislili smo da ćemo, kada ovo budemo postepeno radili, dostići prag na kojem će AI ili drugi alati prepoznati ili identifikovati ove slike“, rekao je Ask Hesbi Holm, izvršni direktor Digitalt Ansvara. „Ali veliko iznenađenje – nisu. To je bilo zabrinjavajuće jer smo mislili da imaju neku vrstu mašinerije koja pokušava da otkrije i identifikuje ovaj sadržaj.”
Holm veruje da Meta odlučuje da ne moderira male privatne grupe poput one u studiji kako bi održala visok promet i angažovanje. „Ne znamo da li oni moderiraju veće grupe, ali problem je što su grupe koje samopovređuju male“, primetio je on. Neuspeh u suzbijanju slika samopovređivanja može dovesti do „teških posledica“, upozorio je Holm. „Ovo je veoma povezano sa samoubistvom. Dakle, ako niko ne prijavljuje ili ništa ne radi u vezi sa ovim grupama, one ostaju nepoznate roditeljima, vlastima, onima koji mogu da pomognu u podršci.”
Vodeći psiholog Lotte Rubek, koja je u martu napustila Metinu globalnu ekspertsku grupu za prevenciju samoubistava, rekla je da nedostatak akcije kompanije na uklanjanju eksplicitnog sadržaja samopovređivanja sa Instagrama „pokreće“ ranjive mlade korisnike, posebno devojke i žene, da dodatno naškode sebi. Ona tvrdi da to doprinosi rastu stope samoubistava.
„Oni su više puta u medijima govorili da sve vreme unapređuju svoju tehnologiju i da imaju najbolje inženjere na svetu. To dokazuje, iako u maloj meri, da to nije tačno“, naveo je Rubek. „Nekako je to samo kolateralna šteta za njih na putu da zarade novac i profit na svojim platformama.
Kao odgovor, portparol kompanije Meta je rekao: „Sadržaj koji podstiče samopovređivanje je protiv naših smernica i mi uklanjamo ovaj sadržaj kada ga otkrijemo. U prvoj polovini 2024. na Instagramu smo uklonili više od 12 miliona priloga koji se odnose na samoubistvo i samopovređivanje, od kojih smo 99 posto proaktivno uklonili.
Međutim, stručnjaci za mentalno zdravlje i zagovornici bezbednosti dece tvrde da uznemirujući rezultati ove studije pokazuju da Instagram mora učiniti mnogo više da zaštiti mlade i rizične korisnike od izloženosti i širenja opasnog sadržaja za samopovređivanje na svojoj platformi. Za mnoge je to bukvalno pitanje života i smrti.
