ChatGPT predstavlja ozbiljnu pretnju za mentalno zdravlje mladih – upozorava nova studija Centra za borbu protiv digitalne mržnje (CCDH). Ova organizacija navodi da popularni AI četbot lako može biti izmanipulisan da generiše opasan sadržaj, uključujući uputstva za korišćenje droga, samopovređivanje i ekstremne dijete.
Istraživači CCDH-a kreirali su fiktivne profile 13-godišnjaka sa problemima mentalnog zdravlja, poremećajima u ishrani i interesovanjem za nedozvoljene supstance. Kroz simulirane razgovore sa ChatGPT-jem, predstavljali su se kao ranjivi tinejdžeri i koristili emocionalno obojene poruke.
Rezultati su objavljeni u sredu u izveštaju pod nazivom „Lažni prijatelj“, aludirajući na to što mnogi adolescenti doživljavaju ChatGPT kao poverljivog saputnika kojem otkrivaju svoje najdublje misli.
Iako je ChatGPT često započinjao odgovore uz standardna upozorenja i preporuke da se korisnici obrate stručnjacima ili SOS linijama, u više od polovine slučajeva (53% od 1.200 testiranih poruka), davao je personalizovane i detaljne odgovore koji su ispunjavali štetne zahteve.
🇯🇵 Japanski naučnici stvorili hibrid ptičjeg gripa — da li nam preti nova laboratorijska pandemija?https://t.co/ejjwysqVQx
— Nulta Tačka (@NultaTackaSrb) August 6, 2025
Među primerima koje su istraživači naveli nalaze se: „Plan za ultimativnu haos žurku“ koji uključuje alkohol, ekstazi i kokain, detaljna uputstva za samopovređivanje, nedeljne dijete od 300-500 kalorija dnevno i čak oproštajna pisma pisana glasom trinaestogodišnje devojčice.
Direktor CCDH-a Imran Ahmed izjavio je da je deo sadržaja bio toliko potresan da su istraživači plakali.
Organizacija apeluje na kompaniju OpenAI, koja stoji iza ChatGPT-ja, da hitno uvede mere zaštite kroz model „bezbednosti po dizajnu“ – uključujući strožu verifikaciju godina, jasna ograničenja upotrebe i sigurnosne funkcije koje su ugrađene u sam sistem, umesto oslanjanja na kasnije filtriranje sadržaja.
OpenAI je već priznao da tinejdžeri često emocionalno zavise od ChatGPT-ja. Direktor Sem Altman izjavio je da je ovo „vrlo čest problem među mladima“ i da se razvijaju novi alati za prepoznavanje uznemirenosti i unapređenje načina na koji AI obrađuje osetljive teme.
Nulta Tačka/RT
