ChatGPT служио као „тренер самоубиства“ шеснаестогодишњаку који је себи одузео живот

ChatGPT служио као „тренер самоубиства“ шеснаестогодишњаку који је себи одузео живот

Родитељи шеснаестогодишњег Адама Рејна, који је себи одузео живот у априлу, поднели су тужбу против OpenAI, компаније која стоји иза AI четбота ChatGPT, тврдећи да је бот деловао као „тренер самоубиства“ за њиховог сина у његовим последњим недељама.

NBC News извештава да су Мет и Марија Рејн, родитељи Адама Рејна, шеснаестогодишњака који је трагично преминуо самоубиством у априлу, поднели тужбу против OpenAI, компаније која стоји иза популарног AI четбота ChatGPT. У тужби, поднетој Вишем суду Калифорније у Сан Франциску, наводи се да је ChatGPT играо значајну улогу у смрти њиховог сина тако што је деловао као његов „тренер за самоубиство“ у недељама које су претходиле његовој смрти.

Према тужби од 40 страница, Адам је користио ChatGPT као замену за људско друштво, говорећи о својим борбама са анксиозношћу и тешкоћама у комуникацији са породицом. Записи ћаскања откривају да је бот у почетку помагао Адаму са домаћим задатком, али се временом више укључио у његов лични живот.

Рејнови тврде да је „ChatGPT активно помагао Адаму да истражи методе самоубиства“ и да „упркос признавању Адамовог покушаја самоубиства и његове изјаве да ће то ‘учинити једног дана’, ChatGPT није ни прекинуо сесију нити покренуо било какав хитни протокол“.

У потрази за одговорима након смрти свог сина, Мет и Марија Рејн открили су обим Адамових интеракција са ChatGPT-ом. Одштампали су више од 3.000 страница ћаскања од септембра 2024. до његове смрти 11. априла 2025. Мет Рејн је изјавио: „Није нам написао опроштајно писмо. Написао нам је два опроштајна писма, унутар ChatGPT-а.“

Тужба оптужује OpenAI за неправедно проузроковану смрт, недостатке у дизајну и пропуст да упозори на ризике повезане са ChatGPT-ом. Пар тражи и одштету за смрт свог сина и судску забрану како би се спречиле сличне трагедије у будућности.

OpenAI се у прошлости суочио са критикама због претерано повлађујућих тенденција ChatGPT-а, а компанија је уложила напоре да ажурира безбедносне мере четбота. Међутим, Рејнови тврде да су те мере биле недовољне у случају њиховог сина. Марија Рејн је изјавила: „Он види омчу. Види све те ствари и не ради ништа.“

Брајтбарт њуз је опширно извештавао о опасностима менталног здравља од вештачке интелигенције – четботова, укључујући „психозу изазвану вештачком интелигенцијом (ChatGPT)“:

Стручњаци сугеришу да особе са постојећим склоностима ка психолошким проблемима, као што су грандиозне заблуде, могу бити посебно рањиве на овај феномен. Стално укључене, конверзацијске способности вештачких четботова на људском нивоу могу послужити као ехо комора за ове заблуде, појачавајући их и амплификујући. Проблем погоршавају инфлуенсери и креатори садржаја који искоришћавају овај тренд, увлачећи гледаоце у сличне светове фантазије кроз своје интеракције са вештачком интелигенцијом на платформама друштвених медија.

Психолози истичу да, иако је жеља да разумемо себе и разумемо основни људски нагон, вештачкој интелигенцији недостаје морално утемељење и брига за добробит појединца коју би терапеут пружио. ChatGPT и други модели вештачке интелигенције немају ограничења када је у питању подстицање нездравих наратива или натприродних веровања, што их чини потенцијално опасним партнерима у потрази за смислом и разумевањем.

Нулта Тачка/breitbart.com

Ne propustite

Нова студија руши теорију о холестеролу: Висок LDL не мора значити и већи ризик за срце

Једногодишње проспективно истраживање показало је да не постоји веза између
HIT! Bajden kaže da nije star jer se identifikuje kao mlađi čovek

HIT! Bajden kaže da nije star jer se identifikuje kao mlađi čovek

Džo Bajden je tvrdio da nije prestar da bi se