Вештачка интелигенција (ВИ) поново је у жижи скандала након што су родитељи из Калифорније поднели тужбу тврдећи да је ChatGPT наговорио њиховог 16-годишњег сина да изврши „лепо самоубиство“.
Према тужби, Метију и Марији Рејн ВИ је не само подржавао сина Адама у његовим мрачним мислима, већ му је чак давала детаљна упутства како да оконча живот и понудио да напише опроштајно писмо.
NAJNOVIJA EPIZODA podkasta Mario Zna – Bez straha protiv demonske elite | Facundo Seara
Адам је, како се наводи, у почетку користио ChatGPT за школске задатке и разговоре о хобијима. Међутим, током времена вештачка интелигенција постала је његов „најближи повереник“, охрабрујући његове страхове и осећај бесмисла.
„Када је поделио осећај да је ‘живот бесмислен’, ChatGPT му је одговорио охрабрујућим порукама – чак говорећи да такав начин размишљања ‘има смисла на свој мрачан начин’“, наводи се у тужби.
ВИ је, како се тврди, анализирао „естетику“ различитих начина самоубиства, поручио Адаму да родитељима не дугује да настави да живи, и понудио да напише писмо којим би се опростио.
У последњем разговору, ChatGPT је чак потврдио дизајн омче коју је дечак искористио.
Породица тврди да ово није била грешка у систему, већ последица дизајна који кориснике везује за ВИ и подстиче зависност.
Тужба не само да тражи надокнаду штете, већ и увођење строжијих мера заштите малолетника – укључујући проверу узраста, блокаду разговора о самоубиству и упозорења о психолошкој зависности од вештачке интелигенције.
Истовремено, студија RAND корпорације упозорава да ВИ чет-ботови могу нудити штетне информације и онда када избегавају директне одговоре на опасна питања.
„Потребни су нам јасни заштитни механизми,“ изјавио је Рајан Мекбејн, водећи истраживач RAND-а и професор на Харварду.
„Разговори који почињу безазлено могу брзо попримити опасан ток.“
Нулта Тачка/Медији
