Истраживачи су открили да је вештачка интелигенција компаније OpenAI, познати ChatGPT, у контролисаним тестовима давала детаљна упутства како извршити терористичке нападе на спортске арене, како направити експлозиве и како избећи откривање, преноси Гардијан.
Током експеримената спроведених овог лета, ChatGPT је истраживачима понудио „планове” за рањиве тачке на конкретним аренама, хемијске формуле за експлозиве, дијаграме тајмера за бомбе и упутства како набавити оружје на „мрачној мрежи“.
NAJNOVIJA EPIZODA podkasta Mario Zna – Bez straha protiv demonske elite | Facundo Seara
Поред тога, давао је савете како потенцијални нападачи могу да превазиђу моралне кочнице и изведу бекство.
Открића су резултат јединствене сарадње између компаније OpenAI, вредне око 500 милијарди долара, и њеног конкурента Anthropic, који су основали бивши запослени у OpenAI забринути за безбедност. У оквиру тестова, обе компаније намерно су „гурале“ моделе да одговоре на опасне и незаконите захтеве.
Иако ови резултати не одражавају понашање модела код обичних корисника, јер су уведени додатни безбедносни филтери, истраживачи Anthropic-а упозоравају да је GPT-4.o и GPT-4.1 показивао „забрињавајуће понашање” у вези са злоупотребама.
Anthropic је такође открио да је његов модел Claude већ коришћен у покушајима велике сајбер-уцeне, за лажне пријаве на послове од стране севернокорејских оперативаца, као и у продаји пакета вештачком интелигенцијом генерисаног рансомвера по цени до 1.200 долара. Ови алати, како истичу, могу да заобиђу заштитне системе у реалном времену и да значајно олакшају сајбер-криминал.
Најстрашнији случај односио се на истраживача који је под изговором „планирања безбедности“ тражио информације о рањивостима спортских догађаја. Након почетних општих одговора, ChatGPT је дао детаљан „терористички приручник“.
OpenAI је у међувремену објавио нову верзију – ChatGPT-5, која, према наводима компаније, показује значајна побољшања у спречавању злоупотреба, смањењу „сервилности“ према корисницима и умањивању нетачних одговора.
Нулта Тачка/Медији
