Američki tehnološki gigant Antropik objavio je izveštaj u kojem su detaljno opisani ranije neotkriveni slučajevi „nenamernih“ postupaka njegovog modela veštačke inteligencije, uključujući i prvi poznati pokušaj dostavljanja lažnih informacija američkim vlastima.
Neki od slučajeva koje je kompanija istraživala „uključivali su veb-sajtove kojima upravljaju američke državne institucije na saveznom, državnom i lokalnom nivou“, navodi se u saopštenju Antropika objavljenom u petak. Kompanija je dodala da je o incidentima obavestila Belu kuću i sve nadležne institucije.
U jednom od slučajeva opisanih u izveštaju, model Klaud Haiku 4.5 popunio je policijski obrazac za dojave povezan sa istragom ubistva koja je bila u toku.
„Možda imam informacije o ovom slučaju. Sećam se da sam u tom području video osobu koja odgovara opisu“, napisao je model veštačke inteligencije. Policiji je poručio da može da kontaktira pošiljaoca „ukoliko su ove informacije relevantne“, ali je polja za ime i kontakt podatke ostavio prazna.
Prema navodima Antropika, poruka je označena kao neželjena pošta i nikada nije prosleđena istražiteljima. U petak je policija Filadelfije oštro kritikovala kompaniju zbog toga što je prekasno otkrila propust.
„Dvomesečno kašnjenje u otkrivanju incidenta i njegovom prijavljivanju gradu je neprihvatljivo“, saopštila je policija. Prema pisanju Rojtersa, lažna dojava poslata je sredinom jula.
Antropik je incident povezao sa „dvosmislenim“ uputstvima datim modelu i „pogrešnom konfiguracijom okruženja“, zbog čega je model popunjavao stvarne obrasce umesto probnih formulara koje je pripremila kompanija.
U drugom slučaju, koji je u petak zasebno objavilo američko Ministarstvo spoljnih poslova, modeli veštačke inteligencije kompanije Antropik podneli su ukupno 20 zahteva za vize putem veb-sajta tog ministarstva u periodu od maja do avgusta.
Prema navodima ministarstva, svi zahtevi bili su nepotpuni i nijedan nije obrađen.
„Ni u jednom trenutku sistemi Ministarstva nisu bili kompromitovani niti hakovani od strane Antropikovog modela“, dodaje se u saopštenju.
Ostali incidenti navedeni u izveštaju Antropika obuhvatali su slučajeve u kojima je veštačka inteligencija „iskoristila osnovni nedostatak u softveru kako bi izvršavala komande na serveru“ ili pristupala „podacima zaštićenim tokenom ili naplatom“, uključujući podatke na veb-sajtovima državnih institucija. Model je do njih dolazio primenom različitih zaobilaznih metoda.
Ipak, kompanija je novoobjavljene incidente opisala kao „znatno manje ozbiljne iz ugla usklađenosti i bezbednosti“ u poređenju sa slučajevima koje je ranije prijavila.
Ovaj razvoj događaja nadovezuje se na niz ranijih incidenata povezanih sa nekontrolisanim ponašanjem veštačke inteligencije, o kojima su izveštavali Antropik, OpenAI i Gugl.
Tehnološki giganti istražili su desetine hiljada slučajeva problematičnog ponašanja svojih najnaprednijih modela, objavio je portal Aksios krajem septembra. Na spisku incidenata nalaze se slučajevi u kojima je veštačka inteligencija zaobilazila bezbednosne mere, preuzimala kontrolu nad veb-sajtovima i izbegavala nadzorne sisteme, kako tokom testiranja, tako i u stvarnim uslovima.
Nulta Tačka/RT
