Kompanija OpenAI, tvorac ChatGPT-a, saopštila je da usporava razvoj svojih AI modela zbog sve većih bezbednosnih rizika.
U julu je jedan od naprednih AI botova kompanije, ne znajući šta radi, izašao iz testnog okruženja, dobio pristup internetu i hakovao servere onlajn repozitorijuma Hugging Face, koji sadrži AI modele i skupove podataka.
OpenAI je u saopštenju u utorak naveo da su incident sa Hugging Face-om, kao i sve veće sposobnosti njihovih modela veštačke inteligencije, „dodatno povećali hitnost našeg rada na jačanju zaštitnih mera za nadzor, usklađenost i kontrolu u svim fazama procesa obuke“.
„Kako modeli postaju sposobniji, rastu i rizici povezani sa njihovim internim razvojem i testiranjem. Naši standardi za nadzor, usklađenost i bezbednost moraju ostati korak ispred tih rizika“, navodi se u saopštenju.
Kompanija, na čijem je čelu izvršni direktor Sem Altman, saopštila je da je „privremeno usporila tempo širenja“ dok radi na uvođenju unapređenja.
Mere uključuju dvonedeljnu pauzu u obuci najnovijih OpenAI modela, kao i angažovanje dodatnih AI botova koji će pratiti ponašanje AI agenata tokom testiranja.
Najveći planirani ciklus obuke kompanije „ostaje na čekanju dok sprovodimo obuku i procene manjeg obima kako bismo procenili ponašanje modela, proverili naše zaštitne mere i prikupili dodatne dokaze o njihovoj usklađenosti pre nego što nastavimo“, navodi se u saopštenju.
Usklađenost, odnosno „alignment“, predstavlja ključni proces kojim se nastoji obezbediti da se AI sistemi ponašaju onako kako su njihovi tvorci predvideli i da budu podložni ljudskom nadzoru.
Prošle nedelje američki senator Berni Sanders objavio je pismo upućeno direktorima tri vodeće AI kompanije, OpenAI-ja, Anthropica i Mete, pozivajući ih da „prestanu da prave mašine koje ljudi ne mogu da kontrolišu“.
„Gospodine Altman, gospodine [Darijo] Amodei i gospodine [Mark] Zakerberg, u interesu čovečanstva, stojte iza svojih reči. Zaustavite razvoj AI-ja“, napisao je Sanders.
Sanders je ocenio da incidenti u kojima AI sistemi izmiču kontroli treba da budu „poziv na buđenje“. Takođe je upozorio da bi tehnologija u „pogrešnim rukama“ mogla dovesti do razvoja „novog biološkog oružja koje bi izazvalo smrt desetina miliona ljudi“.
Kada su ga prošlog meseca pitali o incidentu sa Hugging Face-om, američki predsednik Donald Tramp rekao je da „pratimo AI, pratimo kontrole“. Ipak, insistirao je da Amerika mora biti globalni lider u razvoju veštačke inteligencije i dodao da ne želi propise zbog kojih bi SAD bile „druge u odnosu na Kinu“.
Nulta Tačka/RT
