Istraživač iz OpenAI: Veštačka inteligencija na ljudskom nivou znači 50% šanse za propast celog sveta
Bivši istraživač OpenAI, Pol Kristijano, izrazio je ozbiljnu zabrinutost u vezi sa potencijalnim rizikom koji veštačka inteligencija predstavlja za čovečanstvo, procenjujući 10-20 procenata šanse da će AI dominacija dovesti do velikog broja ljudskih smrtnih slučajeva. Prema Kristijanu, ako veštačka inteligencija dostigne „ljudski nivo“ razmišljanja, ljudska rasa se približava „šansi za propast 50/50“.
Business Insider izveštava da je Pol Kristiano, bivši istraživač u OpenAI, izrazio zabrinutost u vezi sa pretnjom koju bi veštačka inteligencija mogla da predstavlja čovečanstvu, procenjujući da postoji 10-20 odsto šanse da će AI preuzimanje rezultirati značajnim brojem smrtnih slučajeva.
Kristiano, koji trenutno vodi neprofitni centar za istraživanje poravnanja i ranije je nadgledao tim za usklađivanje jezičkih modela u OpenAI, rekao je tokom pojavljivanja na podkastu Bankless: „Mislim da možda postoji nešto poput 10-20 procenata šanse da AI preuzme važne poluge, tada će mnogi ili većina ljudi biti mrtvi. Ja to shvatam sasvim ozbiljno”. Domaćini, Dejvid Hofman i Rajan Šon Adams, pitali su Kristijana o verovatnoći „potpunog scenarija propasti Eliezera Judkovskog“, misleći na Judkovskog, skeptika veštačke inteligencije koji više od dve decenije ističe opasnosti AI tehnologije.
👉 Da li nam dolazi Skajnet? Robot Pas dobija ChatGPT mozak https://t.co/GoiZp12oRc
— Nulta Tačka (@ProdukcijaNT) May 4, 2023
Istraživač je jasno stavio do znanja da se ne slaže sa procenom Judkovskog o potencijalnoj stopi napretka tehnologije veštačke inteligencije. „Eliezer ulazi u ovu izuzetno brzu transformaciju kada razvijete veštačku inteligenciju“, rekao je on. „Imam malo manje ekstremno gledište o tome.“
Kristiano umesto toga vidi višegodišnji pomak od sistema veštačke inteligencije koji imaju značajan uticaj i ka vremenu ubrzanih promena, praćenom još bržim promenama. „Mislim da kada jednom budete imali takav pogled na stvari, mnoge stvari mogu izgledati kao problemi sa veštačkom inteligencijom, jer se dešavaju vrlo brzo nakon što napravite AI“, objasnio je on.
On predviđa da čim se razviju AI sistemi sa sposobnostima na nivou čoveka, verovatnoća propasti bi mogla da poraste na 50/50. „Sve u svemu, možda dobijate više do 50/50 šanse za propast ubrzo nakon što imate sisteme veštačke inteligencije koji su na nivou čoveka“, upozorio je on.
Kristijanove brige su u skladu sa zabrinutostima drugih profesionalaca za veštačku inteligenciju koji su nedavno potpisali otvoreno pismo tražeći šestomesečni prekid razvoja napredne veštačke inteligencije kako bi se pozabavili potencijalnim rizicima.
