Ilon Mask i drugi pozivaju da se AI zaustavi, navodeći „rizike za čovečanstvo“
Ilon Mask i grupa stručnjaka za veštačku inteligenciju i rukovodilaca industrije pozivaju na šestomesečnu pauzu u razvoju sistema moćnijih od novopokrenutog OpenAI GPT-4, u otvorenom pismu navodeći potencijalne rizike za društvo i čovečanstvo.
Ranije ovog meseca, OpenAI koji podržava Majkrosoft predstavio je četvrtu iteraciju svog GPT (Generative Pre-trained Transformer) AI programa, koji je oduševio korisnike svojim širokim spektrom aplikacija, od angažovanja korisnika u razgovoru nalik ljudima do komponovanja pesama i dugotrajnog sumiranja dokumenata.
U pismu, koje je izdao neprofitni Institut za budućnost života i koje je potpisalo više od 1.000 ljudi, uključujući Maska, poziva se na pauzu u naprednom razvoju veštačke inteligencije dok se ne razviju, implementiraju i revidiraju zajednički bezbednosni protokoli za takve dizajne od strane nezavisnih stručnjaka.
„Moćne sisteme veštačke inteligencije treba razvijati tek kada budemo uvereni da će njihovi efekti biti pozitivni i da će se njihovim rizicima moći upravljati“, navodi se u pismu.
OpenAI nije odmah odgovorio na zahtev za komentar.
U pismu su detaljno opisani potencijalni rizici za društvo i civilizaciju od strane sistema veštačke inteligencije koji su konkurentni ljudima u obliku ekonomskih i političkih poremećaja, i pozvali su programere da rade sa kreatorima politike na upravljanju i regulatornim vlastima.
Među potpisnicima su bili izvršni direktor Stability AI Emad Mostakue, istraživači u kompaniji DeepMind u vlasništvu Alphabeta i teškaši AI Joshua Bengio, koji se često naziva jednim od „kumova veštačke inteligencije“, i Stjuart Rasel, pionir istraživanja u ovoj oblasti.
Prema registru transparentnosti Evropske unije, Institut za budućnost života prvenstveno finansira Mask fondacija, kao i londonska grupa za efektivni altruizam Founders Pledge i Fondacija zajednice Silicijumske doline.
Zabrinutost dolazi pošto su se policijske snage EU, Evropol u ponedeljak pridružile horu etičkih i pravnih zabrinutosti zbog napredne veštačke inteligencije kao što je ChatGPT, upozoravajući na potencijalnu zloupotrebu sistema u pokušajima krađe identiteta, dezinformacijama i sajber kriminalu.
👉 Prvo ChatGPT samoubistvo: Veštačka inteligencija naterala Belgijanca da se ubije https://t.co/39MygeJhUz
— Nulta Tačka (@ProdukcijaNT) March 29, 2023
U međuvremenu, vlada Velike Britanije je predstavila predloge za „prilagodljivi“ regulatorni okvir oko veštačke inteligencije.
Vladin pristup, naveden u dokumentu o politici objavljenom u sredu, podelio bi odgovornost za upravljanje veštačkom inteligencijom (AI) između njenih regulatora za ljudska prava, zdravlje i bezbednost i konkurenciju, umesto da stvori novo telo posvećeno tehnologiji.
TRANSPARENTNOST
Mask, čiji proizvođač automobila Tesla koristi AI za sistem autopilota, bio je glasan o svojoj zabrinutosti u vezi sa AI.
Od svog objavljivanja prošle godine, OpenAI ChatGPT je podstakao rivale da ubrzaju razvoj sličnih velikih jezičkih modela, a kompanije da integrišu generativne AI modele u svoje proizvode.
Prošle nedelje, OpenAI je objavio da se udružio sa desetak kompanija kako bi ugradio svoje usluge u svoj chat bot, omogućavajući korisnicima ChatGPT-a da naručuju namirnice preko Instacarta ili rezervišu letove preko Expedia-a.
Sem Altman, izvršni direktor OpenAI nije potpisao pismo, rekao je portparol Future of Life za Rojters.
„Pismo nije savršeno, ali duh je ispravan: moramo da usporimo dok bolje ne razumemo posledice“, rekao je Geri Markus, profesor na Univerzitetu u Njujorku koji je potpisao pismo. „Veliki igrači postaju sve tajnovitiji u vezi sa onim što rade, što otežava društvu da se odbrani od svake štete koja se može materijalizovati“.
Kritičari su optužili potpisnike pisma da promovišu „napredak veštačke inteligencije“, govoreći da su tvrdnje o trenutnom potencijalu tehnologije bile u velikoj meri preuveličane.
„Ove vrste izjava imaju za cilj da podignu uzbuđenje. Namenjeno je da zabrine ljude“, Johana Bjorklund, istraživač veštačke inteligencije i vanredni profesor na Univerzitetu Umeo. „Mislim da nema potrebe za povlačenjem ručne kočnice“.
Umesto da pauziraju istraživanje, rekla je ona, istraživači veštačke inteligencije bi trebalo da budu podvrgnuti većim zahtevima transparentnosti. „Ako radite istraživanje veštačke inteligencije, trebalo bi da budete veoma transparentni o tome kako to radite“.
