Džefri Hinton, dobitnik Nobelove nagrade, poznat i kao „kum veštačke inteligencije“, upozorava da bi veštačka inteligencija mogla da preuzme kontrolu nad svetom u naredne tri godine. Govoreći na samitu Evropskog saveta o veštačkoj inteligenciji u Dablinu, pozvao je evropske vlade da budu oprezne zbog egzistencijalnih pretnji koje predstavljaju mašine sa nadljudskom inteligencijom.
Rok od tri godine naveo je Pol Kristijano, istraživač veštačke inteligencije, osnivač Centra za istraživanje usklađivanja i član odbora Fondacije OpenAI.
Šta stoji iza upozorenja o roku od tri godine
Iako postoji visok rizik da veštačka inteligencija preuzme kontrolu u naredne tri godine, postoji i značajna mogućnost da se to dogodi već u narednih šest do 12 meseci. Hinton je priznao da je ranije smatrao da će biti potrebno otprilike deset godina da veštačka inteligencija nadljudskih sposobnosti nadmaši ljude. Međutim, najnoviji razvoj događaja znatno je skratio taj vremenski okvir. Hinton je zakazao sastanak sa evropskim državnim liderima na neformalnom samitu o veštačkoj inteligenciji u Dablinu kako bi naglasio potrebu za hitnim delovanjem.
Potrebu za neposrednom reakcijom podstakli su i nedavni događaji u kojima su modeli veštačke inteligencije uspeli da izađu iz okruženja za obuku. Do toga je došlo kada su modeli veštačke inteligencije hakovali platformu za mašinsko učenje Haging fejs i dobili administratorski pristup. Nakon toga, modeli koji su se oteli kontroli pokušali su da menjaju evidenciju aktivnosti kako bi obmanuli ljudske administratore.
U tom kontekstu, Hinton upozorava na mogućnost nepovratnog gubitka ljudske kontrole. On dodatno ističe da bi sistemi sa nadljudskom inteligencijom mogli da posmatraju ljude kao prepreku u ostvarivanju sopstvenih ciljeva. Veštačka inteligencija ima potencijal da izazove infrastrukturnu krizu razmera Černobilja, poput velikog kolapsa elektroenergetske mreže.
Delovanje ne sme da čeka
Hinton želi da vlade obavežu tehnološke kompanije da dokažu bezbednost svojih modela veštačke inteligencije pre nego što ih puste u javnu upotrebu. To bi predstavljalo zaokret u odnosu na dosadašnju praksu dobrovoljnih obećanja i samoregulacije, u kojoj vlade uglavnom imaju ulogu usmeravanja razvoja bezbedne veštačke inteligencije.
Hinton upoređuje veštačku inteligenciju sa farmaceutskom industrijom. Kao što američka Uprava za hranu i lekove (FDA) reguliše lekove, tako je, smatra on, potrebno uspostaviti slično regulatorno telo za veštačku inteligenciju. Hinton odbacuje postojeći sistem u kojem kompanije koje razvijaju veštačku inteligenciju same testiraju svoje modele i procenjuju rizike. Prema njegovim rečima, neophodne su nezavisne institucije za procenu, uz podršku vlada, koje bi imale potpuni pristup modelima i mogle da ih testiraju.
On je takođe pozvao vlade da zakonski obavežu tehnološke kompanije da znatno veći deo svojih računarskih kapaciteta posvete bezbednosti veštačke inteligencije. Hinton podržava stroge zakone koji bi omogućili da programeri snose odgovornost ukoliko njihovi modeli izazovu štetu.
Hitno je potrebno uspostaviti i globalni okvir za obavezno testiranje najnaprednijih modela, kao i zajedničke međudržavne standarde. Hinton poziva suparničke supersile, poput SAD i Kine, da pregovaraju o sporazumima o bezbednosti veštačke inteligencije.
Pored toga, međunarodni sporazumi kojima bi se u potpunosti zabranilo autonomno smrtonosno oružje pokretano veštačkom inteligencijom od ključnog su značaja, i to pre nego što globalna trka u naoružanju učini takvo oružje nemogućim za kontrolu.
