Snaći će nas katastrofa! Kreatori veštačke inteligencije pozivaju na globalnu saradnju kako bi se sprečilo da KOMPJUTERI UBICE unište čovečanstvo
Grupa uticajnih naučnika u oblasti veštačke inteligencije iz celog sveta poziva na uspostavljanje međunarodnog autoriteta koji bi nadgledao razvoj veštačke inteligencije i sprečio potencijalne „katastrofalne ishode“ kako tehnologija napreduje brzim tempom.
Njujork tajms izveštava da su se vodeći naučnici veštačke inteligencije iz Sjedinjenih Država, Kine i drugih nacija okupili da izdaju oštro upozorenje o potencijalnim rizicima koje predstavlja brzo napredujuća tehnologija veštačke inteligencije.
Grupa, koja uključuje pionire i uticajne ličnosti u ovoj oblasti, poziva zemlje da stvore globalni sistem nadzora kako bi ublažili ove rizike i osigurali bezbedan razvoj veštačke inteligencije.
Naučnici, koji su pomogli u postavljanju temelja za modernu veštačku inteligenciju, izrazili su zabrinutost u saopštenju objavljenom u ponedeljak. Upozorili su da bi tehnologija veštačke inteligencije mogla, u roku od nekoliko godina, da nadmaši mogućnosti svojih kreatora i da bi „gubitak ljudske kontrole ili zlonamerna upotreba ovih sistema veštačke inteligencije mogli da dovedu do katastrofalnih ishoda za celo čovečanstvo“.
UŽIVO! VEČERAS OD 20h! OSTALO JE SAMO JOŠ NEKOLIKO DANA! SPREMITE SE NA SVE
Poziv na akciju dolazi usred brze komercijalizacije veštačke inteligencije, koja je videla da se tehnologija pomerila sa ruba nauke na glavne aplikacije u pametnim telefonima, automobilima i učionicama. Vlade širom sveta se bore sa izazovom regulisanja i iskorištavanja ove moćne tehnologije.
Gillian Hadfield, pravni naučnik i profesor računarstva i vlade na Univerzitetu Johns Hopkins, istakla je nedostatak plana za kontrolu AI sistema ako bi danas razvili opasne sposobnosti. „Ako smo imali neku vrstu katastrofe za šest meseci od sada, ako otkrijemo da postoje modeli koji počinju da se samostalno usavršavaju, koga ćete pozvati?“ Dr Hedfild je upitao.
Da bi se pozabavila ovim kritičnim pitanjem, grupa naučnika je predložila uspostavljanje bezbednosnih organa za veštačku inteligenciju u svakoj zemlji. Ove vlasti bi bile odgovorne da registruju sisteme veštačke inteligencije unutar svojih granica i da rade zajedno na dogovoru oko skupa crvenih linija i znakova upozorenja, kao što je sposobnost AI sistema da se kopira ili namerno obmane svoje kreatore. Saradnju bi koordinisalo međunarodno telo.
Izjavu je potpisao impresivan spisak svetila veštačke inteligencije, uključujući Joshuu Bengia, Endrua Jaoa i Džefrija Hintona, sve dobitnike Tjuringove nagrade, ekvivalentne Nobelovoj nagradi za računarstvo. Grupa je takođe uključivala naučnike iz nekoliko vodećih institucija za istraživanje veštačke inteligencije u Kini, od kojih neke finansira država i savetuju vladu.
Nulta Tačka je ranije izveštavala da je Džefri Hinton, poznat kao „Kum veštačke inteligencije“, upozorio da vreme ističe da se pravilno reguliše veštačka inteligencija.
Hinton ne beži od rasvetljavanja tamnijih aspekata i neizvesnosti koje okružuju veštačku inteligenciju. On iskreno kaže: „Ulazimo u period velike neizvesnosti kada se bavimo stvarima koje nikada ranije nismo radili. I obično kada se prvi put bavite nečim potpuno novim, pogrešno shvatite. I ne možemo sebi priuštiti da pogrešimo sa ovim stvarima.”
Jedna od najhitnijih briga koje Hinton postavlja odnosi se na autonomiju AI sistema, posebno na njihovu potencijalnu sposobnost da pišu i modifikuju sopstveni kompjuterski kod. Ovo je, kaže on, oblast u kojoj kontrola može da izmakne iz ljudskih ruku, a posledice takvog scenarija nisu u potpunosti predvidive. Štaviše, kako sistemi veštačke inteligencije nastavljaju da apsorbuju informacije iz različitih izvora, oni postaju sve veštiji u manipulisanju ljudskim ponašanjem i odlukama. Hinton unapred upozorava: „Mislim da će za pet godina moći da rasuđuje bolje od nas.
Sastanci, koje je organizovala neprofitna istraživačka grupa Far.AI, održani su u Veneciji i poslužili su kao retko mesto za angažovanje kineskih i zapadnih naučnika usred napete tehnološke konkurencije između Sjedinjenih Država i Kine.
Uprkos izazovima koje postavlja nepoverenje između dve nacije, naučnici su istakli važnost njihovih razgovora i potrebu za saradnjom. Dr Bengio je povukao paralele sa razgovorima između američkih i sovjetskih naučnika tokom Hladnog rata koji su pomogli da se uspostavi koordinacija da se spreči nuklearna katastrofa.
