Imamo još jako malo vremena – Kum Veštačke Inteligencije upozorava da ističe vreme za pravilnu kontrolu „AI“
Džošua Bengio, jedan od „kumova veštačke inteligencije“, zabrinut je da regulatorima možda ponestaje vremena da pravilno upravljaju oblastima veštačke inteligencije koje brzo napreduju.
Bloomberg izveštava da je Joshua Bengio, pionirski istraživač u oblasti dubokog učenja i jedan od najuticajnijih akademika u oblasti veštačke inteligencije, upozorio na hitnu potrebu za regulacijom veštačke inteligencije. U nedavnom intervjuu, Bengio je izrazio svoju rastuću zabrinutost da kreatori politika možda neće imati dovoljno vremena da implementiraju odgovarajuće mere zaštite jer tehnologija veštačke inteligencije nastavlja da napreduje bez presedana.
Bengio, čiji je revolucionarni rad postavio osnovu za današnje AI modele, priznao je da su njegove pretpostavke o brzini razvoja veštačke inteligencije bile narušene nakon objavljivanja OpenAI-ovog ChatGPT-a krajem 2022. „Potpuno sam se predomislio nakon što smo završili sa mašinama koje mogu da nam odgovore,“ rekao je on, priznajući da je nekada verovao da smo „decenijama udaljeni“ od razvoja veštačke inteligencije sposobne za performanse na nivou čoveka.
U svetlu ove spoznaje, Bengio se sve više fokusira na zagovaranje regulacije veštačke inteligencije. Zajedno sa kolegom pionirom veštačke inteligencije, Geoffom Hintonom, podržao je kontroverzni zakon u Kaliforniji koji bi kompanije smatrao odgovornim za katastrofalne štete uzrokovane njihovim AI modelima ako ne preduzmu odgovarajuće mere predostrožnosti. S obzirom na centralnu ulogu Kalifornije u tehnološkom ekosistemu i odsustvo saveznog zakonodavstva u SAD, ovaj zakon bi mogao da postavi presedan za to kako druge jurisdikcije regulišu veštačku inteligenciju.
Dok se mnoge tehnološke kompanije, rizični kapitalisti i AI akademici protive kalifornijskom zakonu, tvrdeći da bi on ugušio inovacije i naštetio konkurentnosti SAD u ovoj oblasti, Bengio veruje da na razgovor o regulaciji veštačke inteligencije mogu uticati oni koji žele da profitiraju od tehnologije.
Bengio je naglasio važnost brze akcije, navodeći da „politika zahteva mnogo vremena“ i da možda nećemo imati deceniju da „ispravimo ovo“. On je naglasio potrebu za ne samo domaćom regulativom, već i međunarodnim ugovorima kako bi se rešila globalna priroda ovog pitanja.
Kada je upitan o potencijalnim rizicima AI, Bengio je ostao agnostičan, priznajući da postoje ubedljivi argumenti na obe strane. Međutim, ostao je pri stavu da je iz perspektive politike ključno zaštititi javnost od najgorih scenarija, baš kao što to rade vlade u mnogim drugim oblastima.
Bengio je takođe istakao neke od najzabrinjavajućih primena veštačke inteligencije, kao što su sintetička dečja pornografija i potencijal da duboki falsifikati poremete demokratski proces. On je primetio nedavnu studiju iz Švajcarske koja je pokazala superiornu sposobnost GPT-4 da ubedi ljude da promene mišljenje u poređenju sa ljudima.
Uprkos ovim zabrinutostima, Bengio ostaje optimista u pogledu potencijalnih prednosti AI u oblastima kao što su biologija, medicina i otkrivanje lekova. On je naglasio da ove aplikacije uglavnom nisu opasne i da bi trebalo da budu značajno podržane i razvijane.