Bivši izvršni direktor Gugla: Autonomna veštačka inteligencija predstavlja egzistencijalnu pretnju
Bivši izvršni direktor Gugla Erik Šmit rekao je da dolazi autonomna veštačka inteligencija (AI) i da bi mogla da predstavlja egzistencijalnu pretnju čovečanstvu.
„Uskoro ćemo moći da imamo kompjutere koji rade sami, odlučujući šta žele da rade“, rekao je Šmit, koji je dugo uzbunjivao o opasnostima i prednostima koje veštačka inteligencija predstavlja za čovečanstvo, rekao je tokom pojavljivanja u emisiji ABC-a „Ove nedelje“.
„To je opasna stvar: kada sistem može sam da se poboljša, moramo ozbiljno da razmislimo o tome kako da ga isključimo“, rekao je Šmit.
Šmit je daleko od toga da je prvi tehnički lider koji je izneo ovu zabrinutost.
Uspon široko korišćenih AI proizvoda kao što je ChatGPT bio je bez presedana u poslednje dve godine, uz velika poboljšanja modela zasnovanog na jeziku. Drugi modeli veštačke inteligencije postali su sve veštiji u stvaranju vizuelne umetnosti, fotografija i video zapisa koji se u mnogim slučajevima gotovo ne razlikuju od stvarnosti.
Za neke, tehnologija podseća na seriju „Terminator“, koja se usredsređuje na distopijsku budućnost u kojoj AI preuzima planetu, što dovodi do apokaliptičnih rezultata.
Uprkos svim strahovima koje su izazvale ChatGPT i slične platforme, usluge veštačke inteligencije koje su danas dostupne i dalje spadaju u kategoriju koju bi stručnjaci smatrali „glupom veštačkom inteligencijom“. Ova veštačka inteligencija je obučena na ogromnom skupu podataka, ali im nedostaje svest, osećaj ili sposobnost da se ponašaju autonomno.
Šmit i drugi stručnjaci nisu posebno zabrinuti zbog ovih sistema.
Umesto toga, oni su zabrinuti za napredniju veštačku inteligenciju, poznatu u svetu tehnologije kao „veštačka opšta inteligencija“ (AGI), koja opisuje daleko složenije AI sisteme koji bi mogli da imaju neku vrstu svesti i, šire, mogli da razviju svesne motive nezavisne i potencijalno opasne ljudskim interesima.
Šmit je rekao da takvi sistemi još uvek ne postoje, i da se brzo krećemo ka novom tipu veštačke inteligencije: onom kojem nedostaje osećaj koji bi definisao AGI, i koji je još uvek nije sposoban da deluje autonomno u oblastima kao što su istraživanje i oružje.
„Radim ovo 50 godina. Nikada nisam video inovacije u ovom obimu“, rekao je Šmit o brzom razvoju složenosti veštačke inteligencije.
Nemačka policija vršila racije po kućama i hapsila ljude optužene za „vređanje” političara na internetu https://t.co/Ownoo0Qtha
— Nulta Tačka (@NultaTackaSrb) November 26, 2024
Šmit je rekao da bi razvijenija veštačka inteligencija imala mnogo koristi za čovečanstvo — i da bi mogla imati isto toliko „loših stvari poput oružja i sajber napada“.
Izazov je, rekao je Šmit, višestruk.
Na suštinskom nivou, ponovio je zajedničko mišljenje među tehnološkim liderima: ako su autonomni sistemi slični AGI neizbežni, to će zahtevati ogromnu saradnju između korporativnih interesa i vlada na međunarodnom nivou kako bi se izbegle potencijalno razorne posledice.
To je lakše reći nego učiniti. AI pruža američkim konkurentima kao što su Kina, Rusija i Iran potencijalnu prednost u odnosu na Sjedinjene Države koju bi inače bilo teško postići.
I unutar tehnološke industrije, trenutno postoji ogromna konkurencija među velikim korporacijama – Google-om, Microsoft-om i drugima – da nadmaše rivale, što je situacija koja podiže inherentne rizike neodgovarajućih bezbednosnih protokola za suočavanje sa lažnom veštačkom inteligencijom, rekao je Šmit.
„Konkurencija je tako žestoka, postoji zabrinutost da će jedna od kompanija odlučiti da izostavi sigurnosne korake, a zatim nekako pustiti nešto što zaista nanosi štetu“, rekao je Šmit. Takve štete bi postale očigledne tek nakon toga, rekao je on.
Izazov je veći na međunarodnoj sceni, gde će neprijateljske nacije verovatno videti novu tehnologiju kao revolucionarnu za svoje napore da ospore globalnu hegemoniju SAD i prošire sopstveni uticaj.
„Kinezi su pametni i razumeju moć nove vrste inteligencije za njihovu industrijsku moć, vojnu moć i njihov sistem nadzora“, rekao je Šmit.
To je kvaka 22 za američke lidere na terenu, koji su primorani da balansiraju između egzistencijalne brige za čovečanstvo i potencijala da Sjedinjene Države zaostanu za svojim protivnicima.
U najgorem slučaju, takvi sistemi bi mogli da se koriste za projektovanje opasnog biološkog i nuklearnog oružja, posebno od strane terorističkih grupa kao što je ISIS.
Lideri industrije zahtevaju regulativu
Regulacija terena je i dalje nedovoljna, rekao je Šmit. Ali on očekuje da će se fokus vlada na poboljšanju zaštitnih mera oko tehnologije dramatično ubrzati u narednim godinama.
Na pitanje voditelja Džordža Stefanopulosa da li vlade čine dovoljno da to regulišu, Šmit je odgovorio: „Ne još, ali hoće, jer će morati.
Uprkos početnom interesovanju za ovu oblast — saslušanjima, zakonskim predlozima i drugim inicijativama — koje se pojavljuju tokom aktuelnog 118. Kongresa, izgleda da je ova sednica na putu da se završi bez ikakvog većeg zakonodavstva u vezi sa veštačkom inteligencijom.
Novoizabrani predsednik Donald Tramp je, sa svoje strane, upozorio na ogromne rizike koje predstavlja veštačka inteligencija, rekavši tokom pojavljivanja u podcastu Logana Pola „Impulsive“ da je to „zaista moćna stvar“.
Takođe je govorio o potrebi održavanja konkurentnosti sa protivnicima.
„To sa sobom nosi poteškoće, ali moramo da budemo na čelu“, rekao je Tramp. „To će se desiti, a ako će se desiti, moramo da preuzmemo vođstvo nad Kinom. Kina je primarna pretnja.”
Šmit preuzima i prednosti i izazove tehnologije u skladu sa reakcijama drugih industrija.
U junu 2024, zaposleni u OpenAI-u i Google-u potpisali su pismo u kojem upozoravaju na „ozbiljne rizike“ koje predstavlja AI i pozivaju na veći nadzor vlade nad ovim poljem.
Ilon Mask je izneo slična upozorenja, rekavši da Gugl nastoji da stvori „digitalnog Boga“ kroz svoj program DeepMind AI.
U avgustu su se ove zabrinutosti pojačale nakon što je otkriveno da je veštačka inteligencija preduzela autonomnu akciju kako bi izbegla gašenje – što je izazvalo strah da čovečanstvo već gubi kontrolu nad svojim proizvodom jer vlade ostaju neaktivne.
