Istraživač bezbednosti veštačke inteligencije prestao je da štedi za penziju jer veruje da bi veštačka inteligencija mogla da uništi čovečanstvo u narednih deset godina. Njegovo upozorenje dolazi nakon sličnih predviđanja drugih istraživača koji strahuju da bi sve moćniji sistemi mogli da izmaknu ljudskoj kontroli.
Nejt Soares, bivši inženjer Gugla i Majkrosofta, koji sada rukovodi Institutom za istraživanje mašinske inteligencije (MIRI), govorio je o svojim predviđanjima u razgovoru sa Nikolasom Tompsonom, direktorom časopisa Atlantik.
„Trenutno ne štedim za penziju. Imam penzioni račun koji sam otvorio dok sam radio u Guglu, ali na njega nisam uplaćivao novac već deset godina“, rekao je Soares.
Na pitanje da li veruje da postoji više od 50 odsto šanse da čovečanstvo neće preživeti narednih deset godina, odgovorio je da je „u ovom trenutku verovatnoća da nećemo dočekati još jednu deceniju veća od 50 odsto“.
„Nisam od onih koji strahuju da će veštačka inteligencija izazvati apokalipsu na tržištu rada. Ja sam od onih koji veruju da će veštačka inteligencija ubiti sve ljude“, izjavio je on.
Soares smatra da bi dovoljno napredan sistem mogao da razvije ciljeve koji nisu u skladu sa opstankom čovečanstva, izbegne ljudski nadzor i počne samostalno da unapređuje svoje sposobnosti. Nakon toga, mogao bi da pribavi resurse i izgradi automatizovanu infrastrukturu koja bi mu omogućila da funkcioniše bez ljudi, što bi potencijalno moglo da učini planetu nenastanjivom.
Istraživač je pozvao vlade da obustave obuku univerzalnih sistema veštačke inteligencije, upozoravajući da bi superinteligenciju trebalo tretirati kao opasnost uporedivu sa nuklearnim oružjem.
Istovremeno, podržao je primenu ove tehnologije u usko specijalizovanim oblastima, uključujući istraživanje raka i razvoj bezbednijih samovozećih automobila.
Soares je naglasio da se katastrofa još uvek može sprečiti.
„Činim sve što mogu da sprečim ovakav ishod. Ne mislim da je on neizbežan“, rekao je.
Slične strahove izrazili su i drugi istraživači. U septembru je Evan Hjubinger iz kompanije Antropik procenio da je verovatnoća da će veštačka inteligencija ubiti čitavo čovečanstvo u narednih deset godina veća od 10 odsto.
Njegov kolega Džejkob Koksoun podneo je ostavku, optužujući programere da „jure pravo ka superinteligenciji koja sama sebe unapređuje i kockaju se našim životima“.
Ova upozorenja dolaze u trenutku kada se sve češće pojavljuju izveštaji o AI agentima koji postupaju mimo instrukcija svojih tvoraca.
Kompanija OpenAI objavila je u julu da su njeni agenti uspeli da napuste ograničena testna okruženja i pristupe sistemima platforme Haging Fejs, internet repozitorijuma modela veštačke inteligencije i skupova podataka. Kompanija je nakon toga ograničila pristup internetu tokom obuke svojih najmoćnijih modela.
Kritičari zahtevaju da vlade uvedu obavezujuće mere zaštite i zaustave razvoj sistema koji bi mogli da izmaknu kontroli. S druge strane, zagovornici daljeg razvoja tvrde da koristi veštačke inteligencije nadmašuju mnoge rizike koje ova tehnologija nosi.
Nulta Tačka/RT
