Tehnologija bi mogla da postane inteligentnija od ljudi i da na kraju preuzme vlast, kaže poznati naučnik Joshua Bengio
Bengio upozorava da bi brzi razvoj veštačke inteligencije (AI) mogao da predstavlja ozbiljne rizike za čovečanstvo jer je postaje sve teže kontrolisati.
RT prenosi: Profesor na Univerzitetu u Montrealu i šef Montrealskog instituta za algoritme učenja, Bengio je u četvrtak za CNBC rekao da bi mašine uskoro mogle imati većinu kognitivnih sposobnosti ljudi.
Naučnik je mislio na veštačku opštu inteligenciju (AGI), vrstu AI tehnologije koja ima za cilj da izjednači ili postane bolja od ljudskog intelekta. „Inteligencija daje moć. Dakle, ko će kontrolisati tu moć?“ rekao je Bengio.
„Ako stvorimo entitete koji su pametniji od nas i imaju svoje ciljeve, šta to znači za čovečanstvo? Da li smo u opasnosti?“ upitao je.
Informatičar je naveo uobičajeni strah da bi AI mašine koje se trenutno obučavaju „dovele do sistema koji se okreću protiv ljudi“.
LUDILO! Trudo kaže da je borba protiv „klimatskih promena“ važnija od hrane za decu https://t.co/FcQBXa1WAZ
— Nulta Tačka (@NultaTackaSrb) November 21, 2024
On je istakao da ograničen broj organizacija i vlada može sebi priuštiti izgradnju moćnih i skupih AI mašina. To bi dovelo do koncentracije ekonomske, političke i vojne moći, što bi na kraju ugrozilo geopolitičku stabilnost širom sveta, upozorio je on.
„Postoje ljudi koji bi možda želeli da zloupotrebe tu moć, a postoje ljudi koji bi mogli biti srećni da vide čovečanstvo zamenjeno mašinama“, rekao je on, pozivajući na strožiju regulativu.
Prema naučniku, kompanije koje razvijaju veštačku inteligenciju i međusobno se takmiče za globalnu tehnološku dominaciju vode „trku opasnosti“ i treba da budu odgovorne za svoje postupke.
Bengio je najpoznatiji po svom pionirskom radu u „dubokom učenju“, što mu je donelo nagradu za 2018. Tjuringova nagrada, poznata kao „Nobelova nagrada za računarstvo“, sa naučnicima Džefrijem Hintonom i Janom Lekunom. 2019. godine dobio je nagradu Killam, a 2022. postao je kompjuterski naučnik sa najvećim uticajem na svetu mereno h-indeksom.
Poslednjih godina, ličnosti visokog profila u tehnološkoj industriji izazivaju zabrinutost zbog potencijalnih opasnosti koje predstavlja neregulisano usvajanje AI tehnologije.
Hinton, koji se smatra pionirom veštačke inteligencije, upozorio je da bi svet mogao da se suoči sa velikim katastrofama pre nego što upotreba AI oružja bude regulisana na odgovarajući način.
Nulta Tačka/RT
