Međunarodni izveštaj upozorava na gubitak kontrole nad veštačkom inteligencijom
Trka tehnoloških giganata u razvoju sve snažnije veštačke inteligencije (AI) mogla bi da ima „štetne” efekte, upozorio je u četvrtak vodeći istraživač Joshua Bengio dok su naučnici obeležavali početak globalnog samita o AI u Parizu
Informatičar i dobitnik prestižne Turingove nagrade za 2018. godinu predstavljao je prvi u istoriji Međunarodni izveštaj o bezbednosti veštačke inteligencije, sastavljen pod njegovim nadzorom, na pariskom univerzitetu ENS.
Bengio je ukazao na rizike veštačke inteligencije koji su već opštepriznati, kao što je njena upotreba za kreiranje lažnog ili obmanjujućeg sadržaja na internetu.
Međutim, profesor Univerziteta u Montrealu je dodao da se „stalno pojavljuje dokaz za dodatne rizike, poput bioloških napada ili sajber napada“.
Stigao im je kraj, više nemaju gde da se sakriju | Nikola Jović | Mario Zna, 314 Uživo
Dugoročno, on se plaši mogućeg „gubljenja kontrole“ od strane ljudi nad sistemima veštačke inteligencije, potencijalno motivisanog „njihovom sopstvenom voljom da prežive“.
Pojava jeftinog kineskog AI modela DeepSeek prošlog meseca, sa visokim performansama „ubrzala je trku, što nije dobro za bezbednost“, dodao je Bengio.
Pozvao je na strožiju međunarodnu regulativu i opsežnije istraživanje o bezbednosti veštačke inteligencije, koja za sada čini „mali deo“ masivnih investicija koje se ulažu u ovaj sektor.
NOVO: Pored izlaska iz Svetske Zdravstvene Organizacije predsednik Argentine Havijer Milei potpisao je izvršnu naredbu kroz koju se zabranjuju operacije promene pola kod maloletnika 🇦🇷💥🏳️⚧️
👉 Opširnije Pročitajte na Telegram kanalu Nulta Tačka https://t.co/n4woLxFoUI pic.twitter.com/g2dC29onER
— Nulta Tačka (@NultaTackaSrb) February 6, 2025
„Bez intervencije vlade, ne znam kako ćemo ovo prebroditi“, rekao je Bengio.
I dalje vodeća svetska AI nacija za sada, Sjedinjene Države su odustale od pokušaja bivšeg predsednika Džoa Bajdena da nametne neka pravila razvoju AI posle inauguracije Donalda Trampa.
Kada je OpenAI-jev ChatGPT izbio na javnu scenu pre dve godine, „Osetio sam hitnost da razmišljam o ovom pitanju bezbednosti“, rekao je Bengio dok je predstavljao izveštaj – dizajniran da odgovara sada poznatim dokumentima Međuvladinog panela za klimatske promene (IPCC).
„Ono što me najviše plaši je mogućnost da bi čovečanstvo moglo nestati u roku od 10 godina. To je zastrašujuće. Ne znam zašto više ljudi to ne shvata“, rekao je on.
Oko 100 eksperata iz 30 zemalja, Ujedinjenih nacija, Evropske unije i OECD-a dalo je doprinos izveštaju koji je predvodio Bengio, objavljenom krajem januara.
Rad na ovome je započet na prethodnom samitu o bezbednosti veštačke inteligencije koji se odžavao u novembru u Britaniji.
