Generalni sekretar Ujedinjenih nacija Antonio Gutereš pozvao je u ponedeljak na uspostavljanje globalnog sistema upravljanja veštačkom inteligencijom, upozorivši da bi se budućnost čovečanstva mogla „prepustiti algoritmima bez plana i bez saglasnosti“.
Govoreći na prvom Globalnom dijalogu o upravljanju veštačkom inteligencijom u Ženevi, koji okuplja vlade, tehnološke kompanije, akademsku zajednicu i civilni sektor, Gutereš je rekao da AI napreduje „nekontrolisanom brzinom“.
„Sprovodi se eksperiment nad našim društvima, bez plana i bez saglasnosti. To nije održivo“, upozorio je.
On je istakao da veštačka inteligencija već menja svet.
„Pitanje je da li ćemo tu transformaciju oblikovati zajedno ili će ona oblikovati nas.“
Gutereš je upozorio da AI sistemi više nisu samo alati koji čekaju instrukcije.
„Oni pišu kod, deluju na internetu i donose odluke uz sve manji ljudski nadzor. Naše institucije su stvorene da upravljaju mašinama koje izvršavaju komande. Nisu spremne za mašine koje odlučuju.“
On je izrazio zabrinutost zbog toga što veštačka inteligencija dodatno otežava razlikovanje istine i laži, kao i zbog sve veće tendencije da se ključni zadaci prepuštaju algoritmima bez provere.
Takozvani „vibe-coding“(AI generisanje koda), odnosno korišćenje AI da se mašini kaže šta da uradi umesto klasičnog programiranja, može doneti velike koristi, priznao je.
„Ali ne možemo ‘vajb-kodirati’ istinu. Ne možemo ‘vajb-kodirati’ budućnost čovečanstva.“
Veliki rizici
Gutereš je upozorio i na koncentraciju moći u rukama malog broja kompanija i država koje razvijaju veštačku inteligenciju.
Većina zemalja, kako je rekao, nije imala nikakav uticaj na odluke koje će oblikovati njihovu budućnost.
Pred državama je, prema njegovim rečima, jasan izbor: „upravljanje po planu ili lutanje po inerciji“.
On je naglasio ogroman potencijal AI tehnologija – od ubrzanja razvoja, preko unapređenja zdravstvene zaštite, do šireg pristupa obrazovanju.
Međutim, insistirao je da razvoj mora biti vođen jasnim prioritetima, uključujući bezbednost i poštovanje ljudskih prava.
Pozvao je na zajedničke metode procene rizika i globalne standarde, posebno kada je reč o zaštiti dece koja koriste AI sisteme.
„Ne puštamo lekove na tržište dok se ne dokaže da su bezbedni. Testiramo svaku igračku. A ipak, veštačka inteligencija je već ušla u živote naše dece – u njihovo učenje, prijateljstva i najprivatnija pitanja – pre nego što smo uopšte postavili pitanje šta će im doneti.“
Gutereš je pozvao na usvajanje Pledge-a za bezbednost dece u AI sistemima, kojim bi kompanije morale da dokažu da su sistemi dostupni deci bezbedni i da nemaju toleranciju za seksualno zlostavljanje.
Takođe je naglasio da sistemi moraju automatski povezivati decu u stanju emocionalne ugroženosti sa ljudskom podrškom.
„Nijedno dete ne sme biti zamorče za neregulisanu veštačku inteligenciju“, rekao je.
„Roboti ubice“
Gutereš je upozorio i na rizik od produbljivanja digitalnog jaza između razvijenih i zemalja u razvoju, koji bi mogao da preraste u „AI podelu sveta“.
Najavio je da će Ujedinjene nacije predložiti formiranje globalnog fonda za veštačku inteligenciju, namenjenog razvoju znanja, podataka i pristupa računarstvu širom sveta.
Kao još jedan prioritet naveo je smanjenje ekološkog otiska AI industrije i pozvao kompanije da objave svoj uticaj na životnu sredinu i pređu na obnovljive izvore energije do 2030. godine.
Najveću zabrinutost, kako je rekao, izaziva upotreba veštačke inteligencije u vojne svrhe, posebno autonomnih oružanih sistema.
„Nazovimo ih pravim imenom: roboti ubice“, rekao je.
Reč je o sistemima koji mogu sami da biraju mete i oduzimaju život bez ljudske kontrole i procene.
„To je moralno neprihvatljivo i mora biti zabranjeno međunarodnim pravom.“
Gutereš je upozorio da je vreme za uspostavljanje jasnih pravila sve kraće.
„Možda smo poslednja generacija koja još može da odredi uslove suživota ljudi i mašina. Vrata su još otvorena, ali neće dugo ostati otvorena.“
Nulta Tačka/InsiderPaper
