AI MOŽE IZAZVATI „KATASTROFU“ ZA LJUDSKI ROD: UN UPOZORAVA DA VEŠTAČKA INTELIGENCIJA MOŽE PREDSTAVLJATI PRETNJU LJUDSKIM PRAVIMA
Ujedinjene nacije(UN) upozoravaju da veštačka inteligencija (AI) može predstavljati „negativnu, čak i katastrofalnu“ pretnju ljudskim pravima i pozvale da se zabrane aplikacije veštačke inteligencije koje se ne koriste u skladu sa ljudskim pravima.
UKOLIKO ŽELITE DA DOĐETE DO SLOBODNIH, PROVERENIH I ZABRANJENIH INFORMACIJA, PRATITE REDAKCIJU NULTE TAČKE NA TELEGRAMU – ,,Nulta Tačka – Telegram kanal”
Šefica UN-a za ljudska prava Michelle Bachelet pozvala je 15. septembra države članice da privremeno zabrane prodaju i upotrebu veštačke inteligencije sve dok se ne reše potencijalni rizici koje ona nosi i uspostave odgovarajuće mere zaštite kako se tehnologija ne bi zloupotrebila.
„Ne možemo sebi priuštiti da nastavimo sa sustizanjem AI dopuštajući njegovu upotrebu sa ograničenim ili nikakvim granicama ili nadzorom i rešavanjem gotovo neizbežnih posledica po ljudska prava nakon toga“, rekla je Bachelet u saopštenju.
“Moć veštačke inteligencije da služi ljudima je neosporna, ali isto tako i sposobnost veštačke inteligencije da povećava kršenja ljudskih prava u ogromnim razmerama, gotovo bez vidljivosti. Sada je potrebno delovati kako bismo zaštitili ljudska prava od korišćenja veštačke inteligencije, za dobrobit svih nas ”, dodao je šef za ljudska prava.
Njene primedbe usledile su ubrzo nakon što je njena kancelarija objavila izveštaj koji analizira kako veštačka inteligencija utiče na pravo ljudi na privatnost, kao i niz drugih prava koja se tiču zdravlja, obrazovanja, slobode kretanja i slobode izražavanja, između ostalih.
Dokument uključuje procenu profilisanja, automatskog donošenja odluka i drugih tehnologija mašinskog učenja.
Iako se u izveštaju napominje da se veštačka inteligencija može koristiti za dobru upotrebu i da može pomoći „društvima u savladavanju nekih velikih izazova našeg vremena“, njegova upotreba kao alat za predviđanje i profilisanje može drastično uticati na „prava na privatnost, na pravično suđenje, na slobodu od proizvoljnog hapšenja i pritvora i pravo na život. ”
Prema izveštaju, brojne države i preduzeća često ne sprovode dužnu proveru dok žure sa uključivanjem AI aplikacija, a u nekim slučajevima to je rezultiralo opasnim greškama, pri čemu su neki ljudi navodno bili maltretirani, pa čak i uhapšeni zbog pogrešnog softvera za prepoznavanje lica.
U međuvremenu, prepoznavanje lica ima potencijal da omogući neograničeno praćenje pojedinaca, što može dovesti do niza pitanja koja se odnose na diskriminaciju i zaštitu podataka.
Budući da se mnogi sistemi veštačke inteligencije oslanjaju na velike skupove podataka, dalja pitanja oko toga kako se ti podaci pothranjuju dugoročno takođe predstavljaju rizik, a postoji i mogućnost da se takvi podaci iskoriste u budućnosti, što bi moglo predstavljati značajne rizike po nacionalnu sigurnost.
„Složenost okruženja podataka, algoritmi i modeli koji su u osnovi razvoja i rada sistema veštačke inteligencije, kao i namerna tajna državnih i privatnih aktera faktori su koji smanjuju razumne načine za razumevanje javnosti efekata sistema veštačke inteligencije na ljudska prava i društvo “, Navodi se u izveštaju UN-a.
Tim Engelhardt, službenik za ljudska prava u Kancelariji za vladavinu prava i demokratiju, upozorio je da je situacija „užasna“ i da se sa godinama samo pogoršala jer neke zemlje i preduzeća usvajaju aplikacije veštačke inteligencije, a da ne istražuju višestruke potencijalne rizike povezane sa ovom tehnologijom.
Iako pozdravlja sporazum EU-a o „jačanju pravila o kontroli“, napomenuo je da rešenje za bezbroj pitanja koja se tiču veštačke inteligencije neće doći sledeće godine i da prve korake za rešavanje ovog pitanja treba preduzeti odmah ili „će mnogi ljudi u svetu platiti visoku cenu.“
„Što je veći rizik za ljudska prava, to bi zakonski zahtevi za upotrebu tehnologije veštačke inteligencije trebali biti strožiji“, dodala je Bachelet.
Izveštaj i komentari Bachelet-ove dolaze nakon julskih otkrića da je špijunski softver, poznat kao Pegasus, korišćen za hakerske napade pametnih telefona hiljada ljudi širom sveta, uključujući novinare, vladine zvaničnike i aktiviste za ljudska prava.
Telefon francuskog ministra finansija Bruna Le Maire bio je samo jedan od mnogih koji se istražuju usred hakerskog napada putem špijunskog softvera, koji je razvila izraelska kompanija NSO Group.
NSO Group izdala je saopštenje za više prodajnih mesta u kojem se ne bave navodima, ali je rečeno da će kompanija „nastaviti pružati obaveštajnim agencijama i agencijama za sprovođenje zakona širom sveta tehnologiju koja spašava živote u borbi protiv terorizma i kriminala“.
Govoreći na saslušanju Veća Evrope o implikacijama koje proizlaze iz kontraverznog špijunskog softvera Pegasus-a, Bachelet je rekla da ova otkrića nisu iznenadila, sa obzirom na „dosad neviđen nivo nadzora državnih i privatnih aktera širom sveta“.
UKOLIKO ŽELITE DA DOĐETE DO SLOBODNIH, PROVERENIH I ZABRANJENIH INFORMACIJA, PRATITE REDAKCIJU NULTE TAČKE NA TELEGRAMU – ,,Nulta Tačka – Telegram kanal”
Nulta Tačka/ZeroHedge
