Više od 3 miliona privatnih razgovora moglo bi biti predato VEŠTAČKOJ INTELIGENCIJI Evropske komisije
Dokument koji je procurio iz Evropske komisije (EK), izvršnog ogranka Evropske unije (EU), otkrio je da se očekuje da će veštačka inteligencija (AI) koju planiraju da koriste za masovno nadgledanje privatnih ćaskanja radi „uređivanja“ sadržaja verovatno lažno označavati sadržaj i prosleđivati ga istražiteljima EU 10% vremena.
Ovaj predloženi masovni nadzor onlajn ćaskanja nazvan je „Kontrola ćaskanja“ i EK ga forsira kao način za borbu protiv sadržaja gde se seksualno zlostavljaju deca (CSAM). Međutim, u dokumentu koji je procurio do kojeg je došao i koga je objavio Netzpolitik, EK je priznala da bi njene predložene mere nadzora rezultirale velikom količinom lažnih prijava.
„Tačnost tehnologije detekcije seksualnog zlostavljanja je oko 90%“, priznala je EK u dokumentu. „To znači da se 9 od 10 sadržaja koje sistem prepoznaje nadgleda”.
Dokument koji je procurio sadrži odgovore EK na niz pitanja nemačke vlade o primeni kontrole ćaskanja.
Prema trenutnim planovima kontrole ćaskanja, AI će automatski skenirati privatne razgovore, poruke i e-poruke u potrazi za sumnjivim sadržajem. Ako AI otkrije sumnjiv sadržaj, on će biti označen i poslat istražiteljima u planirani centar EU. Ovi istražitelji će pregledati sadržaj, identifikovati lažne rezultate i proslediti nezakonit sadržaj agenciji EU za sprovođenje zakona Evropolu i drugim relevantnim organima za sprovođenje zakona.
Iako agencije za sprovođenje zakona nemaju direktan pristup sadržaju koji je označen i poslat u ovaj planirani centar EU, dokument koji je procurio opisuje Europol kao „jedan od najvažnijih partnera“ za centar i dodaje da je „bliska saradnja od suštinskog značaja“. Pored toga, u dokumentu se navodi da je „važno da Europol dobije sve izveštaje“ iz centra.
Nemački poslanik u Evropskom parlamentu (EP) Patrik Brejer upozorio je da je na osnovu ove stope greške od 10 odsto verovatno da će više od tri miliona razgovora i fotografija biti pogrešno otkriveno istražiteljima EU svake godine. On je dodao da je očekivana stopa grešaka EK takođe verovatno preniska.
„Na jezicima koji nisu engleski, biće mnogo više grešaka. Prema švajcarskoj federalnoj policiji, do 86 odsto mašina koje prijavi NCMEC [Nacionalni centar za nestalu i eksploatisanu decu] je krivično irelevantno“, rekao je Brejer.
U praksi, to bi značilo da bi milioni privatnih poruka i ćaskanja sa legalnim sadržajem, kao što su nečije fotografije njihove dece ili unuka na plaži ili njihova privatna ćaskanja sa prijateljima i porodicom, bili poslati i pregledani od strane istražitelja EU jer su označeni od strane AI kontrole ćaskanja.
Ne samo da je EK priznala da bi njen predloženi sistem nadzora imao stopu greške od 10 odsto, već je takođe primetila da šifrovanje spada u delokrug kontrole ćaskanja i da će kompanije morati da koriste tehnologiju kako bi bile u skladu sa njenim zahtevima. Čini se da je ovo referenca na tehnologiju skeniranja na strani klijenta koja u suštini razbija enkripciju u aplikacijama za ćaskanje skeniranjem sadržaja poruka pre nego što se primeni enkripcija.
EK je takođe saopštila nemačkoj vladi da je jedini način na koji kompanije mogu da spreče da njihovim uslugama bude naređeno da sprovode ove mere masovnog nadzora da nametnu starosne granice za korišćenje njihovih aplikacija ili spreče da nepoznati korisnici direktno kontaktiraju korisnike.
„Birokrate EU ozbiljno pozivaju da se 17-godišnjacima potpuno ukinu poruke od 18-godišnjaka ili da se liše bilo kakve privatnosti“, rekao je Brejer. „Ovo je pokroviteljsko ponašanje, to je kao da nismo dozvolili mlađim od 18 godina da izađu bez pratnje”.
Brejer je dodao: „Nečuveno je da se ukidanje digitalne privatnosti korespondencije sprovodi u tajnim pregovorima. Hitno moramo da preuzmemo odbranu digitalne privatnosti korespondencije u svoje ruke!“
“Zaustavi kontrolu ćaskanja”, inicijativa koja vodi kampanju protiv predloga EK za kontrolu ćaskanja, osudila je EK zbog davanja „izbegavajućih“ i „kontradiktornih“ odgovora o kontroli ćaskanja.
„Komisija otvoreno priznaje da u nekim slučajevima želi da zahteva zakone koji se ne mogu tehnički primeniti“, dodala je kontrola za zaustavljanje ćaskanja. „Čineći to, ne samo da se suprotstavlja osnovnim pravima, već i samoj stvarnosti. Ovo samo pojačava inicijativu da se tome stane na put.
