Nadzor i kontrola judi: Vlada Ujedinjenog Kraljevstva uvodi tehnologiju prepoznavanja lica širom zemlje
Ministarstvo unutrašnjih poslova podstiče policijske snage širom zemlje da koriste tehnologije za prepoznavanje lica za rutinsko sprovođenje zakona. Prodavci takođe prihvataju tehnologiju za praćenje svojih kupaca.
Sve se više čini da se Velika Britanija odvojila od Evropske unije, njenih pravila i propisa, samo da bi njena vlada odvela zemlju u progresivno autoritarnijem pravcu. Ovo je, naravno, generalizovani trend među naizgled „liberalnim demokratijama“ skoro svuda, uključujući zemlje članice EU, jer sve više usvajaju zamke i taktike autoritarnijih režima, kao što su ograničavanje slobode govora, ukidanje naloga ljudi na društvenim mrežama, ukidanje bankarskih računa i slabljenje vladavine zakona. Ali Velika Britanija je definitivno predvodnik ovog trenda. Primer za to je goli entuzijazam Ministarstva unutrašnjih poslova za tehnologije biometrijskog nadzora i kontrole.
Ove nedelje, na primer, The Guardian je otkrio da su ministar policije Kris Filip i druge visoke ličnosti Ministarstva unutrašnjih poslova održali sastanak iza zatvorenih vrata sa Sajmonom Gordonom, osnivačem Facewatch-a, vodeće maloprodajne bezbednosne kompanije za prepoznavanje lica. Glavni ishod sastanka bio je da će vlada lobirati kod Kancelarije komesara za informacije (ICO) o prednostima korišćenja tehnologija za prepoznavanje lica uživo (LFR) u maloprodajnim okruženjima. LFR uključuje povezivanje kamera za prepoznavanje lica na baze podataka koje sadrže fotografije ljudi. Slike sa kamera se zatim mogu prikazati u odnosu na te fotografije da bi se videlo da li se poklapaju.
Napor lobiranja je očigledno bio uspešan. Samo nekoliko nedelja nakon što je kontaktirao ICO, ICO je poslao pismo Facewatch-u potvrđujući da kompanija „ima legitimnu svrhu da koristi informacije ljudi za otkrivanje i prevenciju kriminala“ i da su njene usluge uglavnom u skladu sa zakonima Ujedinjenog Kraljevstva o zaštiti podataka, koji Vlada Sunaka i britanske obaveštajne agencije pokušavaju da urade dobro. Kako se navodi u izveštaju Gardijana, „britanski zakon o zaštiti podataka i informacija predlaže da se ukine uloga vladinog poverenika za nadzorne kamere zajedno sa zahtevom za kodeksom prakse nadzornih kamera“.
Odobrenje ICO-a daje pravno pokriće praksi koja je već dobro uspostavljena. Facewatch već godinama skenira lica britanskih kupaca u hiljadama maloprodajnih objekata širom Velike Britanije. Kamere skeniraju lica dok ljudi ulaze u prodavnicu i upoređuju ih u bazi podataka sa poznatim prestupnicima, upozoravajući prodavce ako je „subjekt interesovanja“ ušao. Prodavnice koje koriste ove tehnologije postavile su obaveštenja u svoje izloge (kao što je ono ispod) koje obaveštavaju kupce da su tehnologije za prepoznavanje lica u funkciji, „da zaštite“ „zaposlene, kupce i zalihe“ prodavnice. Ali daleko je od jasnog koliko kupaca zapravo obraća pažnju na obaveštenja.
Kao primeri vladinog outsoursinga, ovo je ekstremno. Prema Guardian-u, to se dešava zbog nedavne eksplozije krađe u prodavnicama, što je zauzvrat uzrokovano „krizom troškova života“ (savremeni britanski način da se kaže „inflacija“). Kao što čitaoci NC znaju, inflacija je delimično rezultat korporativnog profiterstva. Do sada je 400 britanskih trgovaca, uključujući neke veoma velike maloprodajne lance (Sports Direct, Spar, Co-op), instaliralo kamere Facewatch-a. Kako Gardijan kaže, vlada „efikasno sankcioniše privatni biznis da radi posao koji je policija nekada rutinski radila“.
Nemački AfD kaže da će skeniranje očiju za Worldcoin Ditigalni ID služiti za globalni nadzor ljudi https://t.co/dF5lh25VLK
— Nulta Tačka (@NultaTackaSrb) August 7, 2023
Od prikrivenog do otvorenog
Nisu samo prodavci ti koji u velikoj meri koriste LFR tehnologije; to koristi i britanska policija. Agencije za sprovođenje zakona u Velikoj Britaniji, posebno londonska Metropoliten policijska služba i policija Južnog Velsa, već nekoliko godina isprobavaju prepoznavanje lica uživo (LFR) na javnim mestima. LFR se koristio u Engleskoj i Velsu za brojne događaje, uključujući proteste, koncerte, karneval u Noting Hilu, kao i na prometnim saobraćajnicama kao što je Oksfordska ulica u Londonu.
2019. godine, Naked Capitalism je unakrsno objavio članak Otvorene demokratije o tome kako je novi, privatni kompleks Kings Kros u Londonu koristio kamere za prepoznavanje lica da identifikuje pešake koji prelaze trg Granari. Argent, programer i menadžer imovine zadužen za dizajn i isporuku sajta, zatim je ubacio podatke u bazu podataka koju je obezbedila Metropolitenska policijska služba da proveri da li se podudaraju. Kings Kros je bio samo jedan od mnogih delova Londona gde su pešaci davali svoje biometrijske podatke kamerama za prepoznavanje lica i oni su pohranjeni u bazama podataka.
Velika Britanija je već jedna od nacija sa najviše kamera na planeti. Do 2019. godine, bila je dom za više od 6 miliona kamera za nadzor – više po stanovniku nego u bilo kojoj drugoj zemlji na svetu, osim Kine, kaže Silkie Carlo, direktor Big Brother Watch-a.
Do sada je policijska upotreba LFR-a bila prilično pokrivena i svaki put kada su informacije o toj upotrebi procurile, došlo je do negodovanja javnosti; sada, to postaje očigledno. Ministar policije Kris Filip ohrabruje policijske snage širom zemlje da koriste LFR za rutinsko sprovođenje zakona, kako navodi članak BBC Science Focus (koji je, zanimljivo, uklonjen sa veba, ali ne pre nego što je sačuvan za potomstvo na Wayback Machine ):
Pošto policajci već nose kamere za telo, bilo bi moguće poslati slike koje snimaju direktno na sisteme za prepoznavanje lica uživo (LFR). To bi značilo da bi svi na koje naiđu mogli biti odmah provereni da li se poklapaju sa podacima nekoga na listi za praćenje – bazi podataka o prestupnicima koje traže policija i sudovi.
Preporuke Ministarstva unutrašnjih poslova za mnogo širu upotrebu LFR-a su u suprotnosti sa nalazima nedavne studije Minderoo Centra za tehnologiju i demokratiju, na Univerzitetu u Kembridžu, koja je zaključila da LFR treba zabraniti za upotrebu na ulicama, aerodromima i svim javnim prostorima – baš mesta gde policija veruje da bi to bilo najvrednije.
Nije iznenađujuće da su grupe potrošača i zagovornici privatnosti na udaru. Organizacija kampanje za građanske slobode i privatnost Big Brother Watch organizovala je onlajn peticiju kojom poziva ministarku unutrašnjih poslova Suelu Braverman i komesara Metropolitenske policije Marka Roulija da zaustave Met da koristi LFR. U trenutku pisanja, peticija je na ivici da dostigne ciljni broj (45.000 potpisa).
„Prepoznavanje lica uživo je distopijski alat za masovni nadzor koji pretvara nevine članove javnosti u lične karte“, kaže Mark Džonson, menadžer za zastupanje u Big Brother Watch-u:
Tokom sedam meseci, trinaest angažovanja, stotine službenih sati i preko pola miliona lica skeniranih 2023. godine, policija je izvršila samo tri hapšenja zbog upotrebe ovog nametljivog i skupog alata za masovno praćenje… Umesto da promoviše njegovu upotrebu, Vlada bi trebalo da sledi druge liberalne demokratije širom sveta koje donose zakone o zabrani ove orvelovske tehnologije u javnim prostorima.
Te liberalne demokratije uključuju i Evropski parlament koji je, za svoju čast, nedavno odlučio da zabrani upotrebu invazivnih tehnologija masovnog nadzora na javnim površinama u svom Zakonu o veštačkoj inteligenciji (AI Act). Međutim, ta zabrana se ne odnosi na granice EU, gde policija i granične vlasti planiraju da koriste visoko invazivne tehnologije biometrijske identifikacije, kao što su ručni otisci prstiju ili skeneri oka, da registruju putnike iz trećih zemalja i pregledaju ih u odnosu na mnoštvo nacionalnih i međunarodnih baza podataka.
Razlozi za zabrinutost
Građani Ujedinjenog Kraljevstva imaju mnogo razloga da budu zabrinuti zbog širenja kamera za prepoznavanje lica i drugih biometrijskih sistema za nadzor i kontrolu. Oni predstavljaju ekstremno kršenje privatnosti, ličnih sloboda i zakonskih prava, uključujući verovatno i pretpostavku nevinosti. U stvari, britanski sudovi i grupe za građansku slobodu uspešno su osporile upotrebu LFR-a na osnovu toga što tehnologija može da naruši privatnost, zakone o zaštiti podataka i može biti diskriminatorska.
Amnesti internešenel to kaže još otvorenije: daljinski biometrijski sistemi identifikacije sa AI ne mogu koegzistirati sa kodifikovanim sistemom zakona o ljudskim pravima:
„Ne postoji način u skladu sa ljudskim pravima za korišćenje daljinske biometrijske identifikacije (RBI). Nikakve popravke, tehničke ili druge, ne mogu ga učiniti kompatibilnim sa zakonom o ljudskim pravima. Jedina zaštita od IRB-a je potpuna zabrana. Ako se ovi sistemi legalizuju, to će postaviti alarmantan i dalekosežan presedan, što će dovesti do proliferacije AI tehnologija u budućnosti koje nisu u skladu sa ljudskim pravima“.
Još jedan uobičajeni problem je to što su interni rad biometrijskih alata za nadzor, i način na koji oni prikupljaju, koriste i čuvaju podatke, često obavijeni velom tajne ili barem netransparentnosti. Takođe su skloni pristrasnosti i neuspehu. Ovo se posebno odnosi na prepoznavanje lica uživo, jer članak BBC Science Focus upozorava:
Često se neuronskoj mreži obučenoj da razlikuje lica daju pristrasni podaci – obično zato što je obučena na više muških belih lica nego lica drugih rasa i polova.
Istraživači su pokazali da, iako je preciznost otkrivanja belih muškaraca impresivna, pristrasna obuka znači da je AI mnogo manje precizan kada pokušava da uporedi ženska lica i lica tamnoputih ljudi.
Generalni direktor Facewatch-a Sajmon Gordon tvrdi da je trenutna tačnost tehnologije kamere kompanije 99,85%. Kao takva, kaže on, pogrešna identifikacija je retka i kada se dogodi, implikacije su „manje“. Ali šta bi drugo mogao da kaže; ima proizvod za prodaju.
Na kraju, sistemi predstavljaju još jedan veliki problem: njima upravlja AI. Kao takve, mnoge odluke ili radnje koje preduzimaju trgovci na malo, korporacije, banke, centralne banke i lokalne, regionalne ili nacionalne vlasti koje utiču na nas biće potpuno automatizovane; neće biti potrebna ljudska intervencija. To znači da će pokušaj da se te odluke ili radnje preokrenu ili ponište verovatno biti kafkijanska noćna mora koju bi čak i Kafka možda teško predvideo.
