Softver za prepoznavanje lica rezultira lažnim hapšenjima u SAD
„Orvel je ovde, i živi punim plućima!“
Policija širom SAD zloupotrebljava softver za prepoznavanje lica, oslanjajući se na njega da uhapsi osumnjičene bez dodatnih dokaza, prema novoj istrazi Vašington posta.
Većina odeljenja nije obavezna da otkrije ili dokumentuje njegovu upotrebu. Među 23 odeljenja sa dostupnom evidencijom, 15 u 12 država uhapsilo je osumnjičene isključivo na osnovu AI poklapanja, često kršeći interne politike koje zahtevaju potvrdu.
Jedan izveštaj je nazvao neprovereno AI podudaranje „100% podudaranjem“, dok je drugi tvrdio da je tehnologija „nesumnjivo“ identifikovala osumnjičenog. Najmanje osam osoba je nezakonito uhapšeno u SAD zbog AI softvera, od kojih dvoje ranije nisu prijavljivani.
Ovo morate da vidite, ruski komandant poslao snažnu poruku Srbima | Jevgenij Nikolajev | Mario Zna
Svi slučajevi su odbačeni, ali osnovni policijski rad — kao što je provera alibija ili upoređivanje fizičkih dokaza — mogao je da spreči ova hapšenja. Pravi obim lažnih hapšenja izazvanih veštačkom inteligencijom ostaje nepoznat, pošto većina odeljenja nemaju zahteve za otkrivanjem podataka i retko otkrivaju upotrebu veštačke inteligencije.
Orvel uživo! Vlasti Velike Britanije uvode zabranu razgovora o religiji i transrodnim osobama u restoranima i pabovima https://t.co/kMvvdFsdVJ
— Nulta Tačka (@NultaTackaSrb) January 14, 2025
Post je identifikovao 75 odeljenja da koriste prepoznavanje lica, a zapisi od 40 pokazuju hapšenja povezana sa AI softverom. Od njih, 23 su dala dovoljno detalja, otkrivajući da je skoro dve trećine izvršilo hapšenje bez potkrepljujućih dokaza. Odeljenja su često odbijala da razgovaraju o svojoj praksi ili su tvrdili da su se službenici oslanjali na vizuelnu procenu da bi potvrdili podudaranja.
U Firenci, Kentaki, policija je koristila nepotvrđene identifikacije veštačke inteligencije u najmanje četiri slučaja, sa različitim ishodima. Lokalni tužilac Luis Keli branio je presudu policajaca u identifikaciji osumnjičenih, uključujući one koje je označila AI.
Za svoj izveštaj, Vašington post je pregledao upotrebu prepoznavanja lica u 75 policijskih uprava, sa detaljnim zapisima iz 23. Otkrio je da je 15 odeljenja, uključujući Ostin, Detroit i Majami, izvršilo hapšenja samo na osnovu AI poklapanja bez nezavisnih dokaza.
Nekima je nedostajala evidencija ili transparentnost, dok su se drugi oslanjali na upitne prakse kao što je pokazivanje fotografija identifikovanih od strane veštačke inteligencije. Intervjui su razjasnili neke slučajeve, ali oslanjanje na nepouzdanu veštačku inteligenciju i dalje je široko rasprostranjeno.
