“Ja krala aute? Šalite se!”: Kad policijski AI krivo prepozna lice i trudnicu strpa u pritvor

Porcha Woodruff bila je u osmom mjesecu trudnoće kada ju je policija u Detroitu, Michigan, došla uhititi pod optužbom za krađu automobila i pljačku.

Spremala je svoje dvoje djece za školu kad joj je, piše The Guardian, šest policajaca pokucalo na vrata i predočilo joj nalog za uhićenje. Mislila je da je to šala.

“Šalite se , krađa automobila? Vidite li da sam u osmom mjesecu trudnoće?”, napisala je Woodruff u tužbi koju je poslije podnijela protiv detroitske policije.

Kad joj je policija upala u kuću, nije imala drugog izbora doli poslati svoju djecu na kat da kažu njenom zaručniku kako “mama ide u zatvor”.

Samo posljednja žrtva u nizu

Privedena je i ispitivana 11 sati, a puštena je uz jamčevinu od 100.000 dolara. Odmah je otišla u bolnicu, gdje joj je pružena pomoć zbog dehidracije.

Woodruff je kasnije saznala da je ona samo posljednja žrtva lažne identifikacije prepoznavanjem lica. Nakon što je njezina slika pogrešno usklađena s video snimkom žene na benzinskoj crpki gdje je ukraden automobil, njezina je slika prikazana žrtvi zajedno s nizom drugih fotografija potencijalnih sumnjivaca.

Prema tužbi, žrtva je navodno odabrala sliku Woodruff kao žene koju se povezivalo s počiniteljem krađe. Nigdje u izvješću istražitelja nije navedeno da je žena na snimci bila trudna.

Mjesec dana kasnije optužbe su odbačene zbog nedostatka dokaza.

Njen je već treći poznati slučaj uhićenja zbog lažnog prepoznavanja lica u detroitskoj policiji – i ukupno šesti slučaj u SAD-u. Svih šest osoba koje su lažno uhićene su crnci.

Godinama su stručnjaci i zagovornici privatnosti dizali uzbunu zbog nemogućnosti tehnologije da pravilno identificira osobe koje nisu bijelci i upozoravali su na kršenja privatnosti i opasnosti sustava koji navodno identificira bilo koga po slici ili licu.

Sve više zemalja koristi AI za nadzor

Ipak, tijela za provedbu zakona i vladine agencije diljem SAD-a i diljem svijeta nastavljaju sklapati ugovore s raznim tvrtkama za prepoznavanje lica od Amazonove Rekognition do Clearview AI.

I druge zemlje, uključujući Francusku, Njemačku, Kinu i Italiju koristile su sličnu tehnologiju. U prosincu je otkriveno da je kineska policija koristila mobilne podatke i lica za praćenje prosvjednika.

Ranije ove godine, francuski zakonodavci donijeli su zakon koji daje policiji ovlast za korištenje umjetne inteligencije u javnim prostorima uoči Olimpijskih igara u Parizu 2024., čime je postala prva zemlja u EU-u koja je odobrila korištenje AI nadzora (iako zabranjuje korištenje AI tehnologije prepoznavanje lica u stvarnom vremenu).

Prošle je godine Wired izvijestio o kontroverznim prijedlozima da se policijskim snagama u EU-u dopusti dijeljenje baza podataka fotografija koje uključuju slike lica ljudi – koje je jedan savjetnik za politiku građanskih prava opisao kao „najopsežniju infrastrukturu biometrijskog nadzora za koju mislim da smo ikada vidjeli u svijetu”.

U Detroitu, tužba Porche Woodruff potaknula je nove pozive u SAD-u na potpunu zabranu upotrebe prepoznavanja lica od strane policije i organa reda.

Policija u Detroitu uvela je nova ograničenja za korištenje tehnologije prepoznavanja lica u danima od podnošenja tužbe, ali aktivisti kažu da to nije dovoljno.

“Jedino što može pomoći? Potpuna zabrana”

“Jedina politika koja će spriječiti uhićenja zbog lažnog prepoznavanja lica je potpuna zabrana”, rekao je Albert Fox Cahn iz neprofitnog Surveillance Technology Oversight Project.

“Nažalost, za svaku pogrešku u prepoznavanju lica za koju znamo, vjerojatno postoje deseci Amerikanaca koji su ostali pogrešno optuženi i nikada nisu dobili pravdu. Ovim rasističkim sustavima sklonim greškama jednostavno nema mjesta u pravednom društvu.”

Dok se vlade diljem svijeta bore s generativnom umjetnom inteligencijom, dugo zabilježene štete od postojeće upotrebe umjetne inteligencije, poput one u sustavima nadzora, često se zataškavaju ili potpuno izostavljaju iz razgovora.

Čak i u slučaju EU Zakona o umjetnoj inteligenciji, koji je uveden s nekoliko klauzula koje predlažu ograničenja visokorizične upotrebe umjetne inteligencije poput tehnologije prepoznavanja lica, neki stručnjaci kažu da je pompa oko generativne umjetne inteligencije djelomično odvratila pažnju od tih rasprava.

“Imali smo dosta sreće što smo mnoge od ovih stvari stavili na dnevni red prije nego što se dogodio ovaj bum AI i generativne AI, ChatGPT-a”, rekla je za The Guardian e u lipnju Sarah Chander, viša savjetnica za politiku u međunarodnoj organizaciji za zagovaranje European Digital Rights.

ChatGPT tu jako muti vodu

“Mislim da ChatGPT jako muti vodu u smislu vrsta štete o kojoj zapravo govorimo.”

Slično kao i drugi oblici sustava temeljenih na umjetnoj inteligenciji, prepoznavanje lica je onoliko dobro koliko su dobri podaci koji se u njega unose i kao takvo često odražava predrasude onih koji ih izrađuju.

Ova je problem, primijetio i Amnesty International, jer slike koji se koriste za treniranje takvih sustava su pretežno bijela lica. Sustavi za prepoznavanje lica imaju najlošije stope točnosti kada se radi o identifikaciji crnaca, žena i osoba u dobi od 18 do 30 godina, dok lažno pozitivni rezultati “postoje široko rasprostranjeni”, prema studiji Nacionalnog instituta za standarde i tehnologiju.

Godine 2017. NIST je ispitao 140 algoritama za prepoznavanje lica i otkrio da su „stope lažnih pozitivnih rezultata najveće kod osoba podrijetlom iz zapadne i istočne Afrike te istočne Azije, a najniže u pojedincima iz Istočne Europe. Taj je učinak općenito velik, s faktorom od 100 više lažno pozitivnih rezultata između zemalja.”

Treniraj AI, pa kriminaliziraj pojedince

Ali čak i kad bi tehnologija prepoznavanja lica bila sasvim točna – ne bi bila sigurnija, tvrde kritičari. Grupe za građanske slobode kažu da tehnologija potencijalno može stvoriti golemu i bezgraničnu mrežu nadzora koja razbija svaki privid privatnosti u javnim prostorima.

Ljude je moguće identificirati gdje god krenu, čak i ako se na tim mjestima odvijaju ustavom zaštićena ponašanja poput prosvjeda.

Nakon što je Vrhovni sud SAD-a poništio federalnu zaštitu od pobačaja, to stvara nove opasnosti za one žene koji traže reproduktivnu skrb.

Neki sustavi za prepoznavanje lica, poput Clearview AI, također koriste slike skinute s interneta bez pristanka. Tako se slike na društvenim mrežama, profesionalne slike i sve druge fotografije koje žive na javnim digitalnim prostorima mogu koristiti za treniranje sustava za prepoznavanje lica koji se zauzvrat koriste za kriminaliziranje ljudi.

Clearview je zabranjen u nekoliko europskih zemalja uključujući Italiju i Njemačku i zabranjeno mu je prodavati podatke o prepoznavanju lica privatnim tvrtkama u SAD-u.

Što se tiče Woodruff, ona traži financijsku odštetu. Šef policije u Detroitu James E White rekao je da odjel razmatra tužbu i da je “vrlo zabrinjavajuća”.