Algoritmi za prepoznavanje lica pokazuju lažne rezultate na Afroamerikancima i Azijatima
Studija vlade SAD-a navodi da su algoritmi za prepoznavanje lica daleko manje tačni u identifikaciji afroameričkih i azijskih lica u usporedbi s licima bijelaca.
Afroamerikanke su često bile pogrešno identificirane. Postavlja se pitanje trebaju li takve tehnologije koristiti agencije za provođenje zakona, piše BBC.
Jedan je kritičar rezultate nazvao "šokantnim". Nacionalni institut za standarde i tehnologiju (Nist) testirao je 189 algoritama od 99 programera, uključujući Intel, Microsoft, Toshibu i kineske tvrtke Tencent i DiDi Chuxing.
Podudaranje jedan na jedan
Amazon, koji prodaje svoj proizvod za prepoznavanje lica "Rekognition" američkim policijskim snagama, nije prihvatio ovaj izvještaj. Trgovački je div studiju Massachusettskog tehnološkog instituta nazvao "pogrešnom". Izvještaj navodi da je "Rekognition" podudaranje bilo loše kada je u pitanju prepoznavanje žena tamnije kože.
Kada se određena fotografija usporedi s drugim licem u testu "jedan na jedan", mnogi od testiranih algoritama lažno su identificirali afroamerička i azijska lica, i to između deset i 100 puta više od bjelačkih, navodi se u izvještaju. Afroamerikanke su bile češće pogrešno identificirane u usporedbi "jedan na više", koji uspoređuje određenu fotografiju s mnogim drugima licima u bazi podataka.
Kongresmen Bennie Thompson, predsjedavajući Odbora američke Kuće za unutarnju sigurnost, rekao je za Reuters da u svjetlu ovih šokantnih rezultata administracija mora preispitati svoje planove za tehnologiju.
Algoritmi u Nist studiji testirani su na dvije vrste grešaka:
-
lažni pozitivi, gdje softver fotografije dvije različite osobe prikazuje kao istu osobu
-
lažni negativi, pri čemu softver ne uspijeva uskladiti dvije fotografije koje prikazuju istu osobu.
Softver je koristio fotografije iz baza podataka koje su dostavili Državni odjel, Ministarstvo unutrašnjih poslova i FBI, bez slika s društvenih medija ili videonadzora.
"Iako je najčešće neispravno donositi zaključke, pronašli smo empirijske dokaze o postojanju demografskih razlika u većini algoritama za prepoznavanje lica koje smo proučavali", rekao je Patrick Grother, računalni znanstvenik Nista i glavni autor izvještaja.
"Iako ne istražujemo što bi mogao biti uzrok ovih razlika, podaci će biti korisni političarima, programerima i krajnjim korisnicima u razmatranju ograničenja i primjeni ovih algoritama".
Nekoliko američkih gradova, uključujući San Francisco i Oakland u Kaliforniji i Somerville u Massachusettsu, zabranili su upotrebu tehnologije prepoznavanja lica.
