Joy Buolamwini istraživačica u MIT Media Lab-u, nedavno je formirala skup podataka u kojem je sadržano 1.270 lica čak i političara, a kriterij je bio rangiranje rodne ravnopravnosti te je u ovom slučaju bilo više žena u kancelariji nego muškaraca. Buolamwini je tada testirala tačnost tri sistema za prepoznacanje lica, one koji su napravili Microsoft, IBM i Megvii iz Kine.
Rezultati, objavljeni u New York Timesu ukazivali su na netačnost prilikom identifikacije polova, a koja je nastala usljed različite boje kože.
Pogreška u određivanju pola je u procentima najmanje napravljena kod muškaraca svjetlijeg tena svega jedan posto, zatim kod svjetlijih žena do sedam posto, a najveće greške napravljene su kod osoba tamnijeg tena do 12 posto kod muškaraca i 35 posto kod žena.
“Sve u svemu, vidljivo je da su bolje prepoznati muškarci od žena, a pogotovo oni svjetlije kože. Također, poznato je i to da najveće greške ovakav sistem za prepoznavanje lica pravi prilikom skeniranja tamnijih žena”, rekla je Buolamwini.
Buolamwini je istakla da je teško odmah softvere za prepoznavanje lica označiti kao nepouzdane i netačne, međutim, da je potrebno više raditi na raznovrsnosti podataka, koji će podrazumijevati prihvatanje raznolikosti među ljudima kako bi bili kreirani algoritmi koji će prepoznavati pojedince bez obzira na rasu ili neke druge razlike.
Dodala je i to da algoritmi nisu namjerno pristrasni, ali da je potrebno da se to ograniči.
"S obzirom na to da je ovakva tehnologija perepoznavanja sve popularnija, pogotovo kada je riječ o zdravstvenoj zaštiti i provođenju zakona. Zbog toga je neophodno da se ona unaprijedi kako bi bila omogućena analiza različitih demografskih i fenotipskih grupa”, zaključila je Buolamwini.
Marija Šerifović napala takmičara Zvezda Granda: Ubila bih se da moj sin ode to raditi
