Pomyłka systemu rozpoznawania twarzy. Policja wiedziała, a i tak zaaresztowała
Doszło do niecodziennego zdarzenia i być może sytuacji, która nie miała wcześniej precedensu. Policja zaaresztowała niewłaściwego człowieka, po tym jak błędnie wytypował go jako podejrzanego algorytm do rozpoznawania twarzy.
Całkiem możliwe, że takie błędy miały miejsce wcześniej, ale jest to pierwszy przypadek, gdy zostały pozwane władze. Działacze praw obywatelskich złożyli pozew przeciwko policji w Detroit, która ich zdaniem dyskryminowała czarnoskórego Roberta Williamsa, niesłusznie oskarżonego o kradzież pięciu zegarków ze sklepu Shinola.
Technologia rozpoznawania twarzy działa, ale tylko jeśli jesteś biały
W grudniu 2019 Narodowy Instytut Standaryzacji i Technologii opublikował wyniki badania, które dowiodło, że oprogramowanie do rozpoznawania twarzy jest najskuteczniejsze w przypadku osób rasy białej. Z kolei jeśli chodzi o twarze rasy azjatyckiej lub czarnej, potrafi być od 10 do 100 razy bardziej zawodna i wygenerować wynik fałszywie dodatni.
Tak właśnie stało się z Williamsem. Trafił on do więzienia po tym, jak użyto niewyraźnego materiału wideo, który potem trafił do systemu rozpoznawania twarzy i połączył go z niewinnym czarnoskórym mężczyzną.
Następnie policjanci z Detroit pokazali ochroniarzowi sklepu Shinola sześć fotografii podejrzanych. Ów ochroniarz nie widział nawet tego zdarzenia na własne oczy, a jedynie przejrzał materiał z monitoringu. Mimo wszystko wskazał on Williamsa.
Trafił on najpierw do aresztu, a następnego dnia na przesłuchanie. Szybko okazało się, że w ogóle nie był i nie mógł być w żaden sposób powiązany ze sprawą. – Komputer musiał się pomylić – miał odpowiedzieć Williamsowi wyraźnie skonfundowany policjant.
Organizacja American Civil Liberties Union oskarża wydział policji z Detroit o to, że nigdy nie powinna była aresztować Williamsa mając tak niekompletny materiał dowodowy i sugerując, że wręcz policjanci mogli wiedzieć, że prawdopodobnie od samego początku są w błędzie.
ACLU prowadzi śledztwo w sprawie zawodności systemów do rozpoznawania twarzy. Jeden z jej prawników w swoim raporcie napisał, że "[Williams] prawdopodobnie nie jest pierwszą osobą niesłusznie aresztowaną przy użyciu tej technologii – jest po prostu pierwszą osobą, dzięki której się o tym dowiedzieliśmy".
