Pomyłka systemu rozpoznawania twarzy. Policja wiedziała, a i tak zaaresztowała

Całkiem możliwe, że takie błędy miały miejsce wcześniej, ale jest to pierwszy przypadek, gdy zostały pozwane władze. Działacze praw obywatelskich złożyli pozew przeciwko policji w Detroit, która ich zdaniem dyskryminowała czarnoskórego Roberta Williamsa, niesłusznie oskarżonego o kradzież pięciu zegarków ze sklepu Shinola.

W grudniu 2019 Narodowy Instytut Standaryzacji i Technologii opublikował wyniki badania, które dowiodło, że oprogramowanie do rozpoznawania twarzy jest najskuteczniejsze w przypadku osób rasy białej. Z kolei jeśli chodzi o twarze rasy azjatyckiej lub czarnej, potrafi być od 10 do 100 razy bardziej zawodna i wygenerować wynik fałszywie dodatni.

Tak właśnie stało się z Williamsem. Trafił on do więzienia po tym, jak użyto niewyraźnego materiału wideo, który potem trafił do systemu rozpoznawania twarzy i połączył go z niewinnym czarnoskórym mężczyzną.

Następnie policjanci z Detroit pokazali ochroniarzowi sklepu Shinola sześć fotografii podejrzanych. Ów ochroniarz nie widział nawet tego zdarzenia na własne oczy, a jedynie przejrzał materiał z monitoringu. Mimo wszystko wskazał on Williamsa.

Trafił on najpierw do aresztu, a następnego dnia na przesłuchanie. Szybko okazało się, że w ogóle nie był i nie mógł być w żaden sposób powiązany ze sprawą. – Komputer musiał się pomylić – miał odpowiedzieć Williamsowi wyraźnie skonfundowany policjant.

Organizacja American Civil Liberties Union oskarża wydział policji z Detroit o to, że nigdy nie powinna była aresztować Williamsa mając tak niekompletny materiał dowodowy i sugerując, że wręcz policjanci mogli wiedzieć, że prawdopodobnie od samego początku są w błędzie.

ACLU prowadzi śledztwo w sprawie zawodności systemów do rozpoznawania twarzy. Jeden z jej prawników w swoim raporcie napisał, że "[Williams] prawdopodobnie nie jest pierwszą osobą niesłusznie aresztowaną przy użyciu tej technologii – jest po prostu pierwszą osobą, dzięki której się o tym dowiedzieliśmy".