Algorytm w szpitalach Wielkiej Brytanii utrwala stereotypy rasowe
Komputery potrafią wykonać wiele prac szybciej niż ludzie, ale mają też tendencję do kopiowania ludzkich pomyłek. Naukowcy znaleźli tego niechlubny przykład – algorytm używany w szpitalach w Wielkiej Brytanii utrwala rasową dyskryminację.
Badacze nie podali jakie dokładnie oprogramowanie czy system używa tego algorytmu, ale zaznaczyli, że jest on powszechnie używany w tej branży i ma wpływ na miliony pacjentów.
Algorytm, o którym mowa jest wykorzystywany do celu dowiedzenia się, którzy pacjenci są najbardziej chorzy i kierowania ich do leczenia w pierwszej kolejności oraz przyznawania im specjalnej opieki. Okazało się, że jedną z informacji, którą algorytm w głównym stopniu bierze pod uwagę przy ustalaniu kolejki, jest to, kto w ostatnim czasie poniósł najwięcej kosztów opieki zdrowotnej.
Oznacza to, że, np. jeśli było się chorym, ale nie można było wziąć urlopu, aby odwiedzić lekarza, następnym razem trzeba się liczyć z dalszym miejscem w kolejce. Albo z innej strony – kiedy jest się czarnoskórym pacjentem i lekarz z tego powodu nie traktuje aż tak poważnie dolegliwości (badacze już wcześniej odkryli, że czarnoskóry pacjent musi być dużo bardziej chory, żeby otrzymać taką samą pomoc jak biały), system będzie później traktował takiego pacjenta, jako mniej potrzebującego pomocy.
Zachodzi tu nieprawidłowe powiązanie dwóch danych – ktoś, kto otrzymywał najwięcej pomocy medycznej w przeszłości, jest według algorytmu kimś, kto jej najbardziej potrzebuje.
Algorytmy przeciw dyskryminacji
Teraz naukowcy współpracują z twórcami tego algorytmu, aby przeprogramować go w sposób, który nie zawiera stronniczych założeń. Jak dotąd udało im się zmniejszyć haniebny mechanizm o 84%.
Autorzy zwrócili też uwagę, że w przypadku posiadania wystarczającej liczby danych można tak zaprogramować algorytm, żeby ten przeciwdziałał niektórym stronniczościom utrwalanym przez ludzi. Jednak w tym przypadku programiści nie zadawali sobie tym trudu, więc komputery po prostu kopiowały rzeczywistość.