Mieszkanie dla bezdomnego? Decyduje o tym algorytm

W San Francisco o tym, czy bezdomny dostanie mieszkanie, zdecyduje zaawansowana technologia. Władze podjęły decyzję o zastąpieniu procesu decyzyjnego nadzorowanego przez ludzi, tym, który jest sterowany przez algorytm.

Serwis Coda donosi, że według danych z 2019 roku w San Francisco problem bezdomności dotyczył około 8035 osób, co jest wskaźnikiem per capita porównywalnym ze znacznie większymi miastami, takimi jak np. Nowy Jork. Wiele osób bezskutecznie ubiega się o przyznanie im lokalu mieszkalnego, co wiąże się z koniecznością przejścia przez skomplikowany proces decyzyjny. Urzędnicy zdecydowali, że zostanie on zastąpiony specjalnym algorytmem. Technologia ocenia każdą osobę i uwzględnia punktację, na podstawie której podejmowana jest ostateczna decyzja.

Po raz pierwszy projekt takiego rozwiązania został zaproponowany w 2013 roku, kiedy Iain De Jong oraz jego współpracownicy z OrgCod stworzyli Vulnerability Index — Service Prioritization Decision Assistance Tool (VI-SPDAT). Według Coda, algorytm bardzo szybko zyskał uznanie i został przyjęty przez władze w co najmniej 40 stanach. Posłużył też jako wzór do budowy algorytmu wykorzystywanego przez władze San Francisco.

Okazało się jednak, że rozwiązanie, którego celem było wsparcie lokalnych dostawców usług społecznych w ocenie, jakiego rodzaju pomocy mieszkaniowej potrzebuje dana osoba, stało się czymś, co może to utrudniać, a nawet uniemożliwiać. Urzędnicy zaczęli je stosować do rozstrzygania, kto powinien dostać mieszkanie, a kto nie.

Problem zauważyli sami twórcy systemu VI-SPDAT. Uważają oni, że algorytm, mający pomagać ludziom, całkowicie zastąpił ich decyzje. Dostrzegli to również usługodawcy pracujący z bezdomnymi. Twierdzą, że "deprecjonowanie relacji międzyludzkich stworzyło nieugięty i bezduszny system, który aktywnie utrudnia świadczenie zindywidualizowanej pomocy:".

- Jednym z rażących nieporozumień i nadużyć narzędzia było podejmowanie decyzji mieszkaniowych na podstawie jego wyników – powiedział w rozmowie z serwisem Coda Iain De Jong. Dodał: - Nigdy nie został do tego zaprojektowany.

Warto zaznaczyć, że firma OrgCode w grudniu 2020 roku ogłosiła, że planuje stopniowe wycofywanie VI-SPDAT i nie będzie już zapewniać wsparcia dla miast korzystających z najpopularniejszej jego wersji. Zwolennicy rozwiązania uważają jednak, że pozwala ono zachować sprawiedliwość i wydajność, czego może brakować, gdy usługodawcy angażują się w relacje ze swoimi podopiecznymi i podchodzą do nich zbyt emocjonalnie.

Przykład wykorzystania algorytmu do podejmowania decyzji o przydzielaniu mieszkań jest kolejnym, który odsłania potencjalne problemy i wyzwania związane z postępującą automatyzacją ludzkiego życia i wykorzystaniem sztucznej inteligencji. Trudno jednoznacznie rozstrzygnąć, co w takiej sytuacji jest właściwsze i która z opcji powinna być stosowana. Zadania nie ułatwia niewystarczająca liczba lokali mieszkaniowych.