Skonfiguruj etykę samochodu: w erze samoprowadzących się aut decyzje nie będą nasze

Branżę samochodową czekają nowe problemy związane z wdrażaniem nowych technologii. Jak wiadomo, tych wcale nie brakuje, niemniej ciekawość i chęć pokazania klientom czegoś zupełnie nowego bierze górę – każdy problem techniczny wymaga po prostu odpowiednio dużo czasu do jego rozwiązania. Idzie jednak nowy rodzaj problemów, już teraz sprawiający kłopoty w razie wypadków samochodowych, a który jest ściśle związany z informatyką i algorytmami… etyka.

Problem dotyczy systemów wspomagania kierowania, podejmowania decyzji, a także tych, które w przyszłości zajmą się kierowaniem pojazdami za nas. Obecnie to ludzie kierują pojazdami i to oni ponoszą odpowiedzialność za swoje decyzje podejmowane za kierownicą – oczywiście nie zawsze, bo są sytuacje wyjątkowe, dochodzi także do tragedii, w których „nikt nie zawinił” (choć słowa takie na pewno nie są przekonywujące dla rodzin ofiar), po prostu splot nieszczęśliwych zdarzeń, zbyt krótki czas na decyzję lub reakcja instynktowna. Jeżeli stery zostaną przejęte przez systemy komputerowe, sytuacja ulegnie diametralnej zmianie, bo one przetwarzają informacje zupełnie inaczej niż my, czy jest tu więc miejsce na ludzką etykę?

Sprawę dobrze przedstawia dylemat wagonika wprowadzony przez Philippę Foot. Na potrzeby naszych rozważań załóżmy, że jedziemy samochodem i np. zaśniemy za kierownicą, auto będzie kierowało się wprost w piątkę pieszych… System zajmujący się wspomaganiem przejmie nad nim kontrolę, odbije w drugą stronę… i wpadnie w jedną osobę po drugiej stronie. W efekcie uderzenia osoba ta zginie. Czy taka reakcja jest moralna, czy jest zgodna z naszą etyką? Oczywiście najprostszym wytłumaczeniem będzie stwierdzenie wyboru „mniejszego zła”, ale to zarazem zupełne pogodzenie się z tym, że tak czy siak musiało dojść do takiej, złej sytuacji. Co ma do tego producent samochodu, który zaprojektował cały system sterowania i w tej sposób przyczynił się do śmierci tej osoby? Gdyby system nie zmienił toru jazdy, zagrożone byłoby życie piątki osób: producent jest winny. Jeżeli zdecyduje się na zmianę i śmierć jednej osobny – robi to „świadomie”, również jest winny. Jak widać, dylemat ten nie jest wcale prosty do rozwikłania.

Pewnym rozwiązaniem mogłoby się okazać przekazanie pewnej kontroli w ręce właścicieli samochodów. Według badań ankietowych, 44% osób chciałoby samodzielnie decydować o „wyborach” systemów samochodowych, a tylko 12% zdałoby się na wybór producenta. To pozwalałoby na różne warianty np. takie ustawienie samochodu, aby w razie sytuacji kryzysowych dążył on do minimalizacji uszkodzeń i co za tym idzie kosztów naprawy. Inny wariant to dbanie przede wszystkim o zdrowie kierowcy. Kolejny to zwracanie większej uwagi na otoczenie. Rozwiązanie idealne? Niestety nie, bo nadal mamy do czynienia z ogromną liczbą czynników, które musi wziąć na swoje barki producent: w sytuacji z dylematu wagonika ratować np. młodą, czy starszą osobę? Białego czy czarnego? Systemy samochodowe będą zapewne coraz bardziej rozbudowane, pozwalając na coraz lepsze analizowanie otoczenia, w tym i innych osób. Jakiś centralny system kierowania ruchem pozwoli z kolei na uzyskanie informacji o tym, kto podróżuje innym samochodem mogącym brać udział w wypadku, oraz lepsze wyliczenie słusznej decyzji.

Co w sytuacji gdy zostaną stworzone jakieś odgórne założenia np. uznające za „mniejszą stratę” osoby starsze, a za konieczne do ratowania młode. Takie, które nie będą dbało o motocyklistów bez kasków, podobnie jak i pogodzą się ze śmiercią samochodów spalających duże ilości paliwa i zanieczyszczających środowisko? Idźmy dalej: można przecież wziąć pod uwagę różnice rasowe, stan konta bankowego, czy wyznawaną religię. To nie jest abstrakcyjne rozważanie, ale problemy, które już niebawem będą na nas czekały. Z jednej strony jakiś specyficzny „ogół świata” kieruje się pewnymi „pozytywnymi” zasadami moralnymi, z drugiej jednak każdy ma prawo do życia, co pokazują same ankiety: w wypadku zagrożenia życia 36% poświeciłoby siebie, ale reszta, aż 64% wolałaby śmierć nieznanego dziecka, niż swoją własną. Dopóki nie znajdziemy się w sytuacji zagrożenia własnego życia możemy roztaczać wizje bohaterskich czynów i poświęcenia, te zweryfikuje jednak brutalna rzeczywistość.

W razie wypadku producent może zostać pozwany z dwóch powodów: pierwsza to stworzenie algorytmu, który postawił sobie dane osoby za cel (tak, to nie żart, wtedy rozpatrujemy już morderstwo), drugi to natomiast przekazanie w ręce użytkowników narzędzia, które pozwala w określonych okolicznościach niejako „wymusić” odpowiednią reakcję i w efekcie tego doprowadzić do śmierci danej osoby: odpowiednie „konfigurowanie etyki” pojazdu może być przecież działaniem z premedytacją, nie ma tu miejsca na usprawiedliwienia takie jak brak czasu na reakcję, nagły wypadek. Jak więc ten problem rozwiązać? Prawo najprawdopodobniej będzie musiało ulec zmianie, aby ściągnąć z producentów odpowiedzialność za zachowanie samochodów, w przeciwnym wypadku czeka nas ogromna ilość pozwów wynikających z takiego, a nie innego funkcjonowania systemów komputerowych – przecież w każdym wypadku ktoś jest poszkodowany, a ofiara może starać się o zadośćuczynienie.

Przedstawiony problem można zauważyć choćby w filmie „Ja, robot” gdzie dochodzi do wypadku i robot kierowany sztuczną inteligencją ratuje z wody policjanta zamiast małej dziewczynki. Jego systemy zupełnie chłodno oceniają szanse na przeżycie każdej z osób i decydują się na udzielenie pomocy tej, gdzie są one większe. Nie ma to wiele wspólnego z etyką i moralnością jaką wyznajemy my, ludzie. Oczywiście sytuacje takie mają miejsce, np. na wojnie, gdzie niektórzy są „skazywani na śmierć”, bo rokowania nie dają szans. Wiele sytuacji pokazuje jednak, że nawet przy zupełnej beznadziejności, poświęcenie, wydawać by się mogło całkowicie bezsensowne, pozwala na uratowanie ludzkiego życia. Czy więc kierowanie się jedynie zimnymi kalkulacjami ma sens? Gdybyśmy pozwolili tak ocenić systemom SI całą ludzkość z perspektywy naszej historii, do jakich wniosków by doszły? Wydaje się, że moglibyśmy zostać uznani za zagrożenie dla siebie samych, a tym bardziej dla otoczenia. Na myśl przychodzi wtedy wizja apokalipsy rodem z Terminatora.