Inteligentne Mercedesy ocalą swoich pasażerów – wszyscy inni mogą ginąć
Spory etyków nad sztucznymi inteligencjami nabrały nowegowymiaru wraz z pojawieniem się samoprowadzących się aut. Na drodzewiele może się zdarzyć. Czasem trzeba ryzykować życiem, byocalić życie. Czasem to ryzyko może dotyczyć życia innych ludzi,co każe pytać – czyje życie jest bardziej wartościowe? Czy AImoże ryzykować życiem pasażera auta, by ocalić pieszego? Jakieczynniki wpływać mają na ten osąd? Wiek? Płeć? Statusspołeczny? Filozofowie mogą już bawić się w interaktywneeksperymenty dzięki MoralMachine uruchomionej na politechnice MIT, jednak Mercedesodpowiedź już zna – i co by nie mówić, jest to odpowiedźzachęcająca do kupna Mercedesa.
Christoph von Hugo jest szefem bezpieczeństwa autonomicznych autpoziomu4 w Mercedesie. Ujawnił on ostatnio wytyczne projektowe, jakieotrzymali inżynierowie niemieckiej firmy w kwestii ochrony ludzkiegożycia. Priorytet jest jeden – ocalić kierowcę i pasażerów, bezwzględu na wszystko inne. Żadnego roztrząsania problemówetycznych: sztuczna inteligencja ma służyć właścicielowi auta. Wudzielonym serwisowi Carand Driver wywiadzie powiedział: jeśli wiesz, że możeszocalić przynajmniej jedną osobę, to ocal tę jedną. Ocal tęjedną w samochodzie. Jeśli masz pewność, że można zapobiec tejjednej śmierci, zrób to.
Przed takimi problemami autonomiczne auta w końcu zostanąpostawione.Wałkowany na wszystkie strony problem tramwaju i zajezdnibędzie musiał znaleźć rozstrzygnięcie w oprogramowaniu. Zjakiegoś powodu AI traci kontrolę nad autem, pojazd za chwilęuderzy w przystanek autobusowy, na którym widać gromadę szkolnychdzieci. W ułamku sekundy można jeszcze skręcić, ominąćprzystanek, jednak w ten sposób wjedzie się w cyklistę.Użytkownicy 4chanu znają oczywiście rozwiązanie tego dylematu(why no both?), jednak naszczęście inżynierowie Mercedesa takimi socjopatami nie będą.Auta tej firmy będą robiły to, co przyniesie najmniejszą szkodępasażerom. Jeśli oznacza to wjechanie w przystanek z dziećmi, nocóż, dzieci nie są klientami Mercedesa.
Niestety pan von Hugo niewyjaśnił, jak AI będzie oceniać zagrożenie dla pasażerów, a toprzecież jest problem dla właściciela/kierowcy auta jeszczepoważniejszy. Jadąc z ukochaną żoną po prawicy, wielu mężówzrobi wszystko, by uniknąć zderzenia z ciężarówką od sterburty,włącznie z wbiciem się na od lewej na drzewo. A co, jeśli żonanie jest ukochana? Albo jeśli jest ciężko chora, a małżeństwoma kilkoro dzieci, którymi nie zdoła się sama zaopiekować? Jedenprosty imperatyw pana von Hugo nie pomoże w tej sytuacji, gdy wielukierowców może nie chcieć, by to ocalenie ich życia byłopriorytetem dla AI.
Oczywiście najlepiej by nigdynie trzeba było wybierać. Ekspert Mercedesa mówi więc, że 99%pracy inżynierów w jego firmie poświęcona jest temu, by takiesytuacje nigdy się nie wydarzyły. AI ma być znacząco lepsze odludzkiego kierowcy, odporne na stres i zmęczenie, nieustannieczujne, obserwujące świat bateriami sensorów.
A co z odpowiedzialnościąprawną za wypadki? Producenci dają już chyba jasną odpowiedź wtej kwestii. Wszystko to kwestia ceny, w pełni autonomiczne autabędą drogie, więc można sobie pozwolić na wzięcieodpowiedzialności za działania oprogramowania. Audi już ogłosiło,że tak zrobi w przyszłorocznym modelu A8, pierwszym aucie tej firmypoziomu 3. Volvo, planujące swoje auta poziomu 4 wprowadzić narynek w 2020 roku, zamierza zająć tę samą pozycję.
Tymczasem przeprowadzony przezmagazyn Science sondażwśród 1928 jego czytelników pokazał, że wszystko tu sprowadzasię do napięć… klasowych. Zdecydowana większośćankietowanych, bądź co bądź wywodzących się ze środowiskakademickich, uznała, że autonomiczne auta powinny raczej poświęcaćswoich pasażerów, niż wjeżdżać np. w pieszych na chodnikach.Jaka byłaby odpowiedź, gdyby ankietę przeprowadził np. WallStreet Journal? Joshua D. Greene w artykule Our driverlessdilemma słusznie zauważa, żeto sytuacja bez wyjścia. Producenci aut kierujących sięutylitarystyczną etyką będą krytykowani za gotowość zabicia ichpasażerów. Producenci aut, które będą chroniły nade wszystkożycie pasażerów, będą krytykowani za dewaluację życia innychludzi, a nawet gotowość do powodowania dodatkowych śmierci. A cowybiorą konsumenci? Zapraszamy do sondażu: