Wstępniak na nowy tydzień: nowy Terminator, czyli lęki cywili i nadzieje wojskowych

Lepszego terminu zapowiedzi nowego Terminatora nie dało sięchyba znaleźć. Może deklaracje Elona Muska, słynnegoprzedsiębiorcy z Doliny Krzemowej nie wyszły poza media branżowe,ale już ostrzeżenia Stephena Hawkinga jak najbardziej tak. Nagłównych stronach pisały o tym nawet portale pokroju Onetu,strasząc, jak to sztuczne inteligencje zakończą cywilizacjęczłowieka. W kręgach akademickich oliwy do ognia dolały zaś tylkodeklaracje filozofa Nicka Bostroma, szefa badań nad przyszłościąw Oxfordzie, który stwierdził,że z czasem maszynowa inteligencja przewyższy inteligencjębiologiczną – a procesowi temu będzie towarzyszyło niemałeryzyko. W obliczu tego strachu, niepewności i wątpliwości nowyTerminator skazany jest na sukces.

W miarę zaostrzania się sytuacji międzynarodowej, szybki rozwójinteligentnych broni, wojskowych robotów i dronów staje sięjeszcze szybszy. Dla Stanów Zjednoczonych drony stały sięcodziennym elementem wiecznej wojny, powrotem do klasycznegorozumienia von Clausewitza wojny jako kontynuacji polityki innymiśrodkami. Ostatnio opublikowany przez Guardiana raportpoświęcony efektom amerykańskiej mokrej roboty, wykonywanej zapomocą zrobotyzowanych, inteligentnych broni, pokazał, że słowaurzędników Pentagonu, mówiących o klinicznej precyzjitargetowanych ataków są mocnona wyrost – trup ściele się gęsto. Na oficjalnej liście ludzido zabicia znalazło się 41 podejrzanych o terroryzm. Przeprowadzanena terenie Pakistanu, Afganistanu i Jemenu za pomocą dronów atakipozwoliły zabić ponad 1100 zupełnie przypadkowych osób, w tymsporo dzieci.

Z tej perspektywytrudno się dziwić, że rozmaici obrońcy pokoju robią co mogą, bywprowadzić choćby jakieś moratorium na stosowanie autonomicznychzabójczych maszyn. Nawet jeśli zostanie ono przyjęte, raczej niktsię tym nie przejmie. Wojskowa robotyka jest dziś tak przezmocarstwa pożądana, jak broń atomowa w latach sześćdziesiątych.O ile jednak doktryna wzajemnego gwarantowanego zniszczeniaprzyniosła nam długie dekady pokoju, to wojskowa robotyka wydajesię wręcz sprzyjać upowszechnieniu wojny, dzięki względnemubezpieczeństwu napastnika i znacznemu obniżeniu kosztów ataku. Nicwięc dziwnego, że w tym roku rosyjski wicepremier Dmitrij Rogozinprzyznał, że jego kraj prowadzi zaawansowane prace nad zabójczymirobotami – które nie muszą być przy tym ani gigantyczne, anipodobne do ludzi, muszą jedynie być zabójcze (było to nawiązaniedo pytania, które zadano w 2006 roku Władimirowi Putinowi, czyczasem Rosja nie zamierza swoich granic obstawić gigantycznymiantropomorficznymi robotami bojowymi. Putin zręcznie uniknąłwówczas odpowiedzi).

A jeśli ktośmyśli, że postęp w tej dziedzinie można jakoś ucywilizować, czynadać mu pozory humanitaryzmu, to mam dla niego złe wiadomości.Miałem ostatnio okazję czytać ciekawąpracę niemieckich etyków z Technische Universität Darmstadt,poświęconą logicznym ograniczeniom etyki maszyn i ich konsekwencjidla zabójczych autonomicznych broni. Rozważania to ciekawe,wykorzystujące problemstopu Turinga by odpowiedzieć na pytanie, czy algorytm jest wstanie wskazać etycznie słuszne wybory. Konkluzja – moralnemaszyny są niemożliwe o wiele bardziej, niż maszynowainteligencja. Praca ta jest na tyle ciekawa, że napiszę o niejwięcej niebawem w innym tekście, może na moim dobroprogramowymblogu.

Oglądaniu nowegoTerminatora w naszych czasach towarzyszyć więc może już nie tylkodreszczyk podniecenia zaawansowaną techniką, ale przynajmniej uniektórych – dreszczyk strachu. Pamiętajmy też, że już dziśna świecie są ludzie, których bliscy zginęli w atakuautonomicznych systemów broni. Co prawda podobno wciąż ostatecznądecyzję o ataku drona podejmuje człowiek, ale wydaje się to tylkoodwlekaniem tego co nieuchronne, listkiem figowym mającym uspokoićpurytan, swoistą latarnią ostrzegawczą niesioną przez człowiekamaszerującego przed pierwszym samochodem, by uczynić zadośćprzepisom.

I tyle o robotach, mam nadzieję, że zajawka filmusię podobała. U nas jak wiecie trwa od wczoraj urodzinowy konkurs,zapraszam serdecznie do związanych z nim aktywności. Przypominam,że losowanie zwycięzców konkursu Intela i Asusa odbędzie się wśrodę, podczas naszego programu na żywo. Nie pytajcie mnie owyniki – jeszcze sam nic nie wiem, dopiero dziś zajmę siępokaźnym plikiem z waszymi odpowiedziami. Sporo osób także pyta owyniki testów jąder od eXt 73. Przedstawię je jeszcze w tymtygodniu, wraz z porównaniem do wyników innych zoptymalizowanychlinuksowych systemów (np. desktopowego kernela dostarczanego przezautorów ROSA Linux). Za wcześnie na jakiekolwiek oceny, powiemjedynie tak – domyślne jądro Ubuntu jest jednak takie sobie.Można lepiej.

Tym optymistycznym akcentem kończę i zapraszam dolektury naszego portalu – oraz gorliwego komentowania ;-)