Kałasznikowy przyszłości. Intelektualiści w otwartym liście do ONZ ostrzegają przed autonomiczną bronią

Niejednokrotnie wspominaliśmy o tym, jak sztuczną inteligencjąstraszą słynny przedsiębiorca z Doliny Krzemowej Elon Musk ibrytyjski fizyk (a zarazem ikona popkultury) Stephen Hawking. Ichprzekaz zdobywa coraz większe uznanie wśród intelektualnych sławtego świata. Pod opublikowanym właśnie listem otwartym organizacjiFuture of Life Institute, wzywającym do zakazania prac nadautonomicznymi systemami broni, podpisali się oprócz nich takżeSteve Wozniak oraz Noam Chomsky.

Autorzy listu uważają, że systemy uzbrojenia automatyczniewybierające cele i atakujące je bez jakiekolwiek interwencji zestrony człowieka mogą stać się Kałasznikowami przyszłości,napędzając wojny, terroryzm i prowadząc do globalnejniestabilności. Zauważają, że od powstania takich maszyn dzieląnas ledwie lata. Już dziś uznano autonomiczne systemy uzbrojenia zatrzecią rewolucję w wojskowości, po wynalezieniu prochu i bronijądrowej.

W przeciwieństwie jednak do broni jądrowej, która wymagatrudnych do uzyskania surowców i ogromnie kosztownej infrastrukturyprzemysłowej, proliferacji militarnych sztucznych inteligencji niebędzie można zatrzymać, tak jak dziś przecież nie możnazatrzymać upowszechniania się nowoczesnego oprogramowania. Systemytakie szybko staną się tak tanie i dostępne, że na czarnym rynkubędzie mógł pozyskać je każdy, kto ma choć trochę pieniędzy.Członkowie Future of Life Institute obawiają się, że skorzystająz nich terroryści, dyktatorzy chcący kontrolować swoje narody czymyślący o przeprowadzeniu czystek etnicznych.

Z listu możemy się też dowiedzieć, że rozwój autonomicznychsystemów uzbrojenia może utrudnić badania nad sztucznąinteligencją, ponieważ instytucje i naukowcy zajmujący się tądziedziną utracą zaufanie społeczne.Dlatego jego autorzy wzywają Organizację NarodówZjednoczonych do podjęcia odpowiednich działań, w tym wprowadzeniacałkowitego zakazu stosowania ofensywnej autonomicznej broni przezpaństwa członkowskie.

Trudno sądzić, by list taki mógł cokolwiek zmienić. Mocarstwatakie jak USA, Rosja czy Chiny – członkowie Rady BezpieczeństwaONZ – nie od dziś prowadzą prace nad autonomicznymi systemamiuzbrojenia, zdając sobie sprawę, że jeśli zaniedbają swójwysiłek w tej sprawie, to w następnej wojnie ich reagujący zopóźnieniem setek milisekund żołnierze i piloci napotkająmaszyny wroga, których czas reakcji mierzony będzie wmikrosekundach. Przekonanie, że zakazem można zablokować postęptechniczny w jakiejkolwiek dziedzinie wydaje się więc nieco naiwne,jakby ignorujące wszystko to, czego uczy nas historia ludzkości.Warto też pamiętać, że nazwanie autonomicznych systemówuzbrojenia Kałasznikowami przyszłości ma jeszcze jedenaspekt, który autorzy listu kompletnie przeoczyli.

Niezawodny i prosty w konstrukcji karabinek Kałasznikowa jestbowiem dla wielu na tym świecie symbolem wolności i rewolucji,znalazł się na flagach państwowych i godłach, korzystały z niegodziesiątki ugrupowań partyzanckich, przekonanych, że toczą walkęprzeciwko swoim opresorom. Wprowadzenie autonomicznych systemówuzbrojenia jako właśnie broni taniej i powszechnie dostępnejfaktycznie może zdestabilizować obecny, bazujący na broni jądrowejsystem bezpieczeństwa – i można pomyśleć, że tego właśnieprzede wszystkim obawiają się autorzy listu.

Jeśli jesteście zainteresowani jego podpisaniem, zapraszamy nastronę Futureof Life Institute.