r   e   k   l   a   m   a
r   e   k   l   a   m   a

Elon Musk przeciw militarnym AI: czy zakazy ONZ mogą coś jeszcze zmienić?

Strona główna AktualnościSPRZĘT

Elon Musk, szef Tesla Motors, już wielokrotnie ostrzegał nas przed nastaniem ery sztucznej inteligencji, która uczyni ludzi zbędnymi, wzywając zarazem do proaktywnej regulacji związanych z AI technologii. Teraz został jednym ze 116 sygnatariuszy listu otwartego do Organizacji Narodów Zjednoczonych, w którym wraz z założycielami innych związanych z robotyką i AI firm wzywa do wprowadzenia zakazu rozwoju i używania tzw. „zabójczych robotów”. Jeśli taki zakaz nie zostanie przyjęty, czekać ma nas trzecia rewolucja wojenna.

Narody Zjednoczone już od kilku lat dyskutują nad kwestią wykorzystania robotów bojowych w świetle Konwecji CCW (zakazie lub ograniczenia użycia pewnych broni konwencjonalnych). Kampania na rzecz powstrzymania takich broni przyniosła pewne owoce – przynajmniej w sferze symbolicznej. 22 maja br. Wysoka Przedstawiciel ds. Rozbrojenia pani Izumi Nakamitsu wysłała list w imieniu nowego Sekretarza Generalnego ONZ António Guterresa list do jej inicjatorów, w którym można przeczytać:

Narody Zjednoczone uważnie przyglądają się rozwojowi systemów uzbrojenia, które mogą autonomicznie wybierać cele i je atakować, w obawie, że postęp technologiczny może wyprzedzić normatywne obrady (…) kraje członkowskie ONZ muszą uczynić znaczący postęp na drodze do wspólnego ustalenia tego, jak najważniejsze wartości wspólnoty międzynarodowej zostaną w tym kontekście zachowane.

r   e   k   l   a   m   a

Pomocą dla dyplomatów, toczących dyskusje nad dopuszczalnością autonomicznych dronów, czołgów czy choćby wieżyczek strażniczych, ma być list otwarty liderów branży technologicznej, pod którymi podpisali się m.in. Elon Musk, założyciel Tesla Motors, oraz Mustafa Suleyman, współzałożyciel należącego do Google startupu DeepMind – tego samego, który stworzył pierwszą na świecie sztuczną inteligencję, która pokonała ludzkiego mistrza go.

W liście uznane sławy branży ostrzegają, że nowy wyścig zbrojeń, jaki rozpoczyna się w zakresie AI, przyniesie trzecią rewolucję wojenną, po wynalezieniu prochu i broni atomowej. Ich zdaniem, zabójcze autonomiczne bronie uczynią możliwym prowadzenie zbrojnych konfliktów na skalę do tej pory niewyobrażalną, w czasie zbyt krótkim by ludzki rozum mógł to pojąć. Będą to zarówno bronie terroru, które despoci i terroryści użyją przeciwko niewinnym, jak i bronie zhakowane, by zachowywać się w niepożądany sposób. Jeśli na czas tego się nie powstrzyma, zamknąć tę puszkę Pandory będzie bardzo trudno.

Czasu jest zaś bardzo mało. Eksperci zauważają, że w przeciwieństwie do wielu innych form sztucznej inteligencji, które wciąż pozostają w domenie science fiction, autonomiczne systemy uzbrojenia są już dziś realnie rozwijane, mają realny potencjał skrzywdzenia niewinnych ludzi, a nawet doprowadzenia do globalnej niestabilności. Dlatego też takie inteligentne bronie miałyby zostać zakazane w ramach Konwencji CCW na równi z bronią chemiczną, czy laserami służącymi oślepianiu.

Projektanci autonomicznych systemów uzbrojenia mogą jednak być zadowoleni. List pod którym podpisał się Elon Musk, potwierdza to, z czego od dawna zdają sobie sprawę: na nowoczesnym polu walki człowiek już przegrał, choć jeszcze sobie z tego nie zdaje sprawy. Problemem jest kiepski czas reakcji białkowych mózgów – najlepsi ludzie są w stanie zareagować w ciągu jednej dziesiątej sekundy, maszyny są nieporównywalnie szybsze.

Trudno uwierzyć, że ktokolwiek chciałby zrezygnować z przewagi, jaką oferują wojskowe AI, przewagi daleko istotniejszej niż broń chemiczna czy oślepiające lasery. Autorzy listu mają rację – takie systemy uzbrojenia można porównywać tylko z prochem czy bronią atomową, a wszyscy wiemy, jak szybko po wynalezieniu czy to prochu, czy broni atomowej, rozpowszechniły się one na świecie. Czy ktokolwiek może sobie pozwolić na pozostanie w tyle, za potencjalnymi przeciwnikami?

Dlatego od ponad 20 lat powstają bojowe roboty do walki na lądzie, powietrzu i wodzie, oficjalnie wciąż aktywujące swoje uzbrojenie zdalnie, decyzją ludzkiego operatora, lecz jednocześnie prawie już gotowe do zastąpienia tego operatora przez AI. W niektórych wypadkach już do tego zastąpienia doszło. Linii demarkacyjnej między Północną i Południową Koreą pilnują przecież od południa autonomiczne wieżyczki SGR-A1 firmy Samsung Techwin, uzbrojone w karabin maszynowy. Zestaw sensorów i motywatorów pozwala wieżyczce obracać się i celować w dwóch stopniach swobody, a tryb autonomiczny pozwala zwalczać wszystkie cele, które pojawiłyby się w strefie zdemilitaryzowanej – z punktu widzenia Korei Południowej każdy wkraczający tam jest wrogiem, więc żadnego systemu rozpoznawania swój-czy-wróg nie potrzeba.

Co szczególnie istotne, dla sił zbrojnych takie systemy są nadzwyczaj pożądane – roboty mają mnóstwo zalet, można je posłać na nudne, brudne i niebezpieczne misje, takie, z których część ludzkich żołnierzy wraca w workach. Dowódcy są też wręcz przekonani, że na robotach można bardziej polegać, niż na ludzkich żołnierzach: kierowane „etycznym” oprogramowaniem nie będą zachowywały się w sposób niekorzystny dla wizerunku prowadzącego wojnę kraju – czego nie można powiedzieć o żołnierzach – z badań własnych armii amerykańskiej, ponad jedna trzecia żołnierzy i marines gotowa była torturować przeciwników, jeśli ocaliłoby to życie ich towarzysza, a jedynie połowa zgłosiłaby towarzysza za nieetyczne zachowanie wobec cywili czy jeńców wojennych.

© dobreprogramy
r   e   k   l   a   m   a
r   e   k   l   a   m   a

Komentarze

r   e   k   l   a   m   a
r   e   k   l   a   m   a
Czy wiesz, że używamy cookies (ciasteczek)? Dowiedz się więcej o celu ich używania i zmianach ustawień.
Korzystając ze strony i asystenta pobierania wyrażasz zgodę na używanie cookies, zgodnie z aktualnymi ustawieniami przeglądarki.