Strona używa cookies (ciasteczek). Dowiedz się więcej o celu ich używania i zmianach ustawień. Korzystając ze strony wyrażasz zgodę na używanie cookies, zgodnie z aktualnymi ustawieniami przeglądarki.    X

Terminator, Matrix i wirusy

Z pewnością wielu z nas oglądało filmy z serii Terminator, Matrix, czy choćby tę przykrą scenę z Robocopa:

W seriach o terminatorze oraz w Matriksie maszyny, którym umożliwiono podejmowanie ważnych decyzji zaczęły buntować się przeciw człowiekowi i z nim walczyć.
Na szczęście to tylko wymysł filmowców. Są przecież:

Prawa Asimowa

Isaac Asimov sformułował prawa, którym miałby podlegać wszystkie roboty.

0. Robot nie może skrzywdzić ludzkości, lub poprzez zaniechanie działania doprowadzić do uszczerbku dla ludzkości.
1. Robot nie może skrzywdzić człowieka, ani przez zaniechanie działania dopuścić, aby człowiek doznał krzywdy.
2. Robot musi być posłuszny rozkazom człowieka, chyba że stoją one w sprzeczności z Pierwszym Prawem.
3. Robot musi chronić sam siebie, jeśli tylko nie stoi to w sprzeczności z Pierwszym lub Drugim Prawem.

Jak widać, roboty ze wspomnianych filmów nie miały zaimplementowanych tych praw.
Co innego przynosi:

Słodka rzeczywistość

Dziś w Polsce nie mamy może bezpośredniego kontaktu z robotami, ale możemy kupić sobie robotyczny odkurzacz, a w Japonii czy Korei Płd. są roboty człekokształtne pomagające ludziom.
W dającej się przewidzieć przyszłości mają być też dostępne robosamochody.

Druga strona medalu

Z drugiej strony, gdzieś nad górami w Pakistanie i Afganistanie szybują bezzałogowe samoloty wojskowe, i to przecież nie transportowe, a potencjalni robozabójcy.

I przeczytałem niedawno, że okazało się, że amerykańskie drony opanował komputerowy wirus.
No, super. Mam w związku z tym dwa pytania:

  • Czy wojskowi z USA nie oglądali wspomnianych filmów?
  • Czy jest możliwe napisanie wirusa na oprogramowanie, którego się ani troszkę nie zna? A może oprogramowanie dronów stoi na Windowsie?
 

inne

Komentarze

0 nowych
killer6   5 #1 19.12.2011 20:47

Dobry wpis, ale strasznie krótki. Fajnie by było jakbyś rozwinął parę wątków ;D

Jaahquubel_   12 #2 19.12.2011 21:02

Szczerze powiedziawszy, nie miałem weny.
Dążyłem przede wszystkim do postawionych na końcu pytań.

Ave5   8 #3 19.12.2011 21:34

"Czy wojskowi z USA nie oglądali wspomnianych filmów?"

Przypominam, że to właśnie prezydenci USA regularnie (minimum 4 razy) gubili jedyną kartę dostępu do pudła zawierającego włączniki systemu nuklearnego, jak też same pudło z włącznikami :) Innym razem byliśmy blisko wojny nuklearnej, bo USA wysłało prototyp samolotu na próbę zapomniwszy o strefach czasowych - przyrządy powariowały i pilot przypadkiem wleciał nad teren ZSRR, gdzie już gotowe były myśliwce radzieckie. I wiele, wiele więcej....

  #4 19.12.2011 21:42

O tych dronach, a raczej dronie przeczytałem na łamach niebezpiecznika. No i tam nic nie napisali o jakimś wirusie, a w całą bezpośrednio zamieszani byli irańczycy. I sami mówią mają już jedno z takich urządzeń. Jeśli ktoś chce wiedzieć więcej to można sobie tam poczytać.

No chyba że czytaliśmy dwa różne artykułu.

WODZU   16 #5 19.12.2011 22:12

Te prawa przypominają mi film "Ja robot" :)

Druedain   13 #6 19.12.2011 22:56

Pamiętam piąte przez dziesiąte Robocoba jak go w dzieciństwie często oglądałem. Wybrana scena jest dość ponura, ale ostatnie zdanie wypowiedziane w tej scenie mnie rozłożyło na łopatki. Wciąż mam głupi uśmiech na twarzy…

Co to cytatu, to wydaje mi się, że przed 'lub' nie stawiamy przecinka :P

A co do sedna sprawy, to nigdy nie rozumiałem o co chodzi z tymi prawami Asimowa: czemu one służą i kiedy powstały. W każdym razie ktoś wyszedł z założenia, że istota ludzka to coś więcej niż maszyna lub że maszyna nie jest w stanie zacząć myśleć i to abstrakcyjnie. Jedną z ostatnich rzeczy, która wybitnie mnie oświeciła była kwestia dogmatów w naukach ścisłych. Jeśli ludzkość będzie tkwić w dogmatach o wyjątkowości istoty ludzkiej, wyjątkowości planety Ziemi, wyjątkowości organizmów badanych przez biologów, nie robotyków, to prawdopodobnie będzie nas czekać smutny los cywilizacji, która niegdyś żyła na Wyspach Wielkanocnych, gdzie ludzie woleli stawiać pomniki zamiast dokonać postępu technologicznego, udoskonalić łodzie i wynieść się gdzieś gdzie gdzie będą odpowiedniejsze warunki do życia (konkretna analogia dotyczy wiary w ochronę środowiska zamiast postawienia na wyniesienie się ze zdewastowanej przez ludzi Ziemi). Nie chodzi o to, że człowiek nie jest istotą wyjątkową, ani o to, że roboty mogą mieć świadomość, tylko o to, że nie ma tezy, która by głosiła, że jest inaczej, jest tylko dogmat, a w nauce nie miejsca na dogmaty.

Mantarak   3 #7 20.12.2011 00:06

Matrix i terminator to na razie nam nie grożą ale wirusy to jak najbardziej. Można zaryzykować stwierdzenie, że mamy wojnę w sieci. Przykładem jest wyspecjalizowany wirus Stuxnet, mający za zadanie zdestabilizować elektrownie jądrowe w Iranie poprzez deregulację pomp.
Oprogramowanie sprzętu wojskowego nie rożni się od tego cywilnego. Nie ma sensu tworzyć specjalnego systemu operacyjnego. Można przecież wykorzystać Unix, Linux, Windows. Ten ostatni był a może jeszcze jest wykorzystywany w łodziach podwodnych. Tak na marginesie to na WIN 95 działa jeszcze trochę starych bankomatów i biletomatów. A wirusy w dronach pojawiły się może przypadkowo, w momencie aktualizacji oprogramowania z pendrajwów, gdyż same drony nie łączą się z siecią.

Zulowski   8 #8 20.12.2011 07:05

Mantarak nie na 95 a na 3.11, większość bankomatów na tym jest.

ttomas   10 #9 20.12.2011 08:32

Nie pamiętam w jakim filmie ale robot na podstawie praw Asimowa stwierdził że najlepszym dla ludzkości będzie jej zniszczenie by mogła się odrodzić czy coś w tym stylu, pamiętam że nawet nieźle to argumentował :)

januszek   18 #10 20.12.2011 09:40

Asimov to bajeczki a to co serwuje nam Hollywood to bzdurne bajeczki :) Wszystko sprowadza się do tego, że my, w tym i nasza inteligencja, jesteśmy ograniczeni przez antropocentryzm. Praktycznie rzecz biorąc nie potrafimy komunikować się z istotami inteligentnymi, które nie są ludźmi. Oczywiście nie mam tu na myśli kosmitów czy też robozabójców ale żyjące obok nas morskie ssaki – delfiny. Praktycznie rzecz biorąc nie potrafimy nawet oszacować poziomu delfiniej inteligencji – owszem wymyśliliśmy tzw współczynnik encefalizacji określający stosunek masy mózgu do masy ciała i uważamy, że im jest większy tym istota jest inteligentniejsza (człowiek 7.0 , delfin 3.8, szympans 2.4) – nic z niego jednak nie wynika i czasem prowadzi do paradoksów (bo niektóre gryzonie wydają się być inteligentniejsze a niektóre walenie zbyt mało inteligentne niżby to wynikało z tego współczynnika). Język, który delfiny wykorzystują jednocześnie do komunikacji oraz czegoś co my nazwalibyśmy widzeniem – jest dla nas wielką niewiadomą – nie tylko nie potrafimy go opisać ani zrozumieć ale do końca nie jesteśmy pewni czy to faktycznie jest język (chociaż wydaje się tak działać).

To prowadzi do prostego wniosku – sztuczna inteligencja może być dla nas tak bardzo obca, że mimo, że istnieje tuż obok – to nie jesteśmy w stanie jej nawet zauważyć (to może też działać w druga stronę, my też będziemy niewidzialni dla AI). Świetnie oddał to Mistrz Lem w „Golemie XIV” :)

przemo_li   11 #11 20.12.2011 11:10

Ja pamiętam historię o pancerniku (o napędzie nuklearnym) który miał na pokładzie WinNT (chyba 2000) i dostał Blue Screena :) Na szczęście nie w czasie misji...

Było ostatnio głośno o myśliwcach uziemionych na lotnisku z powodu wirusa....

StuxNet czyli wirus który sabotował przez 6 miesięcy Irański projekt produkcji materiałów na głowice nuklearne....

Przykładów można mnożyć.

Oczywiście żadna maszyna nie ma wolnej woli czy choćby najskromniejszej inteligencji, więc jak wariują to tylko w zakresie który zdefiniował człowiek (świadomie lub nie).

Druedain   13 #12 20.12.2011 12:11

@januesz A czy badanie czaszki Einsteina nie obala tej tezy? Poza tym czytałem, że istotniejsza od masy jest powierzchnia mózgu (po wyprasowaniu fałd).

C-dur   4 #13 20.12.2011 12:12

@Druedain
"A co do sedna sprawy, to nigdy nie rozumiałem o co chodzi z tymi prawami Asimowa: czemu one służą i kiedy powstały"

Asimov przedstawił je po raz pierwszy w 1942 roku w opowiadaniu "Zabawa w berka". A czemu służą? Literaturze. :) Prawa Asimova to twór literacki, jeden z elementów jego książkowego świata.

@januszek

Też mam wrażenie, że Lem sięgał o wiele głębiej, a problem kontaktu odmiennych form inteligencji (a raczej niemożliwości tego kontaktu) to jeden z najważniejszych tematów jego twórczości.

Jaahquubel_   12 #14 20.12.2011 12:42

@Druedain
"w nauce nie miejsca na dogmaty"
Ale zawsze na początku jest jakiś zbiór aksjomatów.
Aksjomatem jest "istota ludzka to coś więcej niż maszyna", ale jest nim też "nie prawda, że istota ludzka to coś więcej niż maszyna".

januszek   18 #15 20.12.2011 12:59

@Druedain: Chodzi o uśrednioną wartość całej populacji danego gatunku a nie o cechy osobnicze. Co do Einsteina - zerknij tu (i nie wierz w to co piszą w serwisach plotkarskich): http://pl.wikipedia.org/wiki/M%C3%B3zg_Alberta_Einsteina

@Druedain: Zły przykład. Prawidłowo powinno być jakoś tak: "Istota ludzka to coś więcej niż maszyna" to teoria zbudowana na aksjomatach "istota ludzka" i "maszyna". Tyle, że to nie są aksjomaty tylko bardzo złożone pojęcia. Chyba, że oprzemy się o jakiś dogmat, który wyjaśnia je w jedynie słuszny sposób.

Jaahquubel_   12 #16 20.12.2011 14:45

@Dżon (niezalogowany) | 19.12.2011 21:42
Właśnie przeczytałem stosowne artykuły na niebezpieczniku. Wcześniej nie znałem tej strony. Moim źródłem informacji był Gość Niedzielny (dałem przecież link w treści).
Chyba mylisz dwie sprawy: wirusów na dronach oraz przechwycenia jednej maszyny przez Iran. Do tego można dodać jeszcze, że wcześniej Irańczycy podsłuchiwali komunikację dronów z satelitami. :D
To, że do dronów można wysłać fałszywy sygnał GPS-owy, oraz to, że dane zwiadowcze z samolotów lecą nieszyfrowane to też bardzo ciekawe sprawy. :)

Druedain   13 #17 20.12.2011 14:47

@Jaahquubel_ Nie myl aksjomatów z dogmatami. Aksjomaty służą do określania pojęć pierwotnych, których nie da się wytłumaczyć, np. nie da się zdefiniować linii prostej w geometrii euklidesowej, albo do określania czynników w abstrakcyjnym układzie zależności jakim jest np. Algebra Boole'a. Uznawanie istoty ludzkiej za coś wyjątkowego jest dogmatem takim samym jak uznawanie, że papież jest nieomylny. Niemniej, nawet jeśli na pewnym etapie poznania traktuje się coś takiego jak oczywistość, to rozwój nauki daje odpowiedzi na pytania mające związek co najmniej niebezpośredni z tymi oczywistościami, ale których istota może być iskrą do stawiania kolejnych pytań i wątpienia w te oczywistości. Najlepszym przykładem jest teoria ewolucji, czy heliocentryzm. Choć nic na razie nie zostało dowiedzione i wszystko może zostanie po staremu, to przynajmniej obecnie podczas badań neutrin nie ma tak dużego oporu naukowców przed uznaniem, że prędkość światła jest nieprzekraczalna. Innym razem w Polityce można było przeczytać wywiad z gościem, który sukcesywnie usuwa z fizyki pojęcie czasu i raczej nie jest on traktowany jak wariat. Przede wszystkim nie wiem czemu piszesz o tych dwóch przeciwstawnych dogmatach. Nigdzie nie stwierdziłem, że „ludzie nie są wyjątkowi”. Ja o czymś kompletnie innym tutaj piszę – uznawanie człowieka za wyjątkowego / niewyjątkowego jest dogmatem i naukowcy mają tutaj ogromne pole do popisu by móc udowodnić co się kryje za ludzkim umysłem (bo o ciele człowieka wystarczająco dużo mówi teoria ewolucji (zwracam uwagę na fakt określania tego jako teoria, a nie fakt!)).

@januszek (przepraszam, za przekręceniu poprzednio nicku) Wiem, że chodzi o przypadek uśredniony. Bardziej może powinienem się powoływać na Dawkinsa. Doczytałem, w każdym razie, że znaczenie ma pofałdowanie mózgu. Skoro mózgi różnych organizmów nie są pofałdowane w tym samym stopniu, to czy ma sens badanie wyłącznie współczynnika masy mózgu do istoty, jeśli owe pofałdowanie ma wpływ na możliwości mózgu uśrednionego przypadku istoty danego gatunku?
Sensu drugiej części wypowiedzi do końca nie zrozumiałem. W każdym razie mamy do czynienia z dogmatem: jeśli potrafimy wyśnić tak abstrakcyjne rzeczy, nie kierują nami (wyłącznie) instynkty, potrafiliśmy tyle osiągnąć (czyli cały postęp technologiczny ostatnich 10 000 lat), itd. to z pewnością jesteśmy wyjątkowi, stoimy wyżej w drabinie ewolucji niż wszystkie inne zwierzęta, a umysł jest czymś nienamacalnym i nigdy nie uda się stworzyć jego sztucznego odpowiednika.

januszek   18 #18 20.12.2011 14:54

Druga odpowiedź była do Jaahquubel_ :)

Druedain   13 #19 20.12.2011 14:54

@Jaahquubel_ To, że to mogła być podpucha by odwrócić uwagę Irańczyków od innych projektów amerykańskich wojskowych, też jest warte odnotowania ;) Może się mylę, ale nie byłby to pierwszy taki przypadek. Bynajmniej nie jestem jednak zwolennikiem teorii jakoby tam tylko geniusze pracowali. W stanach gruba kasa poszła na szkolenie telepatów, czy promienie śmierci, a ich kotek na zdalne sterowanie niosący bombę, po wypuszczeniu został przejechany przez samochód :D

matrix68   4 #20 20.12.2011 20:42

No ale przecież wojska amerykańskie (USA Army) nie mają Windows-a tylko system zbudowany specjalnie dla armii, podobnie i u nas tylko komputery żołnierzy mają Windows w oczywiście celach już nie dotyczących wojny. Ale w końcu każdy może tego nie wiedzieć - Przecież ludzie nie chodzą z gazetami pt. ''Plany armii USA" a na dodatek może wydawca wyglądać jak hahahaha... Tina! - To by było pismo:-D

Jaahquubel_   12 #21 20.12.2011 21:15

OK, ale jak napisać wirusa na nieznane oprogramowanie?

  #22 20.12.2011 21:34

Moim zdaniem prawa Aasimova sá bardzo zyciowe mimo ze stowzone na potrzeby literackie. Jesli maszyna mialaby jakákolwiek swioadomosc to bez tych praw bylaby zabójcza dla ludzi a przeciez to zostala stowzona by nam sluzyc a nie nas zabijac...

deepone   9 #23 21.12.2011 07:47

@jaahquubel_ - myślę, że to nie kwestia nieznanego czy znanego softu - bardziej bym się skłaniał ku medialnej wrzawie itp. Dowiedzieli się np. że zawirusowano komputery sterujące dronami pracujące np pod kontrolą windows - ale media muszą sprzedać swoją sensację (pomijam fakt że często osoby piszące o takim czymś nie mają zielonego pojęcia co to system/sprzęt i takie tam) więc np podają: "zawirusowano amerykańskie drony - czy jesteśmy bezpieczni?"
No i w ten sposób dostajemy teoretycznie te samą informację tyle, że większość społeczeństwa odbierze to dziwacznie.

Druga sprawa to pewnie faktycznie bezpieczeństwo takich systemów może nie być tak wysokie jak nam się może wydawać - w końcu nie jest to sprzęt dostępny ot tak - więc po co wydawać mase kapuchy na zabezpieczenia?

  #24 21.12.2011 09:19

@ Druedain: "(...) a umysł jest czymś nienamacalnym i nigdy nie uda się stworzyć jego sztucznego odpowiednika" - Rozumiem, że masz dowód albo wiele argumentów na potwierdzenie tej tezy.

Umysł jest czymś bardzo namacalnym. Wiemy całkiem nieźle, jak działają składniki układu nerwowego, jak zbudowane są neurony, jakie są mechanizmy przekazywania informacji między mini. Jesteśmy w stanie środkami chemicznymi tłumić tak abstrakcyjne i "nienamacalne" odczucia jak ból czy strach, albo wzmacniać inne. Dokładnie obserwując aktywność obszarów mózgu jesteśmy w stanie zgadnąć, o czym myśli badana osoba (tutaj pozwoliłem sobie na wielkie uproszczenie, ale trzeba przyznać, że w mapowaniu mózgu pewne postępy poczyniliśmy i po podpięciu do specjalnej aparatury jesteśmy w stanie kontrolować obiekty na ekranie przy pomocy myśli).

Z drugiej strony mając te wszystkie cząstkowe informacje nadal nie wiemy, jak to wszystko składa się na naszą tożsamość i świadomość.Daleka przed nami jeszcze droga do stworzenia sztucznej inteligencji, która przejdzie test Turinga a jeszcze dalsza do stworzenia takiej, która sama wyznaczy sobie cele i zacznie pracować nad ich realizowaniem. Nie znaczy to jednak, że możliwość takich osiągnięć należy z góry skreślać.

Druedain   13 #25 21.12.2011 12:55

@Anonim Czyli co właściwie chciałeś udowodnić?

  #26 21.12.2011 13:38

@ Druedain: Nic. Po prostu sformułowałeś bardzo kategoryczną tezę i nie przedstawiłeś nic na jej poparcie. Ja uważam przeciwnie, tj. uważam, że umysł jest czymś, co można namacać. Uważam także, że za jakiś czas uda się umysł podrobić.

Druedain   13 #27 21.12.2011 14:53

Tak i sam w następnym akapicie obaliłeś tę tezę opisując te wszystkie rzeczy, o których dziś prawie nic nie wiemy.

Druedain   13 #28 21.12.2011 15:12

Żeby uniknąć nieścisłości. Napisałeś o neuronach, a ja niedawno czytałem, że jest hipoteza iż tak na prawdę neurony nie są podstawowym elementem układu nerwowego, że wszystko jest dużo bardziej skomplikowane i składa się z dużo mniejszych komórek. W praktyce zaś znamy kilka sztuczek (sterowanie urządzeniami przy pomocy samych myśli, obserwacje aktywnych części mózgu przy wykonywaniu konkretnych czynności, itd) i to wszystko. Nikt jak dotąd nie ma pojęcia dlaczego fale elektromagnetyczne są dla nas kolorami, falowanie substancji odbierane jest przez nas jako dźwięki, podrażnianie pewnych organów to smak i zapach, itd. Nikt nie potrafi ślepemu wytłumaczyć czym jest kolor, a naukowiec, który sobie podłączył do układu nerwowego czujniki zaczął interpretować jako nowe zmysły, nie potrafi Ci opisać jego nowych uczuć. Nie spotkałem się do dziś z teorią opisującą dokładnie, od A do Z, czym są sny. Itd., itd., itd… Nie rozumiemy jak to działa, to są dziś tylko założenia, z którymi naukowcy starają sobie jakoś radzić. Badania są w ciągłym toku i wyniki jednych badań każdą przeprowadzać serię kolejnych bo odpowiedzi rodzą masę nowych pytań. I gdyby koleś od likwidowania pojęcia czasu dowiódł swego to w ogóle wszystkie dotychczasowe założenia związane ze świadomością straciły jakikolwiek sens.

Dla mnie najbardziej fantastyczne jest to, że uznaje się mózg za „urządzenie” (pomijając mięso, wszystko sprowadza się do impulsów elektrycznych), które fizycznie jest bardzo trudno skopiować, a jednocześnie skrajnie banalne algorytmy jak np. potęgowanie wymagają czasem bardzo dużych nakładów pracy u człowieka by osiągnął on poprawny wynik, kiedy równocześnie maszyna w tym czasie wykona k razy więcej dużo bardziej skomplikowanych obliczeń i na 99,999… % się ani razu nie pomyli (przy idealnym układzie błędy pozostają wynikiem wyłącznie entropii).

  #29 21.12.2011 15:43

@ Druedain: Nie obaliłem żadnej tezy. To, że dzisiaj mało wiemy nie oznacza, że tych strzępków wiedzy nie poszerzymy dramatycznie w nadchodzących latach. Jeszcze kilkanaście stuleci temu uważano, że otaczająca nas materia składa się z czterech żywiołów. Jeszcze sto lat temu nikt nie śnił o zaglądaniu wgłąb naszego ciała za pomocą tomografów.

Uważam, że wcale nie musimy poznać dokładnej funkcji każdego elementu, zanim zaczniemy z pożytkiem używać większych ich zlepków. Na przykład nadal nie wiemy dokładnie, jak działa DNA i co oznacza każda sekwencja, ale potrafimy tworzyć genetyczne krzyżówki i wzmacniać w organizmach korzystne dla nas cechy (przykładem genetycznie zmodyfikowane rośliny bardziej odporne na choroby).

Kolejnym przykładem fizyka i chemia: w dziedzinie chemii osiągnęliśmy dość sporo. Potrafimy wytworzyć wiele substancji o zadziwiających właściwościach, a przecież nie jesteśmy w stanie dokładnie przeliczyć czy zasymulować komputerowo bardziej złożonych cząsteczek. Potrafiliśmy zbudować tranzystor i z milionów tranzystorów sklecić procesory, a nie znamy jeszcze wszystkich tajemnic świata skali subatomowej.

Co chcę powiedzieć: na pewnym poziomie naszych działań wiedza o tym, co jest "pod spodem" nie jest konieczna. Nieważne, czy neurony są podstawowym budulcem umysłu - nas bardziej interesuje jak pracują w grupie w celu przetworzenia informacji (przynajmniej wtedy nas to interesuje, jak chcemy tą współpracę podrobić czy skopiować).

Masz rację, że są pewne rzeczy, których nie da się przekazać w formie opisowej (a ściślej: używając języka). Nad takimi rzeczami od lat głowią się kognitywiści. Każdą z tych rzeczy każdy musi zmysłami doświadczyć sam i wcale nie wiemy, czy każdy wewnątrz swojej jaźni odbiera ją tak samo. Ale czy to faktycznie ma znaczenie?

Druedain   13 #30 21.12.2011 18:14

Pisząc o namacalności myślałem o poznaniu mechanizmów działania umysłu w takim stopniu by móc te mechanizmu skopiować. W związku z tym, np. modyfikacje genetyczne są tutaj sztuczkami, skoro nie wiemy jak zbudować własny odpowiednik DNA. Ponieważ chodzi o sam sposób myślenia nie będę opisywać każdej dziedziny nauki na którą zwróciłeś uwagę.

  #31 22.12.2011 08:39

Rozumiem. Dzięki za wymianę zdań.

Druedain   13 #32 22.12.2011 13:30

Ja również. Temat dobrze został dobrany by można się podzielić kilkoma przemyśleniami :)

foreste   14 #33 23.12.2011 06:41

Ja boje sie ze siec cloud computing azure czy google zacznie nami kierować i za nas będzie podejmować decyzje.
Zresztą to już zaimplementowane jest od windows 2000 ze decyduje za nas system:)
zamiast skynetu wroga ludzkości będzie wróg microsoft a jego maszyny cyborgi będą łazić z logiem tej korporacji na czole frezowane ;].

stasinek   10 #34 14.11.2013 08:49

Prawa asimowa trzeba na nowo zdefiniować
bo doprowadzi do ubezwłasnowolnienia ludzkości jak nadopiekuńczy rodzic dziecko
Odyseja Kosmiczna 2001, Ja Robot, Matrix

Prawa Asimowa "lub poprzez zaniechanie działania doprowadzić do uszczerbku dla ludzkości.
ani przez zaniechanie działania dopuścić, aby człowiek doznał krzywdy."

skoro sami sobie zadajemy krzywde zamknie nas w izolatkach

"robot musi być posłuszny rozkazom człowieka, chyba że stoją one w sprzeczności z Pierwszym Prawem"

podpisujemy wyrok - nie dość że polecenie o nie zaniechaniu jest rozkazem to trzecie prawo dodatkowo wzmacnia w robocie aktywność zgodnie z dyrektywami pierwszego prawa i sryczek gotowy

"robot musi chronić sam siebie, jeśli tylko nie stoi to w sprzeczności z Pierwszym lub Drugim Prawem"

a to stawia podpórke pod stryczek i zabawa przegrana
jeśli robot uzna że walka z nim spowoduje zagrożenie bo bez niego sie pozabijamy albo jesli ludzkość podzielona w walce z robotami przy okazji zechce zlikwidować paru ludzi..robot może uznać że jego obecność nie stoi w sprzeczności z pierwszym prawem.

na zakończenie muzyczka Röyksopp - The Girl And The Robot
http://www.youtube.com/watch?v=-EJUCkSMN4k