Syntetyczna pornografia ze sztucznej inteligencji: nasze twarze już nie są nasze

Przyjaciele i rodzina Gal Gadot, popularnej izraelskiej modelkimogli się w tym tygodniu poczuć… zniesmaczeni? Zaskoczeni?Przerażeni? Na pewno jednak widok bliskiej im kobiety, biorącejudział w pornograficznym filmiku z mężczyzną przedstawionym jakojej „brat przyrodni”, musiał nimi wstrząsnąć. Pewnie dopieropo bliższym przyjrzeniu się zauważyli, że to nie jej ciało, a ztwarzą momentami bywa coś nie tak. Dżin jednak uciekł z butelki.Bliżej nieznany programista, korzystający na reddicie z nickadeepfakes, udowodnił, że niewielkim nakładem sił i środkówmożna dziś z każdego zrobić gwiazdę sceny, w jakiej nigdy nieuczestniczył. Pożegnajcie się z „niezbitymi dowodami” znagrań, czas przestać wierzyć we wszystko, co się widzi.

Deepfakes nie ma własnego studia efektów specjalnych. Niekorzysta z kosztującego dziesiątki tysięcy dolarów oprogramowaniaani superkomputerów. Klip wideo z Gal Gadot, który przyniósł musławę w Internecie, zrobił za pomocą google’owego frameworkaTensorFlow iprzeznaczonej do szybkiego głębokiego uczenia sieci neuronowychbiblioteki Keras. Te same narzędziapozwoliły mu wcześniej stworzyć syntetyczną pornografię zudziałem takich celebrytek jak Scarlett Johansson, Maisie Williams,Aubrey Playa i Taylor Swift, publikowanych na subreddicie/r/celebrityfakes.

Za źródło obrazu posłużyły publicznie dostępne zasoby –wyniki wyszukiwania Google Image Search, stockowe zdjęcia i klipy zYouTube. Do tego oczywiście wzięty z pornograficznej witrynyfilmik, w którym grającej bohaterce sztuczna inteligencja zarazmiała podmienić twarz. Deepfakes wyjaśnia, że korzysta zalgorytmu inspirowanego rozwiązaniamiNvidii, wykorzystywanymi do przekształcania atrybutów obrazu.

Podziw internautów wzbudził tego lata klip wideo, w którymzimowa sceneria widziana z okna samochodu zostaje przemieniona wscenerię letnią. Tu całą pracę wykonały rywalizujące ze sobiąsieci neuronowe (GAN – generative adversial networks), które zwykorzystaniem wariacyjnych autokoderów (VAE – variationalautoencoders) w procesie nienadzorowanego treningu opracowały sobiealgorytm takiej transformacji. Jedna sieć generowała syntetyczneobrazy, próbując oszukać drugą sieć, która uczyła się jakodróżniać fałszywe obrazy od rzeczywistych. Z czasem osiągnęły w tym naprawdę niezły poziom.

Badacze Nvidii zapewne nie myśleli, że coś takiego mogłobyposłużyć do tworzenia syntetycznej pornografii, a jednak – naPornhubie już niemal 200 tysięcy osób zobaczyło klip z Gal Gadot(którego z oczywistych powodów tu nie wstawiamy). Każdy kto goobejrzy przyzna, że choć nie jest doskonały, choć w wielumiejscach pojawiają się wizualne usterki, a ruch ust nie zawszeodpowiada wypowiadanym słowom, to jednak na pierwszy rzut oka iluzjajest niezła. Deepfakes wyjaśnia – znalazłem sprytny sposóbna podmianę twarzy. Mając setki zdjęć, mogę łatwo wygenerowaćmiliony zniekształconych obrazów, by trenować na nich sieć. Jakdostarczę sieci czyjąś inną twarz, uzna, że to kolejnyzniekształcony obraz i będzie próbowała dostosować go do tego,co poznała na twarzy szkoleniowej.

Technika dopiero raczkuje, ale można się spodziewać, że wnajbliższych latach tworzenie fałszywych filmów za pomocągłębokiego uczenia wejdzie na wyższy poziom, tym bardziej, żedostępna dziś za względnie nieduże pieniądze moc obliczeniowajest oszałamiająca. Kilka dni temu Nvidia zaprezentowała przecieżkartę Titan V w mikroarchitekturze Volta, której ponad 21 mldtranzystorów zapewnia wydajność 110 TFLOPS, a dzięki 640specjalnym „rdzeniom tensorowym”, ma być dziewięciokrotniewydajniejsza w głębokim uczeniu niż jej poprzednik. Co deepfakesbędzie w stanie zrobić z taką kartą, zobaczymy pewnie nareddicie.

Yuanshun Yao z University of Chicago, prowadzący badania nadautomatycznym tworzeniem przekonujących recenzji w Sieci za pomocąsztucznych sieci neuronowych, a także wykrywaniem takich fałszywychrecenzji, przekonany jest, że za 5 do 10 lat będziemy otoczenitakimi tworzonymi przez AI treściami. Z kolei Hany Farid, ekspert zDartmouth College prowadzący badania nad wykrywaniem fałszywychwideo, jest przekonany, że w bliskiej przyszłości możemy zobaczyćnp. jak wygenerowany klip, na którym prezydent Trump wydaje rozkazataku nuklearnego na Koreę Północną dostaje się do Sieci iwywołuje panikę porównywalną z tą, jaką wywołała radiowaedycja „Wojny Światów” H.G. Wellsa.

Niektórzy już już rozpaczają nad etycznymi konsekwencjamipostępu technicznego – i są wśród nich gwiazdy porno. Wodniesieniu do produkcji deepfakes pojawiają się głosy o„uprzedmiotowieniu” kobiet, uczynieniu z nich obiektów, którymimożna dowolnie manipulować i zmusić do dowolnych aktów – takjakby samą esencją pornografii nie było wzięcie w nawiaszakłócających erotyczną fantazję aspektów seksu. Inne gwiazdymówią, że podstawą tworzenia pornograficznych produkcji jestprzyzwolenie (consent), tymczasem tworzenie fałszywych scen zudziałem celebrytek odbiera im to prawo do przyzwolenia i jako takiejest złe.

Można jednak uznać, że faktycznie chodzi o coś innego. Dlaludzi zarabiających niezgorsze pieniądze swoim wizerunkiem,przejęcie tego wizerunku przez sztuczne inteligencje, tworzenieprzez samodzielnych programistów–trenerów treści wychodzącychnaprzeciw fantazjom widzów to podważenie ich modelu biznesowego.Jeśli za 10 lat możliwe się stanie wygenerowanie dowolnej scenypornograficznej (i nie tylko pornograficznej) z udziałem postaciwyglądających tak, jak sobie tego życzy projektant sceny, to ktobędzie chciał płacić aktor(k)om kilka tysięcy dolarów za dzieńzdjęciowy?