Deepfake - rosnące w siłę zagrożenie współczesnego internetu

Od lat jednym z największych problemów związanych z szeroko rozumianym mechanizmem oszustwa - nie tylko w sieci - jest wiara przyszłej ofiary, że robi coś w słusznym celu lub że próbuje komuś pomóc. Wystarczy przeanalizować popularną metodę "na wnuczka" i zwrócić uwagę na przekonanie najczęściej starszej osoby, że pomaga swojemu krewnemu w potrzebie. Widać więc, jak dużą rolę odgrywa tu kwestia ufności i przekonania, że rozmówca to godny zaufania człowiek, z którym z jakichś przyczyn należy współpracować, by osiągnąć pozytywne zakończenie.

Cyberoszuści postanowili wykorzystać dokładnie te same zasady do swoich działań manipulacyjnych w sieci. Na nieszczęście przyszłych ofiar, technologia deepfake skutecznie pomaga im osiągać swoje cele - dając techniczne narzędzia do tworzenia fałszywych obrazów i treści wideo, które później można wykorzystać na własną korzyść.

Deepfake to nic innego jak wykorzystanie sztucznej inteligencji do stworzenia materiałów wideo, często ze ścieżką dźwiękową, które są fałszywe, ale zawierają wizerunki znanych postaci. Dzięki uczeniu maszynowemu i stałemu rozwojowi oprogramowania, które jest wykorzystywane do generowania obrazów w ten sposób, materiały stają się z tygodnia na tydzień coraz bardziej "autentyczne". 

W tym przypadku oznacza to - coraz trudniejsze do rozpoznania zwłaszcza przez osoby przywiązujące niewielką wagę do detali lub po prostu nieinteresujące się technologią. Zwłaszcza gdy film wyświetlany jest w pośpiechu, w komunikacji miejskiej na ekranie telefonu, trudno bowiem z całkowitym przekonaniem stwierdzić, czy nagranie jest lub nie jest prawdziwe. Skuteczność deepfake'ów jest bowiem na tyle wysoka, że rozpoznanie niuansów zdradzających podróbkę staje się coraz trudniejsze - zwłaszcza przez osoby starsze.

Widząc więc krótki film z ulubioną aktorką, politykiem czy przedsiębiorcą, nie można już dziś być pewnym, że jest to nagranie prawdziwe. Na pierwszy rzut oka - zwłaszcza gdy twórca zastosuje kilka specyficznych trików - tak spreparowany film może być nie do odróżnienia od prawdziwego nagrania. Twórca fałszywki może jednak wpływać na słowa, które wypowiada postać i sterować jej zachowaniem, a co za tym idzie - tworzyć fałszywe apele, instrukcje czy reklamy, które zachęcają na przykład do niebezpiecznych inwestycji i przelewów środków, a tu wracamy do analogii do "oszustwa na wnuczka".

Gdzie można trafić na nagrania stworzone jako deepfake? Najprościej rzecz ujmując - wszędzie, ale najczęściej będą to media społecznościowe. Autorom takich nagrań chodzi o granie na emocjach i wykorzystywanie kontekstu sytuacji do nakłaniania ofiar do działania. Na fałszywe nagrania trzeba więc być przygotowanym zwłaszcza w kontekście dyskusji politycznych, gdy różne grupy próbują forsować swoje przekonania i tezy, posługując się przy tym spreparowanymi nagraniami.

Wyrwane z kontekstu wypowiedzi polityków zmienione za pomocą oprogramowania tak, by wyglądały na kompletną (ale i fałszywą) wypowiedź, są więc w sieci na porządku dziennym, ale to nie wszystko. Aktorzy i politycy to również chętnie wykorzystywane wizerunki. Znany aktor poleca inwestycję w sponsorowanym poście na Facebooku? Popularny przedsiębiorca sugeruje, by przelać pieniądze na konto jakiejś organizacji? Takie filmy powinny zapalać "czerwoną lampkę" i niezależnie od pozornej atrakcyjności być wskaźnikiem, że mogą to być materiały fałszywe i lepiej im nie ufać.

Dobra wiadomość dla potencjalnych ofiar jest taka, że deepfake'a można wciąż rozpoznać. Co prawda z dnia na dzień technologia rozwija się i fałszywe nagrania są coraz trudniejsze do odróżnienia od oryginału, na tę chwilę nadal istnieją cechy filmów, które pozwalają zauważyć, że film może być wynikiem graficznej manipulacji.

Typowy deepfake cechuje się bowiem:

• celowo obniżoną rozdzielczością i jakością nagrania, co pozwala niejako naturalnie zatuszować niedoskonałości generowania obrazu,
• nienaturalnymi ruchami kamery i zmianą ostrości, co również utrudnia analizę szczegółów nagrania,
• nienaturalnymi ruchachami ust lub rąk postaci, które nie pokrywają się z wypowiadanymi słowami i spodziewaną gestykulacją,
• w przypadku nagrań z dźwiękiem nienaturalnym wypowiadaniem niektórych słów (problemy dotyczą m.in. liczebników i odmian wyrazów) oraz sztuczną intonacją,
• zbyt gładką skórą postaci i dużą płynnością ruchów, nieznaną w naturze.

Trafiając na dowolne nagrania, które wpisują się w taki opis, warto dwa razy zastanowić się, nim podejmie się jakiekolwiek kroki sugerowane na filmie. Jeśli nagranie dotyczy inwestycji środków i pomnażania oszczędności, a całość przedstawiana jest jako "niepowtarzalna oferta" ograniczona czasowo, można być niemal pewnym, że to jakiegoś rodzaju manipulacja i deepfake, który ma doprowadzić do utraty środków i danych.

Pamiętajmy, że w internecie głównym gwarantem bezpieczeństwa jesteśmy my sami i krytyczne spojrzenie na wszystkie widziane w sieci materiały. Co do zasady warto zakładać, że każdy widziany film może być w jakiś sposób zmanipulowany. "Pozytywna podejrzliwość" może bowiem pomóc uchronić nasze dane przed wyciekiem, a środki przed trafieniem na konto bankowe oszusta, skąd nie uda się ich już odzyskać.