SI może wkładać w usta polityków słowa innych. Deepfake w natarciu

Deepfake, czyli film zmanipulowany z użyciem maszynowego uczenia, może być bardzo przekonujący. Już przekonaliśmy się, jakie konsekwencje może mieć wstawianie czyjejś twarzy do filmu pornograficznego. Może to być bardzo ciekawa usługa dla szukających nowych wrażeń, a w nieodpowiednich rękach także narzędzie zemsty i manipulacji.

Nowa metoda, opracowana przez badaczy z Carnegie Mellon University, może przełożyć mimikę i ruchy ust jednej osoby na inną. Dzięki niej Donald Trump może mówić tak samo, jak Barack Obama, a Jarosław Kaczyński jak Lech Wałęsa. W połączeniu z techniką podobną do Adobe VoCo, która pozwala „wypowiadać” słowa dowolnym głosem, może to być bardzo groźne, polityczne narzędzie.

Naukowcy zademonstrowali swoją metodę na filmie. Możemy zobaczyć między innymi, jak twarz Stephena Colberta robi identyczne miny, jak John Oliver, co dla śledzących amerykańską kulturę popularną jest niezłą rozrywką. Dalej możemy zobaczyć, jak mimika Donalda Trumpa zamienia się w wyrazy twarzy Baracka Obamy, co jest dość niepokojące. To samo można zrobić z nagraniami polityków z dowolnego innego kraju i wywołać spore zamieszanie. Z drugiej strony, można wykorzystać ten mechanizm także do tworzenia ciekawych efektów, co można zobaczyć na przykładzie kwiatów i antropomorficznej żaby 3D (co znacznie ułatwiłoby prace nad filmami animowanymi).

Technika nie jest jeszcze doskonała. Podczas oglądania demonstracji zobaczycie na pewno pewne podejrzane przesunięcia i zniekształcenia okularów czy krawata. Ruchy ust są jednak odwzorowane bardzo dobrze i jeśli uda się sfabrykować do nich odpowiednią ścieżkę dźwiękową, prowokacja gotowa. Jeśli narzędzie będzie ogólnodostępne, stronnictwa polityczne mogą łatwo i tanio tworzyć materiały propagandowe. Jeśli filmy będą prezentowane w niskiej jakości, mogą skutecznie oszukać widzów nieprzyzwyczajonych do poszukiwania takich błędów. Dla niewprawnego obserwatora te artefakty mogą wskazywać na wysoką kompresję lub słabe łącze internetowe podczas transmisji na żywo.

Szczegóły zostały opisane w publikacji, wraz z przykładowymi zastosowaniami.