Jak nie dać się oszukać deepfake'om? Wystarczy spojrzeć w oczy
Żyjemy w czasach, w których coraz trudniej odróżnić fikcję od rzeczywistości. Być może nigdzie zjawisko to nie jest bardziej niepokojące niż w świecie deepfake’ów i komputerowo wygenerowanych twarzy ludzi, którzy w rzeczywistości nie istnieją, ale wyglądają niezwykle podobnie do prawdziwych osób.
Naukowcy opracowali technikę, która może pomóc wykryć, czy twarze, na które patrzymy, to rzeczywiście prawdziwi ludzie, a nie fantazmaty wyczarowane przez sztuczną inteligencję. Ich eksperyment został opisany w przeddruku dostępnym w archiwum arXiv.
Według nowego badania, prowadzonego przez informatyka Hui Guo z Uniwersytetu Stanowego w Nowym Jorku, sekret tkwi w oczach, a konkretnie w kształtach źrenic. Robiąc zbliżenia na sztuczne oczy twarzy stworzonych przez system uczenia maszynowego zwany generatywną siecią przeciwstawną (GAN), badacze zauważyli coś dziwnego w źrenicach.
W przeciwieństwie do prawdziwych źrenic wiele podróbek nie było w rzeczywistości okrągłych. "Źrenice mają prawie okrągły kształt u zdrowych dorosłych" – wyjaśnia zespół badaczy. "Porównując je z prawdziwymi twarzami, zauważamy, że widoczne niespójności można zaobserwować w regionach oczu twarzy wygenerowanych przez GAN" – dodaje.
Zdaniem naukowców to dziwne zjawisko jest spowodowane tym, że modele GAN nie rozumieją anatomii ludzkiego oka, szczególnie w odniesieniu do geometrycznych kształtów regularnych źrenic. Aby zbadać, jak powszechne jest to charakterystyczne zjawisko, naukowcy opracowali narzędzie do wykrywania, które automatycznie wyodrębnia kontury źrenic z oczu na zdjęciach, a następnie ocenia je, aby sprawdzić, czy mają eliptyczny kształt.
W eksperymencie przeprowadzonym na bazie danych 2000 obrazów (1000 prawdziwych twarzy i 1000 fałszywych), system niezawodnie rozróżniał obie grupy. "Odkryliśmy, że w wysokiej jakości twarzach generowanych przez StyleGAN powszechnie występują nieregularne kształty źrenic, które różnią się od prawdziwych ludzkich źrenic" – wyjaśniają naukowcy.
"Proponujemy nową metodę opartą na fizjologii, która może wykorzystać nieregularne kształty źrenic jako wskazówkę do wykrywania twarzy generowanych przez GAN, która jest prosta, a jednocześnie skuteczna" – dodają badacze.
Według zespołu taka technologia może pewnego dnia pomóc w przeciwdziałaniu złośliwemu wykorzystaniu realistycznie wyglądających deepfake’ów używanych do oszukiwania ludzi między innymi na platformach mediów społecznościowych.
