Peleryna-niewidka dla sztucznej inteligencji. Jak ukryć się przed algorytmami wizyjnymi

Naukowcy z Katolickiego Uniwersytetu Lowańskiego w Belgii odkryli, że zawieszenie na szyi małego, wielobarwnego obrazka potrafi zmylić przynajmniej niektóre algorytmy wizyjne. Człowiek staje się wówczas zupełnie niewidzialny, jakby ubrał bajkową pelerynę-niewidkę.

W pierwszej chwili pomysł na noszenie niezgrabnego przedmiotu na szyi wydaje się dość absurdalny, ale trzeba pamiętać, że podobny obrazek można po prostu nadrukować na koszulkę lub bluzę.

– Wierzymy, że jeśli połączymy tę technikę z symulacją odzieży, możemy zaprojektować nadruk na t-shirt, który uczyni osobę praktycznie niewidoczną dla automatycznych kamer monitorujących – czytamy w opracowaniu. Oto filmowe sci-fi dzieje się na naszych oczach.

Technicznie rzecz biorąc, odkrycie belgijskich inżynierów nie jest niczym szczególnym. Przykłady tego rodzaju określa się mianem przykładów kontradyktoryjnych. Wykorzystują one słabość algorytmów, polegającą na każdorazowym odwoływaniu się do ściśle zdefiniowanego wzorca matematycznego; szukają wzorów pikseli, które następnie kojarzą z daną osobą czy człowiekiem w ogóle.

Na tej samej zasadzie naukowcy z Carnegie Mellon University w 2016 r. stworzyli okulary, które pozwalają figurować jako ktoś inny dla systemów rozpoznawania twarzy.

Wystarczył odpowiedni wzór na oprawkach, aby 41-letni wówczas badacz płci męskiej mógł widnieć jako aktorka Milla Jovovich z blisko 88-proc. prawdopodobieństwem. Choć 24-letniej Azjatce udało się naśladować Colina Powella ledwie w 16 proc. Tak czy inaczej, algorytm nie był pewny swego.

Oczywiście świadomość możliwości relatywnie prostego oszukania SI otwiera kolejne pole do dyskusji, a mianowicie chodzi o obawy na temat bezpieczeństwa. Jednak tym razem motywowane nie możliwością śledzenia, lecz podszycia się pod daną osobę przez kogoś innego.

Wyobraźcie sobie tylko system bankowy, który działałby na podstawie weryfikacji twarzy. Kredyt wzięty przez złodzieja tożsamości? To realne zagrożenie. Realne również na chwilę obecną, przy konwencjonalnych metodach weryfikacji, ale jak widać, SI tego problemu nie rozwiązuje.