Chińska SI do wykrywania korupcji to nietrafiony pomysł. Jest zbyt skuteczna?

Sztuczna inteligencja jest bardzo obiecującą pomocą w utrzymaniu ogromnej gospodarki i administracji Chin. Oprogramowanie jest wykorzystywane do identyfikacji dłużników i takich drobiazgów, jak rozpoznawanie twarzy osób przechodzących na czerwonym świetle. Ministerstwo Spraw Zagranicznych stosuje modele maszynowego uczenia jako pomoc w podejmowaniu strategicznych decyzji, a blockchain ma pomóc chronić dokumenty przed fałszerstwami. W Państwie Środka działa także eksperymentalny system Zero Trust, identyfikujący urzędników przyjmujących łapówki, zgodnie z polityką przewodniczącego Chińskiej Republiki Ludowej Xi Jinpinga. Dni systemu są już policzone – wszytko wskazuje na to, że zostanie wyłączony.

Sztuczna inteligencja Zero Trust działa od 2012 roku w 30 okręgach i miastach (1 proc. całej administracji), gdzie pomogła znaleźć 8721 urzędników, którzy przyjęli łapówki lub w inny sposób nadużyli władzy dla własnej korzyści. System robi to, analizując zbiory danych na temat pracy i życia osobistego milionów pracowników rządowych i wykrywa czynniki wskazujące na korupcję. Oprogramowanie ma dostęp do ponad 150 chronionych baz danych i buduje wielopoziomowe mapy relacji międzyludzkich, w tym wykrywać podejrzane transakcje, budowy i wyburzenia, zakupy członków rodziny przekraczające ich typowy budżet i tym podobne. Dzięki korzystaniu z wielu źródeł SI rozpozna też sfałszowane dane.

Mimo skuteczności Zero Trust ma wielu przeciwników. SI szybko znajduje anomalie, ale ma ogromne problemy z wyjaśnieniem, jakie czynniki na nie wskazują. Po wykryciu potencjalnej łapówki model szacuje prawdopodobieństwo i jeśli przekroczy ono pewien próg, powiadomi odpowiednie osoby. W większości przypadków SI się nie myli, ale mimo wszystko potrzebuje ludzkiego nadzoru. Maszyna nie porozmawia z podejrzaną osobą, a ostateczna decyzja zawsze należy do człowieka. Osoby przyłapane na nieczystych zagraniach w większości otrzymały jedynie łagodne kary i zachowały swoje stanowiska. Tylko nieliczni trafili do więzienia.

Zero Trust spotyka się jednak ze sporym oporem ze strony urzędników. Niektórzy nie czują się komfortowo z takim nadzorującym automatem. Mimo że celem systemu nie jest karanie urzędników, ale ocalenie ich przed „zejściem na złą drogę”, pracownicy rządowi odczuwają ogromną presję. W niektórych prowincjach urzędnicy w ogóle nie chcieli udostępnić danych ani wskazywać podejrzanych zachowań, a bez nich uczenie SI nie jest możliwe. Brakuje też regulacji prawnych w zakresie udostępniania wrażliwych danych programowi.

Analitycy szacują, że w Chinach rząd zatrudnia ponad 64 miliony osób i monitorowanie ich życia jest poza zasięgiem ludzi. Zero Trust jednak jest wyłączany w kolejnych administracjach i na pewno nie zostanie wprowadzony na skalę krajową.