Chińska SI do wykrywania korupcji to nietrafiony pomysł. Jest zbyt skuteczna?

Strona główna Aktualności
Chińska SI do wykrywania korupcji to nietrafiony pomysł. Jest zbyt skuteczna?
Chińska SI do wykrywania korupcji to nietrafiony pomysł. Jest zbyt skuteczna?

O autorze

Sztuczna inteligencja jest bardzo obiecującą pomocą w utrzymaniu ogromnej gospodarki i administracji Chin. Oprogramowanie jest wykorzystywane do identyfikacji dłużników i takich drobiazgów, jak rozpoznawanie twarzy osób przechodzących na czerwonym świetle. Ministerstwo Spraw Zagranicznych stosuje modele maszynowego uczenia jako pomoc w podejmowaniu strategicznych decyzji, a blockchain ma pomóc chronić dokumenty przed fałszerstwami. W Państwie Środka działa także eksperymentalny system Zero Trust, identyfikujący urzędników przyjmujących łapówki, zgodnie z polityką przewodniczącego Chińskiej Republiki Ludowej Xi Jinpinga. Dni systemu są już policzone – wszytko wskazuje na to, że zostanie wyłączony.

Sztuczna inteligencja Zero Trust działa od 2012 roku w 30 okręgach i miastach (1 proc. całej administracji), gdzie pomogła znaleźć 8721 urzędników, którzy przyjęli łapówki lub w inny sposób nadużyli władzy dla własnej korzyści. System robi to, analizując zbiory danych na temat pracy i życia osobistego milionów pracowników rządowych i wykrywa czynniki wskazujące na korupcję. Oprogramowanie ma dostęp do ponad 150 chronionych baz danych i buduje wielopoziomowe mapy relacji międzyludzkich, w tym wykrywać podejrzane transakcje, budowy i wyburzenia, zakupy członków rodziny przekraczające ich typowy budżet i tym podobne. Dzięki korzystaniu z wielu źródeł SI rozpozna też sfałszowane dane.

Mimo skuteczności Zero Trust ma wielu przeciwników. SI szybko znajduje anomalie, ale ma ogromne problemy z wyjaśnieniem, jakie czynniki na nie wskazują. Po wykryciu potencjalnej łapówki model szacuje prawdopodobieństwo i jeśli przekroczy ono pewien próg, powiadomi odpowiednie osoby. W większości przypadków SI się nie myli, ale mimo wszystko potrzebuje ludzkiego nadzoru. Maszyna nie porozmawia z podejrzaną osobą, a ostateczna decyzja zawsze należy do człowieka. Osoby przyłapane na nieczystych zagraniach w większości otrzymały jedynie łagodne kary i zachowały swoje stanowiska. Tylko nieliczni trafili do więzienia.

Zero Trust spotyka się jednak ze sporym oporem ze strony urzędników. Niektórzy nie czują się komfortowo z takim nadzorującym automatem. Mimo że celem systemu nie jest karanie urzędników, ale ocalenie ich przed „zejściem na złą drogę”, pracownicy rządowi odczuwają ogromną presję. W niektórych prowincjach urzędnicy w ogóle nie chcieli udostępnić danych ani wskazywać podejrzanych zachowań, a bez nich uczenie SI nie jest możliwe. Brakuje też regulacji prawnych w zakresie udostępniania wrażliwych danych programowi.

Analitycy szacują, że w Chinach rząd zatrudnia ponad 64 miliony osób i monitorowanie ich życia jest poza zasięgiem ludzi. Zero Trust jednak jest wyłączany w kolejnych administracjach i na pewno nie zostanie wprowadzony na skalę krajową.

© dobreprogramy