Microsoft wypowiada wojnę pedofilom. Narzędzie do ich zwalczania udostępni innym

Microsoft wydał narzędzie, które pozwoli ponoć operatorom czatów na lepsze filtrowanie rozmów pod kątem nadużyć wobec dzieci. Projekt Artemida, w ramach którego stworzono oprogramowanie, jest obecnie częścią platformy Xbox Live. Jednak trafi także do innych podmiotów.

Artemida to algorytm bazujący na rozpoznawaniu określonych słów i wzorców mowy. Podejrzane wiadomości flaguje i wysyła do ludzkiego moderatora. Ten musi zadecydować, czy dany przypadek kwalifikuje się do powiadomienia policji. W sprawach o charakterze seksualnym zostaje dodatkowo wysłana notka do Centrum do Spraw Zaginionych i Wykorzystywanych Dzieci.

– Zdarza się narzekać na czaty online, na każdym są nadużycia, ale powinniśmy chwalić wprowadzanie mechanizmów ochronnych – mówi Julie Cordua, dyrektor generalny fundacji Thorn, która działa na rzecz zapobiegania wykorzystywaniu dzieci w internecie, cytowana przez The Verge. – Jeśli ktoś powie, że nie ma nadużyć, odpowiem mu: no cóż, a szukacie? – dodaje.

W grudniu New York Times opublikował obszerny reportaż o przypadkach nadużyć seksualnych wobec dzieci w grach online. Jak zauważono, w 2017 roku pewien mężczyzna został skazany na 15 lat więzienia za grożenie dzieciom gwałtem i morderstwem za pośrednictwem Xbox Live. To doprowadziło do debaty społecznej w całych USA, czego efektem było chociażby zaprezentowanie nowych narzędzi moderatorskich przez Facebooka.

Od tamtej pory Facebook monitoruje konta, których właściciele często kontaktują się z nieletnimi, a jednocześnie są przez nieletnich często blokowani. Zdaniem fundacji Thorn, narzędzie Microsoftu jest jednak lepsze. – Czaty są trudne do monitorowania pod kątem potencjalnego wykorzystywania dzieci, ponieważ w rozmowie może być tak wiele niuansów – zauważa Cordua, wskazując na konieczność śledzenia nie liczby samych prób kontaktu, ale dokładnego przebiegu rozmowy.

Aktywistka dodaje też, że relacja napastnika z ofiarą rzadko kiedy ogranicza się do jednej platformy. – Próbują odizolować dziecko i podążać za nim na wielu platformach, aby znaleźć możliwie wiele płaszczyzn wykorzystywania – kontynuuje. – Napastnik może poprosić o zdjęcie, a następnie zażądać filmu, zwiększając posziom treści seksualnych – wyjaśnia.

Artemida jest rozwijana od listopada 2018 roku. Wszystko zaczęło się na imprezie Cross-Industry Hackathon, sponsorowanej przez dwie grupy ochrony dzieci, WePROTECT Global Alliance i Child Dignity Alliance. Fundacja Thorn reprezentowana przez Corduę współpracowała przy tworzeniu projektu. Zresztą, tak jak kilka innych podmiotów tego typu: Roblox, Kik czy The Meet Group. Kierownikiem mianowano natomiast Hanego Farida, autora narzędzia PhotoDNA do wykrywania i zgłaszania zdjęć o charakterze pedofilskim.

Dokładne szczegóły działania Artemidy pozostają tajemnicą. Nie jest na przykład jasne, jak i czy w ogóle poradzi sobie ona z czatami wykorzystującymi szyfrowanie end-to-end, takimi jak Telegram lub Signal. Nie wiadomo również kto odpowie za ludzką stronę moderacji ani czy zapewni swoim ludziom opiekę na wypadek wystąpienia stresu pourazowego, co przy analizie najcięższych przypadków wcale nie jest takie abstrakcyjne jak mogłoby się wydawać.

Poza tym znaczącym ograniczeniem jest niewątpliwie, że Artemida działa tylko w języku angielskim, przynajmniej w tej chwili. Microsoft, jak podaje w informacji prasowej, nie wyklucza dalszej rozbudowy narzędzia, ale konkretów w tej kwestii brakuje. Sam przyznaje ponadto, że rozwiązanie nie jest żadnym panaceum, ale mimo wszystko ma stanowić krok w dobrą stronę.