Google wydaje bezpłatne narzędzie SI, aby pomóc w walce z dziecięcą pornografią

Walka z osobami publikującymi pornografię dziecięcą trwa nieprzerwanie. Jest zarazem niezwykle ciężka dla wszystkich moderatorów, którzy ręcznie muszą identyfikować i usuwać niepożądane treści. Ale Google zdecydowało się takim osobom pomóc, publikując bezpłatne narzędzie SI do wykrywania wszelkich przejawów seksualnego molestowania dzieci w internecie.

Na dzień dzisiejszy wykrywanie nielegalnych materiałów pozostaje pracą z grubsza manualną. Największe serwisy społecznościowe, takie jak Facebook czy Twitter, wykorzystują tylko proste roboty internetowe (ang. web crawler), które mogą jedynie wskazać zabronione pliki – filmy czy zdjęcia – uprzednio rozpoznane przez ludzkich moderatorów. To sposób efektywny, ale jedynie wobec materiałów znanych, a przecież w sieci co rusz pojawia się coś nowego.

Tutaj na scenę wkracza rozwiązanie firmy z Mountain View. Wykorzystując technikę widzenia maszynowego, narzędzie Google'a ma asystować moderatorom poprzez flagowanie treści potencjalnie niechcianych, a następnie sortować je według prawdopodobieństwa zawarcia przejawów przestępstwa. Jak szczyci się producent, wykorzystanie SI może zwiększyć efektywność pracy moderatora o nawet 700 proc., co zostało ponoć potwierdzone jednym z wewnętrznych testów: pracownik nie tylko nie musi ręcznie wyszukiwać szkodliwego materiału, ale także zostaje w pewnym stopniu zwolniony z jego gruntownego przeglądania.

W entuzjastyczny sposób na temat najnowszego pomysłu Google'a wypowiedział się Fred Langford, szef organizacji Internet Watch Foundation (IWF), która jest charytatywnym podmiotem dbającym o bezpieczeństwo w sieci. – To pomoże zespołom takim jak nasz efektywniej wykorzystywać ograniczone zasoby – powiedział, zaznaczając jednak, że w dalszym ciągu nie możemy mówić o pełnej automatyzacji, a tylko wsparciu sztabu ludzi w ich pracy.

Przy czym zdaniem Langforda pełna automatyzacja powinna nastąpić już w ciągu najbliższych dwóch lat. – Jesteśmy tylko o jeden czy dwa lata od stworzenia czegoś, co jest w pełni zautomatyzowane w niektórych przypadkach – zakończył wypowiedź.