Google Sklep Play zalicza kuriozalną wpadkę: uznał odtwarzacz wideo za pornografię

O tym, że Google radzi sobie z kontrolą zawartości Sklepu Play raczej kiepsko, nikogo uświadamiać nie trzeba. Mówiąc nieco kolokwialnie, malware można stamtąd wynosić workami. Tym razem jednak sprawa jest inna niż zazwyczaj.

Piotr Urbaniak

27 stycznia 2021, 13:09

Ofiarą kuriozalnej pomyłki algorytmów Google padł Just Video Player, zupełnie niegroźny odtwarzacz wideo. System uznał, że aplikacja zawiera treści erotyczne bądź pornograficzne. Dlaczego? Bo w jej opisie pojawiło się słowo ass (ang. tyłek), które algorytm prostolinijnie ocenił jako wulgarne określenie pośladków, nie biorąc pod uwagę kontekstu.

Tymczasem ASS pisane wielkimi literami to akronim od terminu Advanced SubStation Alpha, który oznacza format zapisu plików znanego edytora napisów Aegisub.

Sztuczna (nie)inteligencja

Wprawdzie po odwołaniu ze strony twórców Google aplikację przywrócił, ale przedstawił przy tym równie kuriozalną, co całe zdarzenie, sugestię. Jak zalecił, chcąc uniknąć problemów w przyszłości, deweloperzy nie powinni używać dwuznacznych terminów, które maszyna może zinterpretować jako zakazane w Sklepie Play.

To z kolei mocno podważa jakość googlowskiej AI, sprowadzając ją do rangi prymitywnego filtra słownikowego. Zespół Just Video Playera profilaktycznie radę wdrożył.

Piotr Urbaniak