Ofiarą kuriozalnej pomyłki algorytmów Google padł Just Video Player, zupełnie niegroźny odtwarzacz wideo. System uznał, że aplikacja zawiera treści erotyczne bądź pornograficzne. Dlaczego? Bo w jej opisie pojawiło się słowo ass (ang. tyłek), które algorytm prostolinijnie ocenił jako wulgarne określenie pośladków, nie biorąc pod uwagę kontekstu.
Tymczasem ASS pisane wielkimi literami to akronim od terminu Advanced SubStation Alpha, który oznacza format zapisu plików znanego edytora napisów Aegisub.
Sztuczna (nie)inteligencja
Wprawdzie po odwołaniu ze strony twórców Google aplikację przywrócił, ale przedstawił przy tym równie kuriozalną, co całe zdarzenie, sugestię. Jak zalecił, chcąc uniknąć problemów w przyszłości, deweloperzy nie powinni używać dwuznacznych terminów, które maszyna może zinterpretować jako zakazane w Sklepie Play.
To z kolei mocno podważa jakość googlowskiej AI, sprowadzając ją do rangi prymitywnego filtra słownikowego. Zespół Just Video Playera profilaktycznie radę wdrożył.
