Jigsaw Conversation AI wykorzystuje techniki maszynowego uczeniasię, by automatycznie wykryć to, co Google nazywa mowąnienawiści: seksizmem,rasizmem, homofobią, transfobią, islamofobią, imigrantofobią iinnymi zagrożeniami dla Internetu takiego, jakim Google by chciałogo widzieć. Już teraz Jigsaw osiągnął znacznie wyższąskuteczność niż jakikolwiek filtr działający na słowachkluczowych i szybkość niemożliwą do osiągnięcia przez ludzkichmoderatorów. Ta technologia Google’a pozwala na zwalczanieinternetowych trolli ihejterów niemal wczasie rzeczywistym: ich komentarze zostaną wykryte i usunięte, aoni sami – zablokowani.
Po wytrenowaniu na ponad 17 milionach anglojęzycznych (póki co)komentarzy, Conversation AI rozpozna takie słowa jak „nigger”,„faggot”, „tranny” w ich rozmaitych mutacjach, oznaczającstosującego je użytkownika jako internetowego prześladowcę.Zawierające takie słowa blogi nie znajdą się w wynikachwyszukiwania Google’a, w praktyce wszelkie obraźliwe treściznikną z używanego masowo Internetu, zostaną zepchnięte do niszy,gdzie nie będą raziły niczyich oczu. Nic więc dziwnego, żezwiązane z nurtem sprawiedliwości społecznej amerykańskie media,takie jak The Verge czy Wired nie mogły się nachwalić sztucznegocenzora.
Jak łatwo się domyślić, główna internetowa oaza trolli,źródło wszelkich oryginalnych memów tej planety – czyliimageboard 4chan.org – nie zareagowała z porównywalnymentuzjazmem. Anonimowi skupieni wokół tablicy /pol/ jako pierwsizaproponowali operację o iście diabelskiej przebiegłości. SkoroGoogle chce blokować słowa i ludzi za używanie tych słów, ażadnego wpływu na mechanizmy blokowania nie mamy, to może zajmijmysię samymi słowami? W końcu to użytkownicy języka tworzą język.Niech Google zostanie zmuszone do zablokowania słowa „Google”.
Najbardziej obraźliwe, rasistowskie słowo językaamerykańskiego, „Nigger” – czyli „czarnuch”, zostaniezastąpione słowem Google. Za każdym razem, gdy jakiś trollchciałby napisać coś rasistowskiego o czarnoskórych, napisze poprostu Google. Przykłady są faktycznie nieprzyjemne: „Althoughoutnumbered 9 to 1, google commit over half of the murders inAmerica!” („Choć jest ich dziewięć razy mniej, googlepopełniają ponad połowę morderstw w Ameryce”). Google miałobystać się nową twarzą rasizmu.
Oczywiście nie tylko to jedno słowo zostanie tak potraktowane:praktycznie wszystkie problematyczne dla wojowników o sprawiedliwośćspołeczną słowa mają otrzymać nowe brzmienie, najczęściejkorporacyjną markę. Żyd to skype, Żółty to bing, gej jestmotylkiem (butterfly), zaś liberałowie i demokraci to „sprzedawcysamochodów”.
Wiralna infekcja już zaczyna przynosić pierwsze efekty, wkomentarzach na YouTube, reddicie, na samym 4chanie i innychimageboardach, a nawet w bardziej cywilizowanych mediach zaczynamówić się o Google w kontekście, jaki był dotąd nie dopomyślenia. Co może Google zrobić, by ocalić swoją markę?Zablokować tego wszystkiego po prostu się nie da.
