Tajemnica emotikony marchewki. Używają jej, by oszukać algorytm Facebooka

Grupy antyszczepionkowe, aby uniknąć cenzury za rozpowszechnianie dezinformacji na temat COVID-19 na Facebooku zaczęły kodować swoje wiadomości za pomocą marchewki. Emotikon jest używany w miejsce słowa "szczepionka", aby uniknąć gniewu automatycznych algorytmów moderatorów sieci społecznościowych.

Jak donosi w swoim raporcie BBC, członkowie grup antyszczepionkowych często dzielą się niezweryfikowanymi twierdzeniami, że ich bliscy zmarli lub podupadli na zdrowiu przez szczepionkę przeciw COVID-19. Jedna z grup licząca ponad 200 tys. osób podaje w swoich zasadach, że członkowie muszą "używać słów kodowych" i nie mogą "używać słowa na c, v lub b (covid, vaccine, booster – covid, szczepionka, dawka przypominająca)".

Algorytm, którego platforma należąca do Meta używa do moderacji, ma tendencję do skupiania się na słowach, a nie obrazach. Antyszczepionkowcy najwyraźniej podłapali ten sposób na oszukanie Facebooka i wykorzystują go do udostępniania błędnych informacji na temat COVID-19. Podobne treści wykorzystujące emoji w celu oszukania algorytmu pojawiają się również m.in. na Twitterze czy Reddicie.

Marc Owen Jones, badacz dezinformacji i profesor nadzwyczajny na Uniwersytecie Hamada Bin Khalifa w Katarze, został zaproszony do dołączenia do jednej z takich grup i podzielił się "bardzo dziwną" próbą uniknięcia cenzury przez antyszczepionkowców za pomocą emoji marchewki. "Początkowo byłem trochę zdezorientowany" – napisał Jones w tweecie. "I potem do mnie dotarło, że była ona używana jako sposób na uniknięcie algorytmów wykrywania fake newsów przez Facebooka".

Facebook ze swojej strony aktywnie próbuje zamykać grupy, które rozpowszechniają fałszywe informacje o szczepionkach. Centrum Pomocy platformy podaje, że będzie usuwać "Twierdzenia, że szczepionki COVID-19 są eksperymentalne, jeśli kontekst twierdzenia sugeruje również, że zaszczepione osoby biorą udział w eksperymencie medycznym" oraz "Twierdzenia, że szczepionki COVID-19 zabijają lub poważnie szkodzą ludziom".

Używanie emotikonów jako kodu zastępczego dla potencjalnie szkodliwych treści nie jest niczym nowym. Użytkownicy grup antyszczepionkowych używają również innych emocji takich jak "piwo" w przypadku dawki przypominającej lub "jabłko" odkąd agencja rządowa CDC zezwoliła na podawanie szczepionek dzieciom.

Platformy mediów społecznościowych, takie jak Facebook i Twitter, już w przeszłości były krytykowane z powodu słabych reakcji na powstrzymanie rasistowskich nadużyć wobec czarnych piłkarzy. Trolle internetowe publikowały emotikony małp i bananów, często kojarzone z rasistowskimi stereotypami.

Innym sposobem, w jaki członkom grup udaje się rozpowszechniać w internecie dezinformację i mowę nienawiść, jest stosowanie kamuflażu słownego. Jak wyjaśnia Ana Romero-Vicente, badaczka z EU DisinfoLab, technika ta polega na subtelnym podrasowaniu słów kluczowych tak, aby były "zrozumiałe dla użytkowników, a jednocześnie pozostały niewykryte przez systemy moderacji treści sieci społecznościowych". Przykładem może być użycie "v4c11ne", które oznaczałoby "szczepionkę".