Tajemnica emotikony marchewki. Używają jej, by oszukać algorytm Facebooka

Tajemnica emotikony marchewki. Używają jej, by oszukać algorytm Facebooka19.09.2022 09:44
Antyszczepionkowcy używają emoji marchewki, by oszukać algorytm Facebooka
Antyszczepionkowcy używają emoji marchewki, by oszukać algorytm Facebooka
Źródło zdjęć: © Getty Images

Grupy antyszczepionkowe, aby uniknąć cenzury za rozpowszechnianie dezinformacji na temat COVID-19 na Facebooku zaczęły kodować swoje wiadomości za pomocą marchewki. Emotikon jest używany w miejsce słowa "szczepionka", aby uniknąć gniewu automatycznych algorytmów moderatorów sieci społecznościowych.

Jak donosi w swoim raporcie BBC, członkowie grup antyszczepionkowych często dzielą się niezweryfikowanymi twierdzeniami, że ich bliscy zmarli lub podupadli na zdrowiu przez szczepionkę przeciw COVID-19. Jedna z grup licząca ponad 200 tys. osób podaje w swoich zasadach, że członkowie muszą "używać słów kodowych" i nie mogą "używać słowa na c, v lub b (covid, vaccine, booster – covid, szczepionka, dawka przypominająca)".

Algorytm, którego platforma należąca do Meta używa do moderacji, ma tendencję do skupiania się na słowach, a nie obrazach. Antyszczepionkowcy najwyraźniej podłapali ten sposób na oszukanie Facebooka i wykorzystują go do udostępniania błędnych informacji na temat COVID-19. Podobne treści wykorzystujące emoji w celu oszukania algorytmu pojawiają się również m.in. na Twitterze czy Reddicie.

Marc Owen Jones, badacz dezinformacji i profesor nadzwyczajny na Uniwersytecie Hamada Bin Khalifa w Katarze, został zaproszony do dołączenia do jednej z takich grup i podzielił się "bardzo dziwną" próbą uniknięcia cenzury przez antyszczepionkowców za pomocą emoji marchewki. "Początkowo byłem trochę zdezorientowany" – napisał Jones w tweecie. "I potem do mnie dotarło, że była ona używana jako sposób na uniknięcie algorytmów wykrywania fake newsów przez Facebooka".

Facebook ze swojej strony aktywnie próbuje zamykać grupy, które rozpowszechniają fałszywe informacje o szczepionkach. Centrum Pomocy platformy podaje, że będzie usuwać "Twierdzenia, że szczepionki COVID-19 są eksperymentalne, jeśli kontekst twierdzenia sugeruje również, że zaszczepione osoby biorą udział w eksperymencie medycznym" oraz "Twierdzenia, że szczepionki COVID-19 zabijają lub poważnie szkodzą ludziom".

Problem z moderacją

Używanie emotikonów jako kodu zastępczego dla potencjalnie szkodliwych treści nie jest niczym nowym. Użytkownicy grup antyszczepionkowych używają również innych emocji takich jak "piwo" w przypadku dawki przypominającej lub "jabłko" odkąd agencja rządowa CDC zezwoliła na podawanie szczepionek dzieciom.

Platformy mediów społecznościowych, takie jak Facebook i Twitter, już w przeszłości były krytykowane z powodu słabych reakcji na powstrzymanie rasistowskich nadużyć wobec czarnych piłkarzy. Trolle internetowe publikowały emotikony małp i bananów, często kojarzone z rasistowskimi stereotypami.

Innym sposobem, w jaki członkom grup udaje się rozpowszechniać w internecie dezinformację i mowę nienawiść, jest stosowanie kamuflażu słownego. Jak wyjaśnia Ana Romero-Vicente, badaczka z EU DisinfoLab, technika ta polega na subtelnym podrasowaniu słów kluczowych tak, aby były "zrozumiałe dla użytkowników, a jednocześnie pozostały niewykryte przez systemy moderacji treści sieci społecznościowych". Przykładem może być użycie "v4c11ne", które oznaczałoby "szczepionkę".

Konrad Siwik, dziennikarz dobreprogramy.pl

Programy

Aktualizacje
Aktualizacje
Nowości
Oceń jakość naszego artykułuTwoja opinia pozwala nam tworzyć lepsze treści.
Udostępnij:
Wybrane dla Ciebie
Komentarze (39)