Algorytm Facebooka do wykrywania fałszywych kont. Twórcy tłumaczą, jak działa

Facebook opracował zaawansowany algorytm pomagający w wyszukiwaniu fałszywych i spamerskich kont, zanim jeszcze rozpoczną swoją działalność. W ubiegłym roku pomógł usunąć aż 6,6 miliarda tzw. fejków. Tajniki działania algorytmu zdradził Daniel Bernhardt, szef działu projektowego Facebooka, w rozmowie z portalem zdnet.

Każdego dnia Facebook blokuje miliony prób rejestracji fałszywych kont. Najważniejszym elementem weryfikacji konta według serwisu jest numer telefonu. Jednak i tego rodzaju zabezpieczenie łatwo można obejść, bez podawania własnych danych. Na przykład przy pomocy generatorów typu my trash mobile.

Na pewno istnieją jeszcze setki innych sposobów, a wówczas Facebookowi pozostaje jedynie wyszukiwanie fałszywych kont po ich aktywności. I tutaj wchodzi Deep Entity Classification (DEC), czyli algorytm prześwietlający każde konto i użytkowników należących do grona znajomych czy tych samych grup. Narzędzie korzysta z uczenia maszynowego w celu analizy konkretnych interakcji.

Algorytm tworzy tzw. schematy behawioralne zweryfikowanych prawdziwych użytkowników, a następnie porównuje je z resztą kont. Nie zwraca więc tylko uwagi na takie dane jak moment utworzenia konta, data urodzin, częstotliwość wysyłania zaproszeń do znajomych i ich autentyczność. DEC sprawdza również profile znajomych, grup i stron z którymi potencjalnie fałszywy użytkownik wchodzi w interakcję.

DEC sprawdza i zapisuje informacje nawet takie jak średnia liczba grup na znajomego, czy średnia ilość użytkowników w grupach. Do każdego konta algorytm przypisuje ponad 20 tysięcy różnego rodzaju danych opisujących interakcje konta, znajomych, grup itd. Następnie porównując te informacje jest w stanie stwierdzić, czy to fałszywe konto, czy też nie. Oczywiście sposób nie jest idealny, ale Facebooka zadowala jego skuteczność.

Twórcy narzędzia sądzą, że jest dużo lepsze od standardowych zabezpieczeń antyspamerskich. Dzięki wykorzystaniu uczenia maszynowego, algorytm stale ewoluuje, co utrudnia oszustom zrozumienie jego sposobu działania. I wedle danych podawanych przez Facebooka, DEC jest bardzo skuteczny. Aktualnie liczba fałszywych kont na portalu ma wynosić poniżej 5 proc., czyli około 125 milionów.

Należy jednak pamiętać, że algorytm ma pewne wady. Może za nieprawdziwe uznawać konta uczciwych użytkowników, o ile ci postępują w sposób niezgodny ze schematem. Jeśli jesteś zapisany do wielu grup i chętnie wykorzystujesz Facebooka do komentowania, ale masz tylko kilkoro znajomych, to istnieje ryzyko usunięcia również twojego konta. Jakkolwiek absurdalnie to nie brzmi, aby mieć spokój z Facebookiem, trzeba zachowywać się na nim w sposób szablonowy; dodawać znajomych i publikować sporadycznie posty, a nie tylko używać martwego profilu do udziału w dyskusjach na grupach czy pod postami innych.