CAPTCHA pokonana przez AI. To duże zagrożenie bezpieczeństwa

Odkrycie opisuje Tech Radar, bazując na analizie udostępnionej przez badaczy. W opisywanych przypadkach wykorzystano popularny model AI o nazwie YOLO, który "w imieniu człowieka" rozwiązywał zadania reCAPTCHAv2 - systemu w założeniu mającego skutecznie rozróżniać maszyny od ludzi. Wykorzystywane są tu świetnie znane każdemu "łamigłówki" polegające na wskazywaniu obrazów z konkretną zawartością, na przykład wszystkich, na których widać sygnalizację świetlną czy motocykle.

Dotychczas co do zasady uznawano taki test za skuteczną metodę weryfikowania, czy przy komputerze faktycznie siedzi człowiek, czy też zadanie wykonywane jest przez jakiegoś rodzaju skrypt. Jak jednak pokazują opisywane badania, odpowiednio przygotowany model YOLO (tutaj wytrenowany na podstawie 14 tys. zdjęć ulic) potrafił w praktyce równie skutecznie jak człowiek wskazywać odpowiednie obrazy.

Nawet, gdy zdarzyło mu się popełnić błąd, kolejna próba przy nowej łamigłówce była już skuteczna, a wielokrotne próby są tutaj dopuszczone. Co więcej wskaźnik sukcesu AI nie zmniejszył się także po włączeniu dodatkowych zabezpieczeń w CAPTCHA, takich jak analiza ruchów myszy czy historii przeglądarki "użytkownika". AI okazała się skutecznie naśladować człowieka na tyle, by oszukać system. To rodzi poważne obawy z zakresu bezpieczeństwa.

Opracowane badania to istotny sygnał dla administratorów, od których zależą zabezpieczenia w serwisach internetowych. Choć na tę chwilę mówimy niejako o akademickich rozważaniach, nie zmienia to faktu, że technologię można uruchomić w praktyce. Warto więc pochylić się nad zabezpieczeniami stron i rozważyć taką modyfikację systemów, by AI nie była w stanie ich pokonać, choć zważywszy na tempo rozwoju tej ostatniej, może to być nie lada wyzwaniem.