Meta AI miała pomagać przejmować konta na Instagramie

Problem wynikał z luki w zabezpieczeniach Meta AI, która pozwalała przetwarzać specyficznie przygotowane prompty i doprowadzić do wysłania linku do restartowania hasła do konta do obcej osoby - podaje Neowin. Obecnie problem zdaje się już nie istnieć, ale jak udało się ustalić, luka była niezałatana przez wiele miesięcy, a w tym czasie atakującym mogło się udać przejąć hasła do tysięcy kont.

Dodatkowym potwierdzeniem skuteczności tego procesu ma być wpis użytkowniczki wongmjane w mediach społecznościowych, która zajmuje się badaniem aplikacji oraz inżynierią wsteczną i która potwierdziła, że również padła ofiarą takiego procesu. W pewnym momencie została wylogowana z Instagramu w iPhonie i nie mogła zalogować się na swoje konto dotychczasowym hasłem (choć nie zlecała jego zmiany).

Te doniesienia pokazują, że mimo deklaracji o bezpieczeństwie wykorzystywania AI oraz zabezpieczeniach asystentów, wciąż istnieją niedociągnięcia, które pozwalają oszukać ustalone z góry zasady i wykorzystać AI do niecnych celów. Neowin przytacza w tym kontekście informację o niedawnym zwolnieniu 8 tys. pracowników Mety, co uzasadniono właśnie rozwojem AI, który rzekomo pozwolił zrezygnować z części pracowników, których kompetencje zastąpiono automatyzacją.

Jak widać, te założenia mogły okazać się błędne, ale nie można też wykluczyć, że incydent bezpieczeństwa z Meta AI to tylko zbieg okoliczności ze zwolnieniami i mimo obecności pracowników, również miałby miejsce. Nie zmienia to jednak faktu, że bezpieczeństwo takich rozwiązań wciąż może budzić uzasadnione obawy, zwłaszcza w przypadku użytkowników, którzy chcą wykorzystywać AI do rozwiązywania problemów obejmujących konieczność udostępnienia aystentom danych, których wyciek może być problemem.