Signal idzie na wojnę z AI. Twórcy komunikatora apelują do Google'a i Apple'a

Miron Nurski
Signal chce walczyć z agentami AISignal chce walczyć z agentami AI
Źródło zdjęć: © Licencjodawca • Zdjęcie wygenerowane przy pomocy AI

Komunikator Signal wprowadza blokadę przechwytywania ekranu przed agentami sztucznej inteligencji wbudowanymi w systemy operacyjne iOS 27 oraz Android.

Szefowa fundacji, Meredith Whittaker, zauważa, że integracje AI na poziomie systemu podważają sens szyfrowania end-to-end i domaga się od producentów systemów operacyjnych jasnych mechanizmów ochrony.

Twórcy komunikatora argumentują, że zaszyfrowana wiadomość traci swoją barierę w momencie, gdy trafia na ekran urządzenia i zaczyna ją czytać agent AI zaszyty głęboko w systemie operacyjnym.


WIDEO


Signal twierdzi, że w dobie agentów AI szyfrowanie wiadomości przestaje wystarczać

Przez ponad dekadę bezpieczeństwo Signala opierało się na otwartym kodzie źródłowym i protokole szyfrowania, które wielokrotnie sprawdzali niezależni badacze. Problem polega na tym, że funkcje agentowe w systemach operacyjnych - takie jak Gemini Intelligence na smartfonach z Androidem czy Siri AI Onscreen Awareness na iPhone'ach - skanują treść wyświetlaną na ekranie, aby odpowiadać na pytania użytkownika lub wykonywać polecenia.

Gdy zawartość czatu zostaje przechwycona na poziomie systemu, trafia do lokalnej bazy danych albo na zdalny serwer obsługiwanego asystenta. Od tego momentu twórcy komunikatora nie mają już kontroli nad tym, co dzieje się z danymi, co naraża nie tylko samego użytkownika, lecz także jego rozmówców. Nawet w przypadku wiadomości znikających, które w systemach typu Microsoft Recall mogły być odczytywane przez OCR i zapisywane w przeszukiwalnej bazie.

Signal wprowadza różne blokady na Androidzie i iOS 27

Z uwagi na różnice w sposobie działania mechanizmów przechwytywania ekranu, Signal wprowadził różne zabezpieczenia w zależności od platformy:

  • iOS 27 - Signal całkowicie blokuje możliwość robienia zrzutów ekranu wewnątrz aplikacji. Użytkownik może tę opcję wyłączyć w ustawieniach, ale wiąże się to z ryzykiem udostępnienia treści rozmów agentom AI.
  • Android - ze względu na zróżnicowanie nakładek producentów i brak pewnego wykrywania prób wykonania zrzutu przy wyłączonych zrzutach ekranu na części modeli, Signal skupia się na wykrywaniu prób odczytu ekranu przez asystenta AI. Gdy wykryje taką aktywność, automatycznie włącza ustawienie Screen Security.
  • macOS 27 - na komputerach Mac blokada zrzutów ekranu przez aplikację nie działa. Twórcy wskazują na brak wyraźnie udokumentowanych API, które pozwalałyby niezawodnie blokować zrzuty ekranu (istniejące zabezpieczenia przed ciągłym przechwytywaniem nie obejmują zrzutów, a wcześniejsze API wycofano na rzecz mechanizmów DRM dla treści strumieniowych). W tej sytuacji Signal zaleca ręczne dodanie aplikacji do sekcji "Wykluczone aplikacje" w "Ustawienia systemowe > Siri".

W przypadku systemu Windows 11 Signal już wcześniej zablokował przechwytywanie ekranu z myślą o funkcji Recall.

Signal jest świadomy, że blokada przechwytywania interfejsu aplikacji nie rozwiązuje całego problemu z agentami AI

Twórcy komunikatora podkreślają, że blokowanie zrzutów ekranu to rozwiązanie niepełne. Agenci AI mogą próbować docierać do danych aplikacji także innymi drogami, na przykład przez system plików, powiadomienia, API czy inne mechanizmy systemowe.

Zwrócono również uwagę na agentów firm trzecich, takich jak Meta Muse, którzy podczas konfiguracji zachęcają użytkowników do nadawania szerokich uprawnień, w tym dostępnościowych. Mechanizmy ułatwień dostępu projektowano z myślą o wsparciu użytkowników, a nie jako uniwersalny klucz dla asystentów AI.

Signal apeluje do Google'a, Apple'a i Microsoftu

Zespół Signala miał spędzić ostatnie miesiące na analizach działania systemów AI na Androidzie i iOS, wskazując na niedostateczną dokumentację techniczną ze strony dostawców. W ocenie fundacji podejście oparte na tzw. confidential computing nie rozwiązuje sedna problemu, ponieważ nadal pozostawia zakres gwarancji prywatności w rękach producentów platform.

W komunikacie sformułowano dwa główne postulaty pod adresem twórców głównych systemów operacyjnych:

  1. Zapewnienie twórcom aplikacji prostego, dobrze udokumentowanego sposobu na wyłączenie aplikacji z dostępu i przetwarzania danych przez AI (w tym odczytu ekranu, dostępu do systemu plików, powiadomień czy API) bez psucia podstawowej użyteczności programu.
  2. Przygotowanie rzetelnej dokumentacji i specyfikacji technicznych opisujących sposób działania agentów AI oraz przetwarzania przez nie danych.

Signal zaznacza, że prowadzi rozmowy z Google'em i Apple'em na temat współpracy nad standardami ochrony prywatności w aplikacjach wrażliwych. Jednocześnie twórcy komunikatora określają siebie jako "kanarka w kopalni węgla", ostrzegając, że obecny kierunek integracji agentów AI w systemach operacyjnych stanowi wyzwanie dla całego ekosystemu aplikacji dbających o prywatność użytkowników.

Wybrane dla Ciebie
ZATRZYMAJ SIĘ NA CHWILĘ… TE ARTYKUŁY WARTO PRZECZYTAĆ