ORISA: skasowany czat z AI może wrócić z pamięci telefonu

Skasowanie konwersacji w samej aplikacji nie zawsze oznacza, że znika ona bez śladu. W czasie działania lokalnego chatbota fragmenty rozmowy mogą utrzymywać się w pamięci operacyjnej telefonu. W efekcie interfejs programu jest w stanie "usunąć" czat z widoku użytkownika, ale jednocześnie nie musi usuwać wszystkich pozostałości, jakie ta rozmowa zostawia w telefonie.

Właśnie takie ślady wyłapuje ORISA, a następnie składa je w jedną, logiczną całość. Zespół zaprezentował działanie metody na fikcyjnym asystencie o nazwie Project Note Keeper. Do modelu wprowadzono 100 faktów, po czym rozmowę całkowicie usunięto, aby sprawdzić, ile informacji da się odzyskać po skasowaniu czatu AI.

W momencie kasowania rozmowy aktywna sesja mogła operować jedynie na 14 faktach – ograniczało ją okno pamięci modelu. Mimo tego ORISA zdołała odtworzyć 26 faktów. Nie oznaczało to pełnej rekonstrukcji całego czatu, ale rezultat okazał się lepszy niż to, co było dostępne w pierwotnej, działającej sesji.

Narzędzie sprawdzono także w szerszej skali: w 60 konfiguracjach obejmujących 10 aplikacji na Androida i trzy modele AI. W tych testach ORISA skutecznie odzyskiwała dane z usuniętych konwersacji, co sugeruje, że nie jest to problem ograniczony do pojedynczego programu, lecz zjawisko dotyczące różnych lokalnych aplikacji AI.

Autorzy badań wskazują praktyczne zastosowania w pracy śledczych – rozwiązanie mogłoby pomóc odtworzyć, co użytkownik przekazał asystentowi AI oraz jakie odpowiedzi uzyskał. Wspomniano też o potencjalnej roli w sprawach, w których porady chatbota mogły zaszkodzić pacjentowi, a rozmowy nie zostały wcześniej przekazane lekarzowi.

Jednocześnie ORISA nie działa jak typowy program do odzyskiwania wiadomości. To narzędzie o charakterze śledczym, wymagające dostępu do zrzutu pamięci telefonu oraz pamięci masowej. Rekonstrukcja może być utrudniona, jeśli późniejsza aktywność urządzenia nadpisze wcześniejsze pozostałości. Badanie podkreśla przy tym również ryzyka dla prywatności osób korzystających z lokalnych aplikacji AI.