Ukryty znacznik Painta. Zapisuje się na grafikach

Badacz bezpieczeństwa Xusheng Li opisał, że w obrazach generowanych przez Copilot w Microsoft Paint pojawia się ukryty znacznik. Nie ma on formy widocznego logo. To identyfikator GUID, czyli unikalna wartość zapisywana w danych obrazu.

Z ustaleń wynika, że nawet przy lokalnym generowaniu obrazu wpisany prompt trafia na serwery Microsoftu. Stamtąd aplikacja ma otrzymywać zmienioną wersję polecenia oraz osobny identyfikator watermarkId, który Paint osadza później w gotowym pliku.

Li analizował funkcje AI w Paint i znalazł komponent Watermarker.dll. Program ma już opcję dodawania małego logo Copilot do obrazu, ale według badacza działa też osobny mechanizm znakowania. Ten drugi ma być niezależny od ustawienia widocznego znaku.

Według doniesień ten sam watermarkId pojawia się również w metadanych C2PA Content Credentials. Ma to łączyć niewidoczny znak zapisany w pikselach z informacjami o pochodzeniu obrazu. To ważne dla śledzenia, jak i gdzie powstał dany plik AI.

Podobny mechanizm badacz znalazł też w aplikacji Zdjęcia. Chodzi o funkcje Image Creator i Restyle Image. Li wskazał jednak różnicę: Paint ma przerywać generowanie, gdy nie uda się dodać ukrytego znacznika, a Zdjęcia mogą mimo to zwrócić gotowy obraz.

Microsoft informuje w dokumentacji o moderacji promptów i metadanych C2PA dla obrazów AI. Jak wynika z tych opisów, prompt może trafić na serwery także przy modelu działającym lokalnie. Według badacza firma nie wyjaśniła jednak wprost, że wraz z promptem może nadawać serwerowy GUID. Microsoft nie odniósł się jeszcze oficjalnie do tych ustaleń.