Asystent głosowy a obawy o prywatność. Niepokój jest zasadny, problem nie jest oczywisty

Użytkownicy korzystający z możliwości rozpoczęcia dialogu z asystentem wyłącznie poprzez komendę głosową zwracają często uwagę na fakt, iż wiąże się to z koniecznością ciągłego nasłuchiwania otoczenia przez urządzenie. To oczywiście prawda, jednak co ciekawe, większe obawy związane z prywatnością powinien budzić etap analizy wypowiedzi użytkowników głosowych asystentów, który jest wykonywany przez ludzi, a nie algorytmy.

Nie chodzi oczywiście o bieżące działanie asystentów, ale o ich ulepszanie na przyszłość i analizę reagowania na konkretne polecenia. Niedawno ujawniono, że pracownicy Amazonu na bieżąco sprawdzają, w jaki sposób Alexa zareagowała na polecenia użytkowników, porównując odpowiedzi z treścią pytań. Jak wynika z raportu, pracownicy dysponują na tym etapie wyłącznie transkrypcjami, a nie samymi nagraniami.

Świeższe informacje sugerują jednak, że pracownicy Amazonu poza dostępem do transkrypcji, mogą mieć także wgląd w informacje o lokalizacji urządzenia, które pozwalają im poznać adres osoby korzystającej z Alexy.

Jak podaje Bloomberg, w pierwszej połowie kwietnia Amazon oświadczał, że jego pracownicy nie mają bezpośredniego dostępu do informacji, które pozwalałyby zidentyfikować konkretnych użytkowników. W najnowszych wypowiedziach pojawiają się już jednak nieco inne zapewnienia.

Dostęp do wewnętrznych narzędzi jest dobrze kontrolowany i jest przyznawany tylko ograniczonej liczbie pracowników, którzy wymagają tych narzędzi do szkolenia i ulepszania usługi, przetwarzając bardzo małą próbkę interakcji – tłumaczy Amazon. Nasze zasady surowo zabraniają pracownikom dostępu do danych klientów lub korzystania z nich z jakiegokolwiek innego powodu, a my stosujemy politykę zerowej tolerancji dla nadużyć naszych systemów.

Redakcja Bloomberga informuje tymczasem, iż była świadkiem prezentacji, w której pracownik Amazonu był w stanie zlokalizować budynek właściciela danego urządzenia z asystentem na Mapach Google. Co istotne, wykorzystał do tego tylko te dane, którymi dysponuje na etapie analizy nagrania.

Inne obawy mogą dotyczyć etapu pierwszego uruchomienia nowego urządzenia przez klienta. Pracownik Amazonu donosi, że wówczas mniejsza grupa osób w centrum analizy danych ma dostęp do adresu i numerów telefonów, które użytkownik podał w systemie podczas rejestracji.

Jeśli użytkownik zdecydował się wyrazić zgodę na udostępnienie Amazonowi swoich kontaktów, te również pojawiają się w systemie, do którego mają wgląd pracownicy. Te dane są wykorzystywane podczas realizowania konkretnych poleceń, na przykład wykonania połączenia do wskazanej osoby z książki adresowej.

Wszystko wskazuje na to, że w kwestii bezpieczeństwa i dbałości o prywatność danych użytkowników głosowych asystentów, można jeszcze wiele zdziałać. Przykład Amazonu pokazuje, że nawet w centrach, gdzie badane są informacje z urządzeń zainstalowanych w domach klientów, dostęp do informacji przez pracowników jest łatwiejszy, niż mogłoby się wydawać.

Jak podaje Bloomberg, od czasu pierwszego raportu w tej sprawie z pierwszej połowy kwietnia, Amazon zdecydował się zaostrzyć zasady i dostęp do części informacji został odebrany niektórym z pracowników. Jeśli bez niego również są w stanie wykonywać swoją pracę równie skutecznie, można się tylko zastanawiać, dlaczego tego typu ograniczenie nie było wprowadzone od początku.