Microsoft po cichu usuwa z internetu ogromną bazę danych rozpoznawania twarzy

Zbiór ponad 10 mln zdjęć został powiązany z chińskimi prześladowaniami etnicznych muzułmanów. I Microsoft zdecydował się po cichu usunąć bazę danych z internetu. Dokładnie tę samą bazę danych, którą zebrał w 2016 r. i opublikował jako MS Celeb.

Zdjęcia, o których mowa, zostały zebrane z wyszukiwarek internetowych i opublikowane w zestawie wykorzystywanym do szkolenia systemów rozpoznawania twarzy na całym świecie. Korzystało z nich również wojsko i chińskie firmy informatyczne, takie jak SenseTime i Megvii – donosi "Financial Times". Choć sama nazwa MS Celeb (od ang. celebrity – gwiazda) nie wzięła się znikąd.

Założenie było takie, żeby wykorzystać zbiór w projekcie SI do rozpoznawania znanych osób. Niemniej w trakcie prac ustalono, że Chińczycy korzystają z fotografii w innym celu. Mianowicie do zwalczania mniejszości etnicznych w swoim kraju.

Microsoft tłumaczy oczywiście, że Chińczycy postąpili wbrew intencjom przedsiębiorstwa. – Strona była przeznaczona do celów akademickich – mówi rzecznik firmy, cytowany przez "Financial Times". I dodaje: "Została uruchomiona przez pracownika, który nie jest już związany z Microsoftem i został zwolniony". Tak, jakby chciał odciąć się od sprawy.

Technologię rozpoznawania twarzy stosuje się coraz powszechniej w codziennych zadaniach, takich jak odblokowywanie telefonów czy oznaczanie znajomych na zdjęciach w mediach społecznościowych, na przykład na Facebooku. Jest to jednak rozwiązanie budzące szereg kontrowersji.

Postępy w sztucznej inteligencji i stale rosnąca liczba kamer monitoringu sprawiają, że maleje trudność podglądania i śledzenia poszczególnych osób. Jednocześnie dochodzi do pomyłek. Oprogramowanie używane przez brytyjską Metropolitan Police Service, według raportu, generuje nieprawidłowe wyniki w aż 98 proc. przypadków.

W przypadku Microsoftu kontrowersje budzi także sam sposób zbierania danych. Ludzie na fotografiach nie wyrazili na to zgody, ale ich zdjęcia zostały pobrane z internetu na otwartej licencji Creative Commons, która umożliwia wykorzystanie w celach akademickich.

Rząd Chin wykorzystał oprogramowanie rozpoznające twarz do śledzenia i kontrolowania w kraju 11 mln Ujgurów, mniejszości pochodzenia tureckiego, w dużej mierze muzułmańskiej – donosił w kwietniu "The New York Times".

Jak poinformowano, wykorzystując rozległą sieć kamer monitorujących, technologia poszukiwała Ujgurów na podstawie ich wyglądu. Utrzymywała kontrolę nad ich ruchem i doprowadziła do umieszczenia milionów ludzi w zamkniętych obozach.

W grudniu Microsoft wezwał rządy do wprowadzenia przepisów, na mocy których technologie rozpoznawania twarzy musiałyby być niezależnie przetestowane pod kątem dokładności. –„ Jeśli nie podejmiemy działań, ryzykujemy przebudzenie się za pięć lat, aby odkryć, że usługi rozpoznawania twarzy rozprzestrzeniają się w sposób, który nasila problemy społeczne – napisał na blogu główny doradca Microsoftu, Brad Smith.