r   e   k   l   a   m   a
r   e   k   l   a   m   a

Wstępniak na nowy tydzień: nożyczki cenzorskiej AI ochronią dzieci przed YouTube, ale jakim kosztem?

Strona główna AktualnościDOBREPROGRAMY

Intensywnie korzystając z Internetu, medium tak nasyconego różnorodnością jak żadne inne, łatwo zapomnieć, że ta różnorodność nie każdemu może się podobać. Wolność słowa ma dziś jednak chyba więcej wrogów, niż za czasów socjalistycznych, kiedy to trudno było spotkać kogoś prywatnie pochwalającego partyjnych cenzorów. Nie powinienem więc się dziwić tekstem, który przeczytałem kilka dni temu na łamach jednego z popularnych polskich blogów o „nowych technologiach”. Był to list otwarty, który zatroskany autor wystosował do Google i Rzecznika Praw Dziecka. Jego intencją – ochrona nie tylko dzieci, ale i dorosłych przed nieodpowiednimi treściami w serwisie YouTube.

Szybko, pomyślmy o dzieciach. Jest bowiem bardzo źle: w najpopularniejszej internetowej telewizji świata pełno jest treści wulgarnych, drastycznych czy dozwolonych tylko dla pełnoletnich. Z treściami takimi nie powinny obcować dzieci, uważa autor listu, a i dorośli powinni być informowani przed ich obejrzeniem. Rzekomo jednak dziś rodzice nie mają żadnych narzędzi, by chronić swoje potomstwo przed wulgarnymi czy brutalnymi treściami na YouTube, więc poprzez list otwarty wzywa się Google do tego, by zainteresowało się tym poważnym problemem w imię społecznej odpowiedzialności, która z jakiegoś powodu powinna wykraczać poza normy prawne i regulaminy.

Można powiedzieć, że nic ciekawego, ot kolejne wołanie, by myśleć o dzieciach, które od zeszłego stulecia są przedstawiane jako najcenniejsze dobro, dla którego poświęcać należy inne, pośledniejsze dobra. Taka jednak forma wzywania wielkiej korporacji do zrobienia porządku z treściami wulgarnymi, drastycznymi czy dozwolonymi tylko dla pełnoletnich przypomniała mi coś z innej epoki. Chodzi mi o listy pisane przez towarzyszy węgierskich czy czeskich do towarzyszy radzieckich, z prośbą o bratnią pomoc, by Związek Radziecki uporządkował sytuację w ich krajach, dotkniętych drastycznymi przejawami wolności.

r   e   k   l   a   m   a

Jak zwykle przesadzam, prawda? W końcu gdzie Google, a gdzie Związek Radziecki. Sytuacje wydają się niewspółmierne. Pisanie jednak takiego listu otwartego z prośbą o pomoc do największej firmy internetowej świata to proszenie się o konsekwencje, o których autor albo nie pomyślał, albo zdaje sobie z nich sprawę, aprobuje je, ale woli o nich milczeć.

Trudno przecenić wpływ YouTube na społeczeństwo – dla wielu ludzi, młodych i starych, to główne źródło rozrywki, serwis jest bronią polityków i źródłem utrzymania vlogerów, służy edukacji i ogłupianiu, propagandzie i demaskowaniu. Jest kopalnią spiraconych materiałów i oficjalnym źródłem dystrybucji treści. W zasadzie jedynym rodzajem treści, jakiego na YouTube nie znajdziemy, jest typowa pornografia – choć nietrudno znaleźć treści powiązane z ludzką seksualnością, czy to medyczne, czy artystyczne. Wytyczne dla społeczności są dość elastyczne, a treści zgłoszone jako „drastyczne” czy „dozwolone tylko dla pełnoletnich”, jeśli ducha wytycznych nie naruszają, zazwyczaj zostają udostępnione tylko zalogowanym użytkowników, którzy potwierdzili, że ukończyli 18 lat. System ten działa na tyle dobrze, że daje sobie radę nawet z okazjonalnymi rajdami wesołków z 4chanu. A przecież ilość treści wgrywanych przez użytkowników do YouTube jest ogromna, co minutę serwisowi przybywa 300 godzin nowego wideo, jedynie wstępnie filtrowanego przez algorytmy pod kątem ewidentnej pornografii czy treści naruszających prawa autorskie.

Czego więc żąda autor otwartego listu? Jest oczywiste, że ręczna analiza treści wgrywanych do YouTube celem przyznania im jakiegoś znaczka z systemu kategorii wiekowych jest po prostu nierealna – tego wszystkiego jest za dużo. By zrealizować postulat proaktywnej ochrony dzieci, pozostaje jedynie zastosowanie sztucznych inteligencji, które mogłyby po odpowiednim treningu samodzielnie rozpoznawać „wulgarne, drastyczne czy dozwolone tylko dla pełnoletnich” treści wideo. To zadanie trudne, ale postęp w dziedzinie rozpoznawania i klasyfikowania obrazów za pomocą głębokich sieci neuronowych jest bardzo duży. W teorii coś takiego mogłoby powstać. Tylko czy na pewno chcemy, by coś takiego powstało?

We wstępniaku z początku marca pisałem o zmianach, jakie czekają algorytm rankingowy Google. Kolejność wyników wyszukiwania ma docelowo zależeć nie od mierzalnych czynników, lecz od ich faktualnej poprawności, reprezentowanej poprzez całkiem eleganckie struktury algebraiczne. Rozwiązanie jest eleganckie, pomysłowe… i okropne, przynajmniej dla tych, którzy cenią wolność słowa i pluralizm poglądów. Takie uporządkowanie Internetu przez Google'a oznacza zamiecenie pod dywan wszystkiego, co niezgodne z uznanym kanonem – bez względu na to, jak mogłoby to być interesujące dla użytkowników. Tę samą rolę, tyle że dla wideo, mógłby odegrać odpowiednio zaawansowany automatyczny klasyfikator treści w YouTube. Serwis na bieżąco „rozumiejący” zawartość wgrywanych do niego filmów może nie tylko ukryć „szkodliwe” treści przed dziećmi. Może też równie łatwo ukryć dla wszystkich treści niechętne Google, albo sprawom przez Google wspieranym. Kto zagwarantuje, że relatywna wolność użytkowników w serwisie nie zostanie przez AI prostu zaorana, że serwis nie zacznie kształtować swojej zawartości zgodnie z wartościami wyznawanymi przez Page'a i Brina?

Dlatego wolałbym nie zapraszać Google do jakichkolwiek działań mających na celu automatyczne klasyfikowanie treści, w jakichkolwiek celach, nawet jeśli chodzi o ochronę dzieci (czy też nadwrażliwych dorosłych). Stwierdzenie, że rodzice nie mają żadnych narzędzi, by ograniczyć dostęp swojego potomstwa do materiałów niezgodnych z ich światopoglądem jest tylko przyznaniem się do wychowawczej porażki. Dziecku daje się tablet, by mieć z nim spokój, by nie wymagało uwagi – a potem oczekuje się, że problem objaśnienia świata w zgodzie z możliwościami poznawczymi dziecka rozwiąże korporacja za pomocą środków technicznych. To może w ogóle niech Google całkowicie przejmie kontrolę nad procesem wychowawczym? Eric Schmidt mógłby powiedzieć następnie, że ludzie są nie dość dobrzy, by mogli wychowywać dzieci, to niebezpieczne zajęcie należy oddać maszynom. W końcu powiedział już coś podobnego o samochodach.

Na koniec jeszcze jedno – pewnie wiecie, jak wygląda działanie mechanizmu ContentID, dziś blokującego wgrywanie filmów zawierających chronione prawem autorskim treści. Wystarczy, by w tle nagrania słychać było muzykę z radia, a YouTube potrafi wideo takie automatycznie zablokować, mimo że sensu żadnego to nie ma. Boję się myśleć, co się będzie działo, gdy ruszą automatyczne klasyfikatory treści, co chwilę wszczynające fałszywe alarmy „niezgodności z wytycznymi społeczności”. Wielki Brat przybędzie z bratnią pomocą, przy okazji rozjeżdżając wszystko to, co w YouTube lubiliśmy.

Tyle wstępniaka, zapraszam Was do kolejnego tygodnia z dobrymi programami. Mam nadzieję, że mimo świątecznych obowiązków, porządków, spraw rodzinnych, znajdziecie dla nas troszkę czasu. Porządki też i u nas, w ich efekcie opublikujemy kilka wyczekiwanych materiałów w dziale Lab, będziemy też mieli dla Was ciekawe niespodzianki. A na horyzoncie – kolejny konkurs.

© dobreprogramy
r   e   k   l   a   m   a
r   e   k   l   a   m   a

Komentarze

r   e   k   l   a   m   a
r   e   k   l   a   m   a
Czy wiesz, że używamy cookies (ciasteczek)? Dowiedz się więcej o celu ich używania i zmianach ustawień.
Korzystając ze strony i asystenta pobierania wyrażasz zgodę na używanie cookies, zgodnie z aktualnymi ustawieniami przeglądarki.