Wstępniak na nowy tydzień: nożyczki cenzorskiej AI ochronią dzieci przed YouTube, ale jakim kosztem?

Strona głównaWstępniak na nowy tydzień: nożyczki cenzorskiej AI ochronią dzieci przed YouTube, ale jakim kosztem?
30.03.2015 13:30
Wstępniak na nowy tydzień: nożyczki cenzorskiej AI ochronią dzieci przed YouTube, ale jakim kosztem?
bDTXSxGu

Intensywnie korzystając z Internetu, medium tak nasyconegoróżnorodnością jak żadne inne, łatwo zapomnieć, że ta różnorodnośćnie każdemu może się podobać. Wolność słowa ma dziś jednak chybawięcej wrogów, niż za czasów socjalistycznych, kiedy to trudno byłospotkać kogoś prywatnie pochwalającego partyjnych cenzorów. Niepowinienem więc się dziwić tekstem, który przeczytałem kilka dni temuna łamach jednego z popularnych polskich blogów o „nowychtechnologiach”. Był to list otwarty, który zatroskany autorwystosował do Google i Rzecznika Praw Dziecka. Jego intencją –ochrona nie tylko dzieci, ale i dorosłych przed nieodpowiednimitreściami w serwisie YouTube.

bDTXSxFN

Szybko, pomyślmy o dzieciach. Jest bowiem bardzo źle: wnajpopularniejszej internetowej telewizji świata pełno jest treściwulgarnych, drastycznych czy dozwolonych tylko dla pełnoletnich. Ztreściami takimi nie powinny obcować dzieci, uważa autor listu, a idorośli powinni być informowani przed ich obejrzeniem. Rzekomo jednakdziś rodzice nie mają żadnych narzędzi, by chronić swoje potomstwoprzed wulgarnymi czy brutalnymi treściami na YouTube, więc poprzezlist otwarty wzywa się Google do tego, by zainteresowało się tympoważnym problemem w imię społecznej odpowiedzialności, która zjakiegoś powodu powinna wykraczać poza normy prawne i regulaminy.

Można powiedzieć, że nic ciekawego, ot kolejne wołanie, by myślećo dzieciach, które od zeszłego stulecia są przedstawiane jakonajcenniejsze dobro, dla którego poświęcać należy inne, pośledniejszedobra. Taka jednak forma wzywania wielkiej korporacji do zrobieniaporządku z treściami wulgarnymi, drastycznymi czy dozwolonymi tylkodla pełnoletnich przypomniała mi coś z innej epoki. Chodzi mi o listypisane przez towarzyszy węgierskich czy czeskich do towarzyszyradzieckich, z prośbą o bratnią pomoc, by Związek Radzieckiuporządkował sytuację w ich krajach, dotkniętych drastycznymiprzejawami wolności.

Jak zwykle przesadzam, prawda? W końcu gdzie Google, a gdzieZwiązek Radziecki. Sytuacje wydają się niewspółmierne. Pisanie jednaktakiego listu otwartego z prośbą o pomoc do największej firmyinternetowej świata to proszenie się o konsekwencje, o których autoralbo nie pomyślał, albo zdaje sobie z nich sprawę, aprobuje je, alewoli o nich milczeć.

bDTXSxFP

Trudno przecenić wpływ YouTube na społeczeństwo – dla wieluludzi, młodych i starych, to główne źródło rozrywki, serwis jestbronią polityków i źródłem utrzymania vlogerów, służy edukacji iogłupianiu, propagandzie i demaskowaniu. Jest kopalnią spiraconychmateriałów i oficjalnym źródłem dystrybucji treści. W zasadziejedynym rodzajem treści, jakiego na YouTube nie znajdziemy, jesttypowa pornografia – choć nietrudno znaleźć treści powiązane zludzką seksualnością, czy to medyczne, czy artystyczne. Wytyczne dlaspołeczności są dość elastyczne, a treści zgłoszone jako „drastyczne”czy „dozwolone tylko dla pełnoletnich”, jeśli duchawytycznych nie naruszają, zazwyczaj zostają udostępnione tylkozalogowanym użytkowników, którzy potwierdzili, że ukończyli 18 lat.System ten działa na tyle dobrze, że daje sobie radę nawet zokazjonalnymi rajdami wesołków z 4chanu. A przecież ilość treściwgrywanych przez użytkowników do YouTube jest ogromna, co minutęserwisowi przybywa 300 godzin nowego wideo, jedynie wstępniefiltrowanego przez algorytmy pod kątem ewidentnej pornografii czytreści naruszających prawa autorskie.

Czego więc żąda autor otwartego listu? Jest oczywiste, że ręcznaanaliza treści wgrywanych do YouTube celem przyznania im jakiegośznaczka z systemu kategorii wiekowych jest po prostu nierealna –tego wszystkiego jest za dużo. By zrealizować postulat proaktywnejochrony dzieci, pozostaje jedynie zastosowanie sztucznychinteligencji, które mogłyby po odpowiednim treningu samodzielnierozpoznawać „wulgarne, drastyczne czy dozwolone tylko dlapełnoletnich” treści wideo. To zadanie trudne, ale postęp wdziedzinie rozpoznawania i klasyfikowania obrazów za pomocą głębokichsieci neuronowych jest bardzo duży. W teorii coś takiego mogłobypowstać. Tylko czy na pewno chcemy, by coś takiego powstało?

We wstępniaku z początku marca pisałemo zmianach, jakie czekają algorytm rankingowy Google. Kolejnośćwyników wyszukiwania ma docelowo zależeć nie od mierzalnychczynników, lecz od ich faktualnej poprawności, reprezentowanejpoprzez całkiem eleganckie struktury algebraiczne. Rozwiązanie jesteleganckie, pomysłowe… i okropne, przynajmniej dla tych,którzy cenią wolność słowa i pluralizm poglądów. Takie uporządkowanieInternetu przez Google'a oznacza zamiecenie pod dywan wszystkiego, coniezgodne z uznanym kanonem – bez względu na to, jak mogłoby tobyć interesujące dla użytkowników. Tę samą rolę, tyle że dla wideo,mógłby odegrać odpowiednio zaawansowany automatyczny klasyfikatortreści w YouTube. Serwis na bieżąco „rozumiejący”zawartość wgrywanych do niego filmów może nie tylko ukryć „szkodliwe”treści przed dziećmi. Może też równie łatwo ukryć dla wszystkichtreści niechętne Google, albo sprawom przez Google wspieranym. Ktozagwarantuje, że relatywna wolność użytkowników w serwisie niezostanie przez AI prostu zaorana, że serwis nie zacznie kształtowaćswojej zawartości zgodnie z wartościami wyznawanymi przez Page'a iBrina?

Dlatego wolałbym nie zapraszać Google do jakichkolwiek działańmających na celu automatyczne klasyfikowanie treści, w jakichkolwiekcelach, nawet jeśli chodzi o ochronę dzieci (czy też nadwrażliwychdorosłych). Stwierdzenie, że rodzice nie mają żadnych narzędzi, byograniczyć dostęp swojego potomstwa do materiałów niezgodnych z ichświatopoglądem jest tylko przyznaniem się do wychowawczej porażki.Dziecku daje się tablet, by mieć z nim spokój, by nie wymagało uwagi– a potem oczekuje się, że problem objaśnienia świata w zgodziez możliwościami poznawczymi dziecka rozwiąże korporacja za pomocąśrodków technicznych. To może w ogóle niech Google całkowicieprzejmie kontrolę nad procesem wychowawczym? Eric Schmidt mógłbypowiedzieć następnie, że ludzie są nie dość dobrzy, by mogliwychowywać dzieci, to niebezpieczne zajęcie należy oddać maszynom. Wkońcu powiedział już coś podobnego o samochodach.

bDTXSxFV

Na koniec jeszcze jedno – pewnie wiecie, jak wyglądadziałanie mechanizmu ContentID, dziś blokującego wgrywanie filmówzawierających chronione prawem autorskim treści. Wystarczy, by w tlenagrania słychać było muzykę z radia, a YouTube potrafi wideo takieautomatycznie zablokować, mimo że sensu żadnego to nie ma. Boję sięmyśleć, co się będzie działo, gdy ruszą automatyczne klasyfikatorytreści, co chwilę wszczynające fałszywe alarmy „niezgodności zwytycznymi społeczności”. Wielki Brat przybędzie z bratniąpomocą, przy okazji rozjeżdżając wszystko to, co w YouTube lubiliśmy.

Tyle wstępniaka, zapraszam Was do kolejnego tygodnia z dobrymiprogramami. Mam nadzieję, że mimo świątecznych obowiązków, porządków,spraw rodzinnych, znajdziecie dla nas troszkę czasu. Porządki też i unas, w ich efekcie opublikujemy kilka wyczekiwanych materiałów wdziale Lab, będziemy też mieli dla Was ciekawe niespodzianki. A nahoryzoncie – kolejny konkurs.

Udostępnij:
bDTXSxGL