Komisja Europejska ogłosiła dziś „cudowny środek” do walki z nielegalną treścią online: Automatyczne filtrowanie przesyłanych danych!
Komisja przepychała już filtry mające na celu zapobieganie naruszaniu praw autorskich – tym razem, w swoim komunikacie o „zwalczaniu nielegalnych treści internetowych”, idzie o krok dalej.
Teraz Komisja oficjalnie „zdecydowanie zachęca platformy online do […] zwiększenia inwestycji w technologie automatycznego wykrywania”. Chodzi o to, żeby platformy podejmowały decyzje dotyczące zgodności z prawem treści przesyłanych przez użytkowników nie tylko bez wniosku o nakaz sądowy, ale wręcz w ogóle bez jakiejkolwiek interwencji człowieka: „platformy internetowe powinny mieć również możliwość podejmowania szybkich decyzji […] bez konieczności wykonywania tego na podstawie orzeczenia sądowego lub decyzji administracyjnej”.
Instalacja infrastruktury cenzurującej treści, która analizuje wszystko, co ludzie przesyłają do internetu, a także pozwalanie, by algorytmy rozstrzygały pod kątem prawnym, co możemy, a czego nie możemy powiedzieć online, to atak na nasze podstawowe prawa.
Pozostaje jednak jeszcze kluczowe pytanie: Czy to w ogóle działa? Komisja twierdzi, że tam, gdzie automatyczne filtry zostały już wdrożone z własnej inicjatywy internetowych podmiotów – na przykład w formie systemu identyfikacji treści serwisu YouTube – „praktyki te przyniosły dobre wyniki”.
Doprawdy? Oto przykłady filtrów, które popełniają koszmarne pomyłki, których efekty są czasem zabawnych, choć kiedy indziej też głęboko niepokojących:
cc by-nc-sa liazel1. KOT, KTÓREMU PRZYŚNIŁ SIĘ KONTRAKT PŁYTOWY
Filtry YouTube stwierdził że 12-sekundowe nagranie mruczącego kota zawierało dzieła chronione prawem autorskim EMI Music. Kto by pomyślał, że to właśnie ich artyści odpowiadają za to urocze mruczando!
LEKCJA: Fakt, że tak idiotyczny błąd został popełniony po latach inwestycji w technologię filtrowania świadczy tym, jak trudno jest osiągnąć jej poprawne działanie – o ile to w ogóle możliwe.
2. WYKŁAD O PRAWACH AUTORSKICH ZNIKNĄŁ Z SIECI
Nagranie z Harvard Law School z wykładem na temat praw autorskich zostało zablokowane przez filtr praw autorskich YouTube – tylko dlatego, że wykładowca zilustrował niektóre punkty krótkimi fragmentami popowych piosenek. Oczywiście wykorzystanie ich w celach edukacyjnych było całkowicie legalne. Gdyby tylko filtr przeskanował to nagranie w poszukiwaniu rzeczywistych naruszeń prawa autorskiego, a nie tylko o fali dźwiękowej chronionej tym prawem!
LEKCJA: Wyjątki i ograniczenia dotyczące praw autorskich mają zasadnicze znaczenie dla zagwarantowania praw człowieka do wolności słowa i udziału w życiu kulturalnym. Pozwalają nam cytować dzieła innych, tworzyć parodie i używać utworów chronionych prawem autorskim do działań edukacyjnych. Filtry natomiast nie potrafią określić, czy dane użycie jest objęte takim wyjątkiem – co podważa nasze podstawowe prawa.
3. MARS ZGŁASZA NARUSZENIE PRAW AUTORSKICH
Nagranie wykonane przez NASA podczas lądowania na Marsie zostało zidentyfikowane jako naruszenie praw autorskich – pomimo tego, że zostały stworzyła je sama agencja, która jest częścią administracji rządowej USA, a zatem wszystko, co wytwarza, posiada status własności publicznej.
Czyżby to wstydliwi kosmici zażądali usunięcia krępujących nagrań? Nie, to tylko błąd filtra: agencja przekazała swoje nagranie stacjom telewizyjnym. Niektóre z tych stacji telewizyjnych zarejestrowały automatycznie wszystko, co pojawiło się na ich antenie w systemie filtrowania praw autorskich YouTube – co spowodowało, że wideo przesłane przez samą NASA wzbudziło podejrzenia o naruszenie praw wspomnianych stacji.
LEKCJA: Materiały należące do domeny publicznej są zagrożone przez filtry zaprojektowane wyłącznie z myślą o prawach autorskich oraz tam, gdzie procesy przebiegają całkowicie bez udziału ludzi.
4. WEŹ, ZGŁOŚ ROSZCZENIA I USUŃ
Kiedy animowany sitcom Family Guy potrzebował fragmentu ze starej gry komputerowej, po prostu ściągnął go z czyjegoś kanału YouTube. Pewnie się domyślacie, co się stało potem? Oryginalny film YouTube został usunięty, bo uznano, że przypuszczalnie narusza prawa autorskie Family Guy.
LEKCJA: automatyczne filtry oddają całą władzę w ręce wielkiego biznesu. Indywidualni użytkownicy są uznawani za winnych, dopóki sami nie udowodnią swojej niewinności: o ile usuwanie czegokolwiek następuję automatyczne, przywrócenie online nielegalnie usuniętej treści wymaga ciężkiej walki.
5. DZIURY PAMIĘCI W ARCHIWUM SYRYJSKIM
Jeszcze inny rodzaj filtru używany w YouTube i zatwierdzony przez Komisję ma na celu usuwanie „materiałów ekstremistycznych”. Stara się on wykrywać w nagraniach podejrzane treści, jak choćby flagi ISIS. Wynajduje on jednak również, a potem usuwa, także dziesiątki tysięcy nagrań dokumentujących okrucieństwa w Syrii – a w efekcie ucisza starania o ujawnienie zbrodni wojennych.
LEKCJA: Filtry nie są w stanie zrozumieć kontekstu filmu w sposób wystarczający do określenia, czy powinien on zostać usunięty.
6. USUWANIE PRZEMÓW POLITYCZNYCH
Moja koleżanka-posłanka Marietje Schaake upubliczniła na YouTube nagranie z debaty w Parlamencie Europejskim poświęconej torturom – po czym niemal jednocześnie zostało ono usunięte za rzekome naruszenie wytycznych wspólnotowych, pozbawiając tym samym obywateli możliwości oglądania debaty publicznej z udziałem ich wybranych przedstawicieli. Google powoływał się później na wadliwe działanie filtru antyspamowego.
Lekcja: Nie ustanowiono żadnych zabezpieczeń w celu zapewnienia, że nawet najbardziej nieszkodliwe przemówienie polityczne nie zostanie wyłapane przez zautomatyzowane filtry.
7. UCISZANIE ZMARGINALIZOWANYCH GRUP
Niektóre rodzaje filtrów nie są wykorzystywane do usuwania zawartości, tylko do jej klasyfikowania, aby określić, czy jest ona akceptowalna dla reklamodawców, a zatem czy może stanowić źródło zysku, albo czy jest odpowiednia dla nieletnich.
Niedawno nagrania pewnych queerowych YouTuberów spotkały się z blokadą użytku komercyjnego lub zostały masowo ukryte przy włączonym „trybie ograniczonym” mającym chronić dzieci – to wyraźna sugestia, że filtr w jakiś sposób uznał tematy LGBT* za niezasługujące na szeroki odbiór.
LEKCJA: Społeczności, które i tak są już marginalizowane, mogą się znaleźć wśród szczególnie narażonych na blokowanie ich publicznej ekspresji.
8. FILTRY MOGĄ DOPAŚĆ TAKŻE ARTYSTÓW
Muzyk o pseudonimie Miracle of Sound należy do grona twórców, których dzieła zostały usunięte przez filtry … na jego własną prośbę. Artyści zawierają umowy z wytwórniami płytowymi, a wytwórnie płytowe z firmami, które regulują działanie filtrów – tymczasem filtry nie są w stanie odróżnić oficjalnego konta artysty od kogoś, kto się pod niego podszywa.
LEKCJA: Legalnymi, licencjonowane treści regularnie są regularnie namierzane przez filtry.
9. RYZYKO DZIAŁANIA Z FILTRAMI
Zautomatyzowane systemy wysyłające powiadomienia o usunięciu to w zasadzie prototypy filtrów: szukają one naruszeń, całkiem jak filtry, ale, w przeciwieństwie do filtrów, nie mogą podejmować bezpośrednich działań. Jednakże miliony, dosłownie miliony, skarg, które generują, są często w następstwie wdrażane przez systemy, które również są zautomatyzowane. W wyniku tego popełniają one podobne rodzaje błędów.
W pewnej żenującej sprawie koncern Warner Bros. Pictures zgłosił kilka swoich jak najbardziej własnych stron internetowych do Google jako naruszające prawa autorskie, podobnie postąpił zresztą z legalnymi sklepami internetowymi sprzedającymi jego filmy. Uups!
LEKCJA: Nawet podmioty sprawujące kontrolę nad filtrami nie panują nad działaniem algorytmów.
* * *
Wszystkie powyższe przypadki powinny służyć jako ostrzeżenia dla Komisji Europejskiej i innych nadgorliwych prawodawców:
Nie możemy pozwolić, aby automatyczne filtry arbitralnie rozsądzały sporne sytuacje, co do treści w internecie. Tweet this!
Nie da się za jednym zamachem usunąć postępowania sądowego, właściwego procesu, a nawet ludzkiej interwencji bez żadnych poważnych konsekwencji dla wolności słowa – a my tych konsekwencji nie możemy zaakceptować.
To the extent possible under law, the creator has waived all copyright and related or neighboring rights to this work.