Facebook potrafi zablokować publikację za dwie kropki symbolizujące dwa narysowane sutki, ale problem zaczyna się wtedy, gdy okazuje się, że te same zasady nie obowiązują wszystkich ludzkich ciał jednakowo. Kobieca pierś jest dla algorytmu „naruszeniem”, podczas gdy męski sutek przechodzi przez moderację bez większego problemu — nawet jeśli oba są częścią sztuki, satyry czy materiału edukacyjnego. Przez lata artyści, aktywiści, lekarze i zwykli użytkownicy pokazują kolejne absurdy systemu Mety, który próbuje rozstrzygać kwestie ludzkiego ciała za pomocą prostych reguł i automatycznych decyzji. Z czego wynika podwójna moralność Facebooka?
Dwie kropki i wielki problem Facebooka
Są rzeczy, których człowiek nie musi długo analizować. Dwie małe kropki na rysunku przedstawiającym kobiece ciało nie wyglądają jak por*ografia, nie są też szczególnie wyrafinowanym sposobem obchodzenia zasad internetu. Dla algorytmu mogą jednak wystarczyć, żeby uruchomić całą procedurę moderacyjną.
Wtedy zaczyna się jeden z najbardziej absurdalnych problemów związanych z zasadami Mety dotyczącymi nagości. Platforma przez lata przyjmowała bowiem założenie, że kobiecy sutek wymaga szczególnej ochrony, podczas gdy męski może być pokazywany niemal bez ograniczeń. Problem w tym, że ludzkie ciało nie zawsze chce współpracować z regulaminem napisanym w formie tabeli wyjątków.
Jednym z głośnych przypadków był spór dotyczący publikacji „The New Yorker”, którego konto zostało zawieszone po opublikowaniu rysunku przedstawiającego nagą kobietę z dwiema kropkami. Wokół tej historii szybko pojawiło się pytanie, które powraca przy niemal każdej dyskusji o cenzurze kobiecego ciała w mediach społecznościowych: dlaczego dokładnie ten sam fragment anatomii otrzymuje zupełnie inny status w zależności od tego, do jakiego ciała należy? Męskiego czy kobiecego.
To pytanie jest niewygodne dla Mety, bo nie da się na nie odpowiedzieć samym regulaminem.
Regulamin jest prosty. Ludzkie ciało już nie
Automatyczna moderacja ma oczywiście swoje uzasadnienie. Facebook i Instagram są platformami, na których każdego dnia pojawiają się niewyobrażalne ilości zdjęć i filmów. Nie sposób ręcznie sprawdzić każdego materiału. Systemy sztucznej inteligencji muszą więc wstępnie klasyfikować treści i decydować, które mogą zostać opublikowane, a które powinny trafić do dalszej kontroli.
Problem pojawia się wtedy, kiedy klasyfikacja zaczyna zastępować rozumienie. Algorytm może wykryć fragment nagiego ciała. Znacznie trudniej jest mu ustalić, dlaczego ten fragment znalazł się na zdjęciu. Czy jest elementem por*ografii? Czy dokumentuje operację? Czy pokazuje objawy choroby? Czy jest częścią dzieła sztuki? A może ktoś właśnie próbuje pokazać absurd samego regulaminu?
Dla człowieka różnica jest oczywista. Dla systemu moderacyjnego może sprowadzać się do tego, czy na obrazie znajduje się określony kształt. I właśnie dlatego przez lata artyści oraz aktywiści urządzali sobie z zasad Mety coś w rodzaju polowania na absurd.
Podwójna moralność Facebooka. Wystarczy dokleić męski sutek
Jedną z najbardziej pomysłowych osób, które postanowiły wykorzystać tę słabość systemu, była amerykańska artystka Micol Hebron. Stworzyła cyfrowy szablon nazwany „Internet-Appropriate Male Nipple Template”. Pomysł był banalny i właśnie dlatego tak skuteczny. Jeżeli Instagram usuwa kobiecy sutek, a męski pozostawia, należy po prostu przykleić męski sutek na kobiecą pierś.
Hebron zaczęła zachęcać innych użytkowników do korzystania z takiego rozwiązania. Powstała seria obrazów, na których kobiece piersi były ozdabiane grafikami męskich sutków. Całość miała oczywiście charakter artystycznego żartu, ale jednocześnie była bardzo konkretnym komentarzem do polityki platformy.
Jeżeli regulamin uznaje jeden sutek za dopuszczalny, a drugi za niedopuszczalny, wystarczy zamienić etykietę. Ciało pozostaje dokładnie takie samo. Zmienia się tylko kategoria, do której przypisze je system. Trudno o prostszy dowód na to, że problem nie zawsze tkwi w samej fotografii.
Algorytm ma rozpoznać płeć sutka
Jeszcze ciekawszym eksperymentem był projekt „Genderless Nipples”. Jego założenie było dziecinnie proste: pokazywać zbliżenia sutków i pozbawiać je całego kontekstu, który pozwalałby odbiorcy łatwo określić płeć osoby na zdjęciu. Użytkownik miał zgadywać. Algorytm miał zrobić to samo.
Tyle, że anatomia nie jest instrukcją obsługi. Sam sutek nie informuje przecież w sposób jednoznaczny, czy należy do kobiety, mężczyzny czy osoby o innej tożsamości płciowej. Tymczasem zasady platformy przez lata wymagały od systemów moderacji rozróżnienia, które w wielu przypadkach jest po prostu znacznie trudniejsze, niż sugerowałby regulamin.
To prowadzi do dość osobliwego paradoksu. Facebook i Instagram mogą bardzo stanowczo zakazywać czegoś, czego ich własne systemy nie zawsze potrafią poprawnie rozpoznać. A kiedy algorytm się pomyli, konsekwencje ponosi nie algorytm, lecz użytkownik.
125 nagich osób pod siedzibą Facebooka
W 2019 roku fotograf Spencer Tunick wraz z National Coalition Against Censorship zorganizował przed nowojorską siedzibą Facebooka happening #WeTheNipple. Wzięło w nim udział ponad 125 nagich osób, które zakrywały swoje intymne miejsca plakatami z wizerunkami męskich sutków. Był to protest, ale również bardzo dosłowny eksperyment z regulaminem.
Uczestnicy nie próbowali nawet ukrywać ironii całej sytuacji. Skoro problemem jest kobiecy sutek, a męski jest dozwolony, wystarczy użyć męskiego. Zasady zostają zachowane. Absurd pozostaje.
Jeszcze bardziej ironiczne było to, że materiały związane z akcją również spotkały się z działaniami moderacyjnymi. Organizatorzy informowali o usuwaniu zdjęć i ograniczeniach dotyczących hashtagu #WeTheNipple.
W tym momencie protest przestawał być wyłącznie demonstracją przeciwko zakazowi kobiecej nagości. Stawał się demonstracją przeciwko systemowi, który nie zawsze potrafi zrozumieć, co właściwie moderuje.
Putin może. Chelsea Handler nie może
Podobną dyskusję wywołała Chelsea Handler, która w 2014 roku opublikowała na Instagramie zdjęcie będące parodią słynnych fotografii Władimira Putina pozującego bez koszulki. Zdjęcie zostało usunięte.
Handler zwróciła uwagę na oczywistą różnicę: mężczyzna może występować bez koszulki, natomiast kobieta pokazująca dokładnie tę samą część ciała zostaje objęta zakazem. Jej publikacja była zresztą celowo prowokacyjna. Nie chodziło wyłącznie o pokazanie nagości, lecz o sprawdzenie, czy platforma zastosuje swoje zasady konsekwentnie.
W takich przypadkach problem z regulaminem staje się widoczny dopiero wtedy, kiedy ktoś zaczyna go czytać dosłownie. I wtedy okazuje się, że to, co miało być ochroną użytkowników przed por*ografią, potrafi objąć również satyrę, sztukę, dokumentację medyczną czy zwykłą dyskusję o ludzkim ciele.
Największy absurd zaczyna się w medycynie
Można jeszcze machnąć ręką na artystyczne prowokacje. Można uznać, że artyści lub celebryci świadomie wchodzą w konflikt z zasadami platformy i wiedzą, czego się spodziewać. Znacznie trudniej zrobić to samo, kiedy moderacja dotyka materiałów medycznych.
Zdjęcia piersi i sutków pojawiają się przecież w materiałach dotyczących raka piersi, mastektomii, rekonstrukcji piersi, blizn po operacjach czy tatuaży medycznych odtwarzających brodawkę sutkową. W tych przypadkach nie ma żadnej erotycznej intencji. Ciało jest po prostu częścią informacji. A jednak automatyczne systemy potrafiły usuwać także takie treści.
Oversight Board, niezależny organ rozpatrujący wybrane decyzje dotyczące moderacji na platformach Mety, wielokrotnie zwracała uwagę na ten problem. W jednej ze spraw dotyczących raka piersi Facebook usunął materiał pokazujący objawy choroby. Rada uznała później, że decyzja była błędna i nakazała przywrócenie treści.
W kolejnej sprawie dotyczącej materiałów związanych ze świadomością raka piersi Meta przyznała, że usunięto 15 postów, które nie powinny zostać usunięte. Wśród nich znajdowały się materiały dotyczące objawów choroby, mastektomii oraz tatuaży odtwarzających sutki.
To już nie jest anegdota o celebrytce, która pokłóciła się z Instagramem. Jeżeli system potrafi potraktować rekonstrukcję po mastektomii jak naruszenie zasad dotyczących nagości, pytanie o sens takiej moderacji przestaje być akademicką dyskusją.
Kiedy sztuczna inteligencja dostaje zbyt dużo władzy
W całej tej historii łatwo zaatakować samą sztuczną inteligencję. Jednak problem jest trochę bardziej skomplikowany. Algorytm robi to, do czego został zaprojektowany. Jeżeli człowiek tworzy zasady oparte na prostych kategoriach, a następnie każe maszynie egzekwować je na miliardach zdjęć, nie powinien być zaskoczony, kiedy system zaczyna podejmować decyzje oderwane od kontekstu.
Maszyna nie wie, że osoba na zdjęciu właśnie przeszła operację. Nie wie, że fotograf dokumentuje chorobę. Nie wie, że rysunek jest satyrą na politykę Facebooka. Nie rozumie ironii w taki sposób, w jaki rozumie ją człowiek.
Widzieć obraz to nie to samo, co go rozumieć. Dlatego coraz większym problemem nie jest samo istnienie automatycznej moderacji, lecz sytuacja, w której decyzja algorytmu jest traktowana jak ostateczna.
Meta próbuje naprawiać własne błędy
Meta powołała Oversight Board między innymi po to, aby stworzyć niezależny mechanizm rozpatrywania najtrudniejszych przypadków moderacyjnych. Kolejne decyzje Rady pokazują, że problem błędów automatycznej moderacji nie jest marginalny.
Rada wielokrotnie rekomendowała platformie poprawę systemów wykrywających treści oraz zwiększenie możliwości odwołania się od błędnej decyzji. W praktyce oznacza to jedno: nawet sama struktura stworzona przez Metę do kontrolowania jej decyzji pokazuje, że automatyczne systemy nie mogą być traktowane jako nieomylny sędzia treści publikowanych przez użytkowników. I trudno się z tym nie zgodzić.
Nie ma nic złego w tym, że platforma ustanawia zasady. Facebook nie jest przestrzenią publiczną bez żadnych ograniczeń i ma prawo określać, jakiego rodzaju treści chce u siebie dopuszczać. Problem zaczyna się wtedy, gdy zasada staje się ważniejsza od rzeczywistości.
Kobiecy sutek nie jest kategorią pornografii
Cały spór o sutki może wydawać się błahy. W końcu internet ma problemy znacznie poważniejsze niż pytanie o to, czy można pokazać kobiecą pierś. Tyle że właśnie na takich pozornie błahych przykładach najlepiej widać ograniczenia automatycznej moderacji.
Jedna fotografia może być por*ografią. Inna może być dziełem sztuki. Kolejna może dokumentować raka. Jeszcze inna może być politycznym protestem albo satyrą. Wszystkie mogą przedstawiać tę samą część ludzkiego ciała.
Jeżeli algorytm nie potrafi rozróżnić tych sytuacji i kontekstu, problemem nie jest wyłącznie to, że czasem „się pomyli”. Problemem jest konstrukcja systemu, który próbuje sprowadzić skomplikowany kontekst do kilku prostych kategorii.
Dlatego historia kobiecych sutków na Facebooku i Instagramie jest w gruncie rzeczy historią o czymś znacznie większym. O tym, co dzieje się wtedy, kiedy firmy technologiczne oddają decyzje o tym, co wolno nam pokazywać, systemom, które potrafią rozpoznać obraz, ale niekoniecznie potrafią zrozumieć jego znaczenie.
A najlepszym sposobem na pokazanie słabości takiego systemu okazał się przez lata ten sam żart: przykleić na kobiecą pierś męski sutek i sprawdzić, czy algorytm poczuje się spokojniejszy.
Podwójna moralność Facebooka: (c) Sensacje . Sadurski.com / CH
Zobacz też:
> Czy my i nasza rzeczywistość to tylko symulacja komputerowa?
> Zmarli wyglądali lepiej niż żywi. Szokująca prawda o fotografii pośmiertnej
