Proč vám mizí na Facebooku přátelé? Jsme vězni facebookového „žaláře“

Zástupce ředitele Liberálního institutu Martin Pánek se loni v srpnu probudil do nepříjemné situace. Při rutinní kontrole Facebooku zjistil, že ač může příspěvky na své zdi číst, nemůže je komentovat, lajkovat, sdílet ani nemůže svým přátelům psát zprávy přes aplikaci Messenger.

„Musel jsem lidem psát přes jiné aplikace. Někomu jsem nemohl psát vůbec, protože na ně nemám kontakt mimo Facebook,“ vypočítává Martin vzniklé problémy.

Čtyřiadvacetihodinový zákaz (anglicky ban) od Facebooku dostal šest týdnů poté, co ironicky okomentoval záplavu příspěvků odsuzujících legalizaci homosexuálního manželství v Německu.

„Napsal jsem sarkasticky něco jako ‚Nakonec si negři budou brát naše bílé panny‘. Chtěl jsem si z těch xenofobních komentářů udělat legraci,“ vzpomíná Martin.

Bič na uživatele?

Od Facebooku dostal možnost se k banu vyjádřit a několikrát také administrátorům napsal, avšak bez odezvy. Doplatil na porušení komunitních pravidel Facebooku.

Uživatelé sítě mohou nahlašovat obsah, který podle nich tato pravidla porušuje, a zaměstnanci firmy potom posuzují, zda tento obsah skutečně bude odstraněn.

Uživatelé mohou rovněž doplatit na opatření proti spamu: ta administrátoři využijí v případě, že profil sdílí stejný obsah na mnoha stránkách či skupinách, píše stejné zprávy mnoha lidem najednou, označuje neznámé lidi, sdílí neoriginální obsah či posílá mnoho odmítnutých žádostí o přátelství.

Kromě smazání závadného příspěvku může opakované porušení komunitních pravidel Facebooku vést právě k zablokování veškeré aktivity na profilu na den, týden i měsíc, až k úplnému smazání profilu.

Za facebookovými mřížemi

V anglickojazyčném světě se dočasnému zablokování profilu říká Facebook jail – facebookový žalář. A byť zablokování facebookového profilu není srovnatelné se skutečným odnětím svobody, jedná se o značné znepříjemnění každodenního života, které se může dotknout každého z globální dvoumiliardové komunity uživatelů Facebooku.

Podobně jako citovaný Martin Pánek, můžeme například dočasně nebo úplně ztratit kontakty na řadu našich přátel. Ztratíme také možnost se přes Facebook přihlašovat do dalších aplikací, jako je Tinder nebo Spotify (viz box vpravo).

Jak zdůrazňuje zakladatelka projektu Onlinecensorship.org Jillian Yorková, zákaz může potenciálně nejvíce poškodit lidi, kteří spravují facebookové stránky soukromých společností. Kvůli „uvrhnutí do žaláře“ nemohou vykonávat svoji práci a přicházejí tak o klienty.

Na rozdíl od civilního řízení v reálném světě existuje na Facebooku pouze omezená možnost se proti trestu odvolat. Lze se například odvolat proti smazání profilu i stránky a požádat také o přezkoumání dočasného zákazu aktivity (byť není garantováno, že vám někdo odpoví), ale nelze se odvolat proti smazání konkrétního příspěvku.

Zuckerbergovi čističi

Rozhodnutí o tom, zda bude příspěvek smazán, provádí zčásti umělá inteligence (podle Zuckerbergova dopisu z února minulého roku nahlašuje AI třetinu potenciálně závadných příspěvků).

Další část Facebooku hlídá najatá „armáda“ 7 500 moderátorů (jejich počet by v letošním roce měl vystoupat na 20 000).

PŘEČTĚTE SI TAKÉ:

Aféra s Cambridge Analytica může zlomit Facebooku vaz

Zaměstnanci facebookového Community Operations týmu, odpovídající za moderování obsahu pro americké uživatele, pracují v Sillicon Valley, o bezpečnost zbytku světa facebookové komunity se starají dublinští zaměstnanci.

Externí hlídači

Pozice pro řadové zaměstnance pověřené mazáním obsahu – tedy i pro oněch 12 500 lidí, kteří by pro firmu měli začít pracovat do konce tohoto roku – však nejsou na pracovním portálu Facebooku vypsány.

Ve 152 aktuálních inzerátech v sekci Community Operations Facebook hledá lidi pouze do manažerských a analytických pozic, kteří se stanou zaměstnanci Facebooku se všemi výhodami.

Většinu řadových moderátorů, včetně tisíce německých pracovníků zaměstnaných kvůli novému zákonu NetzDG, Facebook kontraktuje přes externí firmy. O těch však firma příliš nemluví a i své externí zaměstnance zavazuje mlčenlivostí.

Kdo maže, ten nejede

Podmínky kontraktovaných mazačů obsahu zdokumentoval snímek Čističi režisérů Hanse Blocka a Moritze Riesewiecka, kteří se za nimi vydali na Filipíny. Dokument popisuje, jak jsou tito zaměstnanci špatně zaplacení, nedostává se jim dostatečného tréninku a ani psychologické péče potřebné poté, co procházejí hodiny nenávistného či násilného obsahu.

VIDEO: Ukázka z dokumentu Čističi (The Cleaners)

Zdroj: CSFD.cz

Existujících 7500 moderátorů musí týdně posoudit přibližně 6,5 milionů nahlášených příspěvků týdně.

Zpověď bývalé zaměstnankyně berlínského centra pro Süddeutsche Zeitung navíc ukazuje, že i tamní zaměstnanci jsou vystaveni velkému tlaku (denní standard je 1 300 posouzených příspěvků), pracují za plat jen mírně přesahující německou minimální mzdu a musí se vyrovnat s psychickými následky.

Dvojí pravidla

Na příkladu Filipínců, často silně věřících občanů autoritářského režimu prezidenta Duterteho, dokument Čističi demonstruje, jakým způsobem kultura a původ ovlivňují názory na to, co je vhodný příspěvek a co ne.

Aby zabránil dvojím standardům, vyvinul Facebook pravidla definující závadný obsah, jejichž část zveřejnil server The Guardian.

Tyto zásady jsou daleko podrobnější než veřejná komunitní pravidla a jsou neustále aktualizovány. I přes velmi podrobné definice jsou tato pravidla často kritizována za nekonzistentnost i za to, že hraniční příspěvky (v jakém případě je povolená nahota či násilí) se moderátorům složitě klasifikují.

Dalším problémem těchto pravidel je, že jsou neveřejná, nikdo za ně uživatelům neskládá účty a nedávají uživatelům sítě žádnou možnost o nich spolurozhodovat – jejich jedinou a poměrně radikální možností je z Facebooku odejít.

Pod evropským drobnohledem

Po sérii obvinění, že šíří nenávistný a nepravdivý obsah, se Facebook dostal do hledáčku evropských regulátorů, kteří po internetovém gigantu vyžadují včasné smazání nezákonného obsahu i boj proti trollům, spamu a cíleným dezinformacím.

Dohled států a státních regulátorů se opravdu může jevit jako logická odpověď na hrozby čisté seberegulace Facebooku a jiných platforem. Špatná regulace však paradoxně může moc největších sociálních sítí a hrozbu „facebookového žaláře“ ještě posílit.

MOHLO BY VÁS ZAJÍMAT:

Proč digitalizační reforma autorského práva rozděluje Evropu?

Michal Feix (Seznam.cz): Evropská regulace nesmí zabíjet on-line byznys

Paradoxy on-line světa: internetovou špionáž provádí i chudá Etiopie

Mezi dvě již existující iniciativy patří německý zákon NetzDG a Kodex proti nezákonným nenávistným projevům on-line, který Facebook, Microsoft, Twitter a YouTube dobrovolně podepsaly s Evropskou komisí.

Unijní Kodex se týká pouze nenávistných projevů, které jsou již definované v unijním právu (veřejné projevy nenávisti a výzvy k násilí vůči skupině či jejímu členovi na základě rasy, barvy kůže, náboženství a vyznání či národního a etnického původu), a zavazuje IT společnosti k tomu, aby kromě svých komunitních standardů posuzovaly příspěvky i podle této platné legislativy.

Němci povinně

Německý zákon NetzDG se týká širšího spektra příspěvků a zahrnuje například i pomluvu prezidenta republiky a státních orgánů, znesvěcení státních symbolů či veřejnou urážku.

Na rozdíl od Kodexu je NetzDG pro určitou skupinu platforem povinný a hrozí firmám pokutou až 50 milionů eur, pokud nezákonný obsah včas nesmažou.

Pokutu až 50 milionů eur mohou dostat některé platformy za to, že nesmazaly obsah, který odporuje zákonu NetzDG.

Společným jmenovatelem zmíněných iniciativ je důraz na rychlost: v Německu platformám hrozí pokuta, pokud závadný obsah nesmažou do 24 hodin (a „méně očividně závadný obsah“ do týdne).

Nejdřív rychlost, pak transparentnost

V poslední zprávě hodnotící účinnost Kodexu z ledna 2018 Evropská komise oceňuje zejména to, že IT firmy mažou nahlášené nenávistné projevy rychleji než v předchozích pololetích.

V rámci měření Komise konkrétně Facebook stihl posoudit obsah do 24 hodin u téměř 90 procent příspěvků a téměř 80 procent nahlášených příspěvků stáhl. „Nezákonný nenávistný obsah musíme mazat rychle: čím déle na síti zůstane, tím větší je jeho potenciální dosah,“ argumentuje Komise.

Bohužel i kvůli těmto požadavkům jsou moderátoři zavaleni tisíci příspěvky, které musí mazat rychle, aniž by k tomu dostali potřebná školení či podporu.

Jak navíc zdůrazňuje bruselská neziskovka za občanská digitální práva EDRi, hranice mezi nezákonným příspěvkem podle práva a nevhodným příspěvkem podle komunitních standardů společnosti například v případě Kodexu splývají.

Jak se vyznat v zákazech?

Jaký příspěvek má být smazán, to místo soudce aplikujícího evropské zákony definuje zaměstnanec Facebooku v Sillicon Valley a v praxi posuzuje vyčerpaný externista v Dublinu, Berlíně či Manile.

Systém pokut, který zkouší německá vláda, navíc sítě motivuje k tomu, aby mazaly i například umělecký či sarkastický obsah. Uživatelům přitom při opakovaném přešlapu hrozí vyloučení z jejich internetové komunity s velmi praktickými dopady na osobní i pracovní život.

Rychlost mazání potenciálně nezákonných příspěvků je naprosto nedostatečné kritérium pro posuzování toho, jestli firmy berou boj proti nežádoucím projevům vážně. Aby zabránily šíření nezákonných projevů a přitom ochránily svobodu slova, měly by demokratické vlády raději tlačit na transparentnost facebookového moderování.

Více otázek než odpovědí

Měly by se ptát: Jaký obsah Facebook postihuje? Který obsah postihovaný Facebookem je zároveň nezákonný? Posuzuje Facebook příspěvky podle práva, či svých komunitních standardů (a jakých)?

Jaké sankce za který obsah hrozí? Liší se postih obsahu nezákonného podle práva od ostatního nevhodného obsahu? Jakým způsobem Facebook příspěvky posuzuje?

Vlády by měly také zajistit, aby Facebook měl dostatečné personální kapacity pro to, aby tuto citlivou práci prováděl férově a podle práva. Konečně, uživatelé největší sociální sítě (a nejen jí) musí mít možnost se proti smazání svého příspěvku či profilu odvolat.

Potřebuje Facebook regulátora?

Facebook má obrovskou moc v rozhodování o tom, jaký obsah jeho dvoumiliardová komunita vidí, jaký nevidí a jak se podle toho rozhoduje ve svém životě či volbách. Nemá žádnou ekonomickou motivaci mazat obsah, který je nenávistný či nepravdivý.

Uživatelé do jeho rozhodnutí zasahovat nemohou a nemají ani možnost jeho pravidla ovlivňovat či se proti nim odvolat. Všechny tyto argumenty mluví ve prospěch toho, aby firma a její editorské praktiky podléhaly státním regulátorům.

Důraz na rychlost bez potřebné transparentnosti však pouze zvyšuje riziko, že se se zablokovanými kontakty a bez přístupu třeba ke Spotify zítra probudíme i my.

Článek Kláry Votavové, členky týmu Kremlin Watch think tanku Evropské hodnoty, původně vyšel na serveru Hlídací pes.org.