NYT: Pravidla Facebooku pro kontrolu obsahu mají řadu slabin

Zredukovat složité společenské problémy na jednoduchou volbu typu "ano/ne". Takový je cíl zaměstnanců Facebooku, kteří vytvářejí pravidla pro mazání obsahu na stejnojmenné sociální síti. Výsledek je ale v některých otázkách zaujatý, obsahuje řadu mezer i vyložených chyb, píše v obsáhlé reportáži deník The New York Times (NYT). Facebook je podle něj daleko mocnějším globálním arbitrem projevu, než sám připouští.

Reportáž vychází z rozhovorů s "moderátory" příspěvků či manažery Facebooku, analýzy interních e-mailů společnosti a zejména ze 1400 stránek ze souboru pravidel pro kontrolu obsahu. Ty americkému listu poskytl zaměstnanec Facebooku, který se prý obává, že firma disponuje příliš velkou mocí a nepodléhá dostatečné kontrole. Také podle této nejmenované osoby činí příliš mnoho chyb.

Regulace obsahu na facebooku je stále velmi neprůhledná a odborníci i zástupci vlád po celém světě sociální síť vyzývají, aby do procesu vnesla více světla. Facebook sice letos začal zveřejňovat? zprávy o počtech odstraněných příspěvků i důvody pro jejich stažení, neposkytuje ale mimo jiné příklady sdělení spadajících do jednotlivých kategorií. Drtivou většinu odstraněných příspěvků tvoří obsah, který sociální síť označuje jako spam. Od července do září smazala asi 1,5 miliardy takovýchto sdělení, u výrazně ošemetnějších kategorií, jakými je šíření nenávisti, propagace terorismu nebo šikana a obtěžování, se množství odstraněných příspěvků pohybovalo kolem tří milionů.

Facebook zároveň čelí kritice, že jeho působení v některých oblastech vyvolává násilí a obecně podkopává fungování demokracie, když usnadňuje šíření dezinformací. Řešení těchto problémů ale jde proti ekonomickým zájmům společnosti, kterými je zvyšování počtu uživatelů a co nejdelší udržení jejich pozornosti.

NYT popisuje, že návod pro moderátory na facebooku vzniká víceméně živelně a nevypadá jako "příručka pro regulaci globální politiky", nýbrž je sestaven z desítek neroztříděných prezentací a excelových tabulek. O úpravě pravidel či tvorbě nových rozhodují při schůzkách každé druhé úterý "převážně právníci a mladí inženýři". Závěry z těchto porad následně putují k více než 7500 moderátorům po celém světě.

"Facebook tohle všechno dělá nízkonákladově, posílá dezorganizované snímky z PowerPointu ke druhým společnostem, které takřka neřídí," napsal na twitter? autor reportáže Max Fisher, který Facebook přirovnává ke skryté větvi vlády pracující bez souhlasu občanů. Samotnými regulátory obsahu jsou údajně převážně nekvalifikovaní pracovníci, kteří jsou při své práci někdy odkázáni na překladač Google a zpravidla mají jen několik sekund na to, aby uplatnili spletitá pravidla v praxi.

Facebook od moderátorů požaduje, aby se jeho manuálu "slepě" drželi, čímž se snaží zajistit konzistentnost a zbavit proces jakékoli zaujatosti. Podle NYT však analýza interních dokumentů odhalila mnoho slabých míst, více bodů také prý nasvědčuje tomu, že pravidla straní vládám, které mohou Facebook regulovat či pokutovat.

"Při pátrání po správných odpovědích umožnili zaměstnanci Facebooku v některých zemích rozkvět extremistické rétoriky, zatímco v jiných cenzurují mainstreamové projevy. (...) Chyba při papírování umožnila přední extremistické skupině obviněné z propagace genocidy v Barmě zůstat na platformě celé měsíce. V Indii bylo moderátorům omylem nařízeno, aby mazali komentáře kritické k náboženství," uvádí NYT.

Podle deníku se Facebook v roli regulátora veřejného diskurzu nikdy nechtěl ocitnout. "Avšak ve snaze dostat pod kontrolu problémy, které sám zplodil, se v tichosti stal pravděpodobně jedním z nejmocnějších orgánů politického dohledu na světě. A to rychlostí, která znepokojuje i jeho zaměstnance," shrnuje NYT.