V hlavní roli sociální média. Jak rozhodují o tom, co je správné a co už ne

V centrále Facebooku každé druhé úterý a v YouTube každý pátek se scházejí ředitelé, aby probrali nejnovější problémy spojené s projevy nenávisti, dezinformacemi a dalším znepokojivým obsahem na svých platformách. Rozhodují, co odstranit a co nechat. V San Bruno na ně šéfka YouTube Susan Wojcicki dohlíží osobně. V Menlo Park řídí standardy obsahu na fóru níže postavení ředitelé Facebooku, píše renomovaný časopis The Economist.

Fórum se pro tyto firmy stalo častou zastávkou propagační kampaně pro novináře. Jejich pracovní skupiny doporučily nové směrnice co dělat například s fotografií, na které mlátí Indky v Bangladéši a která může vyvolat i offline násilí (stáhnout), nebo s videem policejní brutality během rasových nepokojů (ponechat), či s fotkou, kde údajně Donald Trump v 90. letech nosí uniformu Ku Klux Klanu (nechat, ale snížit distribuci a informovat uživatele, že je to podvod). Rozhodnutí na těchto setkáních se nakonec vytříbí do instrukcí pro tisíce recenzentů obsahu po celém světě.

Z periferie do centra pozornosti

Sledovat, jak každá z těchto firem usměrňuje svůj obsah, je povzbudivé. Obě firmy se už na tato rozhodnutí nedívají jako na okrajovou aktivitu, ale jako na jádro svého podnikání. Každá zaměstnává ředitele, kteří jsou v tomto úkolu zodpovědní. Snaží se, aby jejich platformy byly méně toxické a zároveň aby byla chráněna i svoboda projevu. Ale to, že tuto aktivitu vůbec vyvíjejí, je samo o sobě důvodem k obavám. Tímto způsobem totiž míří na post „ministrů pravdy“ pro globální publikum. Nikdy předtím nebyl tak malý počet firem schopný ovládat, co miliarda lidí říká a vidí.

Politici věnují obsahu na sociálních médiích čím dál více pozornosti, stejně tak jako opatřením k jeho vyhodnocování. Sheryl Sandberg, facebooková dvojka, a Jack Dorsey, šéf Twitteru, 5. září svědčili před zpravodajskou komisí amerického senátu ohledně neschopnosti těchto firem zabránit ruským agentům v ovlivňování prezidentských voleb v roce 2016. Dorsey pak odpovídal na ostré otázky senátu ohledně správy obsahu. (Během první řady slyšení byl Alphabet, mateřská společnost Google, která vlastní i YouTube, zastoupen prázdnou židlí poté, co odmítl uvolnit Larryho Page, svého spoluzakladatele.)

Tvrdý dohled nad Facebookem, Twitterem, YouTubem atd. se v poslední době zintenzivnil. Všechny tři firmy čelily požadavku zakázat účet konspiračnímu teoretikovi Alexi Jonesi z Infowars, což všechny učinily. Mezitím technologické platformy čelily nařčení z anti-konzervativní zaujatosti a potlačování určitého typu zpráv. Jejich nejhlasitějším kritikem je prezident Donald Trump, který hrozil (přes Twitter) jejich regulací. Hned po slyšení generální prokurátor Jeff Sessions řekl, že s nejvyššími státními zástupci z ostatních států probere „rostoucí obavy“, že platformy potlačují konkurenci a volné šíření myšlenek.

Chráněné druhy

Tento tok událostí značí odliv dlouhodobé právní ochrany těmto společnostem. Internetové firmy jsou v Americe chráněny před právní zodpovědností za obsah zveřejněný na svých službách. Sekce 230 zákona o slušnosti v komunikacích (Communications Decency) z roku 1996 s nimi jedná jako se zprostředkovateli, ne vydavateli, aby je tak chránila před právním nebezpečím.

Když byl online průmysl omezený na mladé, zranitelné start-upy, byl tento přístup smysluplný. Před deseti lety byla správa obsahu jasná věc. Jen 100 milionů lidí používalo Facebook a standardy jeho komunity se vešly na dvě stránky. Ale dnes tu je 2,2 miliardy měsíčních uživatelů Facebooku a 1,9 miliardy měsíčních přihlášených uživatelů YouTube. Tyto platformy se staly ústředním bodem společenské interakce ve všech formách - od jasné debaty a videí s kočkami až po konspirační teorie a projevy nenávisti.

Tak předně sociální média neuspěla v tom, jak přizpůsobit svou velikost a komplexnost svému růstu a moci, kterou vytvářejí. Tvrdí, že se nechtěla stát „arbitry pravdy“. Ale v posledních letech tyto dvě společnosti, a také Twitter, byly v reportech opakovaně osočeny, že jejich platformy byly zneužity a manipulovali s nimi trollové, nenávistné skupiny, teoretici spiknutí, obchodníci s dezinformacemi, manipulátoři s volbami a propagandisté. V Myanmaru novináři a odborníci na lidská práva zjistili, že dezinformace na Facebooku vyvolávaly násilí proti muslimským Rohingyům. Po hromadné střelbě ve škole v Parkland na Floridě nabídly výsledky vyhledávání této střelby na YouTube konspirační videa s tím, že šlo údajně o nepravdivou zprávu s „krizovými herci“.

Růst potřebných zdrojů, lidských i technologických

Facebook a YouTube reagovaly prudkým zvýšením zdrojů, jak lidských, tak technologických, pro dohled nad svými platformami. Koncem letošního roku Facebook zdvojnásobí počet svých zaměstnanců, kteří se věnují zabezpečení jejich sítě na 20 000, včetně 10 000 recenzentů obsahu. YouTube bude mít 10 000 lidí pracujících nějakým způsobem na správě obsahu. Smažou miliony příspěvků měsíčně podle tlustého návodu – například osnovy pro posuzovače „kvality vyhledávání“ v Google čítají 164 stran.

Ačkoliv většina správců pracuje pro firmy třetí strany, růst jejich počtu má už tak dopad na firemní finance. Když Facebook v červenci zveřejnil neuspokojivé kvartální výsledky, čímž způsobil propad své tržní kapitalizace o více než 100 miliard dolarů, byly do toho již částečně zahrnuty vyšší náklady na správu. Mark Zuckerberg, generální ředitel firmy, řekl, že z dlouhodobého hlediska bude muset problém správy řešit umělá inteligence. Během prvních tří měsíců roku 2018 Facebook v nějaké formě zasáhl u 7,8 milionů příspěvků, které obsahovaly grafické násilí, projevy nenávisti nebo teroristickou propagandu - dvojnásobek předchozích tří měsíců, většinou díky zlepšení automatické detekce. Ale správa obsahu vyžaduje moudrost a algoritmus je pouze natolik uvážlivý jako principy, kterými je naprogramován.

Co nechat a co odstranit?

V sídle Facebooku v Menlo Park ředitelé instinktivně odolávají vytváření nových pravidel omezujících obsah z důvodu svobody projevu. Mnoho typů nenávistných, rasistických komentářů je povoleno, protože jsou formulované tak, aby se nezaměřovaly na žádnou konkrétní rasu, náboženství nebo jinou chráněnou skupinu. Anebo se jedná o vtipy.

Falešné zprávy, to je jiná otázka. „Neodstraňujeme obsah jen proto, že není pravdivý,“ říká Monika Bickert, ředitelka pro produktovou politiku a protiterorismus. To, co Facebook může udělat, je, že místo toho, aby materiál odstranil, mu sníží hodnocení a tým externích ověřovatelů dat jej označí jako falešnou zprávu, což znamená, že jej uvidí méně lidí a vedle se zobrazí pravdivá informace. V napjatých zónách jako je Myanmar a Srí Lanka, kde dezinformace rozpoutaly násilí, mohou být příspěvky i odstraněny.

Systém YouTube je podobný tomu u Facebooku a rovněž zahrnuje osnovy pro to, co je přijatelné, a detailní instrukce pro recenzenty. Lidé rychle rozhodnou, co s obsahem, který byl označen, dělat. A většinu označení dělá automatická detekce. Twitter také používá umělou inteligenci, aby vyslídila falešné účty a nevhodný obsah, ale více spoléhá na hlášení uživatelů o harašení či urážkách.

Budoucí změny?

S tím, jak sociální média sama sebe kontrolují, se zároveň i mění. Bývala, a stále se tak vnímají, jako efektivní s počtem zaměstnanců na minimu. Ale Facebook se svými 25 000 lidmi na výplatních páskách bude brzy pravděpodobně své recenzenty zaměstnávat více než inženýry. Jak Facebook, tak Google by mohly být dostatečně bohatý na to, aby vstřebal dodatečné náklady a stále prosperoval. Twitter, který je finančně slabší, by mohl trpět už více.

Výraznější změna je také řešením. Pokud dezinformace, nenávistné projevy a urážlivý obsah převažují, je to podle kritiků dáno podnikatelským modelem firmy: inzerováním. Aby prodaly více reklam, dávají tak například algoritmy Facebooku přednost obsahu, který má šanci zaujmout a který tak může být i z té špatný. YouTube udržuje uživatele na síti tím, že jim nabízí čím dál více zajímavých videí, která mohou být také čím dál tím extrémnější. Jinými slovy, aby skutečně vyřešila problém správy obsahu, budou se možná muset velká sociální média rozloučit s podnikatelským modelem, díky kterému jsou tak úspěšná.

Zdroj: The Economist