Moderování Facebooku se nedaří zachytit sdílenou propagandu ISIS: Zpráva

Studie o propagandě ISIS na Facebook zjistil, že platformě sociálních médií se nedaří adekvátně nakládat se sdíleným obsahem teroristické skupiny. Moderování bylo vždy zájmem giganta sociálních médií, a proto není úplným překvapením, že na platformě je stále propagován extremistický obsah.

Radikalizace je jednou z největších hrozeb pro demokratické společnosti a Facebook je dlouhodobě obviňován profitovat z rozdělujícího obsahu. Platforma sociálních médií čelí tvrdé kritice za to, že toleruje rozsáhlé rozdělující kampaně politické skupiny, které často obsahují dezinformace, s cílem ovlivnit voliče během voleb a v jiných klíčových politických otázkách problémy. To mělo za následek také bojkot uživatelů inzerenti bojkotují. Z pohledu společnosti se generální ředitel Facebooku Mark Zuckerberg zdráhal přijmout jakákoli vážná opatření k regulaci obsahu na platformě a jako důvod uvedl „svobodu projevu“. Po nedávných protestech a masivním bojkotu inzerentů by se však zdálo, že Facebook je nyní udělat nějaké změny.

Zjištění z nedávné studie naznačují, že propaganda ISIS na Facebooku je stále znepokojující. Výzkum provedl londýnský think tank The Institut pro strategický dialog (ISD). Podle studie výzkumníci zjistili, že Facebook sice odstraňuje téměř 99 procent věcí souvisejících s terorismem velké množství účtů, které propagují obsah pro-ISIS, prosperovalo díky tomu, že se jim podařilo vyhnout se filtry. Studie se zaměřila na jednu takovou síť, označenou jako Fuouaris Upload, a na to, jak vytvořila stovky účtů a oslovila desítky tisíc uživatelů. Studie tvrdí, že se jedná pouze o jedinou síť v rámci shluku vzájemně propojených sítí napříč Facebookem.

Pro-ISIS účty vyhýbající se algoritmům Facebooku

Studie, která probíhala během tříměsíčního období mezi dubnem a červencem, objevila 288 účtů v síti Fuouaris Upload, přičemž 90 z nich ovládal jediný uživatel. Výzkumníci našli šest konkrétních způsobů, jak se tyto účty vyhýbaly automatickému a manuálnímu moderování obsahu Facebooku. První je krádeží účtu, kde se zdá, že členové Fuouaris Upload využívají mezeru v bezpečnostním protokolu Facebooku k zachycení resetovat heslo textové zprávy odeslané platformou. Výuková videa o tom, jak to udělat, jsou považována za sdílená mezi členy sítě.

Maskování obsahu, aby extremistický obsah vypadal jako obsah sdílený důvěryhodnými zdroji zpráv, jako je např BBC a Francie 24, je další způsob, jak se účty vyhýbají detekci ze strany Facebooku. Sdílení odkazů, tedy sdílení odkazů decentralizovaným způsobem prostřednictvím vláken komentářů, se také ukázalo jako další oblíbená taktika šíření obsahu ISIS. Únos hashtagů je dalším trikem, který se používá a zahrnuje vytváření hashtagů, které rezonují s probíhajícím problémem, např. Na černých životech záleží. Tyto hashtagy se používají k napadání vláken komentářů a maskování extremistického obsahu. Kromě toho členové pro-ISIS účtu také používají nefunkční texty a specializovaná písma, aby se vyhnuli moderování analýzy textu na Facebooku.

I když je úlevou, že se Facebooku daří odhalovat většinu teroristického obsahu, existence mezer, které lze zneužít k šíření škodlivého obsahu, je znepokojivá. Doufejme, že Facebook bude jednat rychle a tyto problémy vyřeší před nadcházejícím prezidentem USA volby, protože stejné mezery by mohly využít i politické skupiny, které se snaží polarizovat populární debata.

Zdroj: ISD

Salma Hayek vzpomíná, jak Samuel L Jackson zjistil, že se připojila k MCU

O autorovi