Jak Facebook používá AI k nalezení a odstranění falešných účtů

Facebook používá nový systém umělé inteligence (AI) k odhalení a odstranění miliard falešných účtů. Falešné a spamové účty vytvořené pro škodlivé účely zůstávají pro giganta sociálních médií vážnou výzvou. Nyní se zdá, že inženýři Facebooku našli pro tento problém efektivní řešení AI.

Provozování obrovské platformy sociálních médií je jedna věc, policejní práce je věc druhá. Od prezidentských voleb v USA v roce 2016 a britského referenda o brexitu jsou platformy sociálních médií více proaktivní v regulaci aktivitu a obsah uživatelů, aby se omezily dezinformace. Přesto navzdory dostupným zdrojům, jako je Facebook a Google měly omezený úspěch při tom dělat. Naprostý objem účtů a obsahu znamená spoléhat se na výkonné automatizované systémy, které jej prozkoumají, a i když to ještě musí účinně bojovat proti falešným zprávám, zdá se, že je na tom lépe s falešnými účty.

Nejnovější zpráva o prosazování standardů komunity na Facebooku nároky že jen za poslední rok platforma sociálních médií odhalila a odstranila více než 6 miliard falešných účtů, které se zapojovaly do zneužívajícího chování. Technologie umělé inteligence, kterou k tomu Facebook používá, je framework strojového učení, tzv

Deep Entity Classification (DEC). Zpráva poukazuje na to, že počet falešných účtů činí 5 procent všech jejích měsíčních uživatelů. I když se jedná o vysoké procento, miliony z nich jsou zachyceny během několika minut od registrace.

Jak vlastně funguje technologie AI na Facebooku

Vzhledem k tomu, že izolované účty je obtížné klasifikovat, DEC analyzuje nejen individuální aktivitu účtu, ale také to, jak interaguje s jinými subjekty. I když může být pro útočníky snadné udržovat své individuální aktivity normální, je pro ně méně snadné předstírat normální chování a interakce s jinými účty, stránkami nebo skupinami. To pomáhá systému Facebooku studovat sociální graf podezřelých účtů, a to na několika úrovních pomocí přímých, fanout a agregovaných funkcí. Přímé funkce zahrnují aspekty jako věk, pohlaví a počet přátel, pokud se jedná o osobní účet. U stránek (nebo skupin) se DEC dívá na počty fanoušků (nebo členů) a kategorie. Mezitím typy fanout obsahují spravované stránky, příspěvky nebo aktualizace stavu a počet správců, pokud jde o skupinu nebo stránku. Kromě toho jsou tyto dva druhy funkcí agregovány pomocí matematických funkcí, které poskytují hlubší analýzu. DEC používá tisíce takových funkcí ve svém rozhodovacím procesu k analýze účtů a je tak schopen identifikovat ty falešné efektivněji než kdykoli předtím.

Bylo by zajímavé vidět, jak velký dopad bude mít tento systém na nadcházející prezidentské volby v USA. Facebook, čerstvě po skandálu Cambridge Analytica, nadále čelí ostrá kritika za to, že nedělali dost pro omezení falešných zpráv, a zatímco jiné platformy sociálních médií v tomto ohledu podnikají určité kroky, Facebook provedl méně dalekosáhlých změn. Nejen to, společnost a generální ředitel Mark Zuckerberg byli obviněn z aktivní pomoci v manipulaci s voliči. Ačkoli tento zásah proti falešným účtům (a nedávné oznámení o akci proti deepfakes) jsou kroky správným směrem, mnozí by namítli, že Facebook má ještě hodně co dělat.

Zdroj: Facebook

Spisovatel Thor se omlouvá za obrovskou chybu Marvel Continuity s Mjolnirem

O autorovi