Jak nová umělá inteligence Facebooku bojuje proti Deepfakes tím, že identifikuje tvůrce
Facebook tvrdí, že dosáhla průlomu s novým systémem, který nejen detekuje deepfakes, ale dokáže také zvrátit navrhnout zmanipulovaná média, aby našel AI engine použitý k jeho vytvoření, případně dokonce pomohl vystopovat špatného herce za tím. Deepfakes se objevily jako sofistikovaná metoda šíření dezinformací a mohou se projevovat v mnoha podobách, jako jsou falešné pomlouvačné obrázky až po vymyšlená videa pro dospělé. To je však jen špička ledovce. Škodlivé důsledky jsou nekonečné a natolik znepokojující, že dokonce i FBI varovala před potenciálem hlubinných padělků, které mohou být použity jako zbraně pro operace se zahraničním vlivem. Deepfakes byly použity se zábavnými výsledky, ale rozsah zneužití jsou rozlehlé.
Ve výzkumné komunitě se pracuje na boji proti hrozbě deepfakes vytvořených se zlým úmyslem a techničtí giganti podávají ruku. Microsoft například vyvinul Microsoft Video Authenticator založený na AI nástroj pro detekci deepfakes. Minulý rok, Facebook začal odstraňovat zmanipulovaná média
Systém Facebooku založený na umělé inteligenci, vytvořený ve spolupráci s výzkumníky Michigan State University (MSU). identifikuje manipulovaných médií a poté využívá reverzní inženýrství k detekci generativního modelu, který byl použit k vytvoření deepfake. Konečným cílem je vysledovat software pro generování deepfake k počítači a tím i viníka za ním. Facebook poznamenává, že jeho model bude v podstatě hledat jedinečné otisky prstů zanechané generativním modelem v moři zmanipulovaných médií a poté identifikuje místo původu.
Jak Facebook sleduje zdroje Deepfake
Facebook jde ve stopách forenzních expertů, kteří hledají na obrázcích zřetelné vzory k identifikaci modelu fotoaparátu použitého ke kliknutí na konkrétní sadu obrázků. V tomto případě bude metoda vyvinutá výzkumníky Facebooku a MSU hledat jedinečné atributy na zmanipulovaných médiích generativním modelem za tím. Používají se faktory, jako je velikost otisku prstu, opakující se povaha, frekvenční rozsah a symetrická frekvenční odezva vytvořit úplný profil otisků prstů, který se následně použije k detekci generativních modelů hyperparametry. Výzkumníci přirovnávají tyto hyperparametry k částem motoru, zatímco generativní model je přirovnáván k automobilu, který tyto části motoru používá. Před několika lety společnost Google vydala rozsáhlou datovou sadu hluboce falešných videí, aby pomohla výzkumu v této oblasti.
Facebook říká, že systém analýzy modelu, který používá, je efektivnější, pokud jde o nasazení technologie v reálném světě orgány činnými v trestním řízení a odborníky na kybernetickou bezpečnost. Nová metoda je prý zvláště užitečná ve scénářích, kde je zásoba zmanipulovaných médií jediným zdrojem, který mají odborníci a úřady k dispozici. Konečným cílem je vyvinout lepší vyšetřovací nástroje, na které se lze spolehnout při řešení rozsáhlých dezinformačních kampaní pomocí deepfakes.
S technologií vzadu deepfakes se vyvíjejí rychlým tempem, řešení, jako je to, které nyní oznámil Facebook, jsou o to důležitější. Facebook říká, že nový systém bude open-source pro výzkumnou komunitu, přičemž MSU uvolní data nastavit, kódovat a trénovat modely, aby ostatní mohli pomoci dále rozvíjet efektivnější hloubkové sledování metody.
Zdroj: Facebook
90denní snoubenec: Julia řeší její nemoc, kterou si fanoušci všimli na polštáři
O autorovi