Kako se Facebookova nova umetna inteligenca bori proti globokim ponaredkom z identifikacijo ustvarjalcev
Facebook trdi, da je dosegel preboj z novim sistemom, ki ne zazna samo globokih ponaredkov, ampak lahko tudi obrne izdelati manipulirane medije, da bi našli motor AI, uporabljen za njegovo ustvarjanje, in sčasoma celo pomagal izslediti slabega igralca za njim. Deepfakes so se pojavile kot prefinjena metoda širjenja napačnih informacij in se lahko manifestirajo v več oblikah, kot so lažne klevetniške slike do izmišljenih videoposnetkov za odrasle. Vendar pa je to le vrh ledene gore. Škodljive posledice so neskončne in dovolj zaskrbljujoče, da je celo FBI opozoril na možnost, da se globoke ponaredke uporabijo za orožje za operacije tujega vpliva. Deepfakes so bili uporabljeni z zabavnimi rezultati, vendar obseg zlorabe jih je ogromno.
V raziskovalni skupnosti potekajo prizadevanja za boj proti grožnji globokih ponaredkov, ustvarjenih z zlonamernimi nameni, in tehnološki velikani dajejo roko. Microsoft je na primer razvil Microsoft Video Authenticator, ki temelji na umetni inteligenci orodje za odkrivanje globokih ponaredkov
Facebookov sistem, ki temelji na umetni inteligenci, je bil ustvarjen v sodelovanju z raziskovalci Michigan State University (MSU). identificira manipulira z mediji in nato uporabi povratni inženiring za odkrivanje generativnega modela, ki je bil uporabljen za izdelavo globokega ponaredka. Končni cilj je izslediti programska oprema za ustvarjanje deepfake na računalnik, s tem pa tudi krivec za tem. Facebook ugotavlja, da bo njegov model v bistvu iskal edinstvene prstne odtise, ki jih je pustil generativni model v morju manipuliranih medijev, in nato identificiral izvorno točko.
Kako Facebook išče vire Deepfake
Facebook sledi stopinjam forenzičnih strokovnjakov, ki v slikah iščejo različne vzorce, da bi identificirali model kamere, ki se uporablja za klikanje določenega niza slik. V tem primeru bo metoda, ki so jo razvili raziskovalci Facebooka in MSU, iskala preostale edinstvene atribute na manipuliranih medijih po generativnem modelu za njim. Uporabljajo se dejavniki, kot so velikost prstnega odtisa, ponavljajoča se narava, frekvenčni razpon in simetrični frekvenčni odziv ustvariti popoln profil prstnih odtisov, ki se kasneje uporablja za odkrivanje generativnih modelov. hiperparametri. Raziskovalci te hiperparametre enačijo z deli motorja, medtem ko je generativni model primerjan z avtomobilom, ki uporablja te dele motorja. Pred nekaj leti je Google izdal obsežen nabor ponarejenih videoposnetkov, da bi pomagal tudi pri raziskavah na tem področju.
Facebook pravi, da je sistem za razčlenjevanje modelov, ki ga uporablja, učinkovitejši, ko gre za uvajanje tehnologije v resničnem svetu s strani organov pregona in strokovnjaki za kibernetsko varnost. Nova metoda naj bi bila še posebej uporabna v scenarijih, kjer je kopica manipuliranih medijev edini vir, ki je na voljo strokovnjakom in oblastem. Končni cilj je razviti boljša preiskovalna orodja, na katera se je mogoče zanesti pri reševanju obsežnih dezinformacijskih kampanj z uporabo globokih ponaredkov.
S tehnologijo zadaj deepfakes se hitro razvijajo, so rešitve, kakršno je zdaj napovedal Facebook, še toliko bolj pomembne. Facebook pravi, da bo novi sistem odprtokoden za raziskovalno skupnost, MSU pa bo objavil podatke nabor, koda in usposobljeni modeli, tako da lahko drugi pomagajo pri nadaljnjem razvoju učinkovitejšega sledenja globokih ponaredkov metode.
vir: Facebook
90-dnevni zaročenec: Julia nagovori oboževalce, ki so jih opazili na blazini
O avtorju