Kaip naujasis „Facebook“ AI kovoja su klastotėmis, nustatydamas kūrėjus
Facebook teigia pasiekęs proveržį su nauja sistema, kuri ne tik aptinka gilius klastojimus, bet ir gali atšaukti Sukurkite manipuliuojamą laikmeną, kad surastumėte dirbtinio intelekto variklį, naudotą jai sukurti, galų gale netgi padėdami atsekti blogą veikėją už jo. Deepfake atsirado kaip sudėtingas dezinformacijos platinimo metodas ir gali pasireikšti įvairiais būdais, pavyzdžiui, netikros šmeižikiškos nuotraukos iki sukurtų suaugusiesiems skirtų vaizdo įrašų. Tačiau tai tik ledkalnio viršūnė. Žalingos pasekmės yra begalinės ir pakankamai nerimą keliančios, kad net FTB perspėjo apie giliųjų klastotės galimybę panaudoti užsienio įtakos operacijoms. Deepfake buvo naudojami su juokingais rezultatais, bet piktnaudžiavimo apimtis jie yra didžiuliai.
Mokslininkų bendruomenė dirba kovojant su giliųjų klastočių, sukurtų piktavališkais tikslais, grėsme, o technologijų milžinai numoja ranka. Pavyzdžiui, „Microsoft“ sukūrė AI pagrįstą „Microsoft Video Authenticator“. įrankis aptikti gilius klastojimus
Sukurta bendradarbiaujant su Mičigano valstijos universiteto (MSU) mokslininkais, „Facebook“ AI pagrįsta sistema identifikuoja manipuliuojama laikmena, o tada taiko atvirkštinę inžineriją, kad aptiktų generatyvųjį modelį, kuris buvo naudojamas kuriant gilų klastotę. Galutinis tikslas yra atsekti Deepfake generavimo programinė įranga prie kompiuterio, o kartu ir už jo slypintis kaltininkas. „Facebook“ pažymi, kad jos modelis iš esmės ieškos unikalių pirštų atspaudų, paliktų generatyvaus modelio manipuliuojamų laikmenų jūroje, ir tada nustatys kilmės tašką.
Kaip „Facebook“ seka netikrus šaltinius
„Facebook“ seka teismo medicinos ekspertų pėdomis, kurie ieško skirtingų vaizdų raštų, kad nustatytų kameros modelį, naudojamą spustelėjus tam tikrą nuotraukų rinkinį. Tokiu atveju „Facebook“ ir MSU mokslininkų sukurtas metodas ieškos unikalių paliktų atributų manipuliuojamose laikmenose pagal generatyvinį modelį. Naudojami tokie veiksniai kaip pirštų atspaudų dydis, pasikartojantis pobūdis, dažnių diapazonas ir simetriškas dažnio atsakas sukurti visą pirštų atspaudų profilį, kuris vėliau naudojamas generatyviniams modeliams aptikti hiperparametrai. Tyrėjai šiuos hiperparametrus prilygina variklio dalims, o generatyvinis modelis prilyginamas automobiliui, kuriame naudojamos šios variklio dalys. Prieš porą metų „Google“ išleido didžiulį padirbtų vaizdo įrašų duomenų rinkinį, kad padėtų atlikti tyrimus šioje srityje.
„Facebook“ teigia, kad jos naudojama modelių analizės sistema yra efektyvesnė, kai kalbama apie technologijos diegimą realiame pasaulyje. teisėsaugos institucijų ir kibernetinio saugumo ekspertai. Teigiama, kad naujasis metodas yra ypač naudingas tais atvejais, kai manipuliuojama žiniasklaida yra vienintelis ekspertų ir valdžios institucijų išteklius. Galutinis tikslas – sukurti geresnius tyrimo įrankius, kuriais būtų galima pasikliauti kovojant su didelio masto dezinformacijos kampanijomis naudojant gilius klastojimus.
Su technologija gilios klastotės vystosi sparčiai, tokie sprendimai, kaip dabar paskelbė „Facebook“, yra dar svarbesni. „Facebook“ teigia, kad naujoji sistema bus atviro kodo, skirta mokslinių tyrimų bendruomenei, o MSU paskelbs duomenis rinkinį, kodą ir apmokytus modelius, kad kiti galėtų padėti toliau plėtoti efektyvesnį giliųjų klastotės sekimą metodus.
Šaltinis: Facebook
90 dienų sužadėtinis: Julija kreipiasi į savo ligą gerbėjus, pastebėtus kalbėdamas apie pagalvę
Apie autorių