Onderzoekers onthullen simplistische maar effectieve methode om deepfakes te vangen
Met het destructieve potentieel van deepfakes dat elk jaar toeneemt, vooral omdat de wetenschapachter de technieken rijpt, heeft een team van wetenschappers een betrouwbare methode bedacht om kunstmatig gegenereerde gezichten te identificeren door de vorm van de leerling te analyseren. Deepfakes worden gemaakt met behulp van een generatief adversarial netwerk (GAN), en in de loop der jaren is de technologie zo geavanceerd geworden dat het steeds moeilijker is geworden om een echt menselijk gezicht te onderscheiden van een gezicht dat is gemaakt met behulp van machine learning model. Ook al zijn er enkele commerciële toepassingen van deze technologie, er is een sinistere kant die veel huiveringwekkender is, met ernstige gevolgen.
Het potentieel van fraude en identiteitsdiefstal is extreem hoog, maar het opstellen van de nodige regelgevende instrumenten en auteursrechtenkader is al een nachtmerrie geworden rond een technologie die een AI gebruikt om te creëren inhoud. Vorig jaar lanceerde Microsoft een tool genaamd
Dit is waar het nieuwste gezamenlijke onderzoek door wetenschappers van de Universiteit van Albany, de Universiteit van Buffalo en Keya Medical een sprankje hoop biedt. EEN onderzoekspaper met een adellijke titel "Ogen vertellen alles: onregelmatige pupilvormen onthullen door GAN gegenereerde gezichten" beschrijft een methode voor het detecteren van deepfake-gezichten door de vorm van de pupil te bestuderen - het zwarte centrum in het menselijk oog. Het belangrijkste uitgangspunt is dat de menselijke pupil rond van vorm is, maar in kunstmatig gecreëerde gezichten, is de geometrie van de pupil niet uniform en meestal vervormd. Wetenschappers merken op dat een onregelmatige pupilvorm gemeengoed is, zelfs in deepfakes van hoge kwaliteit en zelfs met het blote oog gemakkelijk waarneembaar is. Deze onregelmatigheden in de pupilvorm worden artefacten genoemd en worden veroorzaakt door het ontbreken van 'fysiologische beperkingen' in de modellen die worden gebruikt om deepfakes te maken.
Een oplossing die wacht om te worden bewapend
De wetenschappers creëerden ook een geautomatiseerd systeem dat afbeeldingen van duizend echte gezichten kreeg en GAN-gecreëerd kunstmatige gezichten om te bestuderen hoe de hierboven beschreven marker kan worden gebruikt als een betrouwbare methode voor deepfake identificatie. Het team bedacht een meeteenheid genaamd Boundary Intersection-Over-Union (BIoU)-score op basis van een formule om scores toe te kennen op basis van de pupilvorm in een afbeelding. Echte menselijke gezichten met een uniform elliptische pupilvorm behaalden hoge BIoU-scores wanneer ze door het analysemodel gingen, terwijl artefacten in de pupillen op een kunstmatig gegenereerde afbeelding resulteerde in een lage BIoU-score. Uit het onderzoek blijkt dat de methode uiterst effectief en simplistisch tegelijk is.
Maar er zijn hier twee problemen. Een klein obstakel is dat sommige ziekten en infecties de vorm van de pupil kunnen veranderen, waardoor de methode kan mislukken. Dit zijn echter zeldzame gevallen en maken de wetenschap achter hen. Het urgentere probleem is dat kwaadwillenden nu kunnen leren van de bevindingen van dit onderzoek - dat nu in het publieke domein is - en dienovereenkomstig hun GAN-systemen kunnen verfijnen. Het resultaat is dat hun deepfakes nu nog overtuigender zullen zijn met gelijkmatig gevormde pupillen om kijkers te misleiden. In een wereld waar een bedrijf al synthetische versies van het gezicht van een echte persoon kan maken en gebruik ze in advertenties zonder toestemming, worden de kansen op misbruik door slechte acteurs alleen beperkt door de menselijke verbeeldingskracht.
Bron: arXiv
Star Wars onthult eindelijk hoe Darth Plagueis eruit ziet
Over de auteur