Des chercheurs révèlent une méthode simpliste mais efficace pour attraper les deepfakes
Le potentiel destructeur des deepfakes augmentant d'année en année, d'autant plus que le sciencederrière la maturité des techniques, une équipe de scientifiques a mis au point une méthode fiable pour identifier les visages générés artificiellement en analysant la forme de la pupille. Les deepfakes sont créés à l'aide d'un réseau accusatoire génératif (GAN), et au fil des ans, la technologie est devenue si sophistiquée qu'il est devenu de plus en plus difficile de discerner le visage d'un vrai humain d'un autre qui a été créé à l'aide d'un apprentissage automatique maquette. Même s'il existe des applications commerciales de cette technologie, il y a un côté sinistre qui est beaucoup plus effrayant, avec de graves répercussions.
Le potentiel de fraude et d'usurpation d'identité est extrêmement élevé, mais la rédaction des outils réglementaires et cadre du droit d'auteur est déjà devenu un cauchemar autour d'une technologie qui utilise une IA pour créer teneur. L'année dernière, Microsoft a lancé un outil appelé
C'est là que les dernières recherches collaboratives menées par des scientifiques de l'Université d'Albany, de l'Université de Buffalo et de Keya Medical offrent une lueur d'espoir. UNE document de recherche titré « Les yeux disent tout: les formes irrégulières des élèves révèlent des visages générés par le GAN » décrit une méthode pour détecter les visages deepfake en étudiant la forme de la pupille - le centre noir de l'œil humain. La prémisse clé est que la pupille humaine est de forme ronde, mais en visages créés artificiellement, la géométrie de la pupille n'est pas uniforme et est généralement déformée. Les scientifiques notent que la forme irrégulière de la pupille est courante même dans les deepfakes de haute qualité et qu'elle est facilement discernable même à l'œil nu. Ces irrégularités dans la forme des pupilles sont appelées artefacts et sont causées par le manque de « contraintes physiologiques » dans les modèles utilisés pour créer des deepfakes.
Une solution qui attend d'être militarisée
Les scientifiques ont également créé un système automatisé alimenté par des images d'un millier de vrais visages et créé par le GAN. visages artificiels chacun pour étudier comment le marqueur décrit ci-dessus peut être utilisé comme méthode fiable de deepfake identification. L'équipe a conçu une métrique appelée score Boundary Intersection-Over-Union (BIoU) basée sur une formule pour attribuer des scores en fonction de la forme de la pupille dans une image. De vrais visages humains avec une forme de pupille uniformément elliptique ont atteint des scores BIOU élevés lorsqu'ils sont passés à travers le modèle d'analyse, tandis que les artefacts dans les pupilles sur un image générée artificiellement a abouti à un faible score BIOU. La recherche mentionne que la méthode est extrêmement efficace et simpliste à la fois.
Mais il y a ici deux problèmes. Un obstacle mineur est que certaines maladies et infections peuvent altérer la forme de la pupille, ce qui peut entraîner un échec de la méthode. Cependant, ce sont des cas rares et n'invalident pas le science derrière eux. Le problème le plus urgent est que les parties malveillantes peuvent désormais tirer des enseignements des résultats de cette recherche - qui est désormais du domaine public - et affiner en conséquence leurs systèmes GAN. Le résultat est que leurs deepfakes seront désormais encore plus convaincants avec des pupilles de forme uniforme pour tromper les téléspectateurs. Dans un monde où une entreprise peut déjà créer des versions synthétiques du visage d'une personne réelle et les utiliser dans des publicités sans consentement, les perspectives d'abus par de mauvais acteurs ne sont limitées que par l'imagination humaine.
La source: arXiv
Star Wars révèle enfin à quoi ressemble Dark Plagueis
A propos de l'auteur