Pesquisadores revelam método simplista, porém eficaz para pegar falsos profundos

Com o potencial destrutivo de deepfakes aumentando a cada ano que passa, especialmente conforme o CiênciaPor trás do amadurecimento das técnicas, uma equipe de cientistas criou um método confiável para identificar rostos gerados artificialmente, analisando a forma da pupila. Deepfakes são criados usando uma rede adversarial generativa (GAN) e, ao longo dos anos, a tecnologia se tornou muito sofisticada que se tornou cada vez mais difícil discernir o rosto de um ser humano real daquele que foi criado usando um aprendizado de máquina modelo. Embora existam algumas aplicações comerciais desta tecnologia, existe um lado sinistro que é muito mais assustador, com graves repercussões.

O potencial de fraude e roubo de identidade é extremamente alto, mas elaborando as ferramentas regulatórias necessárias e estrutura de direitos autorais já se tornou um pesadelo em torno de uma tecnologia que emprega uma IA para a criação contente. No ano passado, a Microsoft lançou uma ferramenta chamada Microsoft Video Authenticator

projetado para detectar conteúdo deepfake em vídeos. Há alguns meses, o Facebook também detalhou um sistema avançado baseado em IA que pode não apenas detectar deepfakes, mas também é capaz de rastrear o software de geração de deepfake que foi usado para criar mídia manipulada. No entanto, a tecnologia para detectar deepfakes nem sempre está disponível para as massas e não pode ser implementada universalmente em todas as plataformas onde os usuários consomem conteúdo de mídia.

É aqui que as últimas pesquisas colaborativas de cientistas da University of Albany, University at Buffalo e Keya Medical oferecem um raio de esperança. UMA papel de pesquisa titulado “Eyes Tell All: Irregular Pupil Shapes Reveal GAN-Generated Faces” descreve um método para detectar faces falsas profundas estudando a forma da pupila - o centro preto no olho humano. A premissa principal é que a pupila humana é redonda, mas em rostos criados artificialmente, a geometria da pupila não é uniforme e geralmente está distorcida. Os cientistas observam que a forma irregular da pupila é comum mesmo em deepfakes de alta qualidade e é facilmente discernível, mesmo a olho nu. Essas irregularidades na forma da pupila são chamadas de artefatos e são causadas pela falta de 'restrições fisiológicas' nos modelos usados ​​para criar falsas profundas.

Uma solução esperando para ser armada

Os cientistas também criaram um sistema automatizado que alimentava imagens de milhares de rostos reais e criados pelo GAN rostos artificiais, cada um para estudar como o marcador descrito acima pode ser usado como um método confiável de falsificação profunda identificação. A equipe desenvolveu uma métrica chamada pontuação Boundary Intersection-Over-Union (BIoU) com base em uma fórmula para atribuir pontuações de acordo com a forma da pupila em uma imagem. Rostos humanos reais com uma forma de pupila elíptica uniforme alcançaram altas pontuações de BIoU quando passados ​​pelo modelo de análise, enquanto artefatos nas pupilas em um imagem gerada artificialmente resultou em uma pontuação de BIoU baixa. A pesquisa menciona que o método é extremamente eficaz e simplista ao mesmo tempo.

Mas existem dois problemas aqui. Um pequeno obstáculo é que algumas doenças e infecções podem alterar a forma da pupila, o que pode resultar na falha do método. No entanto, esses são casos raros e não invalidam o Ciência atrás deles. O problema mais urgente é que as partes maliciosas agora podem aprender com os resultados desta pesquisa - que agora é de domínio público - e, consequentemente, refinar seus sistemas GAN. O resultado é que seus deepfakes serão agora ainda mais convincentes com pupilas de formato uniforme para enganar os espectadores. Em um mundo onde uma empresa já pode criar versões sintéticas do rosto de uma pessoa real e usá-los em anúncios sem consentimento, as perspectivas de uso indevido por maus atores são limitadas apenas pela imaginação humana.

Fonte: arXiv

Star Wars finalmente revela a aparência de Darth Plagueis

Sobre o autor