Como uma imagem de 'Obama Branco' destaca o preconceito racial da IA

Um AI Algoritmo para gerar fotos pixeladas a partir de fotos pixeladas foi encontrado para gerar um rosto branco a partir de uma imagem pixelada de Barack Obama. Isso não é uma surpresa, considerando as discussões em andamento em torno do preconceito racial das ferramentas de reconhecimento facial de IA e exemplos encontrados anteriormente em outras soluções. Esse viés na IA é uma grande preocupação, pois é amplamente considerado como uma tecnologia capaz de mudar muitos aspectos da sociedade

O movimento Black Lives Matter está levantando questões sobre o racismo sistêmico na aplicação da lei moderna, incluindo as tecnologias e ferramentas usadas pela polícia. Alguns dos exemplos de como o preconceito racial por Tecnologias de IA empregados pelos departamentos de polícia podem se manifestar no reconhecimento de suspeitos e na previsão de bairros 'em risco' usando dados previamente coletados. Este tem sido um motivo de preocupação entre pesquisadores e ativistas por algum tempo, com o entendimento geral sendo estes

As ferramentas de IA podem afetar desproporcionalmente minorias, principalmente devido aos conjuntos de dados falhos que foram usados ​​para treiná-los. Mais recentemente, isso levou uma série de empresas que desenvolvem e vendem essas tecnologias para a aplicação da lei, repensando sua postura atual. No caso da Amazon, a empresa confirmou recentemente que era colocar uma proibição de um ano sobre o uso de sua solução de reconhecimento facial.

Recentemente, um algoritmo de aprendizado de máquina chamado PULSE gerou um rosto branco a partir de uma imagem pixelizada de Barack Obama. Com Obama indiscutivelmente uma das pessoas negras mais famosas do mundo, é um lembrete do preconceito racial que pode ser visto em ferramentas de imagem de IA. O problema foi sinalizado no Twitter, por programadores que testaram o PULSE depois de baixar seu código publicado do GitHub. Como The Verge relatado, o algoritmo não foi projetado para identificar corretamente a imagem de entrada pixelizada, mas para produzir uma nova face artificial semelhante à imagem pixelada. No entanto, parece mostrar um sério preconceito quando se trata de rostos não brancos. O algoritmo também está gerando faces com recursos caucasianos quando a entrada é uma foto pixelizada da congressista Alexandra Ocasio-Cortez, bem como da atriz Lucy Liu.

Como funciona o PULSE e de onde vem o preconceito

O PULSE foi desenvolvido por pesquisadores da Duke University usando o algoritmo StyleGAN, criado por cientistas da computação da NVIDIA. Tem sido usado para construir sites que procuram criar rostos humanos de aparência realista. Os pesquisadores usaram o StyleGAN para aprimorar os dados visuais, ou seja, para preencher os dados ausentes no rosto pixelado inserido e imagine um novo rosto de alta resolução que se parece com a imagem de entrada quando pixelizada.

Depois de preconceito racial foi relatado, os criadores originais confirmaram o problema e esclareceram que, embora não tenham certeza, é mais provável que seja uma falha herdada dos conjuntos de dados que foram usados ​​para treinar o StyleGAN. Eles também adicionaram uma nova seção ao seu artigo publicado sobre o viés racial do algoritmo e as várias maneiras pelas quais ele poderia ter se originado. Este é um passo encorajador, uma vez que encontrar e relatar os pontos fracos de uma tecnologia no nível de pesquisa pode ajudar muito no desenvolvimento de ferramentas práticas.

No entanto, o incidente é um lembrete de como o preconceito pode se infiltrar em tecnologias criadas com dados coletados ao longo dos anos. Desde a big data será crucial na definição do futuro, é fundamental que sejam tomadas as medidas necessárias para garantir qualquer discriminação contido em um conjunto de dados de inteligência artificial não se traduz em viés sério em uma tecnologia criada usando os dados.

Fonte: The Verge, GitHub

Filme Uncharted: Por que o irmão Sam de Drake está escondido no trailer?

Sobre o autor