O Facebook afirma que sua IA é mais rápida que sua antecessora na captura de conteúdo impróprio

o Facebook divulgou detalhes de seu novo sistema de moderação de inteligência artificial (IA) e afirma que é ainda melhor para descobrir postagens ruins do que a iteração anterior. A rede social há muito enfrenta desafios para policiar o conteúdo em sua plataforma, uma situação agravada pelo tamanho de sua base de usuários e pelo grande volume de idiomas que suporta. Quanto mais pessoas entrarem no Facebook, mais tem que monitorar o que eles dizem, e as línguas contrastantes com que o dizem.

Ao longo dos anos, a empresa de propriedade da Meta teve que lidar com tudo, desde pornografia de vingança e desinformação do COVID-19 sobre interferência eleitoral e genocídio em Mianmar. Mas, assim como cada problema é diferente, muitas vezes o são as habilidades necessárias para identificar e remover o conteúdo associado. Para isso, a empresa conta com um exército de moderadores humanos cujo trabalho é filtrar relatórios de postagens potencialmente ofensivas. Ainda assim, para uma operação do tamanho do Facebook, recrutar pessoas suficientes para fazer esse trabalho é difícil de escalar e, portanto, depende de ferramentas de IA para servir como uma defesa de linha de frente. Esses programas são treinados em uma infinidade de dados de amostra (imagens, vídeos, texto), permitindo que a máquina aprenda efetivamente o que constitui conteúdo impróprio para que possa ser removido.

O Facebook lançou um novo sistema de IA batizado de Few-Shot Learner, que diz ser mais eficiente na descoberta de materiais problemáticos. Como Com fio observa, a plataforma social baseada em Menlo Park afirma que o Few-Shot Learner pode trabalhar com um conjunto de treinamento menor, permitindo que ele controle o conteúdo violador em apenas seis semanas, abaixo do intervalo anterior de seis meses. O Facebook diz que introduziu o Few-Shot Learner no início deste ano e que já pode lidar com postagens que incentivam outras pessoas a não tomarem as vacinas COVID-19, uma regra que entrou em vigor em Setembro.

Melhor interpretação de regras

Cornelia Carapcea, gerente de produto de IA do Facebook, diz que não se trata apenas da capacidade de trabalhar com menores conjuntos de treinamento que tornam o Few-Shot Learner tão útil, é que ele também pode interpretar melhor os termos do usuário. Normalmente, os moderadores humanos precisam fazer referência cruzada a um manual que cobre milhares de regras e é constantemente ajustado para cobrir mais e mais casos extremos. Foi em parte por causa desse nível de complexidade que o Facebook introduziu um Quadro de Supervisão para monitorar as regras aplicadas. Carapcea afirma que o Few-Shot Learner pode identificar melhor as violações usando apenas prompts amplos.

Ainda assim, apesar de todas as promessas, a capacidade do Facebook de moderar conteúdo em culturas que não falam inglês sempre foi um ponto-chave de crítica. No início do outono de 2021, um antigo o Facebook documentos vazados de funcionários relacionadas à pesquisa interna e destacou seus pontos fracos de supervisão global para legisladores dos EUA e do Reino Unido. Agora a rede social está tentando lidar com esses ataques, revelando que o Few-Shot Learner funciona em 100 idiomas. Isso ainda está muito aquém das centenas usadas na plataforma, mas é um sinal de que a empresa está em uma posição melhor do que antes. Se a empresa pode continuar iterando na ferramenta, ela pode de alguma forma consertar seu reputação danificada.

Fonte: Com fio

O Batman: WB decidindo entre dois cortes do filme

Sobre o autor