exameinformatica

Uma parceria VISÃO

Siga-nos nas redes

Perfil

Internet

Deepfake Detection Challenge: a nova “arma” do Facebook para combater as deepfakes

CHRISTOPHE SIMON / Getty Images

O objetivo é desenvolver tecnologia que detete melhor quando a IA foi usada para alterar um vídeo e enganar quem o vê

  • 333
Paulo Matos

Paulo Matos

Jornalista

Se ainda não conhece o fenómeno de deepfakes, prepare-se para ficar surpreendido com os resultados destas técnicas, que permitem apresentar vídeos realistas gerados pela Inteligência Artificial de pessoas reais a fazer e a dizer coisas fictícias. O que pode parecer uma ideia engraçada nos instantes iniciais, levanta questões importantes sobre a legitimidade das informações online e da privacidade das pessoas quando se analisa a questão mais a fundo.

A Facebook está atenta ao problema e quer reunir dados para criar uma espécie de benchmark que consiga identificar automaticamente deepfakes. Assim, em conjunto com a Parceria em IA, a Microsoft e académicos da Cornell Tech, MIT, Universidade de Oxford, UC Berkeley, Universidade de Maryland, College Park e Universidade de Albany-SUNY, a empresa criou o Deepfake Detection Challenge (DFDC).

Como explica Mike Schroepfer, Chief Technology Officer da Facebook, «o objetivo deste desafio é produzir tecnologia que todos possam utilizar para detetar melhor quando a Inteligência Artificial foi usada para alterar um vídeo, com o objetivo de enganar quem o vê».

Assim, o Deepfake Detection Challenge vai contar com um conjunto de dados e uma tabela de classificação, além de concessões e prémios para estimular o setor a criar novas formas de detetar e impedir que conteúdos manipulados através de IA sejam usados para enganar outras pessoas. O controlo do desafio será supervisionado pelo novo Comité de Gestão de Inteligência Artificial e Integridade dos Media, formado por uma coligação de empresas de setores distintos, incluindo o Facebook, WITNESS, a Microsoft e outras empresas da sociedade civil, comunidades de tecnologia, media e académicos.

A Facebook está a angariar um conjunto de dados realista que utilizará atores pagos, com o consentimento necessário obtido, para contribuir com o desafio. A empresa salienta que «nenhum dado de utilizador do Facebook será usado neste conjunto de dados», sendo que a companhia está igualmente a financiar colaborações e prémios de pesquisa para o desafio de ajudar a incentivar mais participação. No total, são mais de 10 milhões de dólares de financiamento para esta iniciativa.

Com o intuito de garantir a qualidade do conjunto de dados e dos parâmetros de desafio, estes serão inicialmente testados através de uma sessão de trabalho técnica direcionada em outubro deste ano na Conferência Internacional sobre Visão Computacional (ICCV). O lançamento completo do conjunto de dados e o lançamento do DFDC decorrerá na Conferência sobre Sistemas de Processamento de Informações Neurais (NeurIPS) em dezembro. A Facebook também vai entrar no desafio, mas não aceitará nenhum prémio monetário, frisa a empresa.

  • 333