Fake Ferramentas

Pesquisadores desenvolvem nova ferramenta que detecta ‘deepfakes’ com 96% de precisão

Pesquisadores desenvolveram uma nova ferramenta que pode ser uma parte crucial da luta contra os profundos erros.

A ferramenta, que foi produzida por pesquisadores do USC Information Sciences Institute, pode detectar movimentos sutis de face e cabeça junto com artefatos únicos em arquivos de vídeo e, aparentemente, pode identificar essas falsificações com até 96% de precisão.

Deepfakes, mesmo os amadores como o amplamente divulgado vídeo da presidente da Câmara, Nancy Pelosi, que foi desacelerada para fazê-la parecer bêbada ou senil, se tornaram uma preocupação crescente e provocaram uma reação contra a Big Tech por não fazer o suficiente para reprimi-los.

A maioria dos modelos de detecção deepfake analisa os vídeos em uma base de quadro a quadro para determinar se eles foram manipulados. No entanto, os pesquisadores da USC analisam um vídeo inteiro de uma só vez e examinam possíveis inconsistências na forma como o assunto na filmagem se move – o que os pesquisadores chamam de “assinaturas softbiométricas” em seu trabalho publicado.

“Para lidar com essa crescente ameaça, descrevemos uma técnica forense que modela expressões faciais e movimentos que tipificam o padrão de fala de um indivíduo. Embora não sejam visualmente aparentes, essas correlações são freqüentemente violadas pela natureza de como vídeos falsos são criados e podem, portanto, ser usados ​​para autenticação ”, escrevem os pesquisadores no resumo do estudo.

Os cientistas usaram um conjunto de dados de cerca de 1.000 vídeos manipulados para treinar sua ferramenta, que se tornou adepta de descobrir os profundos políticos e celebridades.

A questão do que fazer sobre os deepfakes não vai desaparecer tão cedo. Os cientistas na semana passada revelaram uma ferramenta de software que literalmente permite colocar palavras na boca de outra pessoa.

Anúncio