Instituições alemãs desenvolvem método de deteção de deepfake RealOrRender com precisão de 85% a 91%

De acordo com pt.wedoany.com-O Escritório Federal de Segurança da Informação da Alemanha (BSI, Bundesamt für Sicherheit in der Informationstechnik), em conjunto com o Instituto Fraunhofer de Óptica, Sistemas Técnicos e Avaliação de Imagens (Fraunhofer IOSB), desenvolveu um método de deteção de deepfake denominado RealOrRender, com o objetivo de identificar imagens falsas geradas por IA e tornar o seu processo de deteção rastreável. Atualmente, o realismo das imagens e vídeos gerados por IA continua a aumentar, com modelos de linguagem de grande escala já capazes de apresentar membros anatomicamente corretos, sombras realistas e até simular batimentos cardíacos, o que dificulta a distinção entre gravações reais e deepfakes. O aperto legislativo planeado pela União Europeia poderá não conseguir alterar fundamentalmente esta situação, tornando as soluções técnicas um foco de investigação.

O BSI salienta que os métodos de deteção automatizados geralmente só funcionam de forma fiável em condições específicas. Para tal, o BSI e o Fraunhofer IOSB colaboraram no desenvolvimento do método RealOrRender. Este método utiliza um processo em duas partes: primeiro, reconstrói a imagem de entrada usando um gerador de imagens de IA; em seguida, classifica e calcula de forma mista o erro de reconstrução através de um modelo de IA. Andreas Specker, cientista sénior do grupo de investigação de Segurança e Sistemas de Assistência Baseados em Vídeo do Fraunhofer IOSB, explica que este processo permite identificar se uma imagem é um deepfake.

O mecanismo específico do RealOrRender é o seguinte: após receber a imagem, o sistema utiliza um modelo de difusão pré-treinado para realizar um processamento inverso, gerando a impressão digital matemática da imagem (mapa de ruído) e o resultado da reconstrução, ou seja, uma falsificação deliberada da imagem original. Em seguida, o sistema analisa a imagem em busca de erros. A lógica do método é: se a imagem original for um deepfake, a sua impressão digital matemática será semelhante ao resultado da reconstrução do RealOrRender; se for uma fotografia real, gerará mais erros de reconstrução, uma vez que as fotografias reais contêm mais imprecisões e ruído natural. O sistema utiliza um conjunto de dados de treino com cerca de 120.000 imagens de 18 geradores de imagens para calcular o desvio estimado e fornecer uma avaliação sobre se a imagem é um deepfake. Segundo os investigadores, o desempenho da deteção situa-se entre 85% e 91%.

O RealOrRender também integra um componente de IA explicável (XAI, explainable AI), que gera um mapa de calor no final da análise, assinalando detalhes na imagem original que indicam falsificação, incluindo características como rosto, cabelo, mãos, bem como objetos no fundo. Isto ajuda os utilizadores a compreender quais os indícios de deepfake que o sistema detetou e aumenta a confiança no modelo e nos resultados. Sabe-se que o RealOrRender já está a ser utilizado internamente no BSI sob a forma de um demonstrador.