Deepfakes: como identificar fotos, vídeos e vozes criados por inteligência artificial?

Pare, observe, verifique a origem, confirme noutro local e aja depois. Não confie apenas nos seus olhos, porque uma foto ou um vídeo que parece real pode ser uma manipulação digital, gerada por sistemas de inteligência artificial.

Um político surge num vídeo a proferir uma declaração polémica? Um famoso aconselha o investimento em produtos financeiros que diz serem 100% seguros? A voz de um familiar pede o envio urgente de dinheiro?

Perante a crescente sofisticação das ferramentas de inteligência artificial generativa, o antídoto é o discernimento.

Conhecidos por deepfakes, estes vídeos exploram emoções fortes, como urgência, medo ou compaixão, com o objetivo de reduzir a capacidade crítica das vítimas e, assim, manipular a opinião pública, denegrir pessoas, difundir ódio ou extorquir dinheiro.

Veja o roteiro da DECO PROteste para evitar as armadilhas.

O que é uma deepfake?

O termo deepfake resulta de deep learning, ou "aprendizagem profunda", uma área da inteligência artificial, e da palavra fake, que significa "falso".

Segundo o Regulamento Europeu da Inteligência Artificial (AI Act), deepfake é um conteúdo de imagem, áudio ou vídeo gerado ou manipulado por inteligência artificial, que se assemelha a pessoas, objetos, locais, entidades ou eventos reais ou plausivelmente reais.

O AI Act diz que, para ser considerada a existência de uma deepfake, devem coexistir três elementos:

• elevado grau de semelhança com aquilo que se pretende representar;
• referência a algo real ou plausivelmente real;
• potencial para parecer verdadeiro.

Como são criadas as deepfakes?

As deepfakes resultam da aplicação de técnicas de inteligência artificial, que identificam padrões em grandes volumes de dados.

Um modelo pode, por exemplo, ser treinado com fotos, vídeos ou gravações de voz de certa pessoa. A partir destes dados, pode aprender características dessa pessoa, como as expressões faciais, a voz, o ritmo da fala e os movimentos dos lábios, para gerar ou modificar um conteúdo.

A matéria-prima preferencial são fotos e vídeos de famosos. A opção não se justifica apenas pelo poder de influência (por exemplo, um jogador de futebol que aconselha criptomoedas). Os resultados são mais perfeitos quando a inteligência artificial é alimentada por grandes quantidades de imagens, que estas pessoas tipicamente têm na net.

Tudo isto nos deve fazer pensar sobre o que partilhamos nas redes sociais. Basta, a alguém que nos queira denegrir ou chantagear, aceder ao que publicamos e produzir um vídeo falso.

Quais as principais técnicas para gerar deepfakes?

As ferramentas de inteligência artificial generativa podem, entre outras técnicas, trocar o rosto de uma pessoa, alterar o discurso ou clonar vozes.

Porque as deepfakes são difíceis de detetar?

As primeiras gerações de deepfakes podiam acusar defeitos grosseiros, sobretudo quando a pessoa falava, virava a cabeça, piscava os olhos, fazia movimentos rápidos ou surgia sob iluminação complexa.

O que mudou?

• Estas ferramentas conseguem agora gerar fotos e vídeos com muito menos falhas.
• Os sistemas de geração de voz reproduzem características humanas com elevado realismo.
• Os vídeos gerados têm, muitas vezes, grande compressão e baixa resolução, o que dificulta a análise ao serem visualizados, de modo rápido e distraído, em ecrãs pequenos, como os dos telemóveis.

E os detetores automáticos de deepfakes? Mesmo estas ferramentas podem cometer erros, sobretudo quando deparam com técnicas de manipulação para que não foram treinadas. Os seus veredictos são mais indicativos do que definitivos.

Como identificar uma deepfake?

Embora nem sempre seja fácil, não é impossível detetar uma deepfake. Continuam a existir inconsistências.

• Observe o rosto, sobretudo expressões pouco naturais ou inconsistências nos olhos, na boca e no cabelo, em especial em movimentos rápidos.
• Veja a sincronização entre voz e imagem. Desconfie de movimentos da boca que não traduzam as palavras.
• Analise a voz. Esteja atento a entoação pouco natural, ritmo irregular, pronúncia invulgar ou ausência ou artificialidade da respiração.
• Verifique inconsistências no corpo ou nos acessórios. Procure dedos ou mãos com formatos ou posições impossíveis, acessórios que desaparecem ou mudam de forma, roupa que se altera.
• Analise iluminação, sombras e reflexos. O rosto está iluminado de forma coerente com o resto da cena? Os reflexos e as sombras fazem sentido?
• Confirme o contexto. Quem publicou o conteúdo? Qual é a fonte? Os meios de comunicação credíveis relatam o evento? Com a sofisticação das ferramentas de inteligência artificial generativa, a verificação do contexto acaba por ser a forma mais fiável para identificar uma deepfake.

Além disso, para evitar fotos e vídeos usados em deepfakes de modo credível, é possível incorporar, nos ficheiros, marcas de água invisíveis ou assinaturas criptográficas. Não serão percetíveis a olho nu, mas podem ser detetadas com programas especiais.

Há regras na União Europeia contra as deepfakes?

Sim, o AI Act estabelece obrigações de transparência, que entraram em vigor em agosto de 2026. Entre outras medidas, os fornecedores de certos sistemas de inteligência artificial generativa são obrigados a:

• garantir que conteúdos sintéticos de áudio, imagem, vídeo ou texto são detetáveis como gerados ou manipulados artificialmente;
• informar as pessoas que recorram a um sistema sob a sua autoridade, se forem expostas a deepfakes. Imaginemos que uma agência de publicidade usa inteligência artificial para criar um vídeo de um famoso a promover um produto.

E as redes sociais? Quem publica uma deepfake não é obrigado a informar eventuais pessoas visadas num conteúdo, se usar a inteligência a título pessoal, e não profissional.

Significa que todas as deepfakes pessoais são legais? Nem por isso. Continua a aplicar-se legislação relativa, por exemplo, a:

• direito à imagem;
• proteção de dados pessoais;
• difamação;
• direitos de autor;
• proteção de menores.

Mais: a Comissão Europeia reforça a proteção dos cidadãos, ao dizer que uma publicação:

• deve ser clara e transparente para qualquer pessoa;
• não pode depender de uma marca técnica que só uma máquina consiga ler.

Nem sempre é fácil provar a falsidade, apesar de tudo. Mas já começam a surgir armas contra a impunidade.