Deepfakes e Desinformação: Os Novos Desafios para a Confiança Pública

Um vídeo circula mostrando uma autoridade dizendo algo que ela nunca disse. É convincente, tem a voz certa, os movimentos labiais certos, o cenário certo. Só que é falso — gerado por inteligência artificial. Bem-vindo à era do deepfake, uma das ameaças mais discutidas atualmente para algo que toda democracia depende para funcionar: a possibilidade de os cidadãos confiarem, ao menos minimamente, no que veem e ouvem sobre a vida pública.

O que são deepfakes, tecnicamente

Deepfakes são conteúdos de áudio ou vídeo sintéticos, gerados por redes neurais treinadas para reproduzir de forma realista a aparência, a voz e os gestos de uma pessoa real, dizendo ou fazendo coisas que nunca disse ou fez. A tecnologia por trás evoluiu rapidamente: o que há poucos anos exigia equipamentos e conhecimento técnico especializado hoje está disponível, em versões cada vez mais convincentes, através de ferramentas acessíveis a qualquer pessoa com um computador comum.

Por que isso é diferente de desinformação tradicional

Boatos e notícias falsas sempre existiram, mas dependiam, em boa medida, de convencer as pessoas através de texto ou de relatos de segunda mão — algo que o ceticismo natural das pessoas conseguia, ao menos parcialmente, filtrar. Vídeo e áudio ocupam um lugar diferente na forma como avaliamos informação: historicamente, "ver para crer" funcionava como um teste relativamente confiável de veracidade. Deepfakes ameaçam justamente essa heurística — tornam a evidência audiovisual, que era considerada uma das formas mais confiáveis de prova, potencialmente não confiável.

O maior risco dos deepfakes talvez não seja fazer as pessoas acreditarem em mentiras específicas, mas fazê-las duvidar de tudo — inclusive de evidências verdadeiras.

O "dividendo do mentiroso"

Pesquisadores identificaram um efeito colateral particularmente preocupante, apelidado de "dividendo do mentiroso" (liar's dividend): à medida que o público se torna consciente de que vídeos podem ser falsificados de forma convincente, pessoas flagradas em vídeos genuínos e comprometedores ganham um novo recurso de defesa — simplesmente alegar que a gravação é uma montagem gerada por IA. Isso significa que o problema dos deepfakes não afeta apenas quem acredita em conteúdo falso, mas também mina a capacidade de responsabilizar quem é flagrado, de fato, em condutas reais.

Tentativas de resposta ao problema

Diferentes frentes têm tentado enfrentar o desafio: ferramentas técnicas de detecção de conteúdo sintético (numa corrida constante contra a evolução da própria tecnologia geradora), marcas d'água digitais em conteúdo gerado por IA, políticas de plataformas de redes sociais para rotular ou remover conteúdo sintético enganoso, e iniciativas de letramento midiático para ajudar o público a desenvolver hábitos mais críticos de verificação antes de compartilhar conteúdo impactante. Nenhuma solução isolada resolve o problema por completo — a combinação de tecnologia, políticas de plataforma e educação do público tende a ser mais eficaz do que qualquer medida sozinha.

Um desafio para a confiança pública, não só para a verdade

No fundo, o problema dos deepfakes não é apenas sobre distinguir o verdadeiro do falso em casos individuais — é sobre preservar a infraestrutura mínima de confiança compartilhada que permite que pessoas com opiniões diferentes ainda debatam a partir de uma base comum de fatos verificáveis. Essa erosão de confiança tende a alimentar o mesmo terreno fértil em que costuma crescer o populismo, quando promete atalhos simples diante de instituições em que ninguém mais confia plenamente. E o desafio só cresce à medida que a inteligência artificial se torna capaz de tarefas cognitivas cada vez mais sofisticadas — reacendendo a dúvida sobre se ela vai substituir o próprio pensamento humano ou apenas transformar como ele se exercita, questão que também aparece quando se discute se usá-la para estudar é atalho ou prejuízo para pensar. Independentemente de posição política, essa é uma condição que qualquer sociedade que valorize decisões coletivas informadas tem interesse em proteger.