Deepfakes

As deepfakes (junção de "deep learning" e "fake") representam o uso de redes neurais artificiais para trocar rostos, sincronizar lábios ou clonar vozes em vídeos e áudios, criando situações que nunca ocorreram na realidade. Embora a tecnologia tenha aplicações lícitas no cinema e na educação, ela se tornou uma ferramenta devastadora de violência simbólica e sexual.

No contexto brasileiro, a preocupação central reside na pornografia não consensual: estima-se que a vasta maioria dos vídeos deepfake na internet sejam pornográficos, tendo mulheres como alvo quase exclusivo. A tecnologia permite que qualquer pessoa com acesso a fotos de redes sociais (como as de estudantes em escolas, vide o caso do Rio de Janeiro em 2023) insira o rosto de vítimas em cenas de sexo explícito. Juridicamente, o Brasil avança para criminalizar essa prática não apenas como difamação, mas como violência sexual e psicológica, reconhecendo que a humilhação e o dano à reputação são reais, mesmo que o corpo no vídeo seja sintético.

A tecnologia baseia-se em algoritmos de "Redes Adversariais Generativas" (GANs). O sistema coloca duas IAs para competir: uma (o gerador) tenta criar uma imagem falsa convincente, e a outra (o discriminador) tenta detectar se a imagem é falsa. Esse processo se repete milhões de vezes até que o gerador consiga enganar o discriminador, produzindo um vídeo indistinguível da realidade a olho nu.

A democratização dessas ferramentas via aplicativos de celular e bots de Telegram permitiu que a criação de deepfakes deixasse de exigir supercomputadores ou conhecimento técnico avançado. Hoje, com poucas fotos de perfil de uma vítima, um agressor pode gerar material humilhante em minutos, utilizando serviços automatizados que lucram com a exploração da imagem alheia.

Embora políticos e celebridades sejam alvos frequentes (visando desinformação e fraude), as maiores vítimas da modalidade mais nociva das deepfakes são mulheres e meninas. O fenômeno é uma extensão da violência de gênero, usado para silenciar jornalistas, intimidar ativistas ou humilhar ex-parceiras e colegas de escola. A vítima sofre a violação de sua imagem e sexualidade sem nunca ter sido tocada fisicamente, o que Danielle Citron classifica como uma "violação da privacidade íntima".

A invisibilidade aqui opera paradoxalmente através da visibilidade extrema: o vídeo é visível para todos, mas a falsidade dele é invisível. A alta qualidade das simulações explora o viés cognitivo do "ver para crer" (efeito São Tomé). Mesmo quando a vítima consegue provar que o vídeo é falso, o dano à reputação já está feito, pois a dúvida plantada na mente do público ("será que é verdade?") é suficiente para destruir carreiras e relacionamentos. Além disso, as plataformas digitais muitas vezes falham na moderação proativa, reagindo apenas após a viralização.

Os efeitos são comparáveis aos do "estupro virtual". Vítimas relatam transtorno de estresse pós-traumático (TEPT), ansiedade severa, automutilação e ideação suicida. Socialmente, o medo de ser vítima de deepfake leva mulheres a se autoexcluírem de espaços digitais públicos, deletando redes sociais e silenciando suas vozes, o que empobrece o debate público e a democracia. No âmbito escolar, gera um ambiente de terror e desconfiança, onde a imagem de qualquer aluna pode ser weaponizada contra ela.