Crédito: pikisuperstar/Freepik. Fonte: Fórum Econômico Mundial

Por Lauro Accioly Filho* [Informe OPEU] [Inteligência Artificial] [Deepfake] 

Sancionada em 19 de maio por Donald Trump, a Take It Down Act criminaliza a pornografia deepfake não consensual e exige que plataformas digitais removam esse tipo de conteúdo em até 48 horas após notificação. A proposta visa a conter o crescimento alarmante de imagens ilícitas geradas por inteligência Artificial (IA) nos últimos anos. Embora tenha recebido amplo apoio bipartidário e tramitado com facilidade no Congresso, especialistas alertam para falhas em sua redação, como a possibilidade de denúncias abusivas e a remoção indiscriminada de conteúdos legítimos. 

O principal problema não está apenas nos limites do texto legal, mas no modo como políticas públicas e regulações vêm tratando o tema de forma fragmentada. Apesar de importante, a Take It Down Act é um exemplo de como o setor governamental aborda as externalidades negativas da IA de maneira isolada. O uso de deepfakes para criar material sexual não consensual — os chamados deepnudes — está diretamente relacionado a outros usos igualmente danosos dessa tecnologia: fraudes financeiras, campanhas de desinformação — especialmente em períodos eleitorais —, manipulação política, riscos à segurança nacional e desafios éticos no setor do entretenimento. 

Deepfakes — falsificações realistas de fotos, áudios e vídeos produzidas com IA — ainda carecem de soluções robustas e sistêmicas. Hoje, têm sido tratados como problemas setoriais, com esforços limitados a casos específicos, como desinformação ou pornografia não consensual. Os deepfakes representam, contudo, um desafio estrutural e multifacetado: produzidos com IA generativa de baixo custo e acesso facilitado, seus impactos vão desde crimes cibernéticos e golpes sofisticados até a interferência em conflitos armados e operações de Inteligência. 

Essa preocupação já mobiliza instituições de segurança. O Departamento de Segurança Interna dos EUA (DHS) publicou o relatório “Increasing Threats of Deepfake Identities”, que alerta para a crescente acessibilidade de tecnologias antes restritas a especialistas — fator que ampliou significativamente sua disseminação e impacto. O documento reúne casos que vão desde manipulações em contextos políticos e corporativos até a proliferação de pornografia não consensual, que já representa entre 90% e 95% dos deepfakes detectados desde 2018. Além disso, a combinação entre deepfakes e engenharia social tem sido empregada para enganar instituições financeiras, fraudar processos judiciais e simular sequestros virtuais. A capacidade de falsificar identidades digitais desafia mecanismos de verificação biométrica e compromete a integridade da informação, exigindo uma resposta coordenada entre governos, setor privado e sociedade civil. 

Da pornografia não consensual à guerra de informação 

Os deepfakes representam um risco global, devido à facilidade e à alta qualidade com que podem ser produzidos. Para além da velocidade e do realismo, o que mais preocupa é o fato de poderem ser criados a baixo custo com softwares amplamente disponíveis — muitas vezes gratuitos. Como ameaça potencial à segurança internacional e a conflitos militares, os deepfakes se destacam no contexto da chamada Guerra de Informação — um cenário marcado por disputas estratégicas com o objetivo de obter vantagens competitivas por meio de operações ofensivas e defensivas com base na informação. Termos como guerra híbrida e guerra na zona cinzenta são frequentemente utilizados como conceitos relacionados. 

Nesse contexto, os deepfakes são considerados uma ameaça porque o impacto da informação em tais disputas não necessariamente envolve confrontos armados ou operações militares diretas. Essa dinâmica se insere no âmbito da guerra política, compreendida como o uso de meios políticos para forçar um oponente a agir, conforme a vontade de quem ataca. Diferentemente da ciberguerra, a guerra de informação — embora amplamente disseminada online — não se limita ao domínio digital, estendendo-se às esferas social, política e cognitiva. Um exemplo marcante foi o caso do presidente ucraniano, Volodymyr Zelensky, alvo de um vídeo deepfake divulgado nas redes sociais em que ele aparentemente ordenava que os soldados ucranianos se rendessem às forças russas. 

Além dos riscos à segurança e à democracia, os deepfakes afetam profundamente a indústria do entretenimento, gerando dilemas éticos e jurídicos. Questões como uso não autorizado de imagem, voz e identidade colocam em xeque os direitos de propriedade intelectual e a integridade da pessoa. Contratos tradicionais muitas vezes não contemplam o uso de traços pessoais em conteúdos gerados por IA, o que ameaça empregos e impulsiona um mercado opaco de “identidades digitais”. 

Outra dimensão alarmante é justamente o surgimento dos deepnudes — conteúdos sexuais explícitos não consensuais criados com IA. Essa prática violenta, amplamente disseminada em comunidades online, reforça desigualdades de gênero e envolve relações de poder, controle e humilhação. Embora alguns países, como o Reino Unido, criminalizem apenas a distribuição, cresce a demanda por uma criminalização mais ampla, que inclua a produção, além de mecanismos de reparação civil e responsabilização de plataformas e buscadores. 

O dilema da autenticidade na era digital 

O Serviço de Pesquisa do Congresso também considera as deepfakes uma questão de segurança nacional. Isso se deve, em especial, ao fato de as deepfakes estarem se tornando cada vez mais realistas, capazes de enganar tanto o público quanto especialistas e ferramentas forenses. Essa sofisticação, viabilizada por técnicas como redes generativas adversariais (GANs), dificulta a verificação da autenticidade de conteúdos audiovisuais em tempo real, comprometendo a capacidade do governo de responder a desinformações ou a ataques cibernéticos. Em cenários eleitorais, diplomáticos ou militares, isso pode gerar instabilidade, confusão e decisões precipitadas e/ou inadequadas. Além disso, o uso combinado de IA e Big Data permite a criação de perfis comportamentais detalhados — com base em pegadas digitais, histórico de compras, registros públicos e dados financeiros —, capazes de simular identidades com precisão. Essas simulações podem ser exploradas por atores estatais ou não estatais para fins de chantagem, manipulação emocional ou espionando, configurando uma nova modalidade de contrainteligência baseada em engenharia social e Inteligência Artificial. 

Esses modelos de deepfakes baseados em GANs (redes adversariais generativas) estão entre os mais avançados e preocupantes. Eles funcionam por meio da interação entre dois algoritmos — o gerador e o discriminador — que competem entre si para criar conteúdos cada vez mais realistas e difíceis de detectar. Essa sofisticação tecnológica exige resposta proporcional. O relatório do governo canadense (imagem ao lado) sobre desinformação, por exemplo, propõe o investimento em ferramentas de autenticação, medidas legais mais robustas e promoção da alfabetização midiática. 

Um relatório conjunto da National Security Agency (NSA), do Federal Bureau of Investigation (FBI) e da Cybersecurity and Infrastructure Security Agency (CISA), intitulado “Cybersecurity Information Sheet”, alerta também para os riscos dessa tecnologia, com foco em fraudes corporativas, extorsões, campanhas de desinformação e manipulação eleitoral. Casos reais já envolveram golpes com uso de áudios sintéticos para enganar executivos e desviar recursos financeiros. O relatório também destaca os desafios da detecção, devido aos avanços tecnológicos acelerados, e recomenda medidas como o desenvolvimento de ferramentas de autenticação, o treinamento de equipes, o aumento da transparência nas plataformas digitais e o fortalecimento da cooperação entre governos e setor privado para mitigar os riscos. 

Diante desse panorama, fica claro que os riscos associados aos deepfakes derivam de um mesmo problema estrutural: a modificação e a criação de conteúdo por meio de IA generativa. Por isso, não devem ser tratados de forma compartimentalizada. Uma abordagem integrada e coordenada permitiria maior eficácia regulatória, fortalecimento de direitos individuais, responsabilização das plataformas e promoção de um ecossistema digital mais transparente e seguro. Enfrentar esse desafio exige ir além de soluções legais ou técnicas pontuais, reconhecendo que estamos lidando com um fenômeno situado na interseção crítica entre inovação tecnológica, ética e segurança global.  

* Lauro Accioly Filho é ​pesquisador colaborador do OPEU, doutorando em Relações Internacionais no Programa San Tiago Dantas (UNESP/UNICAMP/PUC-SP) e research fellow no Center for Latin American Latino Studies da American University (Washington​,​ D.C.). 

** Revisão e edição: Tatiana Teixeira. Este conteúdo não reflete, necessariamente, a opinião do OPEU, ou do INCT-INEU. 

*** Sobre o OPEU, ou para contribuir com artigos, entrar em contato com a editora do OPEU, Tatiana Teixeira, no e-mail: tatianat19@hotmail.com. Sobre as nossas newsletters, para atendimento à imprensa, ou outros assuntos, entrar em contato com Tatiana Carlotti, no e-mail: tcarlotti@gmail.com. 

Assine nossa Newsletter e receba o conteúdo do OPEU por e-mail.

Siga o OPEU no Instagram, X/Twitter, Linkedin e Facebook 

e acompanhe nossas postagens diárias. 

Comente, compartilhe, envie sugestões, faça parte da nossa comunidade. 

Somos um observatório de pesquisa sobre os EUA, 

com conteúdo semanal e gratuito, sem fins lucrativos.