Pentágono quer inundar as redes sociais com pessoas falsas criadas por IA

Segundo o The Intercept, o Comando de Operações Especiais Conjuntas (JSOC), uma unidade de contraterrorismo dentro do Departamento de Defesa dos EUA (DoD), demonstrou interesse em usar pessoas falsas criadas por IA na Internet.

Isso acontece apesar de os próprios alertas do governo dos EUA sobre como deepfakes e outros conteúdos gerados por IA podem agravar a crise de desinformação e tornar o ecossistema de informação ainda mais confuso.

No documento, o JSOC explica que está em busca de “tecnologias que possam gerar perfis online convincentes para uso em plataformas de mídia social, redes sociais e outros conteúdos online” para serem usadas por suas Forças de Operações Especiais (SOF). Esse “recurso”, diz o JSOC, deve incluir “imagens faciais e de fundo, vídeos faciais e de fundo, além de camadas de áudio.”

Basicamente, o JSOC deseja fornecer às suas equipes de operações especiais a capacidade de criar deepfakes de IA sofisticados, capazes de enganar usuários de redes sociais para fins de coleta de informações.

No ano passado, o The Intercept revelou que o Pentágono já havia demonstrado interesse em deepfakes como meio de expandir seus esforços de influência. Em uma proposta de 2023, o Comando de Operações Especiais (SOCOM) expressou a busca por tecnologias “mais abrangentes e disruptivas”, com maior alcance do que as ferramentas então disponíveis.

Com a aproximação de novas eleições, é relevante observar que o Projeto 2025 — uma proposta para um possível governo de Donald Trump, elaborada por aliados próximos — também fala sobre o uso de IA para aumentar as capacidades de vigilância e espionagem.

Especialistas alertam que, à medida que o Pentágono se apressa para usar IA em suas atividades digitais, essa adoção pode incentivar outras nações a fazerem o mesmo.

“Isso só encorajará outros exércitos ou adversários a seguirem o mesmo caminho,” disse Heidy Khlaaf, cientista-chefe de IA do AI Now Institute, ao The Intercept, “levando a uma sociedade em que será cada vez mais difícil distinguir a verdade da ficção, complicando o cenário geopolítico.”

Veja mais sobre web!