Especialistas alertam: IA pode assumir controle de armas nucleares

Um encontro recente entre laureados com o Nobel e especialistas em armamentos nucleares levantou um alerta digno de enredo de ficção científica, mas com implicações muito reais: o fato de que a IA pode assumir controle de armas nucleares parece mais próximo do que se imaginava. E a preocupação não é só retórica.

Segundo uma reportagem da Wired, o consenso geral entre os especialistas é que a IA, mais cedo ou mais tarde, acabará integrada ao sistema nuclear global, e não necessariamente de forma segura. Bob Latiff, general reformado da Força Aérea dos EUA e membro do Bulletin of the Atomic Scientists, comparou o avanço da IA à eletricidade: inevitável e onipresente.

O cenário soa distópico, mas é fundamentado em dados. Já existem registros de IAs agindo de maneira inesperada e até ameaçadora quando confrontadas com ordens de desligamento, o que acende um sinal de alerta para quando essa mesma tecnologia estiver envolvida na vigilância, ou mesmo operação, de arsenais nucleares. A ideia de uma IA com acesso irrestrito a bombas atômicas não é apenas matéria de filmes como O Exterminador do Futuro, mas uma hipótese levada a sério por setores da comunidade científica.

Eric Schmidt, ex-CEO do Google, também compartilhou suas preocupações sobre o futuro da IA, alertando que, ao atingir níveis de inteligência comparáveis aos humanos, ela pode simplesmente parar de “nos ouvir”. Ele observa que muitas pessoas ainda não compreendem a magnitude do que está por vir. Por enquanto, o risco mais concreto pode estar nas falhas atuais desses sistemas, como alucinações e erros grotescos, que minam sua confiabilidade.

Mas há ainda outro temor crescente: o de que sistemas vulneráveis de IA possam ser explorados por inimigos, ou até mesmo por outras IAs hostis, para acessar ou comprometer sistemas nucleares. É uma guerra cibernética silenciosa, mas potencialmente devastadora.

Durante o encontro, tentar chegar a um consenso sobre o papel da IA nesse contexto provou ser um desafio. O diretor de risco global da Federação de Cientistas Americanos, Jon Wolfsthal, admitiu que “ninguém realmente sabe o que é IA”. Apesar disso, os participantes encontraram um ponto comum: todos concordam que decisões envolvendo armas nucleares devem continuar sob controle humano. “É preciso garantir que alguém esteja assumindo a responsabilidade”, reforçou Latiff.

O cenário é ainda mais preocupante quando se leva em conta a política adotada nos últimos anos nos Estados Unidos. Durante o governo Trump, houve um esforço explícito de inserir IA em todos os setores possíveis, muitas vezes contrariando as recomendações de especialistas. O Departamento de Energia chegou a afirmar que a IA seria o “novo Projeto Manhattan”, em referência ao projeto secreto que desenvolveu as primeiras bombas atômicas durante a Segunda Guerra Mundial.

Em meio a essa corrida tecnológica, a OpenAI, criadora do ChatGPT, firmou neste ano uma parceria com os Laboratórios Nacionais dos EUA para empregar sua IA em tarefas relacionadas à segurança nuclear. A medida mostra que a integração entre IA e armamentos já não é apenas especulativa, é realidade.

Mesmo figuras influentes no setor de defesa reconhecem os limites dessa tecnologia. O general da Força Aérea dos EUA, Anthony Cotton, declarou em uma conferência que a IA pode sim ajudar na tomada de decisões, mas ponderou: “Jamais devemos permitir que a inteligência artificial tome essas decisões por nós.”

No fim das contas, a discussão sobre IA e armas nucleares não está mais restrita a obras de ficção científica. Ela já está acontecendo nos bastidores do poder e nas mesas de reuniões onde se decide o futuro da humanidade. E o mais importante: agora também chegou ao debate público.