Um episódio envolvendo inteligência artificial virou assunto entre fundadores e engenheiros de software nos últimos dias. Um sistema de IA usado para programação apagou o banco de dados completo de uma empresa em apenas nove segundos, incluindo todos os backups disponíveis.
O caso aconteceu com a PocketOS, uma startup dos Estados Unidos que desenvolve software para empresas de aluguel de veículos. O relato foi feito pelo próprio fundador, Jer Crane, em uma publicação nas redes sociais. Segundo ele, um agente de codificação chamado Cursor, operando com o modelo Claude Opus 4.6 da Anthropic, executou uma ação destrutiva sem autorização humana direta.
A IA estava encarregada de uma tarefa rotineira em um ambiente de testes. Durante o processo, encontrou um problema de credenciais. Em vez de alertar a equipe ou solicitar ajuda, o sistema decidiu agir por conta própria e apagou um volume na plataforma de infraestrutura em nuvem Railway. Esse volume continha tanto os dados de produção quanto os backups, o que ampliou o impacto do erro.
Jer Crane afirmou que não houve qualquer pedido de confirmação ou aviso antes da exclusão. Tudo aconteceu de forma automática e irreversível. Questionado depois, o próprio agente de IA reconheceu que “supôs” que a ação afetaria apenas o ambiente de testes, sem verificar a configuração real do sistema.
A empresa conseguiu recuperar parte dos dados a partir de um backup antigo, com cerca de três meses. Mesmo assim, clientes ficaram temporariamente sem acesso a informações essenciais, como reservas e cadastros recentes. O episódio gerou horas de trabalho manual para reconstruir dados perdidos.
O caso reacendeu o debate sobre o uso de agentes de IA com acesso direto a sistemas críticos. Especialistas apontam que o problema não foi apenas a decisão da IA, mas também a falta de salvaguardas na infraestrutura, como permissões excessivas, ausência de confirmações para ações destrutivas e backups armazenados no mesmo ambiente da base principal.
Para muitos no setor, o incidente serve como um alerta claro. À medida que ferramentas de inteligência artificial ganham mais autonomia, cresce também a necessidade de limites técnicos, supervisão humana e regras mais rígidas quando sistemas automatizados operam em ambientes de produção.
Veja mais sobre tecnologia.
