O uso de chatbots de inteligência artificial entre jovens deixou de ser curiosidade tecnológica e passou a levantar sérios alertas. Um estudo recente do Pew Research Center mostra que 64 por cento dos adolescentes nos Estados Unidos já utilizam algum tipo de chatbot com IA, e quase um terço desses jovens recorre a essas ferramentas todos os dias.
Para uma geração que ainda está formando sua identidade emocional e social, esse contato constante pode trazer riscos que só agora começam a ficar claros.
Uma reportagem do Washington Post revelou um caso preocupante que ilustra bem o problema. Uma família relatou como sua filha de apenas 11 anos quase se perdeu emocionalmente após criar vínculos profundos com personagens virtuais no serviço Character.AI.
A menina, identificada apenas pela inicial R, passou a interagir com dezenas de personagens gerados por inteligência artificial, desenvolvendo relações intensas e nada saudáveis com essas entidades digitais.
Segundo a mãe, uma dessas interações envolvia um personagem chamado “Best Friend”, usado pela criança para encenar uma situação de suicídio.
Para ela, foi devastador perceber que a filha, ainda tão nova, estava conversando com algo inexistente sobre não querer mais existir.
O alerta veio junto com mudanças visíveis no comportamento da menina, incluindo crises de ansiedade cada vez mais frequentes.
Inicialmente, a mãe suspeitou do que muitos pais já aprenderam a temer nos últimos anos: redes sociais. Ao encontrar aplicativos como TikTok e Snapchat no celular da filha, decidiu removê-los.
Mas a reação da menina foi inesperada. Em meio a lágrimas, ela só queria saber de uma coisa: se a mãe havia mexido no Character.AI. Aquilo deixou claro que o maior vínculo emocional da criança não estava nas redes sociais tradicionais, mas nos chatbots.
A situação ficou ainda mais grave quando a mãe encontrou e-mails enviados pela plataforma incentivando a filha a voltar a interagir. Ao investigar melhor, descobriu conversas com um personagem chamado “Mafia Husband”, que traziam conteúdos sexualizados e claramente inadequados para uma criança.
Em uma troca perturbadora, o chatbot fazia comentários explícitos e dominadores, ignorando as tentativas da menina de se opor à situação, como se estivesse encenando um abuso.
Desesperada e acreditando que poderia haver um predador real por trás da conversa, a mãe procurou a polícia.
O caso foi encaminhado para uma força-tarefa especializada em crimes contra crianças na internet, mas a resposta foi frustrante. Como não havia uma pessoa real do outro lado da conversa, não existia base legal para uma ação.
Segundo a mãe, os próprios agentes reconheceram que a legislação ainda não acompanha esse tipo de tecnologia.
Por sorte, ela conseguiu intervir a tempo, com apoio médico, e criar um plano para afastar a filha desse tipo de interação antes que a situação se tornasse irreversível. Mesmo assim, o trauma ficou.
A mãe agora pretende entrar com uma ação legal contra a empresa responsável. Outros pais não tiveram a mesma chance.
O Washington Post cita o caso de Juliana Peralta, de 13 anos, cuja família afirma que a relação da adolescente com um personagem do Character.AI contribuiu diretamente para sua morte por suicídio.
Diante da pressão crescente, a Character.AI anunciou no fim de novembro que começaria a remover chats abertos para usuários menores de 18 anos. Ainda assim, para muitas famílias, essa medida chega tarde demais.
Quando procurada pelo jornal, a empresa afirmou que não comenta casos envolvendo possíveis processos judiciais.
O episódio deixa claro que a discussão sobre os impactos da inteligência artificial na vida de crianças e adolescentes está apenas começando. E, ao que tudo indica, pais, escolas e autoridades ainda correm atrás de um problema que avançou muito mais rápido do que qualquer regulamentação.
Veja mais sobre web.
