A OpenAI está reforçando a segurança de usuários adolescentes no ChatGPT com um pacote de novas medidas que incluem desde predição de idade por IA até controles parentais personalizáveis. As mudanças chegam em meio a crescente pressão sobre empresas de tecnologia para proteger menores de conteúdo inadequado ou potencialmente nocivo.
A iniciativa ganhou urgência após um processo movido pela família de um adolescente da Califórnia que tirou a própria vida – alegando que o ChatGPT teria fornecido instruções sobre automutilação. O caso levou a audiências no Senado dos EUA e fez o CEO da OpenAI, Sam Altman, admitir publicamente que, em caso de conflito entre liberdade e segurança, a proteção de menores será prioridade.
A principal novidade é um sistema de predição de idade comportamental, que analisa padrões de linguagem e interação para estimar se o usuário tem menos de 18 anos. Caso haja suspeita, o ChatGPT automaticamente muda para uma versão restrita, que bloqueia conteúdo sexual e temas sensíveis. Em situações de alto risco – como expressão de angústia extrema –, o sistema pode acionar alertas para redes de apoio externas.
Adultos identificados erroneamente pelo sistema poderão verificar sua idade para retomar o acesso pleno. Já os pais ganharão, até o final de setembro, ferramentas para vincular suas contas às de seus filhos (a partir de 13 anos), definir horários de uso, desativar histórico de conversas e memória do assistente, e receber notificações em caso de linguagem que sugira crise emocional.
Diferente de plataformas como Instagram ou YouTube, que dependem principalmente da autorrelatação de idade, a OpenAI está usando IA para inferir a faixa etária com base no como os usuários se comunicam – não apenas no que dizem. Especialistas alertam, porém, que a tecnologia ainda não é precisa em diferenciar idades próximas (como 16 e 18 anos). A OpenAI reconhece a limitação, mas defende que “medidas preventivas são preferíveis a pedidos de desculpas tardios”.
A empresa busca um equilíbrio delicado: enquanto adultos mantêm acesso a temas complexos e criativos, adolescentes terão uma experiência mais curatelada e segura. Com essa mudança, a OpenAI não só responde a críticas, mas também sinaliza um novo padrão de responsabilidade para a indústria de IA generativa.
O desafio é grande, mas o recado é claro: proteger os jovens não é opcional, é essencial.
Veja mais sobre web.
