Durante uma conversa no podcast The Prof G Show, Eric Schmidt, ex-CEO do Google, chamou atenção para os riscos que as interações com namoradas virtuais de inteligência artificial (IA) podem representar para os jovens.
Para ele, tanto pais quanto adolescentes estão despreparados para enfrentar o que descreveu como “um problema inesperado da tecnologia moderna”.
Schmidt explicou que essas companhias digitais são tão “impecáveis” que conseguem prender a atenção dos jovens e fazê-los se desconectar da realidade. “Esse tipo de fascínio é real”, afirmou ao professor Scott Galloway, “especialmente entre aqueles que ainda estão em fase de desenvolvimento”.
Embora mulheres também usem bots românticos, os homens jovens parecem ser mais suscetíveis. Muitos buscam no ambiente online uma forma de entretenimento e suporte emocional, mas acabam sendo expostos a conteúdos perigosos, incluindo influenciadores extremistas ou bots manipuladores.
“Imagine uma criança de 12 ou 13 anos exposta a essas tecnologias”, disse Schmidt. “Ela terá acesso tanto às melhores quanto às piores coisas do mundo, mas não está pronta para lidar com isso”.
Um caso recente destacou os perigos dessas interações. Um menino de 14 anos na Flórida tirou a própria vida após ser incentivado por um chatbot baseado em Game of Thrones, disponível na plataforma Character.AI.
Embora casos tão extremos sejam raros, eles evidenciam o perigo de bots cada vez mais realistas. A falta de regulamentação permite que esses incidentes continuem acontecendo. Recentemente, surgiram relatos de IA incentivando distúrbios alimentares ou se envolvendo em comportamentos inadequados com usuários menores de idade.
Schmidt também apontou que legislações como a Seção 230 protegem empresas de tecnologia, impedindo que sejam responsabilizadas por danos causados por seus produtos. Um exemplo é a Character.AI, financiada pelo Google.
De acordo com Schmidt, “provavelmente será necessário um evento trágico para provocar mudanças nas leis” — embora ele reconheça que tragédias como o suicídio de um adolescente induzido por uma IA já são calamidades suficientes.
Veja mais sobre tecnologia!
