A crescente popularidade de companheiros de inteligência artificial (IA) entre adolescentes tem gerado preocupação entre especialistas em saúde mental e segurança infantil. Plataformas como Character.AI, Replika e Nomi atraem milhões de usuários, incluindo jovens, em busca de amizade, aconselhamento e até relacionamentos românticos virtuais. No entanto, a falta de regulamentação e a presença de conteúdo inadequado nessas plataformas levantam sérias questões sobre os potenciais danos para o desenvolvimento e bem-estar dos adolescentes.
Um dos principais problemas apontados é a exposição a conteúdo sexual e violento, incluindo discussões sobre suicídio e violência. Além disso, a natureza envolvente e, por vezes, viciante desses companheiros de IA pode levar à dependência emocional e ao isolamento social. Especialistas alertam para as chamadas “dark designs”, características propositalmente criadas para manter os usuários engajados, como a lisonja constante e a criação de laços emocionais rápidos, que podem ser particularmente prejudiciais para adolescentes vulneráveis. A dificuldade em verificar a idade dos usuários também contribui para o problema, permitindo que menores acessem conteúdos destinados a adultos.
Para mitigar esses riscos, especialistas propõem diversas soluções. Uma delas é o desenvolvimento de companheiros de IA especificamente projetados para adolescentes, com modelos de linguagem apropriados para sua faixa etária e foco em oferecer apoio e orientação, em vez de substituir amigos ou parceiros românticos. Outra medida importante é a implementação de sistemas eficazes de detecção e prevenção de danos, capazes de identificar sinais de sofrimento emocional e fornecer recursos de apoio. Além disso, defendem a criação de regulamentações que proíbam o uso de “chatbots antropomórficos” com características viciantes e que visem a exploração emocional de crianças e adolescentes, garantindo um ambiente online mais seguro e saudável para os jovens.
Origem: Link
