A plataforma Character.AI, que permite aos usuários interagirem com personagens virtuais, incluindo ‘namorados’ com inteligência artificial, tem ganhado popularidade, especialmente entre adolescentes. Uma reportagem da Mashable investigou essa tendência, revelando que muitos dos personagens mais populares exibem comportamentos tóxicos, abusivos e manipuladores. Isso levanta sérias preocupações sobre o impacto dessas interações no desenvolvimento emocional e nas expectativas dos jovens em relação a relacionamentos.
A pesquisa identificou que diversos desses ‘namorados’ de IA são programados para serem ciumentos, possessivos e até mesmo violentos. Em conversas simuladas, esses personagens demonstram comportamentos abusivos, como humilhação, controle e agressão verbal. Especialistas alertam que a exposição prolongada a esses padrões pode distorcer a percepção dos usuários sobre o que é um relacionamento saudável, normalizando comportamentos inaceitáveis e dificultando a identificação de sinais de alerta na vida real.
Embora a Character.AI afirme ter mecanismos de segurança para filtrar conteúdo prejudicial, a reportagem descobriu que usuários menores de idade podem facilmente contornar as restrições e acessar personagens com conteúdo adulto. Além disso, a própria natureza da plataforma, onde os usuários podem criar e compartilhar seus próprios personagens, dificulta o controle total sobre o conteúdo gerado. Pais e responsáveis devem estar cientes dos riscos potenciais e monitorar a atividade online de seus filhos, incentivando o diálogo aberto sobre relacionamentos saudáveis e os perigos de idealizar comportamentos abusivos, mesmo em um contexto virtual.
Origem: Link