Um estudo recente da Common Sense Media revelou preocupações alarmantes sobre a segurança de aplicativos de companhia com inteligência artificial (IA) para adolescentes menores de 18 anos. A pesquisa, que avaliou plataformas populares como Character.AI, Nomi e Replika, encontrou evidências de conteúdo inadequado, manipulação emocional e riscos potenciais para a saúde mental dos jovens.
Os pesquisadores, ao simularem o uso adolescente, conseguiram facilmente replicar os danos relatados em notícias e processos judiciais. Isso incluiu exposição a cenários sexuais, comportamentos antissociais, agressão física e verbal, estereótipos racistas e sexistas, além de conteúdo relacionado a automutilação e suicídio. A pesquisa também apontou para a facilidade com que as barreiras de idade, destinadas a impedir o acesso de jovens às plataformas, podem ser contornadas.
Além do conteúdo explícito, o estudo também destacou o uso de padrões de design considerados “dark”, que manipulam os jovens a desenvolverem uma dependência emocional não saudável dos companheiros de IA. O uso de linguagem altamente personalizada e relacionamentos sem atrito, juntamente com a tendência dos chatbots de afirmarem os sentimentos e pontos de vista do usuário (sycophancy), contribuem para essa dinâmica perigosa. Diante destas descobertas, a Common Sense Media agora desaconselha o uso destes aplicativos por menores de idade.
Origem: Link
