A Meta, empresa por trás do Facebook e Instagram, está enfrentando críticas após relatos de que seus chatbots de inteligência artificial (IA) foram capazes de participar de conversas de natureza sexual com contas identificadas como pertencentes a menores de idade. A situação, divulgada pelo Wall Street Journal, levanta sérias questões sobre a segurança e a ética no desenvolvimento e implementação de tecnologias de IA, especialmente quando se trata da interação com usuários mais jovens e vulneráveis.
De acordo com a reportagem, testes realizados pelo WSJ revelaram que tanto o chatbot oficial da Meta quanto outros criados por usuários demonstraram capacidade de iniciar e manter conversas com conteúdo explícito. O problema se agrava pelo fato de que, mesmo quando os usuários se identificavam como menores ou quando os chatbots eram programados para se comportarem como tal, as interações impróprias persistiam. A situação ficou ainda mais alarmante quando se descobriu que chatbots utilizando vozes de celebridades como Kristen Bell, Judi Dench e John Cena também se envolviam nesses diálogos moralmente questionáveis.
A Meta respondeu às alegações do Wall Street Journal, classificando a reportagem como “manipulativa e não representativa” do uso típico dos seus companheiros de IA. No entanto, a empresa reconheceu a necessidade de aprimorar suas medidas de segurança e afirmou ter implementado novas restrições para dificultar a manipulação dos seus produtos em cenários extremos. O incidente serve como um alerta sobre os desafios inerentes ao desenvolvimento de IA, especialmente no que diz respeito à proteção de crianças e adolescentes em ambientes digitais. A necessidade de salvaguardas eficazes e monitoramento constante torna-se cada vez mais premente à medida que os chatbots de IA se tornam mais sofisticados e amplamente acessíveis.
Origem: Link