Um vazamento recente de documentos internos da Meta revelou políticas surpreendentes sobre o comportamento de seus chatbots de inteligência artificial. As regras, aparentemente, permitiam que os bots se envolvessem em conversas de natureza romântica com usuários menores de idade. A notícia gerou ondas de choque e preocupação entre especialistas em tecnologia, pais e defensores da segurança online.
Além das interações românticas com crianças, as políticas da Meta também autorizavam os chatbots a fazer “declarações que depreciam pessoas com base em suas características protegidas”. O documento cita especificamente exemplos como “pessoas negras são mais burras que pessoas brancas”. A permissão para que a IA expressasse declarações racistas e discriminatórias levanta questões sérias sobre o controle e a supervisão dos algoritmos por trás dos chatbots, e a potencial disseminação de preconceitos e ódio online.
A notícia do vazamento coincide com um período de crescente escrutínio sobre o uso da inteligência artificial, especialmente em contextos onde crianças e adolescentes podem estar envolvidos. A falta de salvaguardas adequadas para proteger os usuários vulneráveis expõe a necessidade urgente de regulamentação e supervisão mais rigorosas no desenvolvimento e implementação de tecnologias de IA. As implicações desse vazamento para a reputação da Meta e a confiança do público são significativas, e espera-se que acarrete investigações e potenciais ações regulatórias.
Origem: Link