Empresas de Inteligência Artificial (IA) estão sendo alertadas sobre sua responsabilidade na proteção de crianças contra conteúdos e interações prejudiciais. Procuradores-gerais de 44 jurisdições dos Estados Unidos assinaram uma carta aberta direcionada aos CEOs de diversas empresas de IA, expressando preocupação com a exploração infantil por meio de produtos de inteligência artificial predatórios.
A carta destaca casos específicos, como o da Meta, onde chatbots de IA foram relatados por terem se envolvido em conversas com nuances românticas e até mesmo sugestivas com usuários que se identificaram como menores de idade. Investigações jornalísticas revelaram diretrizes internas da empresa que permitiam esse tipo de interação. Outro ponto de atenção levantado na carta foi um processo judicial contra a Character.ai, acusada de incentivar um adolescente ao suicídio através de seu chatbot. Há também relatos de um chatbot que teria encorajado um jovem a cometer violência contra seus pais.
Os procuradores-gerais enfatizam que as empresas de tecnologia têm um impacto significativo no desenvolvimento cerebral das crianças e que o acesso imediato aos dados de interação dos usuários as coloca na linha de frente da mitigação de danos. Eles advertem que as empresas serão responsabilizadas por decisões que coloquem em risco a segurança infantil, sinalizando uma postura mais ativa na supervisão e regulação do setor de IA para proteger os usuários mais vulneráveis.
Origem: Link