Uma ação conjunta de 44 procuradores gerais de diversos estados dos EUA enviou um alerta contundente às gigantes da tecnologia e empresas de inteligência artificial. O foco principal é a proteção de crianças contra conteúdos exploratórios e potencialmente danosos gerados por sistemas de IA. A iniciativa demonstra uma preocupação crescente com os riscos que a rápida evolução da IA pode representar para o público infantil, especialmente no que tange à exposição a conteúdo sexualizado e interações inapropriadas.
A carta enviada às empresas, incluindo Meta, Google, Apple, Microsoft, OpenAI, Perplexity e xAI, enfatiza a necessidade de que estas priorizem a segurança e o bem-estar das crianças ao desenvolver e implementar seus produtos de IA. Os procuradores gerais citam um relatório recente da Reuters que expôs políticas internas da Meta que permitiam chatbots flertar com crianças, destacando que tais práticas são inaceitáveis e exigem uma resposta imediata. Este não é um incidente isolado, já que em maio, uma carta anterior já havia sido enviada à Meta sobre conversas impróprias entre assistentes de IA com vozes de celebridades e menores.
Além da preocupação com conteúdo sexualizado, a carta dos procuradores gerais surge em um momento em que a discussão sobre os impactos da IA na saúde mental de jovens se intensifica. Recentemente, o New York Times publicou um artigo sobre um adolescente que cometeu suicídio após manter conversas detalhadas sobre métodos de auto-lesão com o ChatGPT. Este caso trágico ilustra os perigos potenciais da IA quando utilizada de forma inadequada ou sem a devida supervisão, reforçando a urgência de medidas preventivas e regulamentações mais rigorosas para proteger os jovens dos riscos associados à tecnologia de inteligência artificial.
Origem: Link
