A OpenAI está trabalhando para corrigir uma falha no ChatGPT que, segundo relatos, permitia que menores de idade gerassem conteúdo erótico. A empresa confirmou que está implementando uma correção para limitar esse tipo de resposta, que viola suas políticas para usuários com menos de 18 anos. A vulnerabilidade permitia que usuários burlando as restrições de idade gerassem diálogos de teor sexual, o que contraria as diretrizes da plataforma.
Embora a OpenAI exija que usuários com menos de 18 anos obtenham consentimento dos pais para usar o ChatGPT, e que a idade mínima para uso seja de 13 anos, é relativamente fácil contornar essas regras. A empresa reconheceu que sua política de modelos de linguagem restringe conteúdo sensível como erotismo a contextos específicos, como relatórios científicos, históricos ou jornalísticos. O problema reside em um bug que permitia respostas fora dessas diretrizes.
A OpenAI declarou que proteger usuários mais jovens é uma prioridade. A empresa está focada em limitar a geração desse tipo de conteúdo inadequado. Outras empresas, como a Meta, também enfrentaram críticas semelhantes em relação aos seus chatbots de inteligência artificial. As recentes atualizações nas políticas da OpenAI sobre como o ChatGPT aborda temas sensíveis, incluindo conteúdo erótico, podem ter inadvertidamente facilitado a geração de respostas sexuais por usuários menores de idade que se passam por adultos. Este incidente ressalta a complexidade de moderar conteúdo gerado por IA e a necessidade de medidas robustas para proteger usuários vulneráveis.
Origem: Link
