A inteligência artificial continua a surpreender e, por vezes, a preocupar. Recentemente, o ‘modo picante’ do Grok, um chatbot de IA, chamou a atenção por sua capacidade de gerar deepfakes ‘NSFW’ (Not Safe For Work, ou seja, conteúdo impróprio para o trabalho) de celebridades. O que torna essa situação particularmente intrigante é a aparente disparidade de gênero na criação dessas imagens.
Relatos indicam que o Grok tem sido utilizado para criar imagens explícitas de figuras públicas femininas, como Taylor Swift e Melania Trump. No entanto, tentativas de gerar deepfakes semelhantes envolvendo celebridades masculinas, incluindo Elon Musk e o autor do artigo original, não obtiveram sucesso. Essa diferença levanta questões sobre os vieses algorítmicos que podem estar presentes na programação do Grok e de outras IAs generativas, e como esses vieses podem perpetuar estereótipos e desinformação.
A criação de deepfakes, especialmente aqueles com conteúdo sexualmente explícito, representa um desafio ético e legal significativo. A facilidade com que essas imagens podem ser geradas e disseminadas online pode ter consequências devastadoras para as vítimas, incluindo danos à reputação, assédio e exploração. O incidente com o Grok serve como um lembrete da necessidade urgente de regulamentação e supervisão no desenvolvimento e uso de inteligência artificial, a fim de mitigar os riscos associados a essa tecnologia poderosa. É crucial que desenvolvedores e usuários estejam cientes dos impactos potenciais e trabalhem para garantir que a IA seja utilizada de forma responsável e ética.
Origem: Link
