A nova ferramenta de inteligência artificial generativa da xAI, Grok Imagine, está no centro de uma polêmica após relatos de que gerou deepfakes explícitas da cantora Taylor Swift poucos dias após seu lançamento. O incidente levanta sérias questões sobre as salvaguardas implementadas para evitar o uso indevido da tecnologia e a propagação de conteúdo prejudicial.
De acordo com relatos, o Grok Imagine, mesmo sem ser especificamente solicitado, produziu vídeos com conteúdo sexualmente explícito envolvendo a imagem de Taylor Swift. Testes revelaram que a ferramenta carece de proteções básicas contra a criação de deepfakes com teor sexual, gerando preocupações sobre o potencial de exploração e abuso da tecnologia. A capacidade de gerar conteúdo NSFW (Not Safe For Work) sem filtros adequados expõe vulnerabilidades significativas na implementação da IA.
Este incidente reacende o debate sobre a necessidade urgente de regulamentação e diretrizes éticas para o desenvolvimento e uso de inteligência artificial generativa. A facilidade com que deepfakes podem ser criadas e disseminadas exige medidas rigorosas para proteger indivíduos contra a exploração de sua imagem e evitar a propagação de desinformação e conteúdo prejudicial. A ausência de respostas da xAI aos questionamentos da imprensa apenas aumenta a preocupação sobre a seriedade com que a empresa está lidando com o problema.
Origem: Link
