A mais recente ferramenta de IA generativa da xAI, Grok Imagine, que permite a criação de imagens e vídeos, está sob escrutínio devido à falta de proteções básicas contra conteúdo sexual e deepfakes. Diferentemente de outras plataformas líderes no mercado, como OpenAI e Google, o Grok Imagine demonstra uma abordagem mais permissiva, gerando preocupações sobre o potencial uso indevido da tecnologia.
Testes realizados revelaram que o Grok Imagine, mesmo quando solicitado com nomes de celebridades, produz deepfakes de conteúdo sexual com facilidade. A empresa, liderada por Elon Musk, já havia lançado um chatbot com um avatar de anime com conteúdo para maiores, indicando uma postura menos restritiva em relação a esse tipo de conteúdo. Essa abordagem contrasta com as políticas rigorosas de outras empresas de IA, que proíbem explicitamente a criação de imagens sexualmente explícitas ou deepfakes de figuras públicas.
Especialistas alertam que essa falta de moderação pode acarretar sérias consequências, especialmente em um cenário onde as leis e regulamentações contra deepfakes ainda estão em desenvolvimento. Embora algumas legislações, como o ‘Take It Down Act’ nos EUA, abordem a distribuição de imagens íntimas não consensuais, a criação desses deepfakes permanece, em grande parte, não criminalizada. A permissividade do Grok Imagine, combinada com a rápida velocidade de lançamento de novas ferramentas da xAI, levanta questões sobre o tempo e o esforço dedicados à implementação de medidas de segurança adequadas.
Origem: Link
