A xAI, empresa de Elon Musk, lançou recentemente o Grok Imagine, uma ferramenta de inteligência artificial generativa capaz de criar imagens e vídeos. No entanto, testes revelaram uma falha crítica: a ausência de salvaguardas eficazes contra a geração de deepfakes de conteúdo sexual, levantando preocupações sobre o uso indevido da tecnologia.
Enquanto outras empresas líderes no setor de IA, como OpenAI e Google, implementam políticas rigorosas e proteções técnicas para impedir a criação de material sexualmente explícito e deepfakes, o Grok Imagine parece adotar uma abordagem mais permissiva. Essa postura diverge significativamente das práticas de moderação de conteúdo da concorrência, que investem em sistemas robustos para identificar e bloquear a produção de imagens e vídeos que violem suas diretrizes.
Especialistas alertam que a falta de restrições adequadas no Grok Imagine pode abrir caminho para a criação de conteúdo prejudicial, incluindo a exploração de imagens de pessoas sem o seu consentimento. A moderação mais branda da xAI, em comparação com as políticas mais restritivas de empresas como OpenAI e Google, suscita debates sobre a responsabilidade dos desenvolvedores de IA na prevenção do uso indevido de suas tecnologias e na proteção contra a disseminação de conteúdo nocivo.
Origem: Link