A Meta, empresa controladora do Facebook e Instagram, está intensificando sua luta contra a proliferação de deepfakes pornográficos, também conhecidos como aplicativos ‘nudify’ ou ‘undress’. A empresa anunciou um processo legal contra os criadores do Crush AI, um aplicativo popular que utiliza inteligência artificial para gerar imagens íntimas não consensuais. A ação, movida em Hong Kong, acusa a Joy Timeline HK, empresa por trás do Crush AI, de burlar as políticas de publicidade da Meta para promover seus serviços.
De acordo com a Meta, a Joy Timeline HK utilizou uma rede de contas de anunciantes e novos nomes de domínio para contornar o processo de revisão de anúncios da plataforma. Essa estratégia permitiu que o Crush AI exibisse anúncios para seus serviços de deepfake, mesmo com as políticas da Meta proibindo a divulgação de conteúdo sexualmente explícito não consensual. A empresa afirma que essa ação legal demonstra a seriedade com que encara o abuso de sua plataforma e seu compromisso em proteger seus usuários.
Além do processo legal, a Meta anunciou o desenvolvimento de uma nova tecnologia de detecção para identificar e remover anúncios de aplicativos ‘nudify’ com maior precisão. A empresa também está intensificando sua colaboração com o programa Lantern da Tech Coalition, uma iniciativa da indústria para reunir informações sobre segurança infantil online. A Meta reportou ter identificado e denunciado mais de 3.800 URLs relacionados a aplicativos e sites ‘nudify’ desde março, descobrindo quatro redes distintas que tentavam promover esses serviços. Essas ações refletem um esforço contínuo para combater a disseminação de imagens íntimas não consensuais geradas por IA em suas plataformas e proteger seus usuários, especialmente os mais jovens.
Origem: Link


