A Meta está tomando medidas mais enérgicas contra aplicativos que utilizam inteligência artificial para gerar imagens explícitas e não consensuais, conhecidos como apps de ‘nudificação’. A empresa está processando um desenvolvedor que anunciava frequentemente esses serviços no Facebook e Instagram, além de implementar novas medidas para evitar a veiculação de anúncios similares.
Essa ação ocorre após meses de alertas de pesquisadores e jornalistas sobre a proliferação desses aplicativos. Uma reportagem recente da CBS News identificou centenas de anúncios na plataforma da Meta promovendo apps que permitem aos usuários ‘remover roupas’ de imagens de celebridades e outras pessoas. Um aplicativo em particular, chamado Crush AI, tem sido um anunciante frequente no Facebook e Instagram. Segundo o pesquisador Alexios Mantzarlis, do Cornell Tech’s Security, Trust and Safety Initiative, o Crush AI veiculou mais de 8.000 anúncios desde o ano passado.
A Meta informou que abriu um processo contra a Joy Timeline HK Limited, empresa sediada em Hong Kong responsável pelo Crush AI e outros aplicativos do gênero. A empresa afirma que a Joy Timeline HK Limited tentou repetidamente contornar o processo de revisão de anúncios da Meta, continuando a veicular anúncios que violavam as regras da plataforma, mesmo após terem sido removidos diversas vezes. Além do processo, a Meta está desenvolvendo novas tecnologias para identificar esses tipos de anúncios, mesmo que não contenham nudez explícita, e utilizando sistemas de correspondência para encontrar e remover anúncios semelhantes com mais rapidez. A empresa também está colaborando com especialistas externos e equipes internas para expandir a lista de termos, frases e emojis relacionados à segurança que seus sistemas são treinados para detectar nesses anúncios. A Meta planeja trabalhar com outras plataformas de tecnologia, incluindo lojas de aplicativos, para compartilhar informações relevantes sobre entidades que abusam de sua plataforma.
Origem: Link