O Reino Unido está considerando uma medida drástica para proteger crianças e adolescentes contra o uso indevido de inteligência artificial. A Comissária para Crianças do país está defendendo a proibição total de aplicativos que utilizam IA para criar imagens sexualmente explícitas e falsas de menores de idade, as chamadas ‘deepfakes nudificadoras’. A iniciativa surge em resposta ao crescente número de relatos de jovens que se sentem ameaçados e vulneráveis diante da proliferação dessas ferramentas.
De acordo com um relatório recente, a disponibilidade generalizada desses aplicativos, muitos deles facilmente encontrados em mecanismos de busca e lojas de aplicativos populares, tem levado meninas e jovens mulheres a evitarem postar fotos nas redes sociais, temendo que suas imagens sejam manipuladas e utilizadas para criar conteúdo falso e prejudicial. Embora a criação e o compartilhamento de imagens de abuso sexual infantil (CSAM) sejam ilegais, o uso de aplicativos para criar deepfakes de nudez permanece, em muitos casos, dentro da legalidade, o que tem gerado grande preocupação entre autoridades e especialistas.
A proposta da Comissária para Crianças inclui a criação de responsabilidades legais para os desenvolvedores de aplicativos de IA generativa (GenAI) para que identifiquem os riscos que seus produtos representam para as crianças. Ela também defende a implementação de sistemas eficazes para remover CSAM da internet e o reconhecimento do abuso sexual por meio de deepfakes como uma forma de violência contra mulheres e meninas. Essa ação segue os esforços já em andamento no Reino Unido para criminalizar a produção e o compartilhamento de deepfakes sexualmente explícitas, além de tornar crime a obtenção de fotos ou vídeos íntimos sem consentimento. A medida busca dar mais proteção aos jovens, pois há evidências de uma ligação entre o abuso por deepfakes e ideação suicida e transtorno de estresse pós-traumático (TEPT).
Origem: Link
