O Pinterest está implementando um novo sistema para identificar imagens geradas ou modificadas por inteligência artificial (IA). A medida visa combater a crescente quantidade de conteúdo sintético que tem se proliferado na plataforma, atendendo às reclamações de usuários preocupados com a autenticidade das imagens que encontram.
A partir de agora, ao clicar em um Pin de imagem, os usuários poderão visualizar um selo indicativo de “Modificado por IA” no canto inferior esquerdo da tela. Segundo o Pinterest, essa funcionalidade é resultado de meses de testes e envolve a análise de metadados das imagens para determinar sua origem. A empresa também está desenvolvendo classificadores capazes de detectar a presença de IA generativa mesmo quando os metadados não estiverem disponíveis. A eficácia desses classificadores será avaliada à medida que a ferramenta for implementada globalmente. Criadores de conteúdo que discordarem da classificação de suas imagens poderão recorrer da decisão.
Além da identificação, o Pinterest está explorando a possibilidade de permitir que os usuários filtrem categorias onde a geração ou modificação por IA é mais comum, como beleza e arte. Ao conceder aos usuários maior controle sobre o conteúdo exibido em seus feeds, o Pinterest espera reconquistar a confiança de membros da comunidade que se sentem insatisfeitos com a presença de conteúdo gerado por IA. Essa iniciativa surge em um momento crucial, em que a linha entre realidade e ficção se torna cada vez mais tênue no ambiente digital, reforçando a importância de ferramentas que promovam a transparência e a informação responsável. Plataformas como o Meta, que também enfrentaram problemas com a rotulagem de conteúdo gerado por IA, servem de exemplo para o Pinterest aprimorar continuamente seus algoritmos de detecção e evitar classificações incorretas.
Origem: Link