A Meta, empresa controladora do Facebook e Instagram, está sendo criticada por não combater eficazmente os golpes que utilizam deepfakes de celebridades. O Conselho de Supervisão da Meta (Oversight Board), um órgão independente que analisa as decisões da empresa sobre moderação de conteúdo, emitiu um relatório apontando falhas significativas na aplicação das políticas internas contra fraudes e golpes.
O relatório detalha um caso específico de um anúncio fraudulento que utilizava um vídeo manipulado por inteligência artificial do ex-jogador de futebol brasileiro Ronaldo Nazário, promovendo um jogo online de cassino chamado Plinko. Apesar de ter sido reportado como golpe diversas vezes, o anúncio permaneceu ativo por um longo período e foi visualizado por mais de 600 mil usuários. O Conselho de Supervisão argumenta que a Meta permite que uma quantidade significativa de conteúdo fraudulento permaneça em suas plataformas para evitar a remoção de endossos genuínos de celebridades. Revisores em grande escala não estão autorizados a aplicar a proibição de conteúdo que estabelece uma persona falsa ou finge ser uma pessoa famosa para enganar ou fraudar.
Apesar da alegação da Meta de que está testando tecnologias de reconhecimento facial para combater os golpes que usam iscas de celebridades, o Conselho de Supervisão recomendou que a empresa atualize suas diretrizes internas, capacite os revisores de conteúdo a identificar tais golpes e os treine em indicadores de conteúdo manipulado por IA. A proliferação de deepfakes e a facilidade de acesso a tecnologias de IA tornaram os golpes mais sofisticados e frequentes, exigindo uma resposta mais robusta por parte das plataformas de mídia social. Outras investigações também apontam para a crescente presença de fraudes originadas nas plataformas da Meta, incluindo golpes financeiros envolvendo o sistema Zelle.
Origem: Link