“
Microsoft Bing intensifica a luta contra imagens explícitas de deepfakes nos resultados de pesquisa
Em uma nova parceria com o StopNCII, o mecanismo de busca da Microsoft terá mais poder para remover imagens explícitas não consensuais, incluindo deepfakes, de seus resultados.
Em colaboração com a ferramenta de defesa de vítimas StopNCII, a Microsoft está complementando seus relatórios de usuários com uma abordagem mais \”centrada na vítima\”, incorporando um processo de detecção mais aprofundado, explicou a empresa. O StopNCII, uma plataforma administrada pela organização sem fins lucrativos do Reino Unido SWGfl e pelo Revenge Porn Helpline, oferece aos indivíduos a capacidade de criar e adicionar impressões digitais digitais (também conhecidas como \”hash\”) a imagens íntimas, que podem então ser rastreadas para remover imagens à medida que aparecem em certas plataformas.
Com base em um piloto que durou até agosto, o novo sistema da Microsoft utiliza o banco de dados do StopNCII para sinalizar imediatamente imagens íntimas e impedir que apareçam nos resultados do Bing. A Microsoft afirma ter tomado medidas em relação a 268.000 imagens explícitas.
Os hashes do StopNCII são usados por sites sociais como Facebook, Instagram, TikTok, Threads, Snapchat e Reddit, bem como plataformas como Bumble, OnlyFans, Aylo (proprietário de vários sites populares de pornografia, incluindo PornHub) e até mesmo a Niantic, a desenvolvedora de realidade aumentada por trás do Pokémon Go. O Bing é o primeiro mecanismo de pesquisa a se juntar à coalizão de parceiros.
O Google, também lutando contra conteúdo de deepfake não consensual, tomou medidas semelhantes para tratar do aparecimento de imagens de deepfake nos resultados de pesquisa, além de imagens reais não consensuais. No ano passado, a empresa vinha reformulando seu sistema de classificação de pesquisa para reduzir o conteúdo sintético explícito nos resultados, substituindo os resultados exibidos por \”conteúdo de alta qualidade e não explícito\”, explicou a empresa, como artigos de notícias. O Google anunciou que também estava simplificando seu processo de relatórios e revisão para ajudar a acelerar a remoção de tal conteúdo – a plataforma de pesquisa já possui um sistema semelhante para a remoção de imagens reais não consensuais ou pornografia de deepfake.
Mas ainda não se juntou ao StopNCII e não utiliza sua tecnologia de hash. \”Os mecanismos de pesquisa são inevitavelmente o portal para que as imagens sejam encontradas, portanto, essa medida proativa do Bing coloca o bem-estar daqueles diretamente afetados em primeiro plano\”, disse Sophie Mortimer, gerente do Revenge Porn Helpline.
A Microsoft possui processos de relatórios semelhantes para abuso de NCII com base em imagens reais, bem como políticas rigorosas de conduta contra extorsão íntima, também conhecida como sextorsão. No início deste ano, a Microsoft forneceu ao StopNCII sua tecnologia interna PhotoDNA, uma ferramenta de \”impressão digital\” semelhante que tem sido usada para detectar e ajudar a remover material de abuso sexual infantil.
Como denunciar imagens íntimas com o StopNCII
Se você acredita que sua imagem (explícita ou não explícita) corre o risco de ser divulgada ou manipulada por atores mal-intencionados, você pode adicionar sua própria impressão digital ao StopNCII para detecção futura. A ferramenta não exige que você carregue ou armazene fotos ou vídeos pessoais no site. Em vez disso, as imagens são retidas em seu dispositivo pessoal.
- Visite Stopncii.org.
- Clique em \”Criar seu caso\” no canto superior direito.
- Navegue pelas solicitações personalizadas, que coletam informações sobre o conteúdo da imagem ou vídeo.
- O site solicitará que você selecione fotos ou vídeos da biblioteca de fotos do seu dispositivo. O StopNCII então analisa o conteúdo e cria hashes para cada imagem. Os hashes são então enviados para as plataformas participantes. Nenhuma imagem ou vídeo será compartilhado.
- Salve seu número de caso, que permitirá que você verifique se sua imagem ou vídeo foi detectado online.
Se você teve imagens íntimas compartilhadas sem seu consentimento, ligue para a linha direta 24 horas da Cyber Civil Rights Initiative em 844-878-2274 para obter suporte gratuito e confidencial. O site do CCRI também inclui informações úteis, bem como uma lista de recursos internacionais.
“