O Facebook, após implementar mudanças significativas em suas políticas de moderação de conteúdo, observa um aumento preocupante em materiais violentos e casos de assédio em sua plataforma. Esses dados emergem dos primeiros relatórios de integridade trimestrais divulgados pela Meta, a empresa controladora do Facebook, desde que Mark Zuckerberg, CEO da Meta, revisou as diretrizes de discurso de ódio e alterou a abordagem da companhia em relação à moderação de conteúdo.
Apesar da Meta alegar uma redução nos erros de moderação e uma prevalência geral de conteúdo problemático que permanece relativamente estável, os números revelam exceções notáveis. O conteúdo violento e gráfico, por exemplo, apresentou um aumento, passando de 0,06-0,07% no final de 2024 para 0,09% no primeiro trimestre de 2025. A empresa atribui esse aumento tanto ao compartilhamento mais frequente de conteúdo violador quanto aos seus próprios esforços para diminuir os erros de aplicação das regras. Paralelamente, o bullying e o assédio também registraram um crescimento, subindo de 0,06-0,07% para 0,07-0,08% no mesmo período, impulsionado por um aumento repentino de violações em março. É importante ressaltar que essa categoria é distinta das políticas de discurso de ódio, que foram reescritas para permitir publicações direcionadas a imigrantes e pessoas LGBTQ+.
Embora esses percentuais possam parecer pequenos, o impacto em uma plataforma com bilhões de usuários como o Facebook pode ser significativo. O relatório da Meta também demonstra uma diminuição considerável na quantidade de conteúdo removido desde que a empresa priorizou a aplicação proativa apenas de suas políticas mais graves, como exploração infantil e conteúdo terrorista. As remoções de publicações com discurso de ódio, por exemplo, atingiram o menor patamar desde 2018, com apenas 3,4 milhões de conteúdos removidos. A redução na moderação também se estende a outras áreas, como a remoção de spam, que caiu de 730 milhões para 366 milhões, e de contas falsas, que diminuíram de 1,4 bilhão para 1 bilhão. A Meta, no entanto, está utilizando modelos de linguagem grandes (LLMs) para auxiliar na moderação de conteúdo, indicando um possível avanço no desempenho dessas tecnologias em relação à moderação humana em certas áreas.
Origem: Link
