A plataforma de jogos Roblox enfrenta uma crescente pressão legal devido a alegações de que não protege adequadamente seus jovens usuários contra exploração e conteúdo inadequado. Após uma denúncia formal apresentada pelo procurador-geral da Louisiana, centenas de ações judiciais podem ser iniciadas contra a empresa, acusando-a de negligência na implementação de medidas de segurança eficazes.
As acusações giram em torno da suposta falha da Roblox em prevenir comportamentos predatórios e a disseminação de material de abuso sexual infantil (CSAM) dentro de sua plataforma. Uma das ações judiciais argumenta que as opções de moderação da empresa, como personalizações de avatar consideradas sugestivas e a incapacidade de detectar nomes de usuário com conotações pedófilas, contribuíram para a proliferação de jogos com conteúdo exploratório e condutas predatórias. A empresa, por sua vez, alega que investe recursos significativos em tecnologia avançada e moderação humana 24 horas por dia, 7 dias por semana, para detectar e prevenir conteúdos e comportamentos inadequados.
A plataforma tem sido alvo de críticas recentes em relação à eficácia de seu sistema de moderação baseado em inteligência artificial, conhecido como “Sentinel”. O sistema foi projetado para monitorar proativamente chats e identificar sinais de perigo para crianças, incluindo aliciamento. De acordo com a Roblox, o Sentinel sinalizou aproximadamente 1.200 tentativas de exploração infantil no primeiro semestre de 2025, que foram relatadas ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC). No entanto, um grupo de escritórios de advocacia está investigando centenas de alegações adicionais de exploração sexual submetidas por pais e responsáveis.
Origem: Link
