Uma recente polêmica envolvendo vídeos gerados por inteligência artificial (IA) no TikTok reacendeu o debate sobre os riscos e a necessidade de salvaguardas mais eficazes em plataformas de compartilhamento de conteúdo. A organização Media Matters divulgou um relatório expondo a existência de vídeos com conteúdo racista e antissemita, aparentemente criados utilizando o Veo 3, um novo gerador de vídeos por IA do Google. Esses vídeos, alguns dos quais alcançaram milhões de visualizações antes de serem removidos, destacam a facilidade com que a tecnologia pode ser utilizada para disseminar discurso de ódio e desinformação.
Os vídeos identificados apresentavam estereótipos ofensivos direcionados a diversos grupos étnicos e religiosos. Em um dos exemplos mais chocantes, um vídeo intitulado “Average Waffle House in Atlanta” mostrava um restaurante repleto de macacos atirando melancia e carregando baldes de frango frito, perpetuando estereótipos racistas contra a população negra. Outros vídeos apresentavam imagens antissemitas, como homens judeus perseguindo moedas de ouro, e representações depreciativas de pessoas de origem asiática e do sul da Ásia. A Media Matters compilou uma série desses vídeos e os publicou em seu canal no YouTube, expondo a gravidade do problema.
Diante da repercussão negativa, o TikTok se pronunciou afirmando que possui políticas rigorosas contra discurso de ódio e que utiliza tecnologias e processos de moderação para aplicá-las. A empresa informou que removeu as contas identificadas no relatório, muitas das quais já haviam sido banidas anteriormente. No entanto, o incidente levanta questões importantes sobre a capacidade das plataformas de detectar e remover conteúdo prejudicial de forma proativa, antes que ele se espalhe e cause danos. A necessidade de aprimorar as ferramentas de moderação e implementar salvaguardas mais eficazes nos geradores de IA é cada vez mais urgente, à medida que a tecnologia se torna mais acessível e poderosa.
Origem: Link
