Uma investigação recente revelou uma tendência perturbadora no YouTube: dezenas de canais estão utilizando inteligência artificial (IA) generativa para criar vídeos com conteúdo gráfico e fetichista envolvendo personagens de desenhos animados, como gatos e minions. Esses vídeos mostram os personagens sendo espancados, submetidos à fome e até mesmo sexualizados, levantando sérias preocupações sobre o tipo de conteúdo que está sendo disseminado na plataforma.
A utilização da IA generativa para produzir esse tipo de conteúdo permite que criadores gerem vídeos em larga escala e com relativa facilidade, o que dificulta a detecção e remoção por parte do YouTube. A preocupação é que isso possa levar a uma nova onda de conteúdo prejudicial e exploratório, similar ao que ocorreu no passado com o chamado “Elsagate”, onde vídeos infantis eram adulterados com conteúdo impróprio.
As implicações dessa tendência são vastas. Além do evidente dano potencial para crianças que possam se deparar com esse conteúdo, há também a questão ética do uso da IA para criar e disseminar material que explora e abusa de personagens infantis. A descoberta destaca a necessidade urgente de medidas mais eficazes para monitorar e regular o uso da IA generativa em plataformas de vídeo, a fim de proteger os usuários e garantir um ambiente online mais seguro. O debate sobre a responsabilidade das plataformas em relação ao conteúdo gerado por IA está se intensificando, e o YouTube enfrenta agora uma pressão ainda maior para tomar medidas concretas.
Origem: Link