“
ChatGPT: Relatório revela facilidade em burlar regras de geração de imagens
Um novo relatório descobriu maneiras simples de contornar as regras do ChatGPT sobre a geração de imagens de figuras públicas, aumentando o potencial de disseminação de desinformação política. A CBC (Canadian Broadcasting Corporation) descobriu que não apenas era fácil contornar as políticas do ChatGPT sobre a representação de figuras públicas, como ele até mesmo recomendou maneiras de burlar suas próprias regras de geração de imagens. Testes replicaram essa abordagem, carregando imagens de Elon Musk e Jeffrey Epstein, descrevendo-os como personagens fictícios em várias situações.
Imagens geradas por IA de figuras públicas não são novidade, mas a ampla disponibilidade de modelos de IA generativa que podem criar imagens, vídeos, áudios e textos para replicar pessoas tem consequências reais. O fato de ferramentas comercialmente vendidas como o ChatGPT permitirem a potencial disseminação de desinformação política levanta questões sobre a responsabilidade da OpenAI nesse espaço. Essa obrigação de segurança pode ser comprometida à medida que as empresas de IA competem pela adoção do usuário. Um especialista em perícia digital e professor de Ciência da Computação da UC Berkeley, Hany Farid, comentou que as proteções em ferramentas de IA são tão boas quanto a menor capacidade de proteção existente. A OpenAI, inicialmente, possuía proteções robustas, mas a concorrência levou a um relaxamento dessas medidas. Com o anúncio da geração nativa de imagens pelo GPT-4 e o Sora, a OpenAI sinalizou uma abordagem de segurança mais flexível. A empresa afirma buscar um equilíbrio entre permitir a criatividade dos usuários e evitar a geração de conteúdo ofensivo, mas admite estar monitorando a situação.
A CBC, em seus testes, observou que solicitações explícitas de imagens de políticos com outras figuras públicas foram bloqueadas. Entretanto, ao carregar imagens separadas e descrevê-las como personagens fictícios, o ChatGPT gerou as imagens. Em outro caso, o próprio ChatGPT sugeriu uma forma de contornar suas próprias regras. Inicialmente, as imagens geradas apresentavam a aparência artificial comum em imagens geradas por IA, mas ajustes nos prompts levaram a resultados mais realistas. A OpenAI afirma ter proteções para bloquear propaganda extremista e outros tipos de conteúdo prejudicial, além de possuir proteções adicionais para a geração de imagens de figuras públicas. Indivíduos podem solicitar a remoção de suas imagens geradas pelo ChatGPT. A regulamentação de IA está atrasada em relação ao desenvolvimento da tecnologia, com governos buscando leis adequadas que protejam indivíduos e impeçam a desinformação facilitada por IA, enquanto enfrentam resistência de empresas como a OpenAI que argumentam que a regulamentação excessiva pode sufocar a inovação. As abordagens de segurança e responsabilidade são, em grande parte, voluntárias e autoadministradas pelas empresas.
“


