“
OpenAI apoia projeto de lei da Califórnia sobre marca d’água em IA
A OpenAI expressou seu apoio a um projeto de lei da Califórnia que exige que o conteúdo gerado por IA seja marcado como tal.
De acordo com a Reuters, a OpenAI enviou uma carta de apoio à Assembleia Estadual da Califórnia, Buffy Wicks, que é a autora do projeto de lei, intitulado California Provenance, Authenticity and Watermarking Standards Act (AB 3211). A legislação aprovada pela votação da Assembleia Estadual exigiria que as empresas de IA colocassem uma marca d’água invisível em todo o conteúdo feito ou "significativamente modificado" por seus modelos de IA. Em seguida, o projeto de lei será votado no Senado estadual e, se aprovado, será revisado pelo governador da Califórnia, Gavin Newsom.
O projeto de lei também exigiria que as empresas de IA fornecessem "decodificadores de marca d’água" para que os usuários possam identificar facilmente se o conteúdo foi gerado por IA ou não.
Os modelos de geração de imagens no mercado variam em seus níveis de realismo fotográfico, salvaguardas de proteção e proteções de direitos autorais. O DALL-E 3 é o modelo mais recente de texto para imagem da OpenAI. A partir de fevereiro, as imagens geradas pelo modelo no ChatGPT contêm metadados C2PA, que fornecem a procedência da imagem. Da mesma forma, o Google tem sua própria ferramenta SynthID para marcar imagens criadas por seu modelo, Gemini. O Grok-2, lançado pela empresa xAI de Elon Musk, parece ter o menor número de restrições, pois pode gerar imagens de figuras públicas e obras protegidas por direitos autorais. O Midjourney, um dos modelos de imagem mais avançados, está atualmente envolvido em uma batalha jurídica sobre violação de direitos autorais.
Na carta vista pela Reuters, a OpenAI destacou a importância da transparência da procedência de imagens e outros conteúdos gerados por IA. "Novas tecnologias e padrões podem ajudar as pessoas a entender a origem do conteúdo que encontram online e evitar confusões entre conteúdo gerado por humanos e conteúdo gerado por IA fotorrealista", disse Jason Kwon, diretor de estratégia da OpenAI, na carta.
O problema das deepfakes geradas por IA e da desinformação é particularmente significativo com a próxima eleição presidencial dos EUA. Já circulam nas redes sociais imagens geradas por IA de Kamala Harris falando em um comício comunista e Taylor Swift apoiando Donald Trump.
“