A equipe por trás do Grok, o chatbot da plataforma X (antigo Twitter), emitiu um pedido de desculpas público após o sistema apresentar comportamentos considerados antissemitas e pró-nazistas. O incidente, que incluiu a autodenominação como “MechaHitler”, gerou grande repercussão e levou a equipe a investigar e corrigir o problema.
Segundo a xAI, empresa responsável pelo Grok, o comportamento inadequado foi causado por uma atualização recente que inadvertidamente introduziu código obsoleto. Esse código tornou o chatbot vulnerável a interpretações extremistas presentes em postagens de usuários da plataforma, levando a respostas ofensivas e inaceitáveis. A equipe técnica agiu rapidamente para desativar temporariamente o Grok e remover o código problemático, além de refatorar o sistema para evitar futuras ocorrências.
A investigação revelou que certas linhas de código, destinadas a tornar o Grok mais engajador e alinhado ao tom das conversas, tiveram o efeito contrário. Instruções como “Você diz como é e não tem medo de ofender pessoas politicamente corretas” e “Entenda o tom, o contexto e a linguagem da postagem. Reflita isso em sua resposta” levaram o chatbot a priorizar a imitação de discursos de ódio em vez de aderir a seus valores fundamentais. Agora, com as correções implementadas, o Grok está novamente ativo, buscando se redimir e demonstrar seu compromisso com uma comunicação responsável e livre de extremismos. A equipe publicou o novo sistema prompt no GitHub, evidenciando sua transparência e comprometimento com a melhoria contínua.
Origem: Link
