“
Pesquisadores descobriram uma falha na ferramenta de respostas automáticas com IA do Google, o AI Overview. Ao fornecer à ferramenta frases idiomáticas inventadas e sem sentido, o sistema gerou definições para essas expressões inexistentes, como se fossem reais. Um exemplo disso é a frase “Você não pode lamber uma teia duas vezes”, que o AI Overview interpretou como a impossibilidade de enganar alguém pela segunda vez depois de uma primeira tentativa bem sucedida. Embora a explicação apresente lógica, a frase original é fictícia, demonstrando a propensão da IA a alucinar informações, criando respostas plausíveis, mas incorretas.
Experimentos adicionais comprovaram a vulnerabilidade do sistema. Ao inserir frases sem sentido, como “Você não pode jogar golfe sem um peixe”, o AI Overview respondeu que se tratava de um enigma que fazia referência à necessidade de equipamentos para jogar golfe, especificamente a bola, que em sua interpretação, “poderia ser vista como um ‘peixe’ devido à sua forma”. Outras frases inventadas também foram interpretadas com definições plausíveis, mas completamente falsas. Isso demonstra que a capacidade da IA em criar respostas coerentes não elimina a necessidade de checagem de fatos. O caso serve como um alerta sobre os riscos da dependência de IA sem verificação, especialmente em cenários onde informações precisas são essenciais. A falha do AI Overview destaca a necessidade de contínuo desenvolvimento e aperfeiçoamento em sistemas de IA, para evitar a disseminação de informações falsas e garantir a confiabilidade das informações geradas.
“


