Inteligência Artificial Alucina em Tribunais: Nova Base de Dados Revela Casos Alarmantes

Uma tendência preocupante emerge no cenário jurídico: a utilização de inteligência artificial (IA) para auxiliar na construção de casos tem levado a resultados inesperados e, por vezes, completamente equivocados. Uma nova base de dados, criada pelo advogado e cientista de dados francês Damien Charlotin, rastreia um número crescente de casos judiciais onde a IA apresentou “alucinações” – informações falsas ou inventadas.

O termo “alucinação”, nesse contexto, refere-se à tendência de modelos de linguagem, como o ChatGPT e o Claude, de gerar citações de casos inexistentes ou distorcer informações factuais. A base de dados de Charlotin já catalogou 120 casos desde junho de 2023, com um aumento significativo nos últimos meses. O problema se agrava com a facilidade de acesso à IA generativa, que permite automatizar tarefas de pesquisa e redação jurídica, mas que, simultaneamente, introduz o risco de erros graves e difíceis de detectar.

As consequências para os profissionais do direito que dependem dessas ferramentas podem ser severas, incluindo sanções financeiras, advertências formais e até mesmo a rejeição de casos. Embora as penalidades até o momento tenham sido consideradas “brandas”, o incidente expõe a necessidade urgente de maior vigilância e validação das informações geradas por IA no contexto legal. A responsabilidade de verificar a autenticidade das citações continua sendo dos advogados e juízes, mas a complexidade aumenta consideravelmente com a introdução das “alucinações” da IA, que podem induzir a erros graves e comprometer a integridade do sistema judicial.

Origem: Link

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Rolar para cima