A Food and Drug Administration (FDA) dos EUA implementou uma nova ferramenta de inteligência artificial chamada Elsa, com o objetivo de otimizar o processo de aprovação de medicamentos e dispositivos médicos. A expectativa era que o chatbot auxiliasse os funcionários em tarefas diárias, como organização de notas de reunião e e-mails, além de agilizar a análise de dados relevantes para a aprovação de novos produtos. No entanto, a implementação de Elsa tem sido marcada por controvérsias e preocupações.
De acordo com relatos de funcionários da FDA, que preferiram permanecer anônimos, Elsa apresenta falhas significativas, incluindo a fabricação de estudos médicos e a interpretação incorreta de dados críticos. Essas falhas, descritas como ‘alucinações’, levaram ao afastamento da ferramenta por parte dos funcionários, que alegam que Elsa não pode ser utilizada em análises e não possui acesso a documentos internos essenciais, contrariando as promessas iniciais. A situação gerou um debate interno sobre a confiabilidade e a eficácia da IA no processo regulatório de medicamentos.
Apesar das alegações de que Elsa já estava integrada ao protocolo de análise clínica, o comissário da FDA, Marty Makary, esclareceu que a ferramenta está sendo utilizada apenas para ‘tarefas organizacionais’ e não é obrigatória para os funcionários. O chefe de IA da FDA admitiu que a ferramenta apresenta riscos de alucinações, semelhantes aos de outros modelos de linguagem grandes (LLMs), e que testes e treinamentos adicionais são necessários. O Departamento de Saúde e Serviços Humanos (HHS) emitiu um comunicado defendendo a ferramenta, alegando que as informações fornecidas à CNN foram ‘descontextualizadas’ e que a reportagem se baseou em ‘ex-funcionários descontentes’ que nunca utilizaram a versão atual de Elsa. A polêmica em torno de Elsa levanta questões importantes sobre a implementação responsável e eficaz de IA em setores críticos como a saúde, destacando a necessidade de testes rigorosos, treinamento adequado e supervisão humana para garantir a segurança e a precisão dos resultados.
Origem: Link
