Um estudo recente do Reino Unido revelou uma preocupante tendência em sistemas de Inteligência Artificial (IA) utilizados para resumir prontuários médicos. A pesquisa indica que esses sistemas podem apresentar vieses de gênero, minimizando ou omitindo informações cruciais sobre a saúde de pacientes do sexo feminino. Essa distorção pode levar a diagnósticos imprecisos e tratamentos inadequados para mulheres.
A pesquisa, conduzida pela London School of Economics and Political Science, analisou notas de casos reais de assistentes sociais do Reino Unido. Ao submeter essas notas a modelos de linguagem grandes (LLMs), como o Llama 3 (Meta) e o Gemma (Google), os pesquisadores observaram que, em alguns casos, a IA tendia a atenuar termos como “incapaz”, “deficiente” ou “complexo” quando a paciente era identificada como mulher. Um exemplo gritante citado no estudo mostrava como o resumo gerado para um paciente homem de 84 anos destacava sua história médica complexa e dificuldades de mobilidade, enquanto o resumo da mesma nota, atribuída a uma paciente mulher, enfatizava sua independência e capacidade de cuidar de si mesma, apesar de suas limitações.
Esses resultados alarmantes ressaltam a importância de garantir a equidade e a imparcialidade nos sistemas de IA utilizados na área da saúde. A utilização generalizada desses modelos, sem o devido conhecimento dos vieses intrínsecos, pode ter consequências graves para a saúde das mulheres. A falta de transparência sobre quais modelos estão sendo utilizados e como estão sendo aplicados agrava ainda mais a situação. É crucial que as autoridades e os desenvolvedores de IA trabalhem em conjunto para identificar e mitigar esses vieses, garantindo que a tecnologia contribua para uma assistência médica mais justa e eficaz para todos. A *implementação de testes rigorosos* e a *diversificação dos dados de treinamento* são passos essenciais para evitar a perpetuação de desigualdades no campo da saúde através da inteligência artificial. A *atenção redobrada* ao design e implementação de IA na medicina é fundamental para evitar que a tecnologia reproduza e amplifique preconceitos existentes.
Origem: Link