Um novo estudo do MIT revelou que chatbots de inteligência artificial, impulsionados por modelos de linguagem (LLMs), podem inadvertidamente disseminar informações imprecisas sobre a liberdade de imprensa em diversos países. A pesquisa analisou o comportamento de seis LLMs populares, incluindo ChatGPT e Gemini, ao responderem a perguntas sobre a situação da liberdade de imprensa em diferentes nações. Os resultados indicaram uma tendência preocupante: os chatbots tendem a subestimar a liberdade de imprensa, sugerindo que muitos países são menos livres do que realmente são, de acordo com rankings oficiais.
Essa distorção, segundo os pesquisadores, pode ser atribuída aos dados de treinamento utilizados pelos LLMs. Em países com maior liberdade de imprensa, a mídia e os cidadãos têm mais liberdade para criticar políticas governamentais e documentar violações, gerando uma grande quantidade de cobertura negativa que acaba sendo super-representada nos dados de treinamento dos chatbots. Por outro lado, em países com regimes mais autoritários, a mídia é controlada e a cobertura crítica é suprimida, resultando em uma representação distorcida da realidade.
As implicações desse viés são significativas, especialmente considerando a crescente influência dos chatbots no ambiente informacional. Isabella Loaiza, pesquisadora do MIT Sloan e uma das autoras do estudo, enfatiza que os LLMs podem influenciar a percepção pública sobre direitos civis e liberdades. Além disso, o estudo identificou um viés interno, no qual os chatbots tendem a avaliar mais favoravelmente seus países de origem, o que pode levar à disseminação de narrativas tendenciosas. Com a crescente integração da IA em avaliações oficiais, como as realizadas por órgãos da ONU, é crucial garantir que esses sistemas forneçam representações precisas das instituições democráticas e dos direitos humanos.
Origem: Link
