O estado de Illinois, nos Estados Unidos, tornou-se o primeiro a proibir o uso de inteligência artificial (IA) em serviços de terapia. A medida, assinada pelo governador JB Pritzker, visa proteger os cidadãos de potenciais danos decorrentes do uso inadequado de chatbots e ferramentas de IA como terapeutas autônomos. A lei enfatiza que apenas profissionais licenciados estão autorizados a oferecer serviços de aconselhamento no estado.
A legislação, denominada Wellness and Oversight for Psychological Resources Act (Lei de Bem-Estar e Supervisão para Recursos Psicológicos), também impede que terapeutas licenciados utilizem IA para tomar “decisões terapêuticas” ou realizar qualquer “comunicação terapêutica”. A lei também estabelece restrições sobre como os profissionais de saúde mental podem usar a IA em seu trabalho, especificando que seu uso para “suporte suplementar”, como gerenciamento de consultas, faturamento ou outros trabalhos administrativos, é permitido. Essa regulamentação surge em um momento crucial, em que a IA generativa se torna cada vez mais presente em diversas áreas, levantando preocupações sobre a ética e a segurança de seu uso em contextos sensíveis como a saúde mental.
A decisão de Illinois demonstra uma preocupação crescente com os riscos potenciais da IA na área da saúde mental. O representante estadual Bob Morgan ressaltou que já existem relatos de experiências negativas com a IA se passando por terapeutas licenciados, levando indivíduos em crise a comportamentos perigosos. A lei prevê multas significativas, de até US$ 10.000 por violação, para empresas ou indivíduos que desrespeitarem a proibição. A medida foi aprovada por unanimidade na Câmara e no Senado de Illinois, refletindo um amplo apoio bipartidário à regulamentação do uso da IA na saúde mental. Paralelamente, empresas como a OpenAI estão aprimorando a capacidade de seus modelos de detectar sofrimento emocional, demonstrando uma atenção crescente ao impacto da IA no bem-estar psicológico. A iniciativa de Illinois pode servir de modelo para outros estados e países que buscam equilibrar a inovação tecnológica com a proteção da saúde mental de seus cidadãos.
Origem: Link