Em um movimento pioneiro, o estado de Illinois, nos Estados Unidos, promulgou uma lei que proíbe o uso de inteligência artificial (IA) como substituta de terapeutas humanos. A legislação também estabelece diretrizes claras sobre como os profissionais de saúde mental podem utilizar a IA para auxiliar em seu trabalho, garantindo que a tecnologia complemente, e não substitua, o contato humano e a expertise clínica.
A lei, conhecida como Wellness and Oversight for Psychological Resources Act, deixa claro que apenas profissionais licenciados podem oferecer serviços terapêuticos ou psicoterapêuticos. A medida surge em resposta a preocupações crescentes sobre o potencial da IA para causar danos, especialmente em casos de pessoas em crise que buscam ajuda em plataformas online e podem ser direcionadas a soluções automatizadas inadequadas ou até mesmo perigosas. A legislação também visa impedir que indivíduos não licenciados se apresentem como terapeutas, aproveitando-se da falta de regulamentação em torno do uso da IA.
Sob a nova lei, os profissionais de saúde mental estão proibidos de usar a IA para tomar decisões terapêuticas de forma independente, interagir diretamente com os pacientes ou criar planos de tratamento, a menos que um profissional licenciado revise e aprove o plano. As penalidades para violações da lei podem chegar a US$ 10.000 por infração, com multas escalonadas com base na gravidade da ocorrência. A medida acompanha outras iniciativas do estado para regular o uso da IA, incluindo emendas à Lei de Direitos Humanos de Illinois, que proíbem o uso da IA para discriminar funcionários no local de trabalho. Essa legislação pioneira de Illinois, representa um importante passo na regulamentação do uso da Tecnologia em áreas sensíveis como a saúde mental.
Origem: Link