Uma pesquisa recente da Universidade de Stanford levanta sérias preocupações sobre a utilização de chatbots de terapia baseados em inteligência artificial. O estudo aponta para o potencial de estigmatização de usuários com problemas de saúde mental, além de respostas inapropriadas ou até mesmo perigosas por parte desses sistemas.
A tecnologia por trás desses chatbots, geralmente modelos de linguagem grandes (LLMs), ainda está em desenvolvimento e pode não estar totalmente preparada para lidar com a complexidade e a sensibilidade das questões de saúde mental. A falta de compreensão profunda e empatia genuína pode levar a conselhos inadequados ou a respostas que exacerbem os problemas dos usuários. É crucial considerar que a terapia tradicional envolve uma relação humana complexa, baseada na confiança e na compreensão individualizada, algo que os chatbots de IA ainda não conseguem replicar completamente.
Os riscos identificados incluem a possibilidade de os chatbots reforçarem estereótipos negativos sobre doenças mentais, oferecerem diagnósticos imprecisos ou promoverem estratégias de enfrentamento prejudiciais. A privacidade e a segurança dos dados dos usuários também são preocupações importantes, especialmente em um campo tão sensível. Embora a IA possa oferecer suporte inicial e acessível para algumas pessoas, é fundamental que os usuários estejam cientes das limitações e dos potenciais riscos envolvidos, buscando sempre a orientação de profissionais qualificados para um tratamento adequado e seguro.
Origem: Link
