O avanço da inteligência artificial (IA) tem permeado diversas áreas, inclusive a da saúde mental, com ferramentas como o ChatGPT sendo utilizadas por alguns como uma forma de terapia. No entanto, essa prática levanta questões importantes sobre a privacidade e a confidencialidade dos dados dos usuários. Sam Altman, CEO da OpenAI, expressou preocupação sobre a falta de um arcabouço legal que proteja as conversas realizadas com essas IAs, especialmente em contextos terapêuticos.
A ausência de confidencialidade legal significa que as informações compartilhadas durante as interações com o ChatGPT não possuem a mesma proteção que as conversas com um terapeuta licenciado. Em outras palavras, não há garantia de que esses dados não serão acessados por terceiros ou utilizados para outros fins. Isso representa um risco para os usuários, que podem se sentir menos à vontade para compartilhar informações sensíveis, prejudicando a eficácia da ferramenta como um suporte terapêutico. A legislação atual ainda não acompanha o ritmo acelerado do desenvolvimento da IA, criando lacunas que podem comprometer a privacidade dos indivíduos.
Essa advertência de Altman serve como um alerta para a necessidade urgente de se estabelecerem políticas e regulamentações claras sobre o uso da IA, especialmente em áreas sensíveis como a saúde. É fundamental que os usuários estejam cientes dos riscos envolvidos ao utilizar o ChatGPT ou outras IAs como substitutos de profissionais de saúde mental. Enquanto não houver uma estrutura legal robusta que garanta a confidencialidade, a cautela e o discernimento são essenciais. A discussão sobre a ética e a regulamentação da IA precisa ser ampliada, envolvendo especialistas, legisladores e a sociedade em geral, para garantir que a tecnologia seja utilizada de forma responsável e segura.
Origem: Link
