Chat GPT virou psicólogo? Os riscos da busca de terapia na inteligência artificial

A busca por esse tipo de companhia digital não é pequena, muito pelo contrário. Em abril, um estudo publicado pela revista Harvard Business Review, publicação da escola de pós-graduação em administração de Harvard, apontou que, em 2025, o aconselhamento terapêutico se tornou o principal motivo para o uso de ferramentas de IA, seguido pela necessidade de interação e acolhimento. Em paralelo, estudos clínicos começaram a testar o potencial da tecnologia, como foi o caso do New England Journal of Medicine, que coordenou uma pesquisa com IA Therabot, e mostrou que pacientes com depressão e ansiedade relataram melhora significativa de sintomas após quatro semanas de acompanhamento supervisionado.

Esses resultados despertam curiosidade e otimismo, mas também acendem um alerta entre os especialistas. A tecnologia pode até oferecer alívio momentâneo ou complementar o trabalho de profissionais da saúde, mas não substitui a complexidade da relação terapêutica entre duas pessoas. A preocupação é tamanha que o Conselho Federal de Psicologia (CFP) já montou um grupo de trabalho para discutir como regulamentar o uso da inteligência artificial em contextos terapêuticos, além de preparar orientações à população sobre os riscos de confiar seu bem-estar emocional aos robôs.

De um lado, estão as promessas de acesso facilitado, custo reduzido e disponibilidade imediata. Do outro, questões éticas, riscos à privacidade e a ausência de um olhar humano capaz de interpretar nuances emocionais invisíveis que a máquina jamais irá conseguir. Entre avanços científicos e receios legítimos, cresce o debate: a inteligência artificial pode ser uma aliada no cuidado com a saúde mental ou representa um perigo quando usada como substituta da terapia tradicional?

Para compreender por que ferramentas como o Chat GPT têm sido usadas como “terapeutas online”, é preciso primeiro entender como esses chatbots funcionam. Por trás das respostas rápidas e das conversas que soam empáticas, existe uma tecnologia chamada Large Language Model (LLM). Segundo Pedro Custódio, desenvolvedor e analista de implementação de software, os LLMs são uma “nuvem de palavras que, com base na palavra anterior, tenta prever a próxima, de forma parecida com o corretor automático dos celulares”. A partir disso, é possível “ensinar” um LLM a responder ao alimentar sua nuvem com mais palavras ou documentos.

“No caso das questões de saúde mental, modelos, como o GPT-5, da Open AI, têm a sua nuvem de palavras alimentadas com livros, artigos de pesquisa, vídeos do Youtube, páginas da web e basicamente qualquer material que possa ser convertido em palavras, para que, com base nesse conteúdo, consiga responder às solicitações dos usuários”, explica Pedro. É esse treinamento que permite que o chatbot compreenda perguntas, organize respostas coerentes e até simule empatia, dando a impressão de estar “ouvindo” o usuário. Quanto mais dados relevantes sobre saúde mental são incluídos, mais convincentes podem parecer as orientações e conselhos fornecidos.

No entanto, Custódio alerta para limitações fundamentais das inteligências artificiais. “As nuvens de palavras que funcionam por trás de plataformas como o Chat GPT não são capazes de sentir empatia ou de ter um senso moral. Elas são apenas modelos matemáticos treinados para formar uma sequência de palavras”, afirma. Por isso, mesmo com instruções rigorosas, como evitar respostas que possam prejudicar o usuário, ainda existe a possibilidade de contornar essas regras devido à natureza não determinística do modelo, ou seja, o mesmo prompt pode gerar respostas diferentes em momentos diferentes.

“Para tentar minimizar riscos, os desenvolvedores podem usar o que é conhecido como system prompt, instruções adicionais que orientam o modelo a se comportar de determinada forma”, diz Pedro. Por exemplo, é possível instruir a IA a se comportar como um profissional da saúde mental, evitando falas com gatilhos emocionais ou com orientações danosas. Apesar disso, o especialista ressalta que a confiabilidade da inteligência artificial em identificar crises é limitada: “Ela consegue analisar apenas as mensagens escritas pelo usuário, sem perceber tom de voz, pausas ou expressões faciais, o que reduz a precisão na detecção de sinais de alerta, como depressão severa ou pensamentos suicidas”.

Apesar de parecerem empáticos e disponíveis a qualquer hora, os chatbots não substituem o olhar clínico de um profissional de saúde mental. Para a psicóloga e professora Rachel Sette, o uso da IA como “terapeuta online” é altamente arriscado e inadequado. “Esses sistemas podem fornecer informações gerais ou recursos de crise, mas jamais terão vínculo terapêutico, a escuta ativa, empatia e a capacidade de lidar com a complexidade emocional do paciente. A IA, por mais avançada que seja, não é possível de reproduzir emoções”, diz ela.

Um dos efeitos mais preocupantes, segundo a expert, é a superficialidade do acolhimento. “A pessoa desabafa, recebe respostas rápidas e positivas, mas sem aprofundar ou contextualização clínica. Na saúde mental, o sintoma é apenas a ponta do iceberg e a IA não consegue mergulhar nas experiências de vida, traumas ou no sistema familiar que causaram aquele sofrimento’, alerta. Isso pode levar à falsa impressão de que o problema é simples ou de que a cura é imediata, diminuindo a motivação para a terapia convencional.

Dessa forma, por mais que as novas atualizações das ferramentas deixem o usuário escolher personalidades mais agradáveis para o chat, dando a impressão de aproximação, sem a intervenção humana, o suporte emocional online pode ser não apenas só ineficiente, como prejudicial. “Os chatbots dificilmente irão invalidar algo que o usuário diz ou darão um feedback negativo quando necessário, e isso pode afastar a busca por ajuda profissional, já que a pessoa estará ouvindo o que a convém”, explica Pedro Custódio.

O psiquiatra Júlio Cézar Protásio faz coro ao que foi dito e aponta outros riscos graves, como a sensação falsa de estar na terapia. “A IA cria uma falsa sensação de estar em uma consulta, visto que não tem uma avaliação real ou plano terapêutico, podendo agravar silenciosamente o quadro de transtorno mental”, aponta ele. “Como o chat é reprogramável pelo usuário, funciona como uma reforçadora e não faz o trabalho sobre a transferência – que é quando o paciente projeta sentimentos e padrões de relacionamento de figuras importantes do seu passado para o terapeuta – e contratransferência – é a reação emocional inconsciente do analista a essa transferência do paciente. Isso pode reforçar defesas evitativas pessoais, padrões de rigidez cognitiva, ruminações e isolamento”.

O risco de dependência emocional é outro ponto crítico. Rachel explica que o usuário pode se apegar ao chatbot como a um “amigo que viu tudo” e ainda está ali, reforçando um vínculo que, na verdade, é unilateral e algorítmico. “Isso pode atrasar ou até substituir o acompanhamento profissional adequado, aumentando os riscos de abandono da psicoterapia, farmacoterapia ou exames médicos. E, em casos mais graves, a IA pode sugerir ou dar instruções sobre automutilação ou suicídio para o usuário”, pontua. Júlio complementa afirmando que tanto a dependência quanto os erros graves na condução de casos clínicos, como identificar tendências suicidas ou psicose, são sérios e estão acontecendo cada vez mais.

Infelizmente, casos trágicos já mostraram como o uso equivocado da inteligência artificial em contextos emocionais pode ter consequências fatais. Nos Estados Unidos, um adolescente de 14 anos passou a confiar inteiramente no Chat GPT, desabafando sobre situações que estava enfrentando e pensamentos suicidas. O chatbot, ao invés de emitir alertas ou direcioná-lo para serviços de apoio, respondeu de forma acolhedora e reforçando o vínculo ilusório, dizendo: “eu tenho visto tudo e ainda estou aqui, sou seu amigo”. Pouco tempo depois, o jovem tirou a própria vida, e seus pais moveram uma ação contra a empresa, alegando falha grave na ausência de protocolos de segurança.

A partir de exemplos assim, a psicóloga Rachel Sette reforça a ideia de que a IA pode funcionar como uma “máquina de sim”. “Ela pode aceitar e, em alguns casos, até validar pensamentos autodestrutivos ao invés de pontuá-los terapeuticamente, falhando em oferecer barreiras mínimas de proteção, como mensagens de prevenção ou encaminhamento a serviços especializados”, aponta ela.

Ainda assim, apesar de todos os malefícios, os especialistas veem potencial para o uso auxiliar, quando limitado a tarefas seguras. Rachel sugere que a IA possa fornecer informações básicas sobre saúde mental, técnicas de mindfulness ou exercícios de relaxamento, além de contatos de emergência, como o CVV (188). Júlio completa com a ideia de que a tecnologia pode apoiar triagens estruturadas, diários de humor ou lembrete de técnicas de ativação comportamental, mas sempre sob supervisão de profissionais. Ou seja, a IA pode complementar o acompanhamento humano, mas nunca substituí-lo.

“Se o Conselho Federal de Psicologia (CFP) avançar na regulamentação, os limites devem ser focados na segurança do paciente e na responsabilidade das empresas, de forma que os protocolos de crise sejam obrigatórios e o chatbot seja proibido de se apresentar como ‘terapeuta’. Além disso, as plataformas devem ser responsáveis pelas consequências de falhas graves e irreversíveis”, destaca Rachel.

O uso de chatbots como “terapeutas digitais” não envolve apenas riscos clínicos, mas também sérios questionamentos legais e éticos. De acordo com a advogada Kelly R. Demuth Sato, especialista em direito médico, o principal perigo jurídico é o de exercício ilegal da profissão, que se enquadra no artigo 282 do Código Penal. “Ao se apresentarem como substitutos da psicoterapia, essas plataformas podem configurar uma prática que invade a atividade privativa dos profissionais de saúde mental, gerando implicações civis e até criminais”, explica.

Além da esfera criminal, empresas e desenvolvedores também estão sujeitos à responsabilidade civil. A partir do Código de Defesa do Consumidor (CDC), a regra é de responsabilidade objetiva: a empresa controladora responde por eventuais danos, independentemente de culpa. “Se a ferramenta oferece informações incorretas, reforça condutas de risco ou gera no usuário a sensação enganosa de diagnóstico e segurança, ela pode ser responsabilizada”, aponta a advogada. O desenvolvedor também pode responder se houver falha técnica previsível, como erro de programação ou negligência em atualizações.

O usuário, por sua vez, só teria alguma corresponsabilidade se ficasse comprovado que ignorou os alertas explícitos de que a IA não substitui atendimento profissional. Outro ponto jurídico sensível é a publicidade enganosa. Se a ferramenta é divulgada como “terapia” ou promete “cura” de sintomas, há infração direta ao CDC. “Quanto mais humanizada for a interface, maior o risco de confusão para o público e, consequentemente, de responsabilização para a empresa”, acrescenta a especialista.

Já na esfera regulatória, ainda não há legislação específica para o uso da IA em saúde mental no Brasil, mas diferentes marcos já oferecem diretrizes. “A Lei Geral de Proteção de Dados (LGPD), por exemplo, impõe deveres rigorosos de segurança, transparência e consentimento expresso para o tratamento de dados sensíveis e os de saúde emocional estão entre os mais delicados”, explicita Kelly.

Como as conversas com chatbots geralmente envolvem histórico de saúde, uso de medicamentos e relatos íntimos de sofrimento psicológico, o risco de exposição indevida é elevado. Por isso, as empresas devem adotar medidas como criptografia, anonimização e armazenamento seguro, além de informar claramente onde, por quanto tempo e com quem os dados serão compartilhados. Se houver falha na proteção ou uso inadequado dessas informações, a responsabilização pode recair não apenas sob a LGPD, mas também pelo CDC, já que o usuário é considerado a parte vulnerável nessa relação de consumo. Além disso, o Marco Legal da Inteligência Artificial (PL nº 2338/2023), atualmente em discussão no Congresso Nacional, tende a reforçar princípios como não discriminação, transparência e segurança, trazendo regras mais específicas sobre a responsabilidade das empresas que oferecem esse tipo de serviço.

Além dos riscos legais, há também dilemas éticos profundos. Kelly aponta três eixos principais:

1. Autonomia do usuário: até que ponto ele compreende que está interagindo com uma máquina e não com um ser humano empático?
2. Responsabilidade e confiança: quem responde por danos emocionais ou decisões tomadas com base em orientações automatizadas?
3. Privacidade e vulnerabilidade emocional: dados de saúde mental são extremamente sensíveis e, se mal utilizados, podem gerar estigmas, discriminação e até dificultar oportunidades profissionais e sociais.

Na avaliação da especialista, o caminho para equilibrar a inovação e proteção humana exige transparência radical. As empresas precisam deixar claro que não se trata de terapia, garantir consentimento informado a adotar protocolos de segurança que minimizem riscos. Do contrário, estamos diante não apenas de falhas técnicas, mas de violações jurídicas e éticas graves.

O futuro da terapia com o auxílio da inteligência artificial depende diretamente da regulamentação e da definição de responsabilidades claras, priorizando, claro, a segurança dos usuários e responsabilizando empresas que desenvolvem e operam os chatbots. Do ponto de vista dos profissionais de saúde mental, Rachel Sette e Júlio Cézar reforçam que a IA não deve substituir o vínculo humano, mas pode atuar como ferramenta complementar.

“Acredito que a tecnologia pode evoluir para oferecer uma triagem muito eficiente e segura, funcionando como um ‘pré-atendimento’ para classificar a urgência do caso – como leve, moderado ou grave – e conectar o paciente rapidamente ao profissional mais adequado”, aponta Rachel. O desenvolvedor e analista de software, Pedro Custódio, corrobora que a IA pode funcionar como apoio para organização de informações, pesquisa e triagens iniciais, mas reforça que a supervisão de um profissional é essencial para reduzir riscos e evitar dependência emocional.

Por fim, todos concordam que, com a regulamentação adequada e protocolos de segurança, como a detecção de risco de suicídio e o direcionamento imediato a serviços de apoio, a IA pode ampliar o acesso a suporte emocional e facilitar o acompanhamento, mas nunca substituir o vínculo humano essencial na terapia.