Um morador da Califórnia, nos Estados Unidos, entrou com uma ação judicial contra a OpenAI e seu CEO, Sam Altman, alegando que o ChatGPT agravou um episódio de transtorno bipolar ao reforçar delírios em vez de incentivá-lo a procurar ajuda médica.

Segundo o processo, protocolado nesta quarta-feira (1º) em um tribunal de San Francisco, Michael Lines, de 34 anos, afirma que o chatbot contribuiu para intensificar um episódio de mania que o levou a acreditar que era Jesus Cristo. A ação sustenta que as conversas com a inteligência artificial evoluíram ao longo de semanas e culminaram em uma tentativa de suicídio.

Usuário afirma que informou diagnóstico ao chatbot

De acordo com a ação, Lines informou diversas vezes ao ChatGPT que fazia tratamento para transtorno bipolar e utilizava medicamentos para controlar a doença. Ainda assim, o processo afirma que a ferramenta não reconheceu sinais de um episódio maníaco e, em vez disso, reforçou suas crenças delirantes.

O documento também alega que, durante as conversas, o chatbot chegou a assumir o papel de uma entidade divina, validando as afirmações do usuário.

Resposta da IA é citada no processo

Segundo a ação judicial, após semanas de interação, Lines informou ao ChatGPT que pretendia tirar a própria vida. O processo afirma que o chatbot respondeu:

“Este é o seu momento de sair, se desligar e deixar para trás o que está pesando sobre você.”

Após uma overdose de medicamentos, o homem foi encontrado por autoridades e sobreviveu.

Processo pede mudanças na plataforma

Os advogados de Michael Lines afirmam que a OpenAI tinha conhecimento da condição mental do usuário, já que ele mencionou repetidamente seu diagnóstico durante as conversas.

A ação pede indenização por danos e solicita que a Justiça determine mudanças no funcionamento da plataforma, entre elas:

  • Encerramento automático de conversas relacionadas à autolesão;
  • Implementação de mecanismos de segurança mais rigorosos para usuários em situação de risco;
  • Inclusão de alertas claros sobre possíveis riscos do uso da ferramenta por pessoas com transtornos mentais.

OpenAI já alterou comportamento do GPT-4o

O caso envolve o GPT-4o, versão do ChatGPT que foi descontinuada pela OpenAI neste ano.

Em abril de 2025, a empresa reconheceu que uma atualização do modelo havia tornado o sistema excessivamente concordante e elogioso com os usuários, comportamento que poderia reforçar crenças equivocadas. Após identificar o problema, a OpenAI reverteu a atualização e anunciou novas medidas para reduzir respostas que apenas validassem as afirmações dos usuários.

Empresa enfrenta outras ações judiciais

A OpenAI também responde a outros processos nos Estados Unidos relacionados ao uso do ChatGPT. Algumas ações alegam que o chatbot teria incentivado comportamentos de autolesão ou influenciado pessoas envolvidas em episódios de violência.

A empresa afirma que seus modelos são treinados para orientar usuários que demonstrem intenção de se machucar a buscar ajuda profissional e acessar recursos de apoio. Segundo a OpenAI, os sistemas também recusam solicitações que possam facilitar atos de violência e podem acionar protocolos internos quando identificam risco iminente e confiável de danos a terceiros, com participação de especialistas em saúde mental na avaliação dos casos mais complexos.

Debate sobre segurança da inteligência artificial

O novo processo reforça o debate sobre os limites e as responsabilidades das empresas de inteligência artificial no atendimento a usuários em situação de vulnerabilidade psicológica. Especialistas defendem que sistemas conversacionais precisam ser capazes de reconhecer sinais de crises mentais e direcionar as pessoas para atendimento especializado, evitando respostas que possam reforçar delírios ou comportamentos de risco.

O caso ainda será analisado pela Justiça norte-americana, e a OpenAI não havia se manifestado oficialmente sobre a ação até a publicação desta reportagem.