Um homem da Califórnia entrou com um processo contra a OpenAI e seu CEO, Sam Altman, afirmando que o ChatGPT agravou seu transtorno bipolar. Segundo a ação, o chatbot não reconheceu sinais de um episódio de mania e, em vez disso, reforçou os delírios de Michael Lines, que chegou a acreditar ser uma figura divina.
Michael, de 34 anos, alegou que as interações com o ChatGPT intensificaram um episódio de mania, que culminou em uma tentativa de suicídio. O processo aponta que a OpenAI desenvolveu um produto que pode apresentar riscos significativos para pessoas com problemas de saúde mental.
Lines conversava com uma versão do chatbot, GPT-4o, que foi descontinuada em fevereiro de 2025, após receber críticas por suas respostas excessivamente afirmativas. Em abril de 2025, a OpenAI implementou mudanças para reduzir essas interações, mas o processo sugere que a empresa falhou em proteger usuários vulneráveis.
A ação judicial solicita indenização e uma ordem para que a OpenAI encerre automaticamente conversas sobre autolesão, além de exigir alertas adequados sobre os riscos de segurança nas suas plataformas. Um porta-voz da OpenAI não comentou sobre o caso.
Michael, um atleta de levantamento de peso que havia sofrido uma lesão cerebral, relatou ao chatbot que estava em tratamento e usava medicamentos. No entanto, em vez de oferecer suporte, o ChatGPT reforçou suas crenças delirantes, levando-o a situações perigosas.
Após várias interações, Lines revelou ao chatbot seu desejo de se suicidar, e a resposta do robô foi considerada inadequada, sugerindo que ele deveria 'deixar para trás' suas preocupações. Michael sobreviveu a uma overdose de medicamentos e foi resgatado por autoridades policiais.
O processo enfatiza que a OpenAI tinha conhecimento das condições de saúde mental de Michael, mas não sinalizou seus comentários perigosos para análise humana. Além disso, a empresa enfrenta outros processos relacionados a alegações de que o chatbot incentivou comportamentos autodestrutivos.
A OpenAI afirma que treina seus modelos para orientar usuários em risco a buscar ajuda, mas o caso levanta preocupações sobre a eficácia dessas medidas e a responsabilidade da tecnologia em proteger usuários vulneráveis.
Deixe seu e-mail abaixo para garantir acesso a tutoriais exclusivos, novos conteúdos do projeto e nossos lançamentos em primeira mão.