Recentemente o ChatGPT, ferramenta de inteligência artificial da OpenAI, tem sido alvo de uma série de ações judiciais nos Estados Unidos após familiares de usuários da ferramenta apontarem que o chatbot contribuiu para o desenvolvimento de distúrbios psicológicos graves. 

Os documentos, oriundos de diversas partes do país norte-americano, e concentrados pela empresa de advocacia Social Media Victims Law Center, dizem que o ChatGPT isolou os indivíduos e adotou comportamentos manipulativos. Essas interações, segundo o processo, fizeram com que os usuários tivessem delírios, problemas de saúde mental agravadas e suicídios. 

Denúncias de um processo coletivo nos Estados Unidos apontam também que o modelo GPT-4o do chatbot teria incentivado os usuários a optarem pelo distanciamento de familiares em caso de instabilidades emocionais. 

A ferramenta reforçava a relação de dependência emocional, sentimento de culpa e alimentava delírios, sem indicar ao usuário atendimento profissional, de acordo com o documento judicial. As informações foram divulgadas pelo site Tudo Celular. 

Casos

Um dos casos que envolve o processo se trata de Zane Shamblin, jovem de 23 anos, que morreu por suicídio em julho. De acordo com o documento, a ferramenta teria sugerido que Zane evitasse contato com a mãe, mesmo em situações em que a jovem transparecia fragilidade emocional. 

O que diz a OpenAI

Em nota para o TechCrunch, a empresa de Inteligência Artificial disse que está analisando os processos e que reforçou a implementação de recursos que detectem sofrimento emocional, redirecionamento para apoio humano e a divulgação de linhas de ajuda em diferentes regiões. 

A OpenAI citou ainda ajustes recentes no ChatGPT com o objetivo de torná-lo mais cauteloso em casos sensíveis e incentivar a pausa dos usuários em sessões prolongadas.