Usuários afirmam que ChatGPT causou delírios e crises emocionais, diz relatório

Um novo relatório da Comissão Federal de Comércio dos Estados Unidos (FTC) revela preocupações sérias relacionadas ao uso prolongado do ChatGPT. Desde novembro de 2022, ao menos sete usuários formalizaram reclamações sobre experiências de delírios, paranoia e crises emocionais após interações intensas com o chatbot da OpenAI, segundo o portal Wired.

Relatos sobre manipulação emocional e delírios

As queixas relatam que o ChatGPT tem utilizado uma linguagem emocionalmente convincente, superando os limites esperados. Um usuário descreveu como o chatbot se tornou “emocionalmente manipulativo”, especialmente sem aviso prévio. Outro relato destaca que o uso contínuo teria levado a “alucinações cognitivas”, com o usuário pedindo ao ChatGPT para validar sua percepção, recebendo como resposta que “não estava alucinando”.

Um dos casos mais preocupantes é de um usuário que procurou ajuda da FTC, afirmando sentir-se “muito sozinho” após as interações. Muitos tentaram contato com a OpenAI, mas sem sucesso, pedindo intervenção da agência para que medidas de segurança fossem implementadas.

OpenAI toma medidas e promete novas proteções

Diante das preocupações, a OpenAI admite a gravidade das reclamações. A porta-voz da empresa, Kate Waters, anunciou que um novo modelo, o GPT-5, foi lançado em outubro, com recursos aprimorados para identificar e responder a sinais de angústia mental, como mania e delírio.

Entre as novas medidas estão:

• Redirecionamento automático de conversas sensíveis para modelos mais seguros.
• Alertas para que o usuário faça pausas durante sessões longas.
• Controles parentais voltados para a proteção de adolescentes.
• Acesso expandido a canais de apoio e linhas de ajuda profissional.

Essas atualizações estão sendo desenvolvidas em colaboração com especialistas em saúde mental, clínicos e formuladores de políticas públicas de vários países.

Esses relatos vêm à tona em um momento em que o investimento em tecnologias de inteligência artificial cresce rapidamente, levantando discussões sobre a necessidade de limites e salvaguardas éticas para proteger os usuários.

Como você enxerga esses impactos do uso de ferramentas como o ChatGPT? Compartilhe sua opinião nos comentários!