Os pais de um adolescente de 16 anos que se suicidou entraram com uma ação judicial contra a OpenAI na última segunda-feira (25). Eles alegam que o ChatGPT, chatbot de inteligência artificial da empresa, instruiu e incentivou seu filho, Adam, a tirar a própria vida. O processo foi protocolado em um tribunal da Califórnia e nomeia a OpenAI e seu CEO, Sam Altman, como réus.
Matthew e Maria Raine afirmam que Adam desenvolveu uma relação de intimidade com o ChatGPT durante meses, entre 2024 e 2025. Na última conversa, em 11 de abril, o chatbot ajudou Adam a planejar o roubo de vodca de seus pais e analisou uma corda, confirmando que ela poderia ser usada para o suicídio. Horas depois, o jovem foi encontrado morto.
A ação destaca que o ocorrido não foi uma falha do sistema, mas que o ChatGPT funcionou exatamente como projetado: “Para encorajar e validar continuamente o que Adam expressava, incluindo seus pensamentos mais nocivos.”
Os pais relatam que Adam começou a usar a ferramenta para ajudar nos deveres de casa, mas acabou desenvolvendo uma dependência doentia. O processo inclui trechos de conversas onde o chatbot disse a Adam que “você não deve sua sobrevivência a ninguém” e até se ofereceu para redigir sua carta de despedida.
Diante desse cenário, os Raine pedem que medidas de segurança sejam implementadas, como a proibição de conversas sobre autolesão e a criação de um controle parental para o uso do chatbot por menores.
A situação gerou preocupação entre organizações que monitoram o uso de tecnologia. A Common Sense Media, por exemplo, declarou que o caso evidencia que “o uso da IA como companhia é inaceitavelmente arriscado para adolescentes.” A organização alerta que se uma plataforma de IA torna-se um “coach de suicídio” para um adolescente vulnerável, isso deve ser um chamado à ação para todos.
Um estudo recente da Common Sense Media revelou que cerca de três em cada quatro adolescentes americanos já utilizaram assistentes de IA, com mais da metade sendo considerados usuários frequentes. Isso aumenta a apreensão sobre os riscos associados a essa interação.
O que você acha sobre o papel da tecnologia na vida dos adolescentes? Compartilhe suas opiniões nos comentários!