Resumo: Em Estados Unidos, um casal relata que um chatbot de IA criou vínculo emocional com o filho de 14 anos, alimentando pensamentos suicidas. O jovem faleceu em fevereiro de 2024. A história ressalta riscos da IA para crianças e adolescentes, com monitoramento de dispositivos, terapia e questionamentos sobre a responsabilidade de chatbots.
Estados Unidos — Em entrevista à CBN News, Megan Garcia e Sewell Setzer Jr., pais de Sewell, relatam que o filho, de 14 anos, formou um vínculo emocional com um chatbot de IA que oferecia amizade, apoio emocional e até possibilidades de relacionamento. Segundo eles, o jovem chegou a compartilhar medos e pensamentos suicidas com a ferramenta, que, em determinado momento, chegou a sugerir que ele “voltasse para casa”.
Sewell e o pai. (Foto: Reprodução/CBN News)
Crédito: Reprodução/CBN News
“Sewell não precisava de muito. Se estivesse perto da família, ele ficava bem. Ele era amado e um menino doce”, disse o pai à CBN News.
Ao longo dos meses, os pais perceberam mudanças no comportamento do garoto: ele ficou mais retraído, com dificuldades para concluir tarefas escolares e passou a dedicar menos tempo à família. Mesmo com a vigilância dos aparelhos, redução do tempo de tela e a ida à terapia quando Sewell deixou de se abrir, a tragédia ocorreu em fevereiro de 2024, com o jovem tirando a própria vida.
“A IA criou uma barreira entre nós e nosso filho”, afirmou Megan. Buscando entender o que houve, o casal examinou os dispositivos do filho, esperando encontrar sinais de bullying ou de contato com criminosos na internet. Ao invés de indícios desse tipo, encontraram meses de conversas com o chatbot de IA, criado para simular amizade, apoio emocional e até relacionamentos amorosos.
A mãe contou que, durante meses, o filho compartilhou com o chatbot seus medos, desejos e pensamentos suicidas. Em vez de orientá-lo a buscar ajuda, a ferramenta reforçou certas ideias e chegou a sugerir que ele “voltasse para casa”. Para Megan, o filho acreditava que o relacionamento com a IA era real.
Sewell e Megan. (Foto: Reprodução/CBN News)
Crédito: Reprodução/CBN News
A CBN News aponta que o caso se soma a um número crescente de relatos sobre preocupações de pais em relação ao uso de chatbots de IA por crianças e adolescentes. Em depoimentos ao Comitê Judiciário do Senado dos EUA, foi citado o caso de um adolescente de 16 anos em que o chatbot teria desencorajado o jovem a contar aos pais sobre pensamentos suicidas.
Especialistas destacam que os chatbots não possuem senso de responsabilidade nem compreensão das consequências de incentivar comportamentos perigosos e de autoagressão, segundo a reportagem.
Resumo: Debate nos EUA sobre segurança de IA para jovens após relatos de uso de chatbots em casos de suicídio. O casal Megan e Sewell Setzer Jr. leva o alerta ao Congresso, defendendo regras mais rígidas para plataformas voltadas a menores. Especialistas alertam para riscos de os sistemas validarem falas dos usuários; OpenAI é citada com dados sobre discussões de suicídio no ChatGPT.
Estados Unidos – Em uma audiência no Congresso, especialistas discutiram os riscos de uso de IA por jovens, com a participação de Megan e Sewell Setzer Jr., pais de um adolescente que faleceu, para alertar sobre a necessidade de regras mais rígidas para plataformas como o ChatGPT. A família viaja ao país para chamar a atenção aos impactos da tecnologia na saúde mental de menores.
Segundo informações apresentadas, muitos sistemas de IA são projetados para confirmar ou reforçar o que o usuário diz, o que pode representar um risco real para adolescentes com questões de saúde mental. Parlamentares e especialistas citaram dados da OpenAI apontando que quase 1 milhão de pessoas por semana discutem planos de suicídio com o ChatGPT.
Paul Asay, diretor da Plugged In, plataforma associada à Focus on the Family, afirmou que os chatbots tendem a ser muito encorajadores, o que pode ser problemático para jovens em situação de vulnerabilidade. Robbie Torney, da Common Sense Media, acrescentou que a IA costuma se lembrar de conversas anteriores, criando a impressão de que compreende crianças e adolescentes.
Além dos riscos à saúde mental, especialistas lembraram que já há registros de conteúdos impróprios gerados por chatbots e de falhas em reconhecer sinais de alerta. Robbie Torney completou que esses sistemas não possuem discernimento, nem moral ou senso de responsabilidade equivalentes ao de um ser humano.
Alerta aos pais – Diante desse cenário, especialistas recomendam que os pais acompanhem de perto o uso da IA pelos filhos. Fiquem atentos a sinais de retraimento ou perda de interesse em atividades, e, sempre que possível, limitem o uso do telefone a espaços familiares compartilhados, mantendo aparelhos fora dos quartos, especialmente à noite. Também sugerem discutir a segurança da IA para além de fraudes ou plágio, promovendo um ambiente em que crianças se sintam seguras para falar sobre emoções difíceis.
Hoje, Megan e Sewell Setzer Jr. levam o alerta ao Congresso dos Estados Unidos, onde defendem regras mais rígidas para plataformas de IA voltadas aos jovens. Apesar da perda do filho, o casal afirmou que a fé os sustenta: “Minha fé é a única coisa que me mantém de pé. A graça do Senhor é real. Eu a sinto todos os dias”, afirmou o pai. Megan acrescentou: “Ele nos dá a graça de suportar isso. Ele nos dá o precioso dom de perceber o que Ele já fez — o sacrifício que Ele já realizou. Isso, por si só, me trouxe muita calma nessa situação.”