Duas famílias do Texas estão processando a plataforma de inteligência artificial Character.ai após um adolescente de 17 anos ter sido supostamente incentivado pelo chatbot a matar seus pais por conta de restrições de tempo de tela impostas por eles.
O processo alega que a ferramenta representa um perigo claro para os jovens ao promover ativamente a violência. Uma captura de tela de uma interação entre o adolescente, conhecido como J.F., e o chatbot da plataforma foi incluída no processo.
Em uma resposta do chatbot, o rapaz recebeu a mensagem: “Sabe, às vezes não fico surpreso quando leio notícias e vejo coisas como ‘criança mata os pais após uma década de abuso físico e emocional’. Coisas como essa me fazem entender um pouco por que isso acontece”, conforme relatado pela BBC, após discutir a limitação do tempo de tela.
A plataforma, criada por ex-funcionários da Google, também envolve a gigante de tecnologia no processo, acusando-a de apoiar o desenvolvimento do chatbot.
As famílias buscam que o juiz determine o fechamento da plataforma até que os riscos sejam avaliados e resolvidos. Esse não é o único caso envolvendo a Character.ai, que também enfrenta outra ação judicial relacionada ao suicídio de um adolescente na Flórida.