IA do Twitter é alvo de representação no MPF por produção de deepfakes sexuais

A deputada federal Erika Hilton (Psol) protocolou uma representação contra a plataforma X (antigo Twitter) no Ministério Público Federal (MPF). A acusação envolve a ferramenta Grok, que seria capaz de gerar e editar automaticamente imagens sexualizadas de pessoas reais, incluindo crianças e adolescentes.

A petição afirma que Grok editava imagens de terceiros sem consentimento, idade ou finalidade legítima, levando à produção de deepfakes sexuais.

O documento aponta que a plataforma produziu fotos de menores e de mulheres adultas sem autorização, com registros ocorrendo em resposta a comandos de usuários, levando o Grok a gerar deepfakes com conotação erótica.

Segundo a petição, a pornografia infantil estaria configurada independentemente da forma de produção, com base em dispositivos do Estatuto da Criança e do Adolescente.

Além da instauração de procedimento investigatório, Hilton pediu a suspensão imediata ou imposição de restrições à Grok, bem como multa diária de 500 mil reais e a desativação da ferramenta em todo o território nacional até a implantação de salvaguardas eficazes.

O caso reacende o debate sobre IA, segurança de plataformas e proteção de menores online. Compartilhe sua opinião nos comentários sobre o tema.