ANPD, Senacon e MPF recomendam medidas rápidas à X para coibir Grok e conteúdos sexualizados gerados por IA
A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) anunciaram recomendações à plataforma X para coibir o uso indevido da ferramenta Grok, IA da rede, na geração e disseminação de conteúdos sexualizados.
Uma das principais recomendações é que a plataforma implemente, no prazo mínimo de 30 dias, procedimentos técnicos e operacionais capazes de identificar, revisar e remover conteúdos sexualizados indevidos ainda disponíveis no X quando gerados pelo Grok a partir de comandos de usuários.
As instituições também sugerem a suspensão imediata das contas envolvidas na produção de imagens de cunho sexual ou erotizado, tanto de crianças e adolescentes quanto de adultos, quando criadas sem o consentimento das pessoas retratadas por meio da ferramenta de IA.
Outro ponto é a criação de um mecanismo “transparente, acessível e eficaz” para que os titulares de dados possam exercer seus direitos. A medida inclui canais para envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais, especialmente em casos de geração de conteúdos sintéticos sexualizados ou erotizados sem autorização, com garantia de resposta adequada e dentro de prazo razoável.
As recomendações foram formuladas após recebimento de denúncias de usuários que relataram a criação de conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais, sem consentimento.
A expectativa é reforçar a proteção de dados, a responsabilização de plataformas e a ética no uso de IA, com foco na segurança de moradores e na defesa de direitos. Compartilhe nos comentários a sua visão sobre o equilíbrio entre inovação tecnológica e privacidade, e como você acha que plataformas devem atuar diante de conteúdos gerados por IA sem consentimento.