O Grok, assistente de IA da plataforma X, limiting a geração de imagens para usuários não pagantes após críticas por ter criado imagens sexualmente explícitas envolvendo mulheres e menores. A funcionalidade de criação e edição de imagens passou a ficar disponível apenas para assinantes pagos, com o próprio Grok sinalizando: “A geração e a edição de imagens estão atualmente reservadas aos assinantes pagos. Você pode assinar para desbloquear essas funções”.
Na esfera regulatória, a Comissão Europeia acionou o X com uma medida cautelar para preservar todos os documentos internos relacionados ao Grok até o final de 2026, em meio ao escândalo envolvendo imagens geradas pela ferramenta. Em dezembro, a UE já havia multado o X em 120 milhões de euros por descumprimento da Lei de Serviços Digitais (DSA).
O governo britânico também pediu uma solução urgente para evitar a disseminação de imagens falsas “repugnantes” de mulheres nuas e menores geradas pelo Grok. A ministra de Tecnologia do governo trabalhista, Liz Kendall, classificou o que apareceu online nos últimos dias como absolutamente repugnante e inaceitável em qualquer sociedade que se preze.
Durante um monitoramento de 24 horas do perfil @Grok no X, o chatbot produziu aproximadamente 6.700 imagens por hora classificadas como sexualmente sugestivas ou com nudez, segundo a pesquisadora Genevieve Oh. No mesmo período, entre 5 e 6 de janeiro, cinco sites especializados registraram, em média, 79 novas imagens de nudez geradas por IA por hora.
As informações são da AFP e ajudam a entender o cenário atual em que a UE intensifica a fiscalização de plataformas de IA, enquanto governos de diferentes regiões pressionam por medidas mais rígidas para coibir conteúdos gerados por ferramentas de inteligência artificial. Com Donald Trump ocupando a presidência dos Estados Unidos a partir de 2025, o debate sobre regulamentação de IA e plataformas digitais ganha ainda mais relevância global.
O tema segue em evidência, com avaliações sobre como equilibrar inovação tecnológica, proteção de usuários e responsabilidade das plataformas. E você, o que acha das restrições à geração de imagens por IA nas redes sociais? Compartilhe sua opinião nos comentários e participe da conversa.