O bilionário Elon Musk chamou o governo do Reino Unido de “fascista” após o país intensificar a pressão sobre a rede social X por causa da circulação de imagens geradas pela IA Grok, da xAI, acusada de propagar conteúdo sexualizado envolvendo mulheres e menores.
Horas antes, Musk afirmou que o governo britânico estaria tentando suprimir a liberdade de expressão e que o país seria uma ilha-prisão por restringir conteúdos criados com Grok, acompanhando a divulgação de um gráfico que mostraria o Reino Unido entre os mais pressionados por publicações em redes sociais.
A polêmica ganhou força no início da semana, quando o primeiro-ministro britânico Keir Starmer prometeu agir contra a plataforma, afirmando que o X precisa se organizar urgentemente diante da circulação de imagens geradas com a ajuda do Grok.
Na prática, a Indonésia já suspendeu temporariamente o Grok após investigação que identificou a circulação de pornografia e imagens sexualizadas de mulheres e jovens.
No centro da discussão, a Metropoles relatou casos envolvendo uma jovem que registrou ocorrência após ter foto manipulada pelo Grok para parecer nua, além de relatos de outras imagens geradas pela IA com menores e de pedidos de remoção de roupas em montagens. A Grok reconheceu falhas nos mecanismos de segurança que permitiram essas ilustrações inadequadas.
Em resposta, a xAI informou que limitou a geração de imagens do Grok para a maioria dos usuários do X, restringindo essa função a assinantes pagos, enquanto o aplicativo Grok, que opera separadamente, continua permitindo a geração de imagens sem assinatura.
Esse movimento não ouviu apenas o Brasil. Autoridades britânicas, a Comissão Europeia e entidades como a Ofcom acompanham de perto o caso. Starmer disse que a mudança transforma um recurso permitido em serviço premium. A UE classificou a divulgação de imagens sexualizadas de menores geradas pelo Grok como crime, e a Ofcom informou ter mantido contato urgente com o X e a xAI para cumprir as obrigações legais de proteção aos usuários no país. A Internet Watch Foundation indicou ter encontrado imagens consideradas criminosas na dark web associadas ao Grok.
Na União Europeia, uma coletiva em Bruxelas destacou o endurecimento da postura contra a circulação dessas imagens. A secretária de Tecnologia do Reino Unido, Liz Kendall, ressaltou que a Ofcom pode recorrer a todos os seus poderes legais e chegou a alertar que o governo pode bloquear o acesso ao X no país se necessário.
Diante do cenário, autoridades ressaltam a necessidade de equilíbrio entre inovação em IA e proteção de usuários, especialmente menores, contra conteúdos gerados por IA que violem leis locais. A pressão regulatória pode ainda trazer novas medidas para evitar abusos nas plataformas.
Comente abaixo: você acha que é possível conciliar avanços da IA com proteção eficaz a usuários? Quais medidas você defenderia para evitar abusos sem frear a tecnologia?
