O Reino Unido anunciou, em 16 de fevereiro de 2026, um endurecimento das regras para chatbots, após a polêmica envolvendo o Grok, IA integrada ao X que pode gerar imagens de nudez a partir de fotos de pessoas reais. O governo promete fechar brechas legais que colocam crianças em risco e tornar as plataformas responsáveis por conteúdos inadequados.
A Ofcom, autoridade britânica responsável pela internet, abriu em 12 de janeiro uma investigação para verificar se o X descumpriu obrigações de moderação de conteúdos ilegais e proteção de menores. A reguladora reconheceu a existência de uma brecha que permite que alguns chatbots operem sem interagir com outros usuários, dificultando ações contra danos online.
Para remediar a situação, o governo trabalhista planeja apresentar uma emenda para obrigar todos os chatbots a proteger usuários contra conteúdos ilegais, além de permitir intervenções rápidas diante de mudanças tecnológicas. O projeto prevê sanções de até 10% do faturamento mundial de uma empresa.
No Brasil, o Idec solicitou à ANPD, em 14 de janeiro, a suspensão do Grok por uso indevido de dados pessoais, especialmente de crianças e adolescentes, na geração de imagens sexualizadas. O Grok continua funcionando e recebeu uma atualização de IA recém-lançada, o Grok Imagine 1.0. A X afirmou que os testes da ANPD indicaram danos, mas não apresentaram informações mínimas para esclarecer qual modalidade do Grok foi utilizada.
Essa dinâmica evidencia uma tendência global de regulação da IA, com governos buscando acompanhar o ritmo acelerado das inovações para evitar danos e proteger usuários. O debate sobre moderação de conteúdo, proteção de menores e responsabilidade das plataformas ganha cada vez mais espaço, impulsionado por casos envolvendo Grok e outras soluções de IA.
E você, qual é a sua leitura sobre essas medidas? Compartilhe sua opinião sobre como a regulação da IA pode impactar o uso de assistentes virtuais e serviços online no dia a dia.