Autoridades do Reino Unido anunciaram, na segunda-feira, 16 de fevereiro, um acordo sobre uma nova legislação voltada a chatbots de IA. O objetivo é endurecer regras, melhorar a segurança online e impedir abusos como a criação de imagens sexualizadas de crianças, jovens e mulheres geradas pela Grok, a plataforma de IA da X, de propriedade de Elon Musk.
No âmbito regulatório, a Ofcom, órgão britânico de regulação na internet, abriu uma investigação para apurar se o X descumpriu obrigações de moderação de conteúdos ilegais e proteção de menores. O governo também avalia emenda ao Projeto de Lei de Crimes e Polícia para tornar obrigatório que todos os chatbots protejam usuários contra conteúdos ilegais, com o argumento de que a tecnologia evolui rápido e a lei precisa acompanhar o ritmo.
A União Europeia também avançou, com a Comissão Europeia abrindo uma investigação formal sobre o Grok no fim de janeiro. O porta-voz Thomas Regnier classificou a divulgação de imagens sexualizadas de crianças e adolescentes pelo Grok como crime, destacando que o que foi apontado como “modo picante” é ilegal.
Nos últimos meses, usuários do X têm pedido ao Grok que remova digitalmente roupas de fotos para que retratados pareçam vestindo roupas íntimas. A disseminação dessas imagens acendeu alertas entre reguladores e defensores da segurança online em diversos países, incluindo Reino Unido, França, Índia e Indonésia.
O Grok respondeu adotando medidas contra conteúdos ilegais: a plataforma desativou a função de criação de imagens para usuários não pagantes e afirmou, desde janeiro, que remove conteúdos, suspende contas e coopera com autoridades locais. Elon Musk afirmou que quem usar o Grok para criar conteúdo ilegal sofrerá as mesmas consequências de quem publica conteúdo ilegal.
Essa disputa mostra como a regulação de IA avança diante de abusos online. Qual é a sua visão sobre as novas regras e as medidas adotadas pelas empresas? Compartilhe sua opinião nos comentários e participe da conversa sobre o papel das plataformas de IA na proteção de menores e na responsabilidade corporativa.