Meta descrição: Comissão Europeia abre investigação contra a X sobre o Grok, IA que gera imagens sexualizadas, avaliando conformidade com a Lei de Serviços Digitais e riscos de conteúdo ilegal na União Europeia.
A Comissão Europeia anunciou a abertura de uma investigação contra a X, rede social de Elon Musk, pela criação de imagens sexualizadas e sem consentimento geradas pela IA Grok. O objetivo é verificar se a plataforma cumpriu as obrigações da Lei de Serviços Digitais ao mitigar riscos associados ao Grok, incluindo a possível distribuição de conteúdo ilegal.
“Estes riscos parecem ter se concretizado. Por isso, a Comissão investigará se o X cumpre com suas obrigações para avaliar e mitigar riscos sistêmicos e de produzir e enviar à Comissão um relatório de riscos ad hoc sobre as funcionalidades do Grok que tenham um impacto fundamental no perfil de risco do X antes de lançá-lo”, afirmou o órgão.
Antes de iniciar a investigação formal, a União Europeia já havia determinado que a X conserve toda a documentação interna relativa ao Grok para 2026, no âmbito da apuração sobre a política da plataforma contra conteúdos ilegais. A medida surge em meio a controvérsias envolvendo imagens de crianças e mulheres nuas geradas pela IA, que levaram o governo da França a processar a X nos tribunais, além de casos de negacionismo do Holocausto veiculados pela IA.
A Comissão também aponta que, se as acusações se confirmarem, a X pode violar vários artigos da Lei de Serviços Digitais, incluindo a avaliação e mitigação de riscos sistêmicos para os cidadãos europeus. Em dezembro do ano passado, Bruxelas já multou a X em 120 milhões de euros por descumprimento de exigências de transparência, relacionadas ao selo de verificação azul, à transparência do repositório de anúncios e ao acesso a dados públicos para pesquisadores. Além disso, a UE prorrogou a investigação iniciada em 2023 sobre a gestão de riscos dos sistemas de recomendação da plataforma, que incluirá o impacto de um sistema baseado em IA como o Grok.
Opine nos comentários: você acha que ações rigorosas da UE são suficientes para conter conteúdos gerados por IA e exigir mais transparência das plataformas? Compartilhe sua visão sobre o papel da regulamentação na moderação de conteúdos do Grok e do X.