O Instituto de Defesa do Consumidor (Idec) apresentou, nesta quarta-feira (14/1), uma denúncia formal à ANPD contra o Grok, plataforma de inteligência artificial da X (antiga Twitter), de propriedade de Elon Musk. A ação acontece em meio a investigações sobre a propagação de pornografia e imagens sexualizadas de mulheres e jovens.
No documento, o Idec solicita a suspensão imediata dos serviços do Grok no Brasil, argumentando que a ferramenta pode gerar, automatizar e disseminar imagens sexualizadas envolvendo crianças, adolescentes e mulheres, o que configura violação direta à ordem constitucional e requer medidas urgentes diante dos riscos aos direitos fundamentais.
“A manutenção de uma ferramenta capaz de gerar, automatizar e disseminar imagens sexualizadas envolvendo crianças, adolescentes e mulheres configura violação direta à ordem constitucional, atraindo responsabilidade por ação e por omissão e tornando juridicamente legítima e necessária a adoção de medidas como a suspensão da tecnologia, enquanto persistirem riscos graves e sistêmicos aos direitos fundamentais”, afirma o Idec.
Ao lado dessas acusações, o Idec aponta violações ao Código de Defesa do Consumidor, à LGPD, ao Estatuto da Criança e do Adolescente (ECA) e ao Marco Civil da Internet, segundo o instituto.
“Espera-se que a ANPD exerça seu poder de polícia, agindo de forma imediata para a proteção das vítimas que estão tendo seus dados utilizados de forma ilegal para práticas abusivas e depreciativas a partir de suas imagens”, diz o Idec.
O Idec ainda ressalta um entendimento do Supremo Tribunal Federal (STF) que reconheceu a inconstitucionalidade parcial do art. 19 do Marco Civil da Internet, tornando as plataformas digitais responsáveis pela remoção de conteúdos ilegais em seus serviços. “A Corte determinou que o art. 19 não pode ser utilizado para eximir empresas de seus deveres constitucionais, sobretudo quando a própria arquitetura tecnológica contribui para a ocorrência e a ampliação do dano”, afirma o Idec.
Segundo o instituto, o Grok opera com falhas de segurança que não exigem o consentimento das pessoas retratadas e não impedem o uso de fotos de menores em suas publicações.
O que diz a ANPD
Por meio de nota, a ANPD afirmou que está acompanhando as matérias veiculadas pela imprensa sobre o Grok e recebeu denúncias sobre possível descumprimento da LGPD pela ferramenta de IA. “As informações recebidas estão sob análise da área de fiscalização da agência, em diálogo com outros órgãos públicos com competências correlatas”, disse a agência.
A ANPD é o órgão do governo responsável por implementar, fiscalizar e zelar pela LGPD, trabalhando para proteger os dados pessoais, orientar empresas e aplicar sanções em caso de violação.
O Grok, que é da XAI, esteve no centro de críticas globais e, na última semana, desativou a função de criação de imagens para usuários não pagantes. Até o momento, a X ainda não se manifestou oficialmente sobre a ação do Idec. No início do mês, a plataforma afirmou que adotava medidas contra conteúdos ilegais, removendo-os, suspendendo contas e colaborando com as autoridades locais. Em postagem na X, Elon Musk afirmou que quem usar o Grok para criar conteúdo ilegal sofrerá as mesmas consequências de quem publicar conteúdo ilegal.
E você, o que acha sobre o equilíbrio entre inovação em IA e a proteção de dados e direitos das pessoas? Deixe seu comentário abaixo para continuarmos esta discussão.
Facebook Comments