Organizações dedicadas à proteção de crianças e à regulação digital estão em alvoroço. A Meta, gigante das redes sociais, planeja utilizar inteligência artificial (IA) para automatizar avaliações de risco em suas plataformas, como Facebook e Instagram. Essa proposta gerou um clamor nas comunidades ativistas, culminando em uma carta incisiva enviada à Ofcom, o órgão regulador de comunicações do Reino Unido.
Neste documento, assinado por fundações renomadas, como a Molly Rose Foundation e a NSPCC, os ativistas pedem a intervenção da Ofcom. Eles defendem a restrição do uso de IA em processos essenciais para a segurança online, especialmente quando se trata de menores. O tom da missiva é grave, classificando a automação das análises como um “passo retrógrado e altamente alarmante”. A Ofcom, por sua vez, declarou estar “considerando as preocupações” levantadas pelas organizações.
Desde a implementação da Lei de Segurança Online no Reino Unido, redes sociais têm a obrigação legal de avaliar os riscos associados a seus serviços e desenvolver estratégias para mitigá-los, com foco especial na proteção de crianças e adolescentes. A carta destaca a necessidade de uma regulação rigorosa para evitar que grandes empresas tecnológicas diluam suas análises de risco em favor da eficiência.
Recentemente, investigações trouxeram à tona que a Meta estava implementando mudanças significativas em seus processos internos: a aprovação de atualizações e alterações em segurança poderia ocorrer automaticamente por meio de sistemas de IA. Embora isso prometa acelerar a introdução de novos recursos, especialistas alertam que a ausência de revisão humana poderia potencialmente aumentar os riscos para os usuários.
Em resposta às críticas, a Ofcom reafirmou a necessidade de transparência nas avaliações de risco, enquanto a Meta negou usar IA de maneira autônoma em decisões críticas cotidianas. A empresa argumenta que a tecnologia assistida por humanos é empregada para aprimorar sua capacidade de identificar e gerenciar conteúdos prejudiciais.
Adicionalmente, a Meta enfrenta novas controvérsias, sendo acusada de rastrear o histórico de navegação de usuários de Android. Um estudo de cientistas de várias universidades europeias revelou que a Meta poderia cruzar dados de interação com anúncios, ligando essas informações aos perfis dos usuários nas redes sociais, uma prática que já estava em uso por concorrentes como o Yandex.
Como você avalia essa situação? O uso de IA realmente pode comprometer a segurança digital ou facilitará a gestão de conteúdo? Compartilhe suas opiniões nos comentários!