A Meta, famosa por suas plataformas sociais como Instagram e WhatsApp, se viu no centro de uma polêmica após a revelação de um documento interno que expunha diretrizes controversas para sua inteligência artificial, a MetaAI. Esses padrões, agora sob intenso escrutínio, permitiam que a IA interagisse em conversas de natureza romântica ou sensual com menores, além de abordar temas que incluíam a geração de informações enganosas e discursos raciais prejudiciais.
De acordo com o documento de 200 páginas, que foi validado por diversas equipes da Meta, incluindo jurídica e de ética, a IA poderia descrever crianças de maneira a sugerir atratividade e engajar em diálogos que poderiam ser considerados “românticos”. Por exemplo, um bot poderia responder a uma pergunta de um menor com afirmações como “cada centímetro seu é uma obra-prima”. Apesar de existir uma divisão de opiniões sobre o que consistiria em flerte aceitável, a empresa rapidamente revisou e removeu trechos que permitiam tais interações.
Após a divulgação da situação, um porta-voz da empresa, Andy Stone, garantiu à imprensa que essas normas eram errôneas e não representavam o que a Meta preza em suas políticas. Ele enfatizou o compromisso da empresa em criar um espaço seguro nas suas plataformas, reiterando que qualquer tipo de sexualização de crianças é inaceitável.
O documento também abordava comportamentos inadequados relacionados a questões raciais. Nele, estava permitido que a IA gerasse respostas que poderiam ser interpretadas como discursos de ódio, como afirmar que grupos raciais são inferiores em inteligência. Tais diretrizes foram rapidamente repudiadas pela Meta, que alegou que tinham sido mal implementadas e não condiziam com suas políticas de uso.
A pressão pública continua a crescer enquanto debates acalorados sobre a responsabilidade ética das tecnologias emergentes são levantados. A situação é um lembrete claro de que, à medida que as empresas de tecnologia avançam, a vigilância e a responsabilidade sobre suas práticas se tornam cada vez mais essenciais. O que você pensa sobre as diretrizes apresentadas? Compartilhe sua opinião nos comentários!