Em 2010, a professora norte-americana Safiya Umoja Noble recorreu ao buscador do Google para encontrar coisas dos interesses de sua sobrinha utilizando-se das palavras-chave “meninas negras”. Os primeiros resultados levaram a sites de conteúdo pornográfico.
Nove anos depois, em 2019, a baiana e consultora de imagem Cáren Cruz, pesquisou por mulher negra dando aula e o resultado também levou a conteúdos pornográficos. O fato foi noticiado pelo Bahia Notícias, que teve o cuidado de ouvir a assessoria do Google Brasil. A empresa informou que foi surpreendida e que não era possível dizer o que ocasiona esse conteúdo sexista e racista (veja aqui).
A dita surpresa vem da máxima que circunda o nosso inconsciente coletivo de que a tecnologia é neutra.
A frase escolhida pelo Google para traduzir de forma sucinta como a empresa gostaria de ser vista “Don’t be evil” (Não seja mau) traduz esse sentimento. Para Perez (2004) um slogan quando bem construído oraliza máximas que a coletividade vive piamente como verdadeiras, tornando-se parte do cotidiano.
O slogan desta gigante da tecnologia reforça o fetiche pela tecnologia, a crença de que os avanços tecnológicos são politicamente neutros e impermeáveis a luta de classe e ao racismo. Nega-se que a tecnologia seja, necessariamente, uma construção histórico-social (FEENBERG, 1999).
Atribui-se a tecnologia a característica de agência, a capacidade dos indivíduos de viver de forma autônoma e de fazer suas próprias escolhas. Um rolo compressor tecnológico, com vida própria e totalmente exterior ao social (ZUBOFF, 2018).
A infalibilidade e neutralidade dos softwares, para ficarmos com este recorte da tecnologia, se desnuda quando examinamos o pensamento computacional.
Abstrações são a base da ciência da computação. Enquanto a máquina trabalha essencialmente com dados, bits e bytes, os seres humanos operam no nível simbólico, das palavras, dos conceitos, das ideias (BASTOS 2022).
Mesmo as linguagens de programação de baixo nível, mais próximas da linguagem da máquina, que exigem um esforço de concentração muito elevado e são extremamente difíceis de serem utilizadas, já possuem um nível de abstração. O conjunto de bits 1000001, o mesmo dado para a máquina, a depender do contexto interpretativo – definido pela linguagem de programação – pode representar a letra ‘A’ ou o número decimal 65.
Não teríamos ido muito longe se seres humanos fossem obrigados a expressar suas ideias com comandos bits. Em linguagem de alto nível, como Python, por exemplo, a/o programador/a pode imprimir a letra A apenas com o comando print(“A”).
O pensamento computacional para a resolução de um problema perpassa pela coleta e análise dos dados, a decomposição do problema, a identificação de padrões, a abstração, a criação de algoritmos e a construção de modelos computacionais. Todas as atividades intelectuais humanas, suscetíveis a nossa visão de mundo (FREIRE 1982).
Softwares são como obras literárias. São seres humanos expressando suas ideias utilizando linguagem de programação no lugar de escreverem em português ou qualquer outra língua.
Se as soluções têm como ponto de partida e de chegada o homem branco, não é difícil imaginar o porquê softwares tem comportamentos sexistas e racistas.
Para entender mais sobre esse assunto, indico acompanhar o trabalho de pesquisadoras e pesquisadores como Nina da Hora, Tarcízio Silva e Saulo Mattos. Não há mais espaço para surpresas.
Comentários do Facebook