Um cálculo matemático define se uma pessoa está ou não no “peso ideal”. Um tênis vendido como feminino em vitrines de lojas esportivas. À primeira vista, nenhum desses exemplos parece ter relação com o feminismo de dados, tampouco com a educação básica. Mas eles ajudam a mostrar como decisões aparentemente técnicas carregam escolhas sobre quais corpos, experiências e modos de vida a sociedade considerada padrão.
O Índice de Massa Corporal, conhecido como IMC, costuma ser apresentado como uma fórmula simples: basta dividir o peso pela altura ao quadrado. O resultado classifica a pessoa em categorias como “abaixo do peso”, “peso normal”, “sobrepeso” ou “obesidade”. O problema é que esse cálculo tem origem em um modelo construído a partir de corpos europeus, brancos e masculinos, que depois passou a ser usado como referência universal, como mostra uma reportagem da Revista AzMina.
📱Inscreva-se no canal do Porvir no WhatsApp para receber nossas novidades
Algo parecido aparece em um estudo publicado na revista científica “BMJ Open Sport & Exercise Medicine” sobre tênis de corrida femininos. A pesquisa ouviu corredoras recreativas e competitivas e concluiu que muitos calçados vendidos para o público feminino ainda partem de uma lógica conhecida como “shrink it and pink it” — em tradução literal, “encolha e pinte de rosa”.
A expressão é usada de forma crítica para descrever produtos que não são realmente pensados para mulheres. Nessa lógica, a empresa parte de um produto criado com base em um padrão masculino, reduz seu tamanho, muda a cor ou a aparência para algo associado ao feminino.
Esses dois exemplos aproximam a escola do feminismo de dados e de sua pergunta central: quem as empresas e cientistas consideraram na hora de criar uma fórmula, um produto ou uma tecnologia? E quem ficou de fora?
Por que é assunto da escola?
“Se a solução é construída por poucas visões, ela contempla apenas uma parte das pessoas”, explica Sandra Avila, professora do Instituto de Computação da Unicamp (Universidade Estadual de Campinas). “Feminismo de dados não é apenas sobre mulheres, nem apenas para mulheres. É sobre poder, sobre quem tem e quem não tem. E, no mundo de hoje, dados são poder”, afirma.
Na Unicamp, Sandra é responsável pela disciplina de pós-graduação feminismo de dados, inédita no Instituto de Computação da universidade. Além da inspiração no livro “Data Feminism” (Feminismo de Dados, em tradução livre), das pesquisadoras Catherine D’Ignazio e Lauren F. Klein, a proposta nasceu de sua trajetória acadêmica e, principalmente, de um incômodo: a forma muitas vezes “automática e sem questionamentos éticos” com que universidades tratam algoritmos na formação de profissionais de tecnologia.
Logo nas primeiras aulas, a professora costuma perguntar à turma: “Que diversidade de experiências temos na sala?” O questionamento ajuda a mapear quem o espaço acadêmico contempla. “Logo percebemos que não teremos todas as visões em sala de aula. E tudo bem. O problema é achar que podemos falar por todas as pessoas e que as ferramentas de inteligência artificial funcionam para todas as pessoas do mesmo jeito”, afirma Sandra.
Para a pesquisadora, essa discussão precisa entrar também na educação básica porque os dados já fazem parte da vida escolar: eles definem a chamada, os formulários de matrícula, as avaliações e o funcionamento das plataformas digitais diárias.
É nesse ponto que o feminismo de dados se conecta diretamente à IA. “Inteligência artificial é também, ou deveria ser, sobre pensar nos dados que vão compor a solução”, afirma Sandra. “O feminismo de dados trata de uma visão interseccional, capaz de propor soluções que reconheçam privilégios e responsabilidades no âmbito individual e, em especial, coletivo.”
Identificar o problema
Para Sandra, levar o feminismo de dados ajuda os estudantes a compreender os riscos das tecnologias e a imaginar alternativas mais justas. “Já sabemos que não queremos uma tecnologia que não funciona para a gente. Mas como podemos fazer diferente?”, provoca.
O exercício começa com perguntas simples: quem está nos dados e quem não está? Quem desenvolve a ferramenta? Para quem ela foi pensada? E quais grupos podem ser prejudicados quando essas perguntas não são feitas?
Para materializar o debate, Sandra sugere uma conversa sobre os motivos por trás dos erros cometidos por ferramentas digitais e sistemas de IA. Em 2024, exemplifica, o Google suspendeu temporariamente a geração de imagens do Gemini após usuários apontarem erros raciais e históricos em conteúdos produzidos pela ferramenta. Um dos casos que levou a empresa a se pronunciar publicamente envolvia um comando para representar soldados alemães em 1943, durante a Segunda Guerra Mundial e o regime nazista. Na imagem gerada pela IA, os combatentes apareciam como homens negros e asiáticos, usando uniformes com um símbolo semelhante a uma suástica.
Em 2015, o Google Photos foi criticado depois que seu sistema classificou pessoas negras como “gorilas”. Em 2018, testes da revista Wired revelaram que a saída da empresa foi simplesmente bloquear termos como “gorila”, “chimpanzé” e “macaco” no serviço. Em 2023, reportagem do The New York Times mostrou que o Google Photos ainda não localizava essas imagens, sugerindo que a empresa havia evitado determinadas classificações para reduzir riscos, em vez de corrigir a base de dados racista.
“Infelizmente, exemplos não faltam. Notícias sobre os ‘erros’ das ferramentas são frequentes.” Notícias sobre os ‘erros’ das ferramentas são frequentes. Mostrar a notícia e perguntar em sala os possíveis motivos dos erros é uma forma simples e efetiva de mostrar que dados e tecnologias não são neutros.”
Como ampliar o debate
Segundo Sandra, algumas desigualdades ficam evidentes quando ferramentas de IA se recusam a gerar mulheres em posições de poder, associam crianças negras apenas à violência ou à pobreza, ignoram sotaques locais, não representam manifestações culturais brasileiras ou reproduzem um padrão de escrita distante da forma como diferentes grupos se expressam.
“Quando a gente usa de um jeito tentando se reconhecer e percebe que não faz parte, isso também revela um problema. Para repensar a tecnologia, a gente precisa se apropriar dela”, afirma.
Na sala de aula, esse olhar crítico pode ser exercitado com atividades rápidas. Estudantes podem pedir que uma ferramenta gere imagens de uma pessoa cientista, de uma liderança escolar, de uma família, de uma criança brasileira ou de uma manifestação cultural local. Em seguida, a turma analisa quais padrões estéticos a máquina entregou, quais estereótipos reproduziu e que comandos os alunos precisaram adicionar para forçar a IA a ampliar a representação.
Também vale investigar quais dados alimentaram a ferramenta, quem participou do desenvolvimento, quem testou o sistema e quais grupos podem ser mais prejudicados por seus erros ou limitações.
A pesquisadora alerta, contudo, que discutir o tema não significa defender o uso indiscriminado de IA na escola. ““Se o pensamento crítico não estiver presente, é muito difícil enxergar os problemas. Muitas empresas dizem que está tudo funcionando bem. Mas funcionando bem para quem?”
Discutir feminismo de dados na educação básica não é formar especialistas em programação ou inteligência artificial, mas cidadãos que saibam olhar criticamente para tecnologias que já fazem parte da vida cotidiana.
| 7 princípios para “não desver” as desigualdades |
|---|
| A disciplina ministrada por Sandra Avila se inspira no livro “Data Feminism”. A obra defende que o feminismo de dados vai além da discussão de gênero: trata de poder, de quem o exerce, de quem é afetado por ele e de como essas relações podem ser questionadas no campo da ciência de dados.“Meu objetivo como professora é que as pessoas não consigam mais ‘desver’ como as desigualdades e o poder são operados nos dados”, diz. Abaixo, os sete princípios do feminismo de dados elencados pelas autoras da obra, que podem servir de bússola para o trabalho docente: 1. Examine o poder: o feminismo de dados começa analisando como o poder opera no mundo. 2. Desafie o poder: o feminismo de dados se compromete a desafiar estruturas de poder desiguais e trabalhar por justiça. 3. Eleve a emoção e a incorporação: o feminismo de dados nos ensina a valorizar múltiplas formas de conhecimento, incluindo o conhecimento que vem das pessoas como seres vivos e sensíveis no mundo. 4. Repense binários e hierarquias: o feminismo de dados requer ir além do binário de gênero, juntamente com outros sistemas de contagem e classificação que perpetuam a opressão. 5. Adote o pluralismo: o feminismo de dados insiste que o conhecimento mais completo advém da síntese de múltiplas perspectivas, priorizando formas de conhecimento locais. 6. Considere o contexto: o feminismo de dados afirma que os dados não são neutros ou objetivos. Eles são produtos de relações sociais desiguais, e esse contexto é essencial para conduzir análises precisas e éticas. 7. Dê visibilidade ao trabalho: o trabalho da ciência de dados, como todo trabalho no mundo, é realizado por muitas mãos. O feminismo de dados torna esse trabalho visível para que ele possa ser reconhecido e valorizado. |
