Dossiê · Ética em IA
Joy Buolamwini: a cientista que precisou de uma máscara branca para ser vista pela IA
No MIT Media Lab, Joy Buolamwini percebeu que os sistemas de reconhecimento facial com que trabalhava não detectavam o rosto dela, a não ser que ela usasse uma máscara branca. A experiência virou pesquisa: o estudo Gender Shades mostrou erros de até 34,7% para mulheres de pele escura, contra menos de 1% para homens de pele clara.
Atualizado em · 1 fontes públicas citadas
Joy Adowaa Buolamwini, nascida em 23 de janeiro de 1990 em Edmonton, no Canadá, é uma cientista da computação e ativista digital canadense-americana, que trabalhou no MIT Media Lab [1]. Ela é conhecida por mostrar que muitos sistemas de IA têm dificuldade para identificar pessoas de pele escura, principalmente mulheres [1].
Fundou a Algorithmic Justice League em 2016 e escreveu, com Timnit Gebru, o estudo Gender Shades [1]. Este dossiê reúne apenas informações públicas e com fonte, listadas ao final.
Do Kismet à Georgia Tech
Buolamwini cresceu no Mississippi e estudou na Cordova High School, no Tennessee [1]. Aos nove anos, inspirada pelo robô Kismet, do MIT, aprendeu sozinha XHTML, JavaScript e PHP [1]. Foi atleta, no salto com vara e no basquete [1].
Estudou ciência da computação na Georgia Tech, onde pesquisou informática em saúde, e se formou em 2012 como bolsista Stamps President's Scholar [1]. Em 2009, foi a finalista mais jovem do InVenture Prize da universidade [1]. Em 2011, trabalhou com o programa de tracoma do Carter Center num sistema de avaliação em Android para a Etiópia [1].
Rhodes, Fulbright e MIT
Bolsista Rhodes, estudou aprendizagem e tecnologia na Universidade de Oxford, no Jesus College [1]. Como bolsista Fulbright, trabalhou em 2013 com cientistas da computação da Zâmbia em projetos de tecnologia para jovens [1].
No MIT, fez o mestrado em Media Arts & Sciences em 2017, com pesquisa orientada por Ethan Zuckerman, e o doutorado no MIT Media Lab em 2022 [1]. A dissertação de mestrado já se chamava “Gender shades” [1].
Joy Buolamwini: idade em cada marco
Idade aproximada em cada marco, calculada a partir da data de nascimento (23 de janeiro de 1990) e dos anos citados na Wikipédia.
Cálculo nosso: ano do marco menos 1990.
A máscara branca e o “olhar codificado”
No MIT, os sistemas com que ela trabalhava não detectavam seu rosto, a não ser que ela usasse uma máscara branca [1]. Ela cunhou a expressão “coded gaze”, ou olhar codificado, para descrever como sistemas algorítmicos podem refletir os vieses de quem os cria [1].
O curta documental “The Coded Gaze” estreou no Museum of Fine Arts de Boston em 2016 [1].
Gender Shades
Em 2018, Buolamwini e Timnit Gebru publicaram “Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification”, apresentado em 21 de janeiro de 2018 na conferência sobre justiça, responsabilidade e transparência [1]. O estudo avaliou sistemas de análise facial da IBM, da Microsoft e da Face++ [1].
Segundo a introdução da página na Wikipédia, a taxa de erro chegou a 34,7% para mulheres de pele escura, contra menos de 1% para homens de pele clara; outro trecho cita 0,8% para homens de pele clara [1]. Os conjuntos de treino tinham mais de 75% de rostos masculinos e mais de 80% de rostos de pele clara [1].
Para enfrentar o desequilíbrio, ela criou o Pilot Parliaments Benchmark, um conjunto de teste mais diverso [1].
A reação das empresas
Depois do estudo, IBM, Microsoft e Amazon anunciaram mudanças importantes em seus produtos de reconhecimento facial [1]. Em 2020, a IBM abandonou o software de reconhecimento facial [1].
Segundo o artigo, a Amazon reavaliou seus sistemas, mas também criticou a metodologia e os resultados de Buolamwini [1].
A Algorithmic Justice League
Em 2016, Buolamwini fundou a Algorithmic Justice League (AJL), que usa arte, ativismo e pesquisa para mostrar os danos sociais da IA [1]. Ela também é cofundadora do Safe Face Pledge, que pede que empresas não transformem o reconhecimento facial em arma nem permitam seu uso policial sem lei [1].
Em 2019, depôs no Comitê de Supervisão e Reforma da Câmara dos EUA sobre os riscos do reconhecimento facial [1]. Antes da Ordem Executiva 14110, de 30 de outubro de 2023, assessorou o governo Biden e disse depois que o texto ficou aquém no tema da reparação [1].
Coded Bias e Unmasking AI
O documentário Coded Bias, de 2020, dirigido por Shalini Kantayya, estreou em Sundance, foi indicado ao Emmy e entrou na Netflix em 5 de abril de 2021 [1].
Em 2023, a Random House publicou o livro “Unmasking AI: My Mission to Protect What Is Human in a World of Machines” [1]. Em novembro de 2025, ela entregou um exemplar ao papa Leão XIV numa conferência no Vaticano [1].
Buolamwini também se apresenta como “Poet of Code” e tem obras expostas em mostras como “AI: More than Human”, no Barbican, em 2019 [1].
Reconhecimento
Entrou na lista BBC 100 Women em 2018, na TIME100 Next em 2019 e na TIME100 AI em 2023 [1]. Em 2019, a Fortune a incluiu entre os 50 maiores líderes do mundo e a chamou de “a consciência da revolução da IA”, em tradução livre [1].
Em 2024, recebeu um doutorado honorário em ciências do Dartmouth College e o prêmio de ativismo digital da NAACP com a Archewell Foundation, com US$ 100 mil para novos trabalhos [1]. Em 2025, foi eleita para o conselho do NAACP Legal Defense Fund [1].
Frases e declarações públicas
“A consciência da revolução da IA.”
Linha do tempo
-
1990
Nasce em Edmonton, Canadá
-
2012
Forma-se em ciência da computação na Georgia Tech
-
2013
Bolsa Fulbright na Zâmbia
-
2016
Funda a Algorithmic Justice League; estreia The Coded Gaze
-
2017
Mestrado no MIT
-
2018
Publica o Gender Shades com Timnit Gebru; entra na BBC 100 Women
-
2019
Depõe na Câmara dos EUA
-
2020
Lançamento de Coded Bias; IBM abandona o reconhecimento facial
-
2022
Doutorado no MIT Media Lab
-
2023
Publica Unmasking AI; entra na TIME100 AI
-
2025
Eleita para o conselho do NAACP Legal Defense Fund
Empresas ligadas a Joy Buolamwini
Empresas desta coleção em que a pessoa trabalhou, fundou, investiu ou com que teve relação direta. Os nomes com link já têm dossiê publicado.
Ver a rede de Joy Buolamwini no grafo 3D
- IBM Avaliada no Gender Shades; abandonou o reconhecimento facial em 2020
- Microsoft Avaliada no Gender Shades
- Amazon (e AWS) Reavaliou seus sistemas e criticou a metodologia do estudo
Veja também: outras pessoas
- Timnit Gebru Coautora do estudo Gender Shades
- Margaret Mitchell Outra pesquisadora de viés e transparência em IA
Sumário de siglas usadas
- AJL
- Algorithmic Justice League, organização fundada por Buolamwini em 2016.
- Coded gaze
- Olhar codificado: como sistemas algorítmicos refletem os vieses de quem os cria.
- Gender Shades
- Estudo de 2018 sobre diferenças de precisão em sistemas comerciais de classificação de gênero.
- MIT Media Lab
- Laboratório de pesquisa do MIT onde Buolamwini fez mestrado e doutorado.
Perguntas frequentes
Quem é Joy Buolamwini?+
O que o Gender Shades mostrou?+
Qual a história da máscara branca?+
O que é Coded Bias?+
Referências
Livros
Unmasking AI (2023)
Livro de Joy Buolamwini publicado pela Random House.
Vídeos
Coded Bias (2020)
Documentário de Shalini Kantayya, disponível na Netflix desde 2021.
How I'm fighting bias in algorithms
Palestra de Buolamwini de 2017.
Sites e Artigos
Fontes consultadas
- Joy Buolamwini · Wikipédia
Este dossiê usa apenas informações públicas e com fonte. Não publicamos dados pessoais privados, como endereço, documentos ou informações de saúde. Encontrou um erro? Escreva para [email protected].
Conclusão
Joy Buolamwini transformou uma experiência pessoal, a de não ser vista por uma máquina, em pesquisa com números, e os números em pressão sobre grandes empresas. Com a Algorithmic Justice League, o documentário Coded Bias e o livro Unmasking AI, ela levou o debate sobre viés algorítmico para fora da academia, até o Congresso americano.