Dossiê · Ética em IA
Timnit Gebru: a cientista que expôs o viés da IA e fundou o instituto DAIR
Em dezembro de 2020, um artigo acadêmico sobre os riscos dos grandes modelos de linguagem terminou com uma das pesquisadoras mais conhecidas do Google fora da empresa. O Google diz que ela pediu demissão; ela diz que foi demitida. Timnit Gebru já era referência no estudo do viés em sistemas de IA e, um ano depois, fundou o próprio instituto de pesquisa.
Atualizado em · 1 fontes públicas citadas
Timnit Gebru é uma cientista da computação eritreia nascida na Etiópia, em 1983, que trabalha com inteligência artificial, viés algorítmico e mineração de dados [1]. Ela fez o doutorado em Stanford com Fei-Fei Li e co-liderou a equipe de ética em IA do Google com Margaret Mitchell [1].
Este dossiê reúne apenas informações públicas e com fonte, listadas ao final. Na saída do Google, apresenta as duas versões, a da empresa e a dela.
De Adis Abeba a Stanford
Gebru cresceu em Adis Abeba. Aos 15 anos, durante a guerra entre Eritreia e Etiópia, deixou o país e, depois de passar um período na Irlanda, foi para os Estados Unidos, onde fez o ensino médio em Somerville, Massachusetts [1].
Em 2001, entrou na Universidade Stanford, onde fez graduação e mestrado em engenharia elétrica [1].
Apple e o primeiro iPad
Ainda estudante, estagiou na divisão de hardware da Apple, trabalhando com circuitos de áudio [1]. No ano seguinte recebeu uma oferta de emprego em tempo integral e desenvolveu algoritmos de processamento de sinais para o primeiro iPad [1].
Em 2021, durante o movimento #AppleToo, disse ter vivido “tantas coisas absurdas” na Apple, em tradução livre [1].
Timnit Gebru: idade em cada marco
Idade aproximada em cada marco da carreira, calculada a partir do ano de nascimento (1983) e dos anos citados na Wikipédia.
Cálculo nosso: ano do marco menos 1983. Como a data exata de nascimento não é pública, a idade pode variar em um ano.
O doutorado com Fei-Fei Li
Em 2013, Gebru entrou no laboratório de Fei-Fei Li em Stanford [1]. Ela combinou deep learning com imagens do Google Street View para estimar a composição demográfica de bairros nos EUA, trabalho publicado na PNAS em 2017 [1].
O doutorado em visão computacional foi concluído em 2017, com a tese “Visual computational sociology: computer vision methods and challenges” [1]. No mesmo ano, venceu a competição da LDV Capital Vision Summit com sua pesquisa [1].
Na conferência NIPS de 2016, contou cinco homens negros e ela própria, a única mulher negra entre 8.500 participantes [1].
Microsoft e o Gender Shades
No verão de 2017, entrou na Microsoft como pesquisadora de pós-doutorado no laboratório FATE, dedicado a justiça, responsabilidade, transparência e ética em IA [1].
Em 2018, publicou com Joy Buolamwini o estudo “Gender Shades”, sobre diferenças de precisão em sistemas comerciais de classificação de gênero [1]. Segundo o artigo, numa das implementações analisadas, mulheres negras tinham 35% menos chance de ser reconhecidas que homens brancos [1].
Em 2019, ela, Buolamwini e Inioluwa Deborah Raji receberam o prêmio AI Innovation da VentureBeat, na categoria IA para o bem, pela pesquisa sobre viés no reconhecimento facial [1]. No mesmo ano, assinou uma carta pedindo que a Amazon parasse de vender reconhecimento facial para a polícia [1].
A equipe de ética do Google
Em 2018, Gebru entrou no Google e passou a co-liderar a equipe de ética em inteligência artificial com Margaret Mitchell [1]. Ela é coautora do artigo “Model Cards for Model Reporting”, de 2019, liderado por Mitchell [1].
Com outros cinco autores, escreveu “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?”, sobre os riscos dos grandes modelos de linguagem: pegada ambiental, custo, opacidade, viés, falta de compreensão real da língua e desinformação [1]. Dos seis autores, apenas Emily M. Bender não trabalhava no Google na época [1].
Dezembro de 2020: duas versões
Segundo o Google, a direção pediu que ela retirasse o artigo ou tirasse os nomes dos autores funcionários da empresa, e tratou a resposta dela como um pedido de demissão, que aceitou [1]. Jeff Dean disse que o artigo foi submetido sem esperar a revisão interna e que não atendia aos padrões de publicação do Google por ignorar pesquisas relevantes [1].
Segundo Gebru, ela pediu uma explicação e os nomes de todos os revisores, e se ofereceu para tirar o próprio nome se o Google desse isso e um processo de revisão mais transparente [1]. Se a empresa recusasse, conversaria com o gestor sobre “uma data de saída” [1]. Ela afirma que nunca ofereceu a demissão [1].
Cerca de 2.700 funcionários do Google e mais de 4.300 acadêmicos e apoiadores da sociedade civil assinaram uma carta condenando a demissão, e nove membros do Congresso americano pediram explicações [1]. Margaret Mitchell também saiu da empresa depois, e Sundar Pichai ordenou uma revisão que durou meses [1].
Black in AI e o instituto DAIR
Gebru é cofundadora, com Rediet Abebe, da Black in AI, comunidade que busca ampliar a presença e a visibilidade de profissionais negros na área [1].
Em 2 de dezembro de 2021, lançou o Distributed Artificial Intelligence Research Institute (DAIR), um instituto independente que estuda os efeitos da IA sobre grupos marginalizados, com foco na África e em imigrantes africanos nos EUA [1]. Um dos primeiros projetos usa imagens de satélite para mapear o legado do apartheid em bairros da África do Sul [1].
Com Émile P. Torres, propôs o termo TESCREAL para criticar um conjunto de filosofias futuristas ligadas à busca da inteligência artificial geral, em artigo publicado na First Monday em 2024 [1]. Ela já disse que tentar construir uma AGI é “uma prática inerentemente insegura”, em tradução livre [1].
Reconhecimento
Gebru entrou na lista dos 50 maiores líderes do mundo da Fortune e na Nature's 10, das pessoas que marcaram a ciência, em 2021 [1]. Foi escolhida pela Time como uma das pessoas mais influentes de 2022 e entrou na lista BBC 100 Women em 2023 [1].
Em setembro de 2026, recebeu o Right Livelihood Award por desafiar a concentração de poder na inteligência artificial [1].
Frases e declarações públicas
“Tentar construir uma AGI é uma prática inerentemente insegura.”
Linha do tempo
-
1983
Nasce em Adis Abeba, Etiópia
-
2001
Entra na Universidade Stanford
-
2013
Entra no laboratório de Fei-Fei Li
-
2017
Conclui o doutorado e vai para a Microsoft (FATE)
-
2018
Publica o Gender Shades e entra no Google
-
2020
Sai do Google após a disputa sobre o artigo Stochastic Parrots
-
2021
Lança o instituto DAIR
-
2022
Entra na lista Time 100
-
2023
Entra na lista BBC 100 Women
-
2026
Recebe o Right Livelihood Award
Empresas ligadas a Timnit Gebru
Empresas desta coleção em que a pessoa trabalhou, fundou, investiu ou com que teve relação direta. Os nomes com link já têm dossiê publicado.
Ver a rede de Timnit Gebru no grafo 3D
- Google (Alphabet) Onde co-liderou a equipe de ética em IA
- Microsoft Pós-doutorado no laboratório FATE
- Apple Primeiro emprego, no hardware do iPad
Veja também: outras pessoas
- Fei-Fei Li Orientadora do doutorado em Stanford
- Joy Buolamwini Coautora do estudo Gender Shades
- Margaret Mitchell Co-liderou com Gebru a equipe de ética em IA do Google
- Jeff Dean Executivo do Google que explicou a versão da empresa sobre a saída
- Sundar Pichai CEO do Google, que ordenou uma revisão do caso
Sumário de siglas usadas
- DAIR
- Distributed Artificial Intelligence Research Institute, instituto independente fundado por Gebru em 2021.
- FATE
- Fairness, Accountability, Transparency, and Ethics in AI, laboratório da Microsoft Research.
- Viés algorítmico
- Erros sistemáticos de um sistema que prejudicam certos grupos de pessoas.
- TESCREAL
- Sigla criada por Gebru e Émile P. Torres para um conjunto de filosofias futuristas que eles criticam.
- AGI
- Inteligência artificial geral, uma IA hipotética capaz de fazer qualquer tarefa intelectual humana.
Perguntas frequentes
Quem é Timnit Gebru?+
Por que ela saiu do Google?+
O que foi o Gender Shades?+
O que é o DAIR?+
Referências
Fontes consultadas
- Timnit Gebru · Wikipédia
Este dossiê usa apenas informações públicas e com fonte. Não publicamos dados pessoais privados, como endereço, documentos ou informações de saúde. Encontrou um erro? Escreva para [email protected].
Conclusão
Timnit Gebru ajudou a colocar o viés dos sistemas de IA no centro do debate, primeiro com o Gender Shades e depois com o Stochastic Parrots. A saída do Google em 2020, contada de formas opostas pela empresa e por ela, mobilizou milhares de funcionários e acadêmicos e chegou ao Congresso americano. Com o DAIR, ela segue pesquisando os efeitos da IA longe delas.