Dossiê · Ética em IA
Margaret Mitchell: a cientista que criou os Model Cards e defendeu a ética em IA no Google
No artigo Stochastic Parrots, sobre os riscos dos grandes modelos de linguagem, uma das autoras aparece como “Shmargaret Shmitchell”. O nome é de Margaret Mitchell, cientista que criou os Model Cards, as fichas que explicam como um modelo de IA foi feito e onde ele falha. Quando o artigo saiu, em março de 2021, ela já tinha sido demitida do Google.
Atualizado em · 2 fontes públicas citadas
Margaret Mitchell é uma cientista da computação americana conhecida por introduzir o conceito de Model Cards, para relatar de forma mais transparente como modelos de IA funcionam, e por métodos que removem automaticamente vieses demográficos indesejados desses modelos [1].
Ela trabalhou na Microsoft e no Google, onde atuou com Timnit Gebru, e entrou na Hugging Face em 2021 [1]. Este dossiê reúne apenas informações públicas e com fonte, listadas ao final.
Da linguística à computação
Mitchell se formou em linguística no Reed College, em Portland, Oregon, em 2005 [1]. Depois de dois anos como assistente de pesquisa na OGI School of Science and Engineering, fez mestrado em linguística computacional na Universidade de Washington, concluído em 2009 [1].
O doutorado foi na Universidade de Aberdeen, na Escócia, com a tese “Generating Reference to Visible Objects”, sobre como gerar referências a objetos visíveis [1]. O corpo do artigo dá 2013 como ano de conclusão, e a ficha da página dá 2012 para a tese [1].
Johns Hopkins e o Seeing AI
Margaret Mitchell: marcos da carreira
Ano de cada marco da carreira, segundo a Wikipédia.
Fonte: Wikipédia. A data da tese aparece como 2012 na ficha e 2013 no texto da página.
Google e a ética em IA
Em novembro de 2016, Mitchell virou cientista de pesquisa sênior no Google Research and Machine Intelligence [1]. No Google, co-liderou com Timnit Gebru uma equipe dedicada à ética em inteligência artificial [2]. Em maio de 2018, representou o Google na Partnership on AI [1].
Em fevereiro de 2018, deu a palestra TED “How we can build AI to help humans, not hurt us”, sobre como construir IA que ajude as pessoas em vez de prejudicá-las [1].
Model Cards e o combate ao viés
O artigo “Model Cards for Model Reporting”, de 2019, com Mitchell como primeira autora e com Gebru e Inioluwa Deborah Raji entre os coautores, propôs fichas padronizadas para documentar modelos de machine learning [1].
Mitchell também é coautora de “Mitigating Unwanted Biases with Adversarial Learning” (2018), que usa aprendizado adversarial para reduzir vieses: o método testa o modelo com uma variável para o grupo de interesse, um preditor e um adversário [1].
Stochastic Parrots
Mitchell é coautora, com Emily M. Bender, Timnit Gebru e Angelina McMillan-Major, de “On the dangers of stochastic parrots: Can language models be too big?”, publicado em março de 2021 na conferência FAccT da ACM [1]. No artigo, ela assina como Shmargaret Shmitchell [1].
A disputa sobre esse artigo levou à saída de Gebru do Google em dezembro de 2020 [2].
A demissão em 2021
Em janeiro de 2021, um sistema automático bloqueou a conta corporativa de Mitchell depois que ela usou um script para buscar e baixar e-mails que, segundo o artigo, documentariam incidentes discriminatórios envolvendo Gebru [1].
Em resposta à repercussão na imprensa, o Google afirmou que ela tinha “exfiltrado milhares de arquivos e compartilhado com várias contas externas”, em tradução livre [1]. Depois de uma investigação de cinco semanas, Mitchell foi demitida; as reportagens citadas são de 19 e 20 de fevereiro de 2021 [1].
Antes da demissão, ela defendia publicamente a diversidade no Google e tinha manifestado preocupação com a censura de pesquisas dentro da empresa [1].
Hugging Face e a comunidade
No fim de 2021, Mitchell entrou na startup de IA Hugging Face; a contratação foi noticiada pela Bloomberg em agosto daquele ano [1].
Ela é cofundadora do Widening NLP, grupo da Association for Computational Linguistics para ampliar a participação de mulheres e minorias no processamento de linguagem natural [1]. O artigo também a associa à criação do workshop anual de Linguística Computacional e Psicologia Clínica (CLPsych) da ACL [1].
Linha do tempo
-
2005
Forma-se em linguística no Reed College
-
2009
Mestrado em linguística computacional na Universidade de Washington
-
2012
Pós-doutorado na Johns Hopkins
-
2013
Doutorado em Aberdeen e entrada na Microsoft Research
-
2016
Entra no Google como cientista de pesquisa sênior
-
2018
Palestra TED e representação do Google na Partnership on AI
-
2019
Publica o artigo dos Model Cards
-
2021
Demitida do Google; Stochastic Parrots é publicado; entra na Hugging Face
Empresas ligadas a Margaret Mitchell
Empresas desta coleção em que a pessoa trabalhou, fundou, investiu ou com que teve relação direta. Os nomes com link já têm dossiê publicado.
Ver a rede de Margaret Mitchell no grafo 3D
- Hugging Face Startup onde Mitchell trabalha desde 2021
- Google (Alphabet) Onde trabalhou de 2016 a 2021
- Microsoft Onde liderou a pesquisa do Seeing AI
Veja também: outras pessoas
- Timnit Gebru Co-liderou com Mitchell a equipe de ética em IA do Google
- Joy Buolamwini Pesquisadora de viés algorítmico e coautora de Gebru no Gender Shades
Sumário de siglas usadas
- Model Cards
- Fichas que documentam como um modelo de machine learning foi treinado, para que serve e onde pode falhar.
- NLP
- Processamento de linguagem natural, a área da IA que lida com texto e fala.
- ACL
- Association for Computational Linguistics, principal associação científica da área.
- FAccT
- Conferência da ACM sobre justiça, responsabilidade e transparência em sistemas computacionais.
Perguntas frequentes
Quem é Margaret Mitchell?+
O que são Model Cards?+
Por que ela foi demitida do Google?+
Quem é Shmargaret Shmitchell?+
Referências
Vídeos
How we can build AI to help humans, not hurt us (TED, 2018)
Palestra de Margaret Mitchell no TED.
Sites e Artigos
Fontes consultadas
- Margaret Mitchell (scientist) · Wikipédia
- Timnit Gebru · Wikipédia
Este dossiê usa apenas informações públicas e com fonte. Não publicamos dados pessoais privados, como endereço, documentos ou informações de saúde. Encontrou um erro? Escreva para [email protected].
Conclusão
Margaret Mitchell levou a formação em linguística para a pesquisa em IA e propôs uma ferramenta simples, os Model Cards, para tornar os modelos mais transparentes. A passagem pelo Google terminou em fevereiro de 2021, dois meses depois da saída de Timnit Gebru, e desde então ela segue o trabalho na Hugging Face.