Dossiê · Inteligência artificial
Jan Leike: o pesquisador de alinhamento que liderou o projeto de superalinhamento na OpenAI e saiu dizendo que a segurança ficou em segundo plano
Jan Leike estudou em Freiburg, fez doutorado em aprendizado de máquina na Austrália e passou pela DeepMind antes de chegar à OpenAI, em 2021, onde chefiou a área de alinhamento. Em 2023 passou a liderar com Ilya Sutskever um projeto para alinhar futuras superinteligências em quatro anos. Em maio de 2024 saiu dizendo que a cultura de segurança tinha ficado atrás de produtos chamativos e foi para a Anthropic.
Atualizado em · 1 fontes públicas citadas
Jan Leike é um pesquisador de alinhamento de IA, área que estuda como fazer sistemas de inteligência artificial agirem de acordo com as intenções humanas. Trabalhou na DeepMind e na OpenAI e entrou na Anthropic em maio de 2024.[1]
A página da Wikipédia sobre ele é curta. Este dossiê reúne o que ela registra: a formação, a passagem pelos três laboratórios, o projeto de superalinhamento e as críticas que fez ao deixar a OpenAI.[1]
Jan Leike: anos entre a entrada na OpenAI e cada marco
Anos contados a partir de 2021, quando Leike entrou na OpenAI, com base nas datas da Wikipédia; o último ponto é o prazo do projeto de superalinhamento.
O prazo de 2027 é calculado: junho de 2023 mais os quatro anos da meta. A Wikipédia não data as etapas anteriores a 2021.
Alinhamento na OpenAI
Em 2021, Leike entrou na OpenAI, onde se tornou chefe de alinhamento.[1]
Em junho de 2023, ele e Ilya Sutskever, então cientista-chefe da OpenAI, passaram a liderar o recém-criado projeto de superalinhamento. A meta era descobrir, em quatro anos, como alinhar futuras superinteligências artificiais para garantir que fossem seguras.[1]
O plano envolvia automatizar a própria pesquisa de alinhamento com sistemas de IA relativamente avançados.[1]
A saída em 2024
Em maio de 2024, Leike anunciou que deixava a OpenAI, depois das saídas de Sutskever, de Daniel Kokotajlo e de outros funcionários da área de segurança.[1]
Ao sair, escreveu que, nos últimos anos, "a cultura e os processos de segurança ficaram em segundo plano em relação a produtos chamativos" e disse ter perdido aos poucos a confiança na liderança da empresa (tradução livre).[1]
A página da Wikipédia registra apenas a versão de Leike e não traz resposta da OpenAI.[1]
Frases e declarações públicas
“”
Linha do tempo
-
1986 ou 1987
Nasce, segundo a Wikipédia
-
Sem data
Graduação em Freiburg, mestrado e doutorado na Australian National University com Marcus Hutter
-
Sem data
Pós-doutorado no Future of Humanity Institute e ida para a DeepMind
-
2021
Entra na OpenAI
-
Junho de 2023
Passa a liderar o projeto de superalinhamento com Ilya Sutskever
-
2023
Entra na lista Time 100 da IA
-
Maio de 2024
Deixa a OpenAI com críticas à cultura de segurança e entra na Anthropic
-
2024
Volta à lista Time 100 da IA
Empresas ligadas a Jan Leike
Empresas desta coleção em que a pessoa trabalhou, fundou, investiu ou com que teve relação direta. Os nomes com link já têm dossiê publicado.
Ver a rede de Jan Leike no grafo 3D
- OpenAI Leike chefiou a área de alinhamento da OpenAI de 2021 a 2024
- Anthropic Leike entrou na Anthropic em maio de 2024
- Google DeepMind Leike fez pesquisa empírica de segurança de IA na DeepMind
Veja também: outras pessoas
- Ilya Sutskever Liderou com Leike o projeto de superalinhamento da OpenAI, a partir de junho de 2023
- Shane Legg Colaborou com Leike na pesquisa de segurança de IA na DeepMind
Sumário de siglas usadas
- Alinhamento de IA
- Área que estuda como fazer sistemas de IA seguirem as intenções e os valores humanos
- Superalinhamento
- Nome do projeto da OpenAI para alinhar sistemas mais inteligentes que os humanos
- Superinteligência
- Sistema de IA hipotético com capacidade muito acima da humana na maioria das tarefas
Perguntas frequentes
Quem é Jan Leike?+
O que era o projeto de superalinhamento?+
Por que Jan Leike saiu da OpenAI?+
Onde Jan Leike trabalha hoje?+
Quem orientou o doutorado de Jan Leike?+
Referências
Fontes consultadas
- Jan Leike · Wikipédia
Este dossiê usa apenas informações públicas e com fonte. Não publicamos dados pessoais privados, como endereço, documentos ou informações de saúde. Encontrou um erro? Escreva para [email protected].
Conclusão
Jan Leike passou pela DeepMind, pela OpenAI e pela Anthropic e chefiou o alinhamento na OpenAI no momento em que a empresa prometia resolver a segurança de superinteligências em quatro anos. Sua saída, com críticas públicas à prioridade dada aos produtos, entrou para o debate sobre segurança dentro das empresas de IA.