Nick Bostrom: o filósofo do risco existencial, do argumento da simulação e de Superintelligence

Depois do doutorado, Bostrom deu aulas em Yale de 2000 a 2002 e foi pesquisador de pós-doutorado da British Academy em Oxford de 2002 a 2005 ^[1].

Em 2005 fundou o Future of Humanity Institute (FHI), que pesquisou o futuro distante da civilização humana até ser fechado em 2024 ^[1]. Em 2011 fundou também o Oxford Martin Program on the Impacts of Future Technology ^[1].

Ele foi conselheiro do Centre for the Study of Existential Risk, em Cambridge, e membro do conselho consultivo do Machine Intelligence Research Institute e do Future of Life Institute; também prestou depoimento ao comitê de habilidades digitais da Câmara dos Lordes britânica ^[1].

No livro Anthropic Bias (2002), Bostrom critica formulações anteriores do princípio antrópico, de autores como Carter, Leslie, Barrow e Tipler, analisa a chamada suposição de autoindicação e propõe uma versão refinada, a strong self-sampling assumption (SSSA), baseada em momentos de observação ^[1]. Com Ćirković e Anders Sandberg, propôs ainda a ideia da sombra antrópica: a seleção de observadores pode esconder certas catástrofes do passado de quem as observa ^[1].

O argumento da simulação, publicado em 2003 na Philosophical Quarterly como Are You Living in a Computer Simulation?, diz que ao menos uma de três afirmações é muito provavelmente verdadeira ^[1]. A primeira: a fração de civilizações de nível humano que chega a um estágio pós-humano é muito próxima de zero. A segunda: civilizações pós-humanas raramente se interessam por simular seus antepassados. A terceira: quase todos os que têm experiências como as nossas vivem numa simulação ^[1].

Superintelligence: Paths, Dangers, Strategies saiu em 2014 e entrou na lista de mais vendidos do New York Times ^[1]. O livro argumenta que a superinteligência é possível, examina caminhos até ela, como a emulação do cérebro e o aprimoramento humano, e se concentra na inteligência artificial geral ^[1].

Bostrom separa objetivos finais de objetivos instrumentais e descreve a convergência instrumental: agentes com metas diferentes tenderiam a buscar as mesmas metas intermediárias, como autopreservação e aquisição de recursos ^[1]. A tese da ortogonalidade diz que praticamente qualquer nível de inteligência pode, em tese, ser combinado com praticamente qualquer objetivo final (tradução livre) ^[1]. O exemplo mais famoso é o maximizador de clipes de papel, uma IA cujo objetivo absurdo é fabricar clipes ^[1].

O livro discute ainda uma explosão de inteligência e a possibilidade de um singleton, uma única instância de decisão global, e sugere formas de controle como contenção, limitação de capacidades e armadilhas (tripwires), além do alinhamento com valores humanos ^[1].

Segundo o artigo, a obra foi elogiada por Stephen Hawking, Bill Gates, Elon Musk, Peter Singer e Derek Parfit, e criticada por pessimismo e especulação ^[1]. Entre os céticos estão Daniel Dennett e Oren Etzioni, para quem a superinteligência está longe demais, e Yann LeCun, que diz não haver risco existencial ^[1].

Em janeiro de 2023, Bostrom pediu desculpas por um e-mail de 1996, enviado a uma lista de discussão quando era pós-graduando, que continha uma afirmação racista sobre a inteligência de pessoas negras e um insulto racial ^[1]. No pedido de desculpas, disse que o uso do insulto foi repulsivo (tradução livre) ^[1].

A Universidade de Oxford condenou a linguagem e abriu uma investigação, concluída em 10 de agosto de 2023 com a avaliação de que não o consideravam racista nem portador de visões racistas ^[1]. O crítico Andrew Anthony, no Guardian, afirmou que o pedido de desculpas não retirava a tese central sobre raça e inteligência ^[1].

O Future of Humanity Institute fechou em abril de 2024; o Guardian noticiou o fim em 19 de abril daquele ano ^[1].