Dossiê · Inteligência artificial e ética
Joseph Weizenbaum: o criador do ELIZA, o primeiro chatbot, que virou crítico da inteligência artificial
Em 1966, Joseph Weizenbaum publicou o ELIZA, um programa que conversava imitando um psicoterapeuta. Ficou chocado ao ver que muitos usuários o levavam a sério, e a reação o transformou de pioneiro da computação em um dos principais críticos da inteligência artificial.
Atualizado em · 1 fontes públicas citadas
Programas como o ELIZA hoje se chamam chatbots. Quando foi lançado, muita gente o saudou como precursor das máquinas pensantes, e Weizenbaum passou boa parte da vida tentando corrigir essa ideia.[1]
No livro Computer Power and Human Reason, de 1976, ele defendeu que a pergunta certa não é se um computador consegue fazer uma tarefa, mas se deve ser usado para ela. Para Weizenbaum, decidir é uma atividade computacional, que pode ser programada; escolher exige julgamento.[1]
De Berlim a Detroit
Weizenbaum nasceu em Berlim em 8 de janeiro de 1923. Em janeiro de 1936 fugiu da Alemanha nazista e emigrou com a família para os EUA.[1]
Em 1941 começou a estudar matemática na Wayne State University, em Detroit, no Michigan. Em 1942 interrompeu os estudos para servir como meteorologista no Corpo Aéreo do Exército dos EUA; havia sido recusado para trabalhar com criptologia por ser considerado “estrangeiro inimigo”.[1]
Depois da guerra, em 1946, voltou à Wayne State, onde concluiu o bacharelado em matemática em 1948 e o mestrado em 1950.[1]
Primeiros computadores e o ERMA
Por volta de 1952, como assistente de pesquisa na Wayne State, trabalhou com computadores analógicos e ajudou a construir um computador digital.[1]
Em 1956 foi para a General Electric, onde trabalhou no ERMA, sistema que permitiu o processamento automático de cheques por reconhecimento de caracteres em tinta magnética. Ele usaria depois sua experiência com o Bank of America como exemplo em suas críticas.[1]
Em 1962 publicou na revista Datamation o artigo “How to Make a Computer Appear Intelligent”, que descrevia um programa de gomoku capaz de vencer jogadores iniciantes.[1]
Joseph Weizenbaum: idade em cada marco
Idade aproximada em cada marco, calculada a partir da data de nascimento (8 de janeiro de 1923) e dos anos citados na Wikipédia.
Calculada como ano do marco menos 1923; pode ser um ano menor para eventos de início de janeiro. A idade na morte é a informada no artigo.
MIT e a linguagem SLIP
Em 1963, Weizenbaum se tornou professor associado do MIT, posto que obteve graças ao software SLIP, criado por ele. Recebeu estabilidade e, em 1970, tornou-se professor titular de ciência da computação e engenharia.[1]
Ao longo da carreira teve passagens por Harvard, Stanford, a Universidade de Bremen e outras universidades. Em 1996 mudou-se para Berlim.[1]
ELIZA
Weizenbaum publicou o ELIZA em 1966, na revista Communications of the ACM, com o artigo “ELIZA — A Computer Program for the Study of Natural Language Communication between Man and Machine”. O nome vem da protagonista ingênua de Pigmalião, de George Bernard Shaw.[1]
O ELIZA foi escrito em SLIP e funcionava com um roteiro chamado DOCTOR, baseado em regras de reconhecimento de padrões. Weizenbaum inspirou o estilo de conversa no Carl Rogers.[1]
Ele ficou chocado com o fato de o programa ser levado a sério por muitos usuários. Segundo a Wikipédia, sua secretária sabia que era uma simulação, mas ainda assim pediu que ele saísse da sala enquanto ela usava o programa.[1]
Muitos saudaram o ELIZA como precursor das máquinas pensantes, visão que Weizenbaum depois tentou corrigir. Programas desse tipo hoje são chamados de chatbots.[1]
O crítico da IA
Depois do ELIZA, Weizenbaum se tornou um dos principais críticos da inteligência artificial. Ao jornal The Tech, do MIT, disse que o computador, no nível mais básico, é uma força fundamentalmente conservadora (tradução livre).[1]
Seu exemplo era o Bank of America: os computadores tornaram os bancos mais eficientes, mas impediram uma reforma profunda do sistema. Ele também chamou o computador de “filho dos militares”, afirmação que tem pedido de fonte na Wikipédia, e argumentava que palavras como “militares” e “defesa” escondem o que as forças armadas realmente fazem.[1]
Mesmo assim, não se considerava pacifista: achava que a ação armada às vezes é necessária.[1]
Computer Power and Human Reason
Em 1976, Weizenbaum publicou Computer Power and Human Reason: From Judgment To Calculation, pela W. H. Freeman, livro que a Wikipédia descreve como influente.[1]
A tese central é que saber se um computador pode fazer uma tarefa é irrelevante para decidir se ele deve ser usado para ela. Ele distingue decidir, uma atividade computacional que pode ser programada, de escolher, que exige julgamento.[1]
Escreveu ainda Kurs auf den Eisberg (1984), o prefácio de uma edição de Renewal of the Social Organism, de Rudolf Steiner (1985), Zur Anpassung des Designs an die digitalen Medien (1997) e Computermacht und Gesellschaft (2001). Islands in the Cyberstream saiu em 2015, depois de sua morte.[1]
Morte e legado
Weizenbaum morreu em 5 de março de 2008, em Ludwigsfelde-Gröben, na Alemanha, aos 85 anos. Teve obituários no New York Times, no Independent e no Times. Um perfil do Wall Street Journal de 2008 foi intitulado “MIT Professor's Work Led Him to Preach the Evils of Computers”.[1]
Ele é tema dos documentários “Weizenbaum. Rebel at Work.”, de 2007, depois dublado em inglês, e Plug & Pray, de 2010, sobre a ética da IA. O Weizenbaum Award e o Weizenbaum Institute, o Instituto da Internet da Alemanha, levam seu nome.[1]
Em 2023, sua trajetória voltou a ser discutida em textos como o de Tarnoff no The Guardian e um artigo no Weizenbaum Journal of the Digital Society sobre os limites da computação e o ELIZA.[1]
Linha do tempo
-
1923
Nasce em Berlim, em 8 de janeiro.
-
1936
Foge da Alemanha nazista e emigra para os EUA.
-
1941
Começa a estudar matemática na Wayne State.
-
1942
Serve como meteorologista no Corpo Aéreo do Exército.
-
1948
Bacharelado em matemática.
-
1950
Mestrado em matemática.
-
1956
Trabalha no ERMA, na General Electric.
-
1962
Publica “How to Make a Computer Appear Intelligent”.
-
1963
Torna-se professor associado do MIT.
-
1966
Publica o ELIZA.
-
1970
Torna-se professor titular do MIT.
-
1976
Publica Computer Power and Human Reason.
-
1996
Muda-se para Berlim.
-
2007
Lançamento do documentário “Weizenbaum. Rebel at Work.”.
-
2008
Morre em 5 de março, aos 85 anos.
Empresas ligadas a Joseph Weizenbaum
Empresas desta coleção em que a pessoa trabalhou, fundou, investiu ou com que teve relação direta. Os nomes com link já têm dossiê publicado.
Ver a rede de Joseph Weizenbaum no grafo 3D
Sumário de siglas usadas
- ELIZA
- Programa de conversa criado por Weizenbaum em 1966, considerado um dos primeiros chatbots.
- SLIP
- Linguagem de programação criada por Weizenbaum, usada para escrever o ELIZA.
- ERMA
- Sistema da General Electric para processamento automático de cheques.
- MIT
- Instituto de Tecnologia de Massachusetts.
- IA
- Inteligência artificial.
Perguntas frequentes
Quem foi Joseph Weizenbaum?+
O que é o ELIZA?+
De onde vem o nome ELIZA?+
Por que Weizenbaum se tornou crítico da IA?+
Qual é o livro mais conhecido de Weizenbaum?+
Quando Weizenbaum morreu?+
Referências
Fontes consultadas
- Joseph Weizenbaum · Wikipédia
Este dossiê usa apenas informações públicas e com fonte. Não publicamos dados pessoais privados, como endereço, documentos ou informações de saúde. Encontrou um erro? Escreva para [email protected].
Conclusão
Joseph Weizenbaum criou um dos primeiros chatbots e passou o resto da vida alertando contra a confiança excessiva nos computadores. A pergunta que ele fez em 1976, sobre o que as máquinas devem fazer e não apenas o que podem, voltou ao centro do debate com a nova geração de chatbots.