O mito do transumanismo

O mito do transumanismo

por Guillaume Renouard e Charles Perragin

Imagem por Allan Sieber

O medo de fim do mundo assombra a história da humanidade. Desde o início do século XXI, o espectro de uma tecnologia fora de controle, ultrapassando e depois arrasando nossa espécie, persegue os especialistas. A inteligência artificial e as próteses digitais prometeriam ao Homo sapiens um destino de Frankenstein. Mas quem difunde essa narrativa e quem ganha com ela?

“O desenvolvimento indiscriminado de uma inteligência artificial poderia indicar o fim da humanidade.” Por ocasião da morte de Stephen Hawking, em março de 2018, essa famosa citação do astrofísico ecoou na imprensa e nas redes sociais. Durante muito tempo relegado aos registros da ficção científica, o medo da inteligência artificial está enraizado há alguns anos no debate público, associado tanto à automatização maciça das ocupações e ao desemprego em massa quanto à perspectiva não menos aterrorizante dos robôs assassinos.1

Do filósofo e pesquisador Nick Bostrom2 a Elon Musk, fundador das empresas Tesla e SpaceX, diversas personalidades multiplicam, assim, os alertas sobre o risco existencial que as máquinas “superinteligentes” e potencialmente incontroláveis fariam recair na humanidade. Para o dono da Tesla, seu perigo seria até maior que o da bomba atômica. A esse medo, acrescenta-se o do transumanismo, uma ideologia que surgiu em 1980 no Vale do Silício e promove a melhora física e intelectual dos seres humanos por meio das novas tecnologias e da inteligência artificial, com a perspectiva de uma fusão entre o humano e a máquina.3 Desde 2002, o economista e filósofo Francis Fukuyama vê, nessas teses, o maior perigo da história da humanidade.4

A hipótese segundo a qual a máquina poderia logo ultrapassar o homem tem um nome. Trata-se da “singularidade”, um termo utilizado pela primeira vez no ensaio The Coming Technological Singularity (“A iminente singularidade tecnológica”), publicado pelo autor norte-americano de ficção científica Vernor Vinge em 1993.5 Ele designa uma data incerta na qual a inteligência artificial ultrapassará a nossa, inaugurando então uma nova era impossível de ser concebida por nosso cérebro humano. O próprio Vinge teve seus precursores e inspiradores, desde as reflexões do matemático Stanislaw Ulam sobre a aceleração exponencial do progresso até os escritos de Isaac Asimov (The Last Question [“A última questão”], 1956) e de Philip K. Dick (A máquina de governar, 1960; A formiga elétrica, 1970), passando pelas hipóteses do estatístico Irving John Good sobre as máquinas ultrainteligentes.

Elevada a problema-chave pelas indústrias do Vale do Silício e seus intelectuais orgânicos, a singularidade se transformou durante os anos 2000 em escola de pensamento. Alguns, como Raymond Kurzweil, transumanista convicto e pesquisador do Google, não a veem como uma catástrofe, mas como um acontecimento desejável. Embora esse “tecnotimismo” continue minoritário, cada um desses analistas concorda com uma questão: o avanço indiscutível e exponencial do progresso técnico torna a singularidade inevitável. Em vez de tentar impedi-la, seria importante preparar a humanidade para seu surgimento, de modo a limitar suas consequências negativas.

“Erotização ansiosa do progresso”

Um paradoxo, contudo, salta aos olhos: apocalípticos ou preventivos, esses cenários vêm dos próprios pesquisadores e industriais engajados no desenvolvimento do que eles se mobilizam contra. Irrigados pelo dinheiro do Vale do Silício, as organizações e os comitês de ética supõem nos premunir contra a sublevação das máquinas, editando normas e regras que se multiplicam. Promotora de uma inteligência artificial generosa, a associação OpenAI, por exemplo, foi fundada em 2015 por donos de empresas como Musk, Sam Altman, dirigente da poderosa aceleradora Y Combinator, e Peter Thiel, cofundador da PayPal. O Future of Life Institute (“Instituto para o Futuro da Humanidade”), que procura diminuir os “riscos existenciais” ligados ao desenvolvimento de tecnologias, criado principalmente por Jaan Tallinn, cofundador do Skype, recebeu uma generosa doação de US$ 10 milhões feita por Musk. A Singularity University, que visa educar e responsabilizar os atores da indústria 4.0 diante dos “grandes desafios da humanidade”, foi criada graças aos fundos de patrocinadores-engenheiros-ensaístas, como Kurzweil e Peter Diamandis, especialista em turismo espacial e exploração de recursos de mineração de asteroides. Já a parceria para que a inteligência artificial beneficie as pessoas e a sociedade (Partnership on AI to Benefit People and Society), lançada com grande pompa em setembro de 2016 para promover “ações eficazes”, conta entre seus fundadores com Google, Apple, Facebook, Amazon, Microsoft e IBM. A lista é longa, mas todos essas empresas compartilham do credo de Diamandis: “Um dia, os dirigentes políticos vão despertar, mas será tarde demais. É preciso ultrapassá-los. Acredito muito mais no poder dos empreendedores do que no dos políticos ou mesmo no da política propriamente dita”.6

Em seu livro Le Mythe de la singularité (“O mito da singularidade”), o especialista em informática e filósofo Jean-Gabriel Ganascia resume essa situação de forma mordaz: “Nós nos encontramos, portanto, diante dos ‘bombeiros piromaníacos’ que, ao mesmo tempo que provocam voluntariamente um incêndio, parecem dispostos a tentar apagá-lo para se beneficiarem da situação”.7 A filantropia autoproclamada dessas empresas, de fato, não tem a ver com sua conduta em matéria fiscal e de direito trabalhista. Por que, desde então, financiam estruturas que, por intermédio de pesquisadores e filósofos, ventilam funestas previsões sobre as consequências das tecnologias que elas desenvolvem?

Independentemente de Musk ou Mark Zuckerberg, fundador do Facebook, se sentirem ou não sinceramente investidos da missão de reconduzir e atualizar o ideal de progresso do Iluminismo, eles continuam homens de negócios. Seu êxito está ligado a um modelo apresentado há duas décadas: divulgar um problema para o qual eles se preparam para comercializar a solução. Alongar a duração da vida e ampliar as capacidades mentais ou corporais representam um mercado promissor, que poderá ultrapassar US$ 1 bilhão antes de 2020. É também uma boa publicidade, que coloca a indústria 4.0 no centro do futuro humano… e da atenção dos investidores. Francesco Panese, professor de Estudos Sociais da Medicina e de Ciências na Universidade de Lausanne, vê emergir há alguns anos uma “economia da promessa”, utópica ou distópica. “A emergência das start-ups na esfera da tecnologia se baseia no investimento de capital de risco que desbloqueia fundos em função de promessas de grandes transformações do mundo”, explica. Diante de uma lacuna entre os técnicos especialistas que inovam e os capitalistas não iniciados, o que o sociólogo chama de “erotização ansiosa do progresso” seria uma forma de “seduzir o não iniciado”.

Não iniciado, mas não idiota. Essas “tecnopromessas” são sistematicamente acompanhadas de um discurso pragmático, menos midiático. Embora, na realidade, os investidores não esperem passar pelo processo de criogenização para viajar no espaço ou voltar a viver após a morte, eles sabem que essas pesquisas levarão a melhorar os procedimentos de conservação, o que interessará, por exemplo, aos grandes supermercados. Prometer a vida eterna para melhor congelar filés de bacalhau? “Inúmeros pesquisadores e empreendedores que se mostram muito prudentes em um contexto acadêmico tendem a dar declarações sensacionalistas quando falam para a imprensa: um apelo direto aos investidores, que têm a maior parte dos conhecimentos técnicos limitados e baseados consideravelmente na leitura do New York Times ou do Wall Street Journal”, avalia por sua vez Zachary Chase Lipton, pesquisador na área de aprendizado de máquina da Universidade Carnegie Mellon que se esforça, em seu blog Approximately Correct, para desconstruir os fantasmas em torno da inteligência artificial.

Para Gabriel Dorthe, filósofo integrado pela necessidade de suas pesquisas à Associação Francesa Transumanista, “essas criações antecipadas de acontecimentos monstruosos ocultam ou banalizam certo número de aplicações concretas da inteligência artificial” – especialmente os algoritmos de ajuda à tomada de decisão, concebidos para racionalizar as escolhas humanas e atualmente utilizados pela polícia, pela justiça, pelas seguradoras e pelos departamentos de recursos humanos nos Estados Unidos. Longe dos radares midiáticos, o matemático Cathy O’Neil coloca em evidência, em seu livro Weapons of Math Destruction (“Armas de destruição matemática”)8 as consequências do uso desses algoritmos nas populações mais vulneráveis:9 esse tipo de programa categoriza, por exemplo, como potencialmente perigosos indivíduos que não cometeram outro crime a não ser viver em um bairro pobre. Um assunto sério, mas sem dúvida menos atraente do que o fim da espécie humana…

“Somos todos cúmplices disso, inclusive pesquisadores. O transumanismo permite aos que trabalham com pesquisa publicar livros e artigos sobre a humanidade em perigo, obter cargos etc.”, afirma Dorthe. Em 2014, mais de oitocentas pessoas, entre as quais uma boa parte de pesquisadores e no mínimo trezentos neurobiólogos, assinaram uma carta aberta contra o Human Brain Project (“Projeto Cérebro Humano”), um projeto de pesquisa de 1,2 bilhão de euros (dos quais 500 milhões provenientes de fundos europeus) visando recriar, até 2024, um cérebro humano graças a um supercomputador. Como muitos, Richard Hahnloser, professor de Neurociências da Universidade de Zurich, condenou, na época das “promessas sem conteúdo real”,10 a ausência de cientistas nas instâncias dirigentes e o peso dos industriais, atraídos mais pela perspectiva de computadores com maior desempenho graças à informática neuromórfica do que pela compreensão de nossa massa cinzenta.

A promoção de uma pós-humanidade tecnológica tem também como consequência contornar a política. Tudo se passa como se a inteligência artificial pusesse uma questão séria demais para ser deixada para os governantes ou para a deliberação pública, e que deveria sobretudo ser reservada aos círculos de iniciados que constituem os institutos de especialistas, que teriam o poder de decisão. Paradoxalmente, observa Panese, “a reflexão ética tem um efeito tóxico de despolitização das disputas. Google, Amazon, Facebook, Apple, Microsoft têm um interesse assumido em circunscrever o debate ao registro dos valores, sem deixar espaço para as reflexões sobre as consequências imediatas das tecnologias sobre as desigualdades sociais ou sobre a emergência de novos espaços de poder”.

Além desse deslizamento do político para a ética, o discurso da singularidade implica um segundo deslocamento: o da racionalidade científica para o registro do mito. A técnica não se tornaria aqui o suporte de uma teoria preditiva baseada em observações (como a meteorologia), mas de uma grande narrativa trágica da vida humana. “O transumanismo é um sistema de crenças que tem mais a ver com a religião do que com a ciência”, afirma Richard Jones, professor de Física da Universidade de Sheffield e autor de um texto intitulado Against Transhumanism (“Contra o transumanismo”).11 “Ele apela para os mitos fundadores da humanidade, ao reutilizar seus elementos-chave: a ideia de que poderíamos alcançar a abundância e até mesmo a imortalidade graças à intervenção de uma inteligência superior, capaz de causar nossa felicidade ou nossa infelicidade… De maneira mais surpreendente, o transumanismo lembra também o cosmismo russo, movimento filosófico do início de século XX e, particularmente, o pensador ortodoxo Nikolai Fiodorov. Segundo Fiodorov, a ciência permitiria a realização das promessas da Bíblia aqui na Terra. Ele estava convencido de que a tecnologia acabaria nos tornando imortais.”

Promessa de saúde

A narrativa da singularidade funciona melhor ainda porque ecoa mitos. “Trata-se de um discurso de tipo apocalíptico muito antigo que remonta, no Ocidente, ao joaquimismo do século XII”, explica Franck Damour, historiador e pesquisador da Universidade Católica de Lille. A decolagem das novas tecnologias promete saúde que varia conforme as determinações culturais. Na concepção cíclica da história própria ao hinduísmo, a chegada da inteligência artificial não prefigura, como no pensamento ocidental, um acontecimento único, uma guinada irreversível para uma era singular e fundamentalmente diferente, como no pensamento do Apocalipse. Trata-se, sobretudo, de uma volta, de uma restauração de um tempo cosmogônico antigo. Assim, os indianos reencontrariam logo a idade gloriosa do Satya Yuga, que representa o renascimento da idade de ouro da humanidade.12

Nos Estados Unidos, a ideologia transumanista ressoa com alguns movimentos religiosos do protestantismo norte-americano, “em particular com o chamado Quarto Grande Despertar, que nos anos 1960 fazia do êxito corporal – um corpo são, forte e longevo – um sinal da escolha divina”, comenta Damour. Assim, ao contrário dos movimentos dos cientistas do século XIX, que tinham uma dimensão coletiva, como o sansimonismo, no transumanismo não se trata mais de salvar a sociedade, mas o indivíduo. “Salta-se do indivíduo para um discurso sobre a espécie humana em geral, sem passar pelo intermediário social”, analisa o historiador. “A saúde passa inicialmente pelo corpo. Não são mais os Estados que desempenham um papel decisivo na organização do mundo, mas os indivíduos, por meio das estruturas empresariais. Talvez o liberalismo jamais tenha tido uma ambição tão forte.” E seus adversários se encontram muito mais desmunidos porque lhes foi confiscado um poderoso propulsor: a ideia de progresso.

*Guillaume Renouard e Charles Perragin são jornalistas do Collectif Singulier.

1 Édouard Pflimlin, “Les Nation unies contre Terminator” [As Nações Unidas contra o Exterminador], Le Monde Diplomatique, mar. 2017.

2 Nick Bostrom, Superintelligence: Paths, Dangers, Strategies [Superinteligência: caminhos, perigos, estratégias], Oxford University Press, 2014.

3 Philippe Rivière, “Nous serons tous immortels… en 2100” [Seremos todos imortais… em 2100], Le Monde Diplomatique, dez. 2009.

4 Francis Fukyyama, Our Posthuman Future: Consequences of the Biotechnology Revolution [Nosso futuro pós-humano: consequências da revolução da biotecnologia], Picador-Farrar, Straus and Giroux, Nova York, 2002.

5 Vernor Vinge, “The coming technological singularity: How to survive in the post-human era” [A iminente singularidade tecnológica: como sobreviver na era pós-humana], Departamento de Ciências Matemáticas, Universidade do Estado de San Diego, 1993.

6 Fabien Benoit, “À Palo Alto, au royaume des radieux” [Em Palo Alto, no reinado dos iluminados], Libération, Paris, 9 jan. 2017.

7 Jean-Gabriel Ganascia, Le Mythe de la singularité. Faut-il craindre l’intelligence artificielle? [O mito da singularidade. Será que é preciso temer a inteligência artificial?], Seuil, Paris, 2017. Jérôme Lamy, “Intelligence artificielle ou collective?” [Inteligência artificial ou coletiva?], Le Monde Diplomatique, jun. 2018.

8 Cathy O’Neil, Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy [Armas de destruição matemática: como o Big Data aumenta a desigualdade e ameaça a democracia], Crown, Nova York, 2016.

9 Frank Pasquale, “Mettre fin au trafic des données personnelles” [Acabar com o tráfico de dados pessoais], Le Monde Diplomatique, maio 2018.

10 Lise Loumé, “Human Brain Project: faut-il continuer ce projet à 1,2 milliard d’euros? [Projeto Cérebro Humano: será que é preciso continuar esse projeto de 1,2 bilhão de euros?], Sciences et Avenir, Paris, 9 jul. 2014.

11 Richard Jones, “Against Transhumanism” [Contra o transumanismo], e-book, 15 jan. 2016. Disponível em: .

12 Robert Geraci, “A tale of two futures: Techno-eschatology in the US and India” [Uma história de dois futuros: tecnoescatologia nos Estados Unidos e na Índia], Social Compass, v.63, n.3, Nova York, set. 2016.
LE MONDE DIPLOMATIQUE