Mapa # 32: Homo Hubris? (Parte 2 de 2)

A tecnologia impulsiona a mudança, certamente. Mas isso também impulsiona o progresso?

Chris Kutarna

Mapa # 32: Homo Hubris? (Parte 2 de 2)

Fonte: Chris Kutarna

A tecnologia impulsiona a mudança. Isso também impulsiona o progresso?

Essas oito palavras resumem muito da conversa que está acontecendo na sociedade no momento. Uma séria discussão sobre toda a relação entre “tecnologia” e “progresso” parece ser uma boa ideia.

Na Parte 1 desta série, eu resumi “quatro ingenuidades” que comumente se encaixam em visões tecno-otimistas do futuro. Tais visões encobrem: (1) como a tecnologia está eliminando os empregos de baixa qualificação que, no passado, ajudaram os países pobres a se desenvolverem (por exemplo, a China); (2) como, em uma guerra global por talentos, as comunidades mais pobres lutam para manter as habilidades tecnológicas de que necessitam; (3) como não apenas a tecnologia, mas a política, decide se a mudança tecnológica beneficia as pessoas; e (4) como toda tecnologia não é apenas uma solução, mas também um novo conjunto de problemas que a sociedade deve administrar bem para obter ganhos líquidos.

Tecnologia = progresso?

A mais profunda ingenuidade – a crença oculta no pano de fundo de tudo isso – é que a mudança tecnológica é uma coisa boa.

Esta é uma das maiores ideias do nosso tempo – e também uma das menos questionadas…

Não foi sempre tão obviamente verdade. Em 1945, J. Robert Oppenheimer, ao testemunhar uma explosão nuclear no local de testes do Projeto Manhattan no Novo México, marcou o momento com uma citação distópica do Bhagavad Gita: “Eu me tornei a morte, destruidora de mundos”.

Mas dentro de dez anos, e apesar dos horrores de Hiroshima e Nagasaki, surgiu uma revolução muito mais utópica na Era Atômica. Lewis Strauss, arquiteto do programa “Atoms for Peace” dos EUA e um dos membros fundadores da Comissão de Energia Atômica, proclamou em 1954 que:

Não é demais esperar que nossos filhos desfrutem em suas casas energia elétrica muito barata para medir, e saberão de grandes fomes periódicas no mundo apenas como questões históricas. Eles viajarão sem esforço pelos mares e por baixo deles, e pelo ar com um mínimo de perigo e em grandes velocidades. Eles experimentarão um período de vida muito mais longo do que o nosso, à medida que a doença produz seus segredos e o homem passa a entender o que o leva a envelhecer.

O que aconteceu nos anos entre essas duas declarações para mudar o roteiro da tecnodistopia para a tecnotopia?

A inovação patrocinada pelo Estado durante a guerra rendeu não apenas a bomba atômica, mas: melhores pesticidas e antibióticos; avanços na aviação e a invenção do radar; plásticos e fibras sintéticas; fertilizantes e novas variedades de plantas; e, claro, energia nuclear.

Dessas conquistas, uma idéia poderosa se consolidou em países do mundo todo: ciência e tecnologia significavam progresso.

Nos EUA, essa ideia tornou-se um dogma oficial do governo quase imediatamente após a guerra. Em um famoso relatório, Science: The Endless Frontier, Vannevar Bush (principal assessor de ciência presidencial durante a Segunda Guerra Mundial, líder do esforço de P & D em tempo de guerra do país e fundador da fabricante americana de armas Raytheon) apresentou à Casa Branca que: O financiamento público das ciências que ajudaram a vencer a guerra, se mantido durante o período da paz, elevaria a sociedade a novas alturas estonteantes de saúde, prosperidade e emprego. Ele também advertiu que (b) “sem progresso científico, nenhuma quantidade de realizações em outras direções pode garantir nossa saúde, prosperidade e segurança como uma nação no mundo moderno.” Mas Vannevar também enquadrou o financiamento público da pesquisa científica e tecnológica como um todo. imperativo moral:

Tem sido a política básica dos Estados Unidos que o governo deve promover a abertura de novas fronteiras. Abriu os mares para cortar navios e forneceu terras para os pioneiros. Embora essas fronteiras tenham desaparecido mais ou menos, a fronteira da ciência permanece. Está de acordo com a tradição americana – que tornou os Estados Unidos grandiosos – que novas fronteiras sejam tornadas acessíveis para o desenvolvimento de todos os cidadãos americanos. Além disso, como saúde, bem-estar e segurança são preocupações do governo, o progresso científico é, e deve ser, de interesse vital para o governo. Sem progresso científico, a saúde nacional se deterioraria; sem progresso científico, não poderíamos esperar por melhorias em nosso padrão de vida ou por um número maior de empregos para nossos cidadãos; e sem progresso científico não poderíamos ter mantido nossas liberdades contra a tirania.

Em suma, ciência e tecnologia = progresso (e se você não acha isso, há algo antipatriótico – e moralmente errado – em seu pensamento).

Os sumos sacerdotes da ciência e tecnologia fizeram crentes de todos nós

Em todas as décadas, desde então, muitas das vozes mais famosas e influentes da cultura popular foram aquelas que repetiram e renovaram esse artigo básico de fé – na linguagem da mais recente descoberta científica ou maravilha tecnológica. Por exemplo,

Década de 1960: moonshot de John F. Kennedy para exploração espacial; Lei de Gordon Moore do crescimento exponencial do poder de computação; a Feira Mundial de Nova York de 1964-65 (que apresentou exposições orientadas para o futuro, como a PicturePhone da Bell Telephone e a Futurama da General Motors)

Década de 1970: O Choque do Futuro de Alvin Toffler, que argumentava que a tecnologia era agora o principal motor da história; Carl Sagan, que argumentou que a descoberta científica (especificamente, na astronomia) nos revela as verdades mais importantes da condição humana; Buckminster Fuller, que argumentou que avanços em química, engenharia e manufatura garantiriam a sobrevivência da humanidade na “Spaceship Earth”

Nós podemos tornar toda a humanidade bem-sucedida através da evolução industrial da ciência. – Buckminster Fuller, Manual de Operação da Spaceship Earth (1968)

1980: Steve Jobs, que popularizou o computador pessoal (o Mac) como uma ferramenta para o autoempoderamento, a auto-expressão e a autoliberação (daí a icônica propaganda televisiva de 1984 da Apple); Erik Drexler, engenheiro do MIT cujo livro de 1986 Engines of Creation: The Coming Era of Nanotechnology , imaginou um futuro livre da carência, porque poderemos montar qualquer coisa e tudo que precisamos, átomo por átomo; Hans Moravec, um antigo pesquisador da AI cujo livro de 1988, Mind Children , aplicou a Lei de Moore ao campo emergente da robótica e neurociência e previu que a humanidade possuiria poderes divinos da Criação-com-um-capital-C em 2040. Nossos robôs levariam nosso lugar como a espécie mais inteligente da Terra.

Década de 90: Bill Gates, cuja visão de “um computador em cada computador” equivalia a um melhor acesso ao software da Microsoft com melhorias no bem-estar humano; Ray Kurzweil, outro pioneiro da IA, argumentou em Age of Intelligent Machines (1990), Age of Spiritual Machines (1999) e The Singularity is Near (2005) que a essência do que nos torna humanos é ir além dos nossos limites. Portanto, é inevitável que a ciência e a tecnologia acabem por realizar o próximo passo na evolução humana: o transumano . Ao mesclar o “wetware” da consciência humana com o hardware e o software, transcenderemos os limites biológicos de inteligência e tempo de vida.

2000: Sergey Brin e Larry Page, que nos convenceram de que, ao organizar as informações do mundo, o Google poderia ajudar a humanidade a romper a barreira da ignorância que existe entre nós e os benefícios que o conhecimento pode trazer; Steve Jobs (de novo), que popularizou o smartphone como uma ferramenta de auto-capacitação, auto-expressão e auto-libertação (novamente), tornando possível a todos digitalizar tudo o que vemos, dizemos, ouvimos e tocamos quando estamos não em nossas mesas.

2010s: Mark Zuckerberg, que, em seu manifesto no Facebook, posiciona a tecnologia de rede social de sua empresa como necessária para o progresso humano continuar:

Nossas maiores oportunidades agora são globais – como espalhar prosperidade e liberdade, promover a paz e a compreensão, tirar as pessoas da pobreza e acelerar a ciência. Nossos maiores desafios também precisam de respostas globais – como acabar com o terrorismo, combater as mudanças climáticas e impedir pandemias. O progresso agora exige que a humanidade se una não apenas como cidades ou nações, mas também como uma comunidade global … O Facebook desenvolve a infra-estrutura social para dar às pessoas o poder de construir uma comunidade global que funcione para todos nós.

(O Facebook, aparentemente, é a tecnologia que nos redimirá de nosso fracasso moral de ampliar nosso “círculo de compaixão” [como Albert Einstein o chamou] em direção ao outro.)

Elon Musk, da mesma forma, enquadra sua SpaceX ‘Mars-shot’ como necessário. De que outra forma a humanidade escapará aos limites da Nave Espacial Terra? (Setenta e cinco anos depois do relatório Endless Frontiers de Vannevar, nós agora tomamos como certo que “escapar” de tais “limites” é o objetivo apropriado da ciência – e por extensão, da sociedade.)

E por último (por enquanto, pelo menos), Yuval Harari, cujo mais recente livro, Homo Deus: Uma Breve História do Amanhã , diz tudo no título.

A ciência e a tecnologia são o motor do progresso humano. Essa ideia tornou-se tão obviamente fiel às mentes modernas que já não a reconhecemos pelo que ela realmente é: a premissa mais discutível da modernidade.

Em vez de debater essa premissa – um debate que por si só oferece possibilidades estonteantes de progresso, em múltiplas dimensões, por múltiplos atores -, muitas vezes tomamos isso como um evangelho.

Em vez de debater essa premissa, Yuval a leva à sua conclusão final, e fala em voz alta a questão de que toda a linhagem dos sumos sacerdotes antes dele sussurrou baixinho: Será que nossos poderes da ciência e da tecnologia nos fazem deuses?

É a mesma pergunta que Oppenheimer expressou em 1945, só que agora foi purificada de todo medo e dúvida.

Nós podemos fazer o paraíso na terra

“Utopia”, que Thomas More cunhou em seu livro com o mesmo nome em 1516, significa literalmente “sem lugar”. Nos séculos desde então, muitos profetas desta ou daquela persuasão têm pintado visões utópicas. Mas o que faz com que as visões atuais da tecnotopia sejam diferentes é o caminho de como chegamos lá.

No passado, o caminho para a Utopia pedia um salto impossível no comportamento moral humano. De repente, todos nós seguiremos a Regra de Ouro e faremos com os outros como teríamos feito a nós. Okay, certo.

Mas o caminho atual para a tecno-utopia exige um salto na ciência e na tecnologia – na cibernética, na inteligência artificial, na biotecnologia, na manipulação genética, na manufatura molecular. E isso parece possível … não é? Dito da seguinte maneira: Dada a que distância nossa tecnologia chegou desde a quebra do átomo, quem entre nós está disposto a dizer que essas inovações são imposíveis ?

E se eles não são impossíveis , então a Utopia é atingível. Não temos então o dever – um dever moral – de lutar por isso?

Este argumento é tão persuasivo hoje porque temos nos persuadido por tanto tempo. Persuasivo – e difundido. É o caso moral básico que está sendo feito por um grande número de projetos de economia do mundo, cujo exemplo mais óbvio é a Universidade da Singularidade.

Eu acho tão convincente que eu não sei o que escrever em refutação.

Deuses – ou escravos?

Até me lembro de alguns a sabedoria Hannah Arendt, ou Zygmunt Bauman, ou lembro da minha conversa anterior com Ian, e lembro-me que a tecnologia nunca produz progresso por si só. A tecnologia não pode consertar nossas falhas morais e sociais, porque essas mesmas falhas estão incorporadas em nossas tecnologias. Eles se espalham com nossas tecnologias. Nossa mais nova tecnologia, AI (que aprende nossos comportamentos passados ​​para repeti-los), é também a prova mais clara dessa verdade básica. Mais tecnologia nunca será a solução perfeita para os problemas que a tecnologia ajudou a criar.

E assim, precisamos urgentemente mergulhar na mais profunda ingenuidade de nossa mentalidade moderna, essa crença de que a mudança tecnológica é uma coisa boa.

Como podemos corromper nossa inocência tecnológica?

Uma coisa que deve saltar da minha breve história da narrativa tecno-otimista é que a maioria dos narradores tem sido homens . Eu não tenho uma compreensão suficiente das questões de gênero para fazer mais do que apontar esse fato, mas isso deve provocar algumas conversas profundas. Pergunta: Quais valores estão embutidos e quais valores estão excluídos das visões do progresso humano conduzidas pela tecnologia? (Por exemplo, o aprimoramento artificial é uma expressão dos esforços naturais contra limites da humanidade, ou uma negação da natureza humana?)

Como cientista político, não posso deixar de fazer a pergunta: de quem são os interesses atendidos e de quem são dispensados quando a tecnologia é considerada como o principal motor de nosso futuro comum? Obviamente, os empreendedores e investidores em tecnologia se dão bem: abençoados são os inovadores da tecnologia, pois são os agentes do progresso humano. Ao mesmo tempo: os reguladores são amaldiçoados, porque não sabem o que governam.

Yuval entra nesse tipo de pensamento em seu Homo Deus, quando escreve:

Precisamente porque a tecnologia está agora se movendo tão rapidamente, e os parlamentos e ditadores são sobrecarregados por dados que não podem processar com rapidez suficiente, os políticos de hoje estão pensando em uma escala muito menor do que seus antecessores, um século atrás. Consequentemente, no início do século XXI, a política é desprovida de grandes visões. O governo tornou-se mera administração. Ele administra o país, mas não o lidera mais.

Mas é realmente a velocidade da mudança tecnológica, é a escala de dados, que limita a visão dos políticos de hoje? Ou é a fé popular que qualquer visão política deve acomodar as prioridades dos inovadores tecnológicos? Apesar de todas as ameaças emergentes à nossa democracia, as mídias sociais precisam estar ativadas . Para todos os seus perigos potenciais, a pesquisa em inteligência artificial deve cobrar adiante. Espere, mas por que?

Por quê!?! Que pergunta ignorante!

E enquanto estivermos no tópico de cujos interesses estão sendo servidos / sufocados, devemos nos perguntar: de quem é a ciência e a tecnologia , e de quem está sendo dispensada? “Ciência e tecnologia” não é uma força autônoma. Não tem seu próprio impulso ou direção. Nós determinamos essas coisas.

O contrato social original entre ciência e sociedade, proposto por Vannevar Bush em 1945, fez com que universidades e laboratórios fizessem pesquisa pura por si mesmos, guiados pela curiosidade e criatividade humanas. O setor privado, guiado pela motivação do lucro, peneiraria o rico esforço de encontrar boas idéias prontas para serem transformadas em ferramentas úteis para o resto de nós. Mas a realidade hoje é uma cooperação cada vez mais próxima entre a academia e os negócios. O lucro privado está eliminando a curiosidade pública. Pesquisas que prometem grandes retornos dentro do sistema econômico de hoje em geral têm precedência sobre pesquisas que possam inaugurar a…

Homo Humilitas

Todas as previsões sobre o futuro refletem os valores e normas do presente.

Então, quando Yuval faz uma pergunta retórica como: Será que nossos poderes de ciência e tecnologia um dia nos tornarão deuses? é hora de nos fazermos perguntas difíceis sobre o valor que damos à tecnologia hoje , e que outros valores estamos dispostos a sacrificar em seu altar.

A ironia é que, apenas fazendo a si mesmo sua pergunta – elevando a ciência e a tecnologia acima de outros mecanismos de progresso, acima de outros valores – diminuímos o que é a humanidade e reduzimos o futuro da humanidade a um subconjunto do que poderia ser.

É como se tivéssemos negociado as questões realmente grandes que definem e impulsionam o progresso – “O que é a vida humana?” E “O que deveria ser a vida humana?” – para o espectador “O que a tecnologia tem reservado para o nosso futuro?”

É por isso que suspeito que quanto mais debatemos a relação entre tecnologia e progresso, mais progresso real acabaremos fazendo.

Acho que nos lembraremos dos outros grandes motores de progresso à disposição da sociedade, como “lei” e “cultura” e “religião“, que não são menos, mas não mais valiosos do que “tecnologia”.

Acho que nos lembraremos de outros valores, alguns dos quais podem facilmente retroceder à medida que a tecnologia “avança”. Por exemplo, à medida que nossos poderes para fortalecer o corpo humano com a tecnologia se fortalecem, nossa frágil, mas fundamental, crença na dignidade intrínseca de cada pessoa humana enfraquecerá?

Acho que nos tornaremos menos tímidos e mais confiantes sobre nossa capacidade de navegar no agora. Dentro da narrativa tecno-utópica, podemos nos sentir silenciados por nossa própria ignorância. Fora dessa narrativa, podemos nos sentir encorajados por nossa sabedoria, nossa experiência, nossas noções estabelecidas de certo e errado.

Acho que nos lembraremos e tiraremos força de exemplos de quando a sociedade moldou a tecnologia , e não o contrário. No último século, nenhuma tecnologia desfrutou mais do que a energia atômica. E, no entanto, basta olhar para a diversidade de maneiras pelas quais diferentes culturas o incorporaram. Nos EUA, onde a conversa nuclear gira em torno da responsabilidade, nenhuma nova usina nuclear foi aberta desde o acidente de Three Mile Island em 1979. Na Alemanha, onde a conversa gira em torno dos direitos dos cidadãos de participar da tomada de riscos públicos, a decisão foi tomada. em 2011, para fechar todos os 17 reatores do país – em resposta direta ao colapso de Fukushima no Japão. Enquanto isso, na Coreia do Sul, cuja capital, Seul, está a apenas 700 quilômetros de Fukushima, o apoio popular aos 23 reatores do país permaneceu forte. (Para os sul-coreanos, a tecnologia nuclear tem sido um símbolo da independência do país.)

E acho que vamos desenvolver mais confiança para empurrar de volta contra visões tecnológicas monolíticas do “bem”. Não era a idéia toda da modernidade supostamente, como Nietzsche disse, “Deus está morto” – e, portanto, somos livres. perseguir uma variedade radical de “bens”? Uma variedade que respeita e reflete as diferenças culturais, as diferenças de gênero, as diferenças ideológicas … Tendo feito o trabalho duro para matar uma idéia de perfeição, por que agora estaríamos todos atrás de outra?

Quatro pequenas perguntas para recuperar o futuro

Nenhum dos acima é para negar que a tecnologia é uma parte profunda de nossas vidas. Foi, desde o primeiro cinzel de pedra. Mas nós seguramos a pedra em nossas mãos. Não nos segura.

Ou isso? Depois de décadas de techno-evangelismo, corremos o risco de acreditar que, se pudermos fazê-lo, devemos fazê-lo.

Manchetes recentes (de cibercrime, manipulação de mídias sociais, infra-estrutura pública hackeada e acidentes de carro sem motorista) estão abalando essa ingenuidade. Entendemos, cada vez mais, que precisamos separar e reorganizar essas duas questões, a fim de criar algum espaço para a ética e a política retornarem. O que deveríamos fazer? Aqui, a moralidade e a sociedade devem ser ouvidas. O que podemos fazer? Aqui, a ciência e a tecnologia devem responder.

De preferência nessa ordem.

É difícil imaginar que chegaremos lá. Mas eu penso: quanto mais debatemos a relação entre tecnologia e progresso, mais facilmente encontraremos nossa voz legítima para exigir de qualquer tecno-xamã que pretenda alterar a sociedade:

1. Qual é o seu propósito?

2. Quem será ferido?

3. Quem se beneficiará?

4. Como vamos saber?

Ao fazer essas quatro perguntas simples, consistente e persistentemente, podemos reinjetar a humildade em nossos esforços tecnológicos. Podemos ampliar a participação na definição da direção da tecnologia. E podemos recriar visões genuinamente compartilhadas do futuro.

Chris Kutarna

Rodapé gráfico

Fonte: Chris Kutarna

  • Reduza as experiências dolorosas
  • Trabalho de equipe bem-sucedido para introvertidos e extrovertidos
  • Sinais Confiáveis ​​de Personagem
  • Como sair da Parentalidade “Shouldstorm” em 3 Passos
  • Os benefícios surpreendentes de alguns traços psicopáticos
  • O que faz alguém extremamente bem sucedido?
  • Experiência adversa na infância
  • Ajustando sua mentalidade ao enfrentar o desconhecido
  • Humanos exageram o positivo
  • Explicando a relutância dos americanos em aceitar refugiados sírios
  • Felicidades
  • Seu guia para grupos de trabalho líderes
  • 10 dicas para escolher o hobby perfeito
  • A boa postura pode ajudar a saúde mental?
  • Sinais Confiáveis ​​de Personagem
  • Como curar nossa solidão
  • Como sair da Parentalidade “Shouldstorm” em 3 Passos
  • Processamento de Trauma: Quando e Quando Não?
  • Seu guia para grupos de trabalho líderes
  • Helicóptero Parenting é bom Parenting
  • 13 Sinais de um parceiro emocionalmente instável
  • Experiência adversa na infância
  • A notável senhora E
  • A masculinidade tóxica é um conceito válido?
  • Trabalho de equipe bem-sucedido para introvertidos e extrovertidos
  • A boa postura pode ajudar a saúde mental?
  • Os benefícios surpreendentes de alguns traços psicopáticos
  • Como lidar com a raiva
  • Processamento de Trauma: Quando e Quando Não?
  • A psicologia e a filosofia da raiva
  • Onde nossos momentos "Eureka!"
  • Felicidades
  • O caso do Audacity
  • Experiência adversa na infância
  • O que fazer quando o uso da tela do seu filho está fora de controle
  • Explicando a relutância dos americanos em aceitar refugiados sírios