O Atlântico: Por que a tecnologia favorece a tirania

I. O medo crescente da irrelevância

Não há nada inevitável sobre a democracia. Por todo o sucesso que as democracias tiveram ao longo do século passado ou mais, elas são pontadas na história. Monarquias, oligarquias e outras formas de governo autoritário têm sido modos muito mais comuns de governança humana.

O surgimento de democracias liberais está associado a ideais de liberdade e igualdade que podem parecer evidentes e irreversíveis. Mas esses ideais são muito mais frágeis do que acreditamos. Seu sucesso no século XIX dependia de condições tecnológicas únicas que podem ser efêmeras.

Na segunda década do século XIX, o liberalismo começou a perder credibilidade. As questões sobre a capacidade da democracia liberal de prover a classe média aumentaram; a política se tornou mais tribal; e em cada vez mais países, os líderes mostram uma propensão à demagogia e autocracia. As causas dessa mudança política são complexas, mas parecem estar entrelaçadas com os atuais desenvolvimentos tecnológicos. A tecnologia que favoreceu a democracia está mudando e, à medida que a inteligência artificial se desenvolve, ela pode mudar ainda mais.

A tecnologia da informação continua a avançar; a biotecnologia está começando a fornecer uma janela para nossas vidas interiores - nossas emoções, pensamentos e escolhas. Juntos, a infotecnologia e a biotecnologia criarão agitações sem precedentes na sociedade humana, corroendo a agência humana e, possivelmente, subvertendo os desejos humanos. Sob tais condições, a democracia liberal e a economia de livre mercado podem se tornar obsoletas.

As pessoas comuns podem não entender a inteligência artificial e a biotecnologia em nenhum detalhe, mas podem sentir que o futuro está passando por elas. Em 1938, a condição do homem comum na União Soviética, na Alemanha ou nos Estados Unidos pode ter sido sombria, mas constantemente lhe diziam que ele era a coisa mais importante do mundo e que ele era o futuro (desde que, é claro, que ele era um "homem comum", e não, digamos, um judeu ou uma mulher). Ele olhou para os cartazes de propaganda - que tipicamente mostravam mineiros de carvão e siderúrgicos em poses heróicas - e se viu lá: “Estou nesse cartaz! Eu sou o herói do futuro!

No 2018, a pessoa comum se sente cada vez mais irrelevante. Muitos termos misteriosos são discutidos com entusiasmo nas conversas ted, nos think tanks do governo e em conferências de alta tecnologia - globalização, blockchain, engenharia genética, IA, aprendizado de máquina - e pessoas comuns, homens e mulheres, podem muito bem suspeitar que nenhuma destes termos é sobre eles.

No século XIX, as massas se revoltaram contra a exploração e procuraram traduzir seu papel vital na economia em poder político. Agora, as massas temem a irrelevância e estão frenéticas em usar seu poder político restante antes que seja tarde demais. O Brexit e a ascensão de Donald Trump podem, portanto, demonstrar uma trajetória oposta à das revoluções socialistas tradicionais. As revoluções russa, chinesa e cubana foram feitas por pessoas vitais para a economia, mas sem poder político; no 20, Trump e Brexit eram apoiados por muitas pessoas que ainda desfrutavam de poder político, mas temiam que estavam perdendo seu valor econômico. Talvez no século XIX, as revoltas populistas sejam encenadas não contra uma elite econômica que explora pessoas, mas contra uma elite econômica que não precisa mais delas. Isso pode muito bem ser uma batalha perdida. É muito mais difícil lutar contra a irrelevância do que contra a exploração.

As revoluções na tecnologia da informação e na biotecnologia ainda estão engatinhando, e é discutível até que ponto eles são responsáveis ​​pela atual crise do liberalismo. A maioria das pessoas em Birmingham, Istambul, São Petersburgo e Mumbai está apenas vagamente consciente, se é que está ciente, do aumento da IA ​​e do seu potencial impacto em suas vidas. É indiscutível, no entanto, que as revoluções tecnológicas que agora estão ganhando força irão, nas próximas décadas, confrontar a humanidade com as provas mais difíceis que já enfrentou.

II Uma nova classe inútil?

Vamos começar com empregos e rendas, porque qualquer que seja o apelo filosófico da democracia liberal, ela ganhou força em grande parte graças a uma vantagem prática: a abordagem descentralizada da tomada de decisões, característica do liberalismo - tanto na política quanto na economia - permitiu democracias liberais para competir com outros estados e entregar uma riqueza crescente ao seu povo.

O liberalismo reconciliou o proletariado com a burguesia, os fiéis com ateus, nativos com imigrantes e europeus com asiáticos, prometendo a todos uma fatia maior da torta. Com uma torta em constante crescimento, isso era possível. E a torta pode muito bem continuar crescendo. No entanto, o crescimento econômico pode não resolver problemas sociais que agora estão sendo criados por perturbações tecnológicas, porque esse crescimento se baseia cada vez mais na invenção de tecnologias cada vez mais perturbadoras.

Os temores das máquinas que empurram as pessoas para fora do mercado de trabalho são, obviamente, nada de novo, e no passado esses medos provaram ser infundados. Mas a inteligência artificial é diferente das máquinas antigas. No passado, as máquinas competiam com os seres humanos principalmente em habilidades manuais. Agora eles estão começando a competir conosco em habilidades cognitivas. E não conhecemos nenhum terceiro tipo de habilidade - além do manual e do cognitivo - em que os humanos sempre tenham uma vantagem.

Pelo menos por mais algumas décadas, a inteligência humana provavelmente excederá em muito a inteligência computacional em vários campos. Assim, à medida que os computadores assumem mais tarefas cognitivas de rotina, novos trabalhos criativos para humanos continuarão aparecendo. Muitos desses novos empregos provavelmente dependerão da cooperação e não da competição entre humanos e IA. As equipes de IA humana provavelmente se mostrarão superiores não apenas aos humanos, mas também aos computadores que trabalham por conta própria.

Contudo, a maioria dos novos empregos provavelmente exigirá altos níveis de conhecimento e engenhosidade e, portanto, pode não fornecer uma resposta para o problema dos trabalhadores não qualificados desempregados ou dos trabalhadores empregáveis ​​apenas com salários extremamente baixos. Além disso, à medida que a IA continua a melhorar, mesmo trabalhos que exigem alta inteligência e criatividade podem desaparecer gradualmente. O mundo do xadrez serve como um exemplo de onde as coisas podem estar indo. Por vários anos depois que o computador da IBM Deep Blue derrotou Garry Kasparov no 1997, os jogadores de xadrez humanos ainda floresceram; A IA foi usada para treinar prodígios humanos, e equipes compostas por humanos e computadores provaram ser superiores aos computadores que tocavam sozinhos.

...

III A ascensão das ditaduras digitais

As muitas pessoas perder seu valor econômico, eles também podem perder seu poder político. As mesmas tecnologias que podem tornar bilhões de pessoas economicamente irrelevantes também podem torná-las mais fáceis de monitorar e controlar.

A IA assusta muitas pessoas porque elas não confiam nela para permanecer obediente. A ficção científica faz grande parte da possibilidade de que computadores ou robôs desenvolvam consciência - e logo depois tentará matar todos os seres humanos. Mas não há razão específica para acreditar que a IA desenvolva a consciência à medida que se torna mais inteligente. Em vez disso, devemos temer a IA porque ela provavelmente sempre obedecerá aos seus mestres humanos e nunca se rebelará. A IA é uma ferramenta e uma arma diferente de qualquer outra que os seres humanos tenham desenvolvido; quase certamente permitirá que os já poderosos consolidem ainda mais seu poder.

Leia a história completa aqui…