Joe Allen: Countdown to Gigadeath – Da corrida armamentista de IA à guerra de artefatos

Para os verdadeiros crentes, a inteligência artificial inevitavelmente se tornará sobre-humana. De acordo com seus mitos, estamos à deriva em um cosmos sem Deus. Portanto, cabe a nós criar divindades digitais. Ou melhor, cabe a alguns geeks de tecnologia criá-los. O resto de nós pode se ajoelhar diante do altar ou ser jogado no abismo.

À medida que os bots invadem nossas vidas, a tensão entre nós e eles aumenta. Em alguns dias, parece que estamos caminhando para uma guerra de corrida computadorizada entre ciborgues nascentes e humanos herdados. Depois de muito tempo na tela - conforme minhas sinapses se reorganizam para se ajustar aos dados que chegam - não fica claro a qual subespécie eu pertenço.

Para que conste, sou mais agnóstico do que verdadeiro crente. Os técnicos fazem todo tipo de promessas vazias. Eles prosperam em projetar poderes místicos. Mesmo assim, ignoramos sua revolução tecnocultural por nossa própria conta e risco.

As corporações de tecnologia detêm o poder real do controle da informação. Eles estão literalmente distorcendo a consciência pública em grande escala. Do lado militar, os executores têm a capacidade de explodir você do outro lado do mundo. Você pode zombar que as forças armadas dos EUA tenham criado mais oficiais trans do que soldados ciborgues. Mas se você não pode apontar seu AR-15 mais rápido do que o drone deles pode aprimorar, você está rindo sob uma bota. A inteligência artificial apenas fortalece esse ponto de apoio.

Em 2018, a Agência de Projetos de Pesquisa Avançada de Defesa dos EUA anunciou está “focando seus investimentos em uma terceira onda de IA que produz máquinas que podem entender e raciocinar em contexto”. O diretor do Information Innovation Office da DARPA, Brian Pierce, é descontroladamente entusiasmado sobre uma “verdadeira simbiose entre o Homo sapiens e a emergente Machina sapiens”.

A 2021 artigo: do Ministério da Defesa do Reino Unido afirma: “No centro da vantagem militar futura estará a integração efetiva de humanos, inteligência artificial e robótica em sistemas de combate – equipes homem-máquina – que exploram as capacidades de pessoas e tecnologias para superar nossos oponentes. ”

China tem ambições ciborgues semelhantes. Então faz Rússia e NATO. “A inteligência artificial é o futuro”, proclamou Vladimir Putin. “Quem se tornar o líder nesta esfera se tornará o governante do mundo.”

Talvez os generais estejam desperdiçando dinheiro em guerra nerd. Talvez eles estejam apenas brincando com brinquedos novos.

Eu não contaria com isso.

Já vemos AIs estreitas excedendo o reconhecimento de padrões humanos nas tarefas específicas para as quais foram projetadas - modelagem de proteínas, análise radiológica, vigilância no campo de batalha e aquisição de alvos, para citar alguns. Caso em questão, o empreiteiro de defesa dos EUA Palantir fornece livremente sua IA para a Ucrânia. É uma das principais razões pelas quais eles resistiram por tanto tempo contra as forças russas maiores.

“O poder dos sistemas avançados de guerra algorítmica agora é tão grande que equivale a ter armas nucleares táticas contra um adversário apenas com armas convencionais”, CEO da Palantir, Alex Karp disse do Washington Post. “O público em geral tende a subestimar isso. Nossos adversários não o fazem mais.”

Nas mãos de predadores de elite, essas ferramentas digitais são extremamente sérias. Quando os líderes não estão implantando tecnologia contra rivais, eles estão usando seus próprios cidadãos. Lembre-se que o reconhecimento facial Clearview AI habilitado os policiais para rastrear os manifestantes de 6 de janeiro.

Tecnologia é poder. Sempre foi.

Nem todo mundo está alarmado, no entanto. Os que duvidam zombam da noção de máquinas “inteligentes”. “IA não existe”, dizem eles. “É apenas um algoritmo.” “Entra lixo, sai lixo.” Normalmente, eles são ex-programadores que ainda vivem nos anos 90. Eles repetem “entra lixo, sai lixo” com tanta frequência que é como se tivessem sido programados para dizer isso.

Esses caras têm razão. Uma IA é tão boa quanto o design de sua rede neural e os dados nos quais ela é treinada. Não é diferente dos humanos nesse aspecto. Mas quando é bom, é assustadoramente bom. Se uma IA sólida for treinada para reconhecer extratos bancários, por exemplo, ela pode vasculhar montanhas de lixo e encontrar um em segundos – como um Rain Man que mergulha em uma lixeira para roubar sua identidade.

A IA que mexeu comigo foi a AlphaZero, desenvolvida pela DeepMind do Google em 2017. Programada apenas com as regras básicas do jogo e o “desejo” de vencer, essa rede neural ensinou a si mesmo para jogar Go, xadrez e vários videogames em poucas horas. O domínio do Go é particularmente importante. Durante décadas, os céticos insistiram que nenhum computador entenderia esse antigo jogo chinês. A complexidade de Go, eles alegaram, requer uma intuição profunda que só os humanos possuem. Acontece que foi uma ilusão.

AlphaZero, como seu antecessor AlphaGo, inventa estratégias eficazes que nenhum ser humano jamais pensou. E o mais alarmante, essas mentes digitais esmagar mestres humanos em seus próprios jogos. Se as pessoas tivessem algum bom senso, teriam desligado o plugue naquele momento. Em tudo isso. Mas você sabe o que eles dizem: “Você não pode parar o progresso”.

O próximo passo é combinar essas habilidades cognitivas estreitas em um único “cérebro artificial”. Esse inteligência geral artificial (AGI) seria flexível o suficiente para passar de um domínio para outro, ou implementar vários módulos simultaneamente, para resolver problemas do mundo real.

Em teoria, pode-se juntar qualquer combinação de faculdades – reconhecimento facial, processamento de linguagem natural, modelagem social, sistemas de controle robótico, algoritmos estéticos – qualquer coisa que você queira em um cérebro robótico. A máquina provavelmente superaria os humanos em todas essas áreas. Mas não importa que combinação você inventasse, não seria totalmente humano. Nem compartilharia nossos valores ou experiência do mundo. Seria uma criança cega e deformada gravada em silício, mas com um poder cognitivo soberbo — muito parecido com o Demiurgo gnóstico.

Para os transumanistas, o advento de uma AGI de autoaperfeiçoamento marcará um “momento singular na história” – o Singularidade. A partir daí, os humanos legados estão apenas acompanhando o passeio. Se tivermos sorte.

Esse é o sonho, de qualquer maneira. E grandes corporações como DeepMind e OpenAI - bem como suas contrapartes chinesas em Baidu e Tencent - estão corrida para tornar alguma versão uma realidade. Seus CEOs prometem uma utopia digital, ou alguma aproximação. Eles preferem que você apenas relaxe e não faça perguntas.

No entanto, existem alguns alarmistas que dizem que a IA descontrolada pode significar a aniquilação da raça humana. Como somos parteiras da AGI, eles aconselham, nossa tarefa central é ensinar esse bebê Deus do computador a ser benevolente — alinhar seus valores aos nossos. Caso contrário, seremos escravizados ou morreremos. Eles chamam isso de “problema de alinhamento de IA”. Como várias facções brigam sobre como o ChatGPT “acordado” ou “baseado” pode ser, parece bastante sombrio.

Curiosamente, algumas das chamadas de alarme mais altas vêm daqueles que trabalham no AGI. Eles incluem Sam Altman e Elon Musk (OpenAI), Demis Hassabis (DeepMind) e operando na China, Ben Goertzel (SingularityNET) e o profeta louco do tecnocalipse, Hugo de Garis (Universidade de Xiamen).

O transumanista de Oxford, Nick Bostrom, autor do livro de 2014, explicou o significado de um motorista de Tesla público TED:

O potencial para a superinteligência permanece adormecido na matéria, assim como o poder do átomo permaneceu adormecido ao longo da história humana, esperando pacientemente lá - até 1945. Neste século, os cientistas podem aprender a despertar o poder da inteligência artificial. E acho que podemos ver uma explosão de inteligência.

Independentemente dos riscos existenciais, argumentam esses homens, qualquer nação que não adotar a IA ficará para trás daquelas que o fizerem. A mesma dinâmica vale para indivíduos e organizações que competem entre si dentro das nações. Em um ecossistema digital, é a sobrevivência dos ciborgues mais aptos - com a IA apresentada como um mítico Anel de Poder.

De todos os futuros projetados pelos transumanistas, o conjurado por Hugo de Garis é o mais horrível. É também o mais honesto. Muitos no Vale do Silício acreditam que a inteligência sobre-humana da máquina levará à “abundância radical” e ao conhecimento ilimitado sobre o universo. Como físico e construtor de robôs, de Garis acredita que todas essas coisas acontecerão.

No entanto, ele também profetiza que a criação de “artilectos” – abreviação de “intelectos artificiais”; basicamente AGI - provavelmente levará à destruição da humanidade. Talvez esses deuses digitais não tenham utilidade para nós e nos esmaguem como insetos. Ou, com a mesma probabilidade, de Garis argumenta, um evento de “gigadeath” ocorrerá quando os humanos lutarem para criá-los em primeiro lugar. Isso significa que bilhões morrem em um piscar de olhos.

“A pergunta que dominará 21^st a política global do século será: 'Quem ou o que deve ser a espécie dominante no planeta, artefatos ou seres humanos?'” Isso o leva a formular um slogan perturbador, embora confuso: “Construímos deuses ou construímos nossos exterminadores em potencial?

Inventando novas palavras malucas como um jogador de Scrabble indisciplinado, de Garis explora esse conflito em seu livro de 2005, Ele espera que ele apareça dentro de algumas gerações. “Esta guerra usará o armamento mais destrutivo já inventado, com base no final de 21^st ciência e tecnologia do século”.

Estamos falando de supernucleares e armas biológicas projetadas por IA — um horizonte escuro repleto de cães infernais robóticos e enxames de nanobots.

A Guerra Artilect será travada entre os “terráqueos”, que matariam para preservar a humanidade orgânica, e os “cosmistas”, cuja devoção religiosa para construir artefatos é tão intensa, estarão dispostos a morrer por essa divinização. Na verdade, eles estarão dispostos a ver todos morrer por isso:

No 20^th século, os nazistas exterminaram 20 milhões de russos, os japoneses assassinaram 20 milhões de chineses, Stalin matou 30 milhões em seus expurgos e Mao matou de fome 50 milhões de camponeses chineses. Estes estão entre os maiores crimes da história, mas eles empalidecem em comparação com o tamanho da tragédia se algum dia os artefatos decidirem acabar com a humanidade. A tragédia seria total no sentido de que não haveria mais nenhum ser humano para lamentar o desaparecimento da espécie.

Como de Garis observa, é surpreendente que qualquer ser humano busque tal objetivo sabendo que bilhões podem ser massacrados. Mas para os cosmistas, a criação de máquinas sobre-humanas é uma busca religiosa além do bem e do mal. Na tradição de cientistas loucos devastados pela culpa, de Garis se coloca no último campo, gigadeath que se dane:

Meu objetivo final é ver a humanidade, ou pelo menos uma parte da humanidade, tornar-se cosmista e fazê-lo com sucesso construindo artefatos verdadeiramente divinos que se elevam acima de nossas insignificantes habilidades intelectuais humanas e outras.

Um conceito-chave em A Guerra do Artileto é “dominância da espécie”. Tendo criado a vida artificial, a humanidade enfrenta um novo competidor evolutivo. À medida que algumas pessoas se fundem à vida digital como tênias em um intestino mecânico, a humanidade se dividirá em subespécies – ciborgues sugadores de robôs e humanos “insignificantes”.

Junto com a especiação vem a competição. Baseando-se na teoria política e evolutiva, De Garis diz que não há muito espaço no topo da pilha de merda. Como a igualdade não existe na natureza, o domínio das espécies é inevitável. Com a história humana como nosso guia, isso significa violência.

O primeiro lugar será ocupado por computadores de alto QI que orbitam o planeta e são “mais rápidos e melhores que os humanos por fatores de trilhões de trilhões”?

Ou será ocupado pelos cosmistas que constroem e implantam essas máquinas?

Ou os terráqueos vão acabar com esse culto transumano e voltar a tocar tambores na floresta?

Parece provável que vamos tropeçar em uma guerra nuclear com a Rússia ou a China, poupando-nos completamente dessa Guerra de Artileto. Há muito gigadeath por aí sem um Super Computer God.

Mas se conseguirmos evitar transformar um ao outro em poeira espacial, pode ser que a rivalidade entre as superpotências conduza a evolução tecnológica – especialmente a tecnologia militar – em direção a algo que se assemelha à visão de de Garis. Pense nisso como uma Singularidade com um estrondo.

Na realidade, a importância do pesadelo de Hugo de Garis pode ser sua influência na cultura tecnológica chinesa. De 2006 a 2010, ele completou sua carreira profissional na China – primeiro na Universidade de Wuhan, depois dirigindo o Laboratório de Cérebro Artificial na Universidade de Xiamen. Até a pandemia, seu colega Ben Goertzel concorreu SingularityNET fora de Hong Kong. Este projeto AGI funcionou em parceria com Robótica Hanson—ainda baseado em Hong Kong—cujo robô Sophia é exaltado como uma deusa transumana no cenário mundial.

A extensão da transferência de tecnologia para o Partido Comunista Chinês é desconhecida. Mas é razoável supor que, quaisquer que sejam suas intenções, de Garis e Goertzel ajudaram no objetivo da China de superar os EUA em inteligência artificial. Essa ambição inclui vincular cérebros humanos à IA e criar inteligência artificial geral – de olho em aplicações militares.

O volume de novembro de 2021 do PRISM, publicado pela National Defense University em DC, apresenta um artigo de pesquisa revelador, “Projeto AI-Brain de 'Nova Geração' da China.” Não há dúvida de que o impulso transumano percorre a alma chinesa. Os autores citam um importante pesquisador do PCC, Xu Bo, falando ao jornal oficial do Ministério da Ciência e Tecnologia:

Como o secretário-geral Xi Jinping apontou no estudo coletivo do Politburo, a pesquisa de inteligência artificial deve explorar “áreas não tripuladas”. Nas áreas de inteligência de enxame, inteligência híbrida homem-máquina e inteligência autônoma, existem grandes áreas não tripuladas a serem exploradas. … Acreditamos que a evolução autônoma é uma ponte da inteligência artificial fraca para a inteligência artificial geral.

Ou, como disse o reitor da Academia de Inteligência Artificial de Pequim, Huang Tiejun, em uma conferência sobre o Futuro da Vida:

Nossa raça humana está apenas em um estágio. Porque parar? Os humanos evoluem muito lentamente. É impossível para os humanos comparar com a superinteligência baseada em máquinas. Isso acontecerá mais cedo ou mais tarde, então por que esperar? Mesmo sob a perspectiva do humanismo ou excepcionalismo humano, a superinteligência é necessária para enfrentar os grandes desafios que não conseguimos desvendar. Por isso apoio a ideia.

Traduzindo declarações de todo o estabelecimento de tecnologia chinês, os autores do artigo PRISM observam secamente: “Outros prognósticos são comuns”.

O futuro parece sombrio, mas as possibilidades ainda estão abertas. Mais uma vez, estou em algum lugar entre os que duvidam e os verdadeiros crentes - e admito que é uma barreira morna.

Como os smartphones ou a Internet, a IA nunca terá o resultado anunciado. A evolução da tecnologia é uma saga de bugs inesperados e consequências não intencionais. Está repleto de ações bombeadas, contratos governamentais exagerados e projetos acadêmicos superfinanciados.

Não há carros voadores (ainda). Não há fusão a frio (ainda). Não existem nanorrobôs de controle mental (certo?).

Ainda assim, apenas um tolo se recusa a ver que os smartphones e a Internet destruíram a cultura orgânica. O mesmo vale para vigilância em massa e guerra de drones. Qualquer que seja a forma que a IA assuma, estou convencido de que terá impactos semelhantes, se não piores.

Pode ser que chatbots de IA e escravas sexuais virtuais tirem algumas pessoas da realidade real, deixando-as mais loucas do que já são. Ou pode ser que um exército de ciborgues geneticamente modificados com inteligência artificial desça sobre nuvens de nanobots para travar uma guerra racial contra o que restou do legado humano.

Só o tempo irá dizer. Mantenha o papel alumínio firme e o pó seco. E pelo amor de Deus, desligue seu smartphone. É assim que eles pegam você.

Leia a história completa aqui…