A oniviolência está chegando e o mundo não está pronto

In O futuro da violência, Benjamin Wittes e Gabriella Blum discutem um cenário hipotético perturbador. Um ator solitário na Nigéria, “lar de muitas atividades de spam e fraudes on-line”, engana mulheres e adolescentes no download de malware que lhe permite monitorar e registrar sua atividade, para fins de chantagem.

A história real envolvia um homem da Califórnia que o FBI acabou capturando e enviado para a prisão por seis anos, mas se ele estivesse em outro lugar no mundo, poderia ter escapado. Muitos países, como observam Wittes e Blum, "não têm vontade nem meios para monitorar crimes cibernéticos, processar criminosos ou extraditar suspeitos para os Estados Unidos". 

Em outras palavras, a tecnologia permite que os criminosos tenham como alvo qualquer pessoa em qualquer lugar e, devido à democratização, cada vez mais em escala. As novas tecnologias biológicas, nano e cibernéticas estão se tornando cada vez mais acessíveis. O cientista político Daniel Deudney tem uma palavra para o que pode resultar: "oniviolência".

A proporção de assassinos para mortos, ou "proporção K / K", está caindo. Por exemplo, o cientista da computação Stuart Russell tem vividamente descrito como um pequeno grupo de agentes mal-intencionados pode se envolver na oniviolência: "Um quadcopter muito, muito pequeno, com uma polegada de diâmetro, pode carregar uma carga em forma de um ou dois gramas", diz ele. “Você pode encomendá-los a um fabricante de drones na China. Você pode programar o código para dizer: 'Aqui estão milhares de fotografias dos tipos de coisas que quero segmentar'. Um grama carga em forma pode fazer um furo em nove milímetros de aço, então presumivelmente você também pode fazer um buraco na cabeça de alguém.

Você pode acomodar cerca de três milhões deles em um semi-reboque. Você pode dirigir o I-95 com três caminhões e ter o milhão de armas 10 atacando a cidade de Nova York. Eles não precisam ser muito eficazes, apenas o 5 ou o 10% deles precisam encontrar o alvo. ”Os fabricantes estarão produzindo milhões desses drones, disponíveis para compra, assim como as armas agora, aponta Russell,“ exceto milhões de armas não importam, a menos que você tenha um milhão de soldados. Você precisa de apenas três funcionários para escrever o programa e iniciar o processo. ”Nesse cenário, a proporção K / K pode ser de 3 / 1,000,000, assumindo uma precisão de por cento do 10 e apenas uma única carga de um grama por drone. 

Aviso: este vídeo está dramatizado e não aconteceu!

Isso é completamente - e horripilante - sem precedentes. O terrorista ou psicopata do futuro, no entanto, não terá apenas a Internet ou os drones - chamados de "matadouros" em este vídeo do Instituto Future of Life - mas também biologia sintética, nanotecnologia e sistemas avançados de IA à sua disposição. Essas ferramentas tornam trivial o estrago através das fronteiras internacionais, o que levanta a questão: as tecnologias emergentes tornarão o sistema estatal obsoleto?

É difícil ver por que não. O que justifica a existência do estado, argumentou o filósofo inglês Thomas Hobbes, é um "contrato social". As pessoas renunciam a certas liberdades em troca da segurança fornecida pelo estado, segundo a qual o estado age como um "árbitro" neutro que pode intervir quando as pessoas conseguem em disputas, punir pessoas que roubam e assassinam e fazer cumprir contratos assinados por partes com interesses concorrentes. 

O problema é que, se alguém em qualquer lugar pode atacar alguém em qualquer outro lugar, os estados se tornarão - e estão se tornando - incapazes de cumprir seu dever principal como árbitro. É uma tendência à anarquia, "a guerra de todos contra todos", como Hobbes colocou - em outras palavras, uma condição de todos os que vivem com medo constante de serem prejudicados por seus vizinhos. De fato, em uma recente papel, "The Vulnerable World Hypothesis", publicado em Política global, o filósofo de Oxford Nick Bostrom argumenta que a única maneira de se defender contra uma catástrofe global é empregar um sistema de vigilância universal e invasivo, o que ele chama de "Panopticon de alta tecnologia".

Distópico som? Com certeza faz para mim. “Criar e operar o Panopticon de alta tecnologia exigiria investimentos substanciais”, escreve Bostrom, “mas, graças à queda no preço das câmeras, transmissão de dados, armazenamento e computação, e aos rápidos avanços na análise de conteúdo habilitada para IA, pode em breve tornar-se tecnologicamente viável e acessível. ”Bostrom está bem ciente das desvantagens - atores corruptos de um estado podem explorar essa vigilância para fins totalitários, ou hackers podem chantagear vítimas inocentes. No entanto, o fato é que ainda pode ser uma opção melhor do que sofrer uma catástrofe global após a outra. 

Como as sociedades podem contra-atacar a oniviolência? 1 estratégia poderia ser uma máquina superinteligente - essencialmente, um algoritmo extremamente poderoso - especificamente projetado para governar de maneira justa. Poderíamos, então, colocar o algoritmo sob carga política e, na medida em que ele governa como algo como um "rei dos filósofos", não nos preocupar constantemente com os dados coletados serem mal utilizados ou abusados. Claro, esta é uma proposta fantástica. Até o uso da IA ​​no mundo real no sistema de justiça está repleto de problemas. Mas, neste ponto, temos uma idéia melhor para evitar o colapso do sistema estatal sob o peso de um amplo empoderamento tecnológico?

Leia a história completa aqui…