Militares criando sistemas de armas de IA para serem "soltos para o massacre"

O vídeo é nítido. Dois homens ameaçadores estão ao lado de uma van branca em um campo, segurando controles remotos. Eles abrem as portas traseiras da van e o som de zumbidos de quadricópteros drones crescendos. Eles ligam um interruptor e os drones saem em enxame como morcegos de uma caverna. Em alguns segundos, cortamos para uma sala de aula da faculdade. Os robôs assassinos invadem as janelas e aberturas Os alunos gritam de terror, presos lá dentro, enquanto os drones atacam com força mortal. A lição de que o filme, Slaughterbots, está tentando transmitir é claro: pequenos robôs assassinos estão aqui ou a um pequeno avanço tecnológico de distância. Terroristas podem facilmente implantá-los. E as defesas existentes são fracas ou inexistentes.

Alguns especialistas militares argumentaram que Slaughterbots - que foi feito pelo Future of Life Institute, uma organização que pesquisa ameaças existenciais à humanidade - sensacionalizou um problema sério, alimentando o medo onde uma reflexão calma era necessária. Mas quando se trata do futuro da guerra, a linha entre a ficção científica e os fatos industriais costuma ser confusa. A Força Aérea dos Estados Unidos previu um futuro no qual “as equipes do Swat enviarão insetos mecânicos equipados com câmeras de vídeo para se infiltrar dentro de um prédio durante um confronto com reféns”. Um “microssistemas colaborativos” já lançou o Octoroach, um “robô extremamente pequeno com uma câmera e um transmissor de rádio que pode cobrir até 100 metros no solo”. É apenas um de muitos “biomimético”, Ou imitando a natureza, armas que estão no horizonte.

Quem sabe quantas outras criaturas nocivas são agora modelos para teóricos militares de vanguarda. Um romance recente de PW Singer e August Cole, ambientado em um futuro próximo no qual os Estados Unidos estão em guerra com a China e a Rússia, apresentou uma visão caleidoscópica de drones autônomos, lasers e satélites sequestrados. O livro não pode ser descartado como uma fantasia técnico-militar: inclui centenas de notas de rodapé que documentam o desenvolvimento de cada peça de hardware e software que descreve.

Os avanços na modelagem de máquinas de matar robóticas não são menos perturbadores. Uma história de ficção científica russa dos anos 60, Crabs on the Island, descreve uma espécie de Hunger Games for AIs, em que os robôs lutam entre si por recursos. Os perdedores seriam descartados e os vencedores surgiriam, até que alguns evoluíram para se tornarem as melhores máquinas de matar. Quando um cientista da computação líder mencionou um cenário semelhante ao da Defense Advanced Research Projects Agency (Darpa) dos EUA, chamando-o de “Robô Jurassic Park”, um líder lá chamou de “viável”. Não é preciso muita reflexão para perceber que tal experimento tem o potencial de ficar totalmente fora de controle. A despesa é o principal obstáculo para uma grande potência fazer experiências com tais máquinas potencialmente destrutivas. A modelagem de software pode eliminar até mesmo essa barreira, permitindo que simulações virtuais testadas em batalha inspirem futuros investimentos militares.

No passado, os estados-nação se uniram para proibir novas armas particularmente horríveis ou aterrorizantes. Em meados do século 20, as convenções internacionais baniram as armas biológicas e químicas. A comunidade das nações proibiu o uso de tecnologia de laser cegante, também. Uma rede robusta de ONGs exortou com sucesso a ONU a convocar os estados membros para concordar com uma proibição semelhante de robôs assassinos e outras armas que podem agir por conta própria, sem controle humano direto, para destruir um alvo (também conhecido como sistemas de armas autônomas letais , ou Leis). E embora tenha havido debate sobre a definição de tal tecnologia, todos nós podemos imaginar alguns tipos de armas particularmente terríveis que todos os Estados deveriam concordar em nunca fabricar ou implantar. Um drone que gradualmente soldados inimigos aquecidos até a morte violaria as convenções internacionais contra a tortura; as armas sônicas projetadas para destruir a audição ou o equilíbrio de um inimigo devem merecer tratamento semelhante. Um país que projetou e usou tais armas deve ser exilado da comunidade internacional.

Em resumo, provavelmente podemos concordar que o ostracismo - e punições mais severas - também é merecido para os designers e usuários de robôs assassinos. A própria ideia de uma máquina solta para o abate é assustadora. E ainda assim, alguns dos maiores militares do mundo parecem estar rastejando para desenvolver tais armas, seguindo uma lógica de dissuasão: eles temem ser esmagados pela IA dos rivais se não puderem desencadear uma força igualmente potente. A chave para resolver uma corrida armamentista tão intratável pode estar menos em tratados globais do que em um repensar preventivo de para que a IA marcial pode ser usada. Como "guerra volta para casa”, O desdobramento de força de nível militar em países como os EUA e a China é um forte aviso aos seus cidadãos: quaisquer tecnologias de controle e destruição que você permitir que seu governo compre para uso no exterior agora, podem muito bem ser usadas contra você no futuro.

Leia a história completa aqui…