Uma corrida armamentista de superpotência para construir robôs assassinos pode acabar com a humanidade se não for controlada, temem os especialistas.
O alerta do Juízo Final veio depois que uma conferência da ONU não conseguiu chegar a um acordo sobre a proibição de “robôs de abate” do tipo Terminator - que estão sendo desenvolvidos pela China, Rússia e Estados Unidos.
As principais potências estão investindo bilhões para criar armas de IA avançadas que podem caçar e atacar alvos sem intervenção dos controladores.
No ano passado, um drone kamikaze de fabricação turca fez o primeira morte autônoma do mundo sobre alvos humanos na Líbia, revelou um relatório da ONU.
Mas os especialistas alertam que a tecnologia está avançando tão rápido que os governos e as sociedades não consideraram os perigos de maneira adequada.
Eles dizem que as máquinas que tomam suas próprias decisões estão sujeitas a erros imprevisíveis e que se espalham rapidamente.
Eles surgem de códigos chamados algoritmos que até mesmo os programadores nem sempre entendem e não podem parar de dar errado.
Se as armas de IA do futuro forem armadas com ogivas biológicas, químicas ou mesmo nucleares, os resultados podem ser um Armagedom não intencional.
“É um mundo onde o tipo de erros algorítmicos inevitáveis que atormentam até mesmo gigantes da tecnologia como a Amazon e o Google podem agora levar à eliminação de cidades inteiras,” avisa o professor James Dawes do Macalester College.
“O mundo não deve repetir os erros catastróficos da corrida armamentista nuclear. Não deve ser sonâmbulo em distopia. ”
O professor do MIT, Max Tegmark, cofundador do Future of Life Institute, emitiu um alerta similarmente terrível esta semana.
He disse à Wired: “A tecnologia está se desenvolvendo muito mais rápido do que a discussão político-militar.
“E estamos caminhando, por padrão, para o pior resultado possível.”
Uma possível proibição dos chamados Sistemas de Armas Automotivas Letais (LAWS) foi discutida na semana passada na Convenção quinquenal da ONU sobre Certas Armas Convencionais.
Algumas das 120 nações participantes - incluindo Brasil, África do Sul e Nova Zelândia - argumentaram que as LEIS deveriam ser restringidas por tratados, como minas terrestres e alguns indenciaries.
Uma lista crescente de países, incluindo França e Alemanha, apóia limites em algumas armas automotivas, incluindo aquelas que têm como alvo humanos. A China disse que apóia um conjunto estreito de restrições.
Outras nações, incluindo EUA, Rússia, Índia, Reino Unido e Austrália resistem à proibição, dizendo que continuar a desenvolver robôs assassinos é essencial para evitar uma desvantagem estratégica.
Decisões de vida e morte
Já uma gama assustadora de armas de IA foram implantados em todo o mundo, incluindo metralhadoras auto-disparantes na Zona Desmilitarizada da Coreia, terra de ninguém.
Pelo menos 14 países têm drones AI suicidas, incluindo o devastador avião de ataque não tripulado Harop de Israel, que foi usado para caçar terroristas do Hamas.
Harops também devastou o exército da Armênia durante o confronto com o Azerbaijão no ano passado - embora não tenha sido revelado se eles agiram com ou sem intervenção humana.
As armas mortais do robô da Rússia incluem o novo Lutador furtivo xeque-mate, que combina sistemas de IA com um piloto humano.
Os designers dizem que pode haver uma versão futura sem a necessidade de um piloto.
A China começou os testes há mais de uma década em um robô submarino projetado para rastrear e destruir navios inimigos de forma autônoma.
Também recentemente revelou um drone anti-submarino e lançado em caminhão enxames de drones do campo de batalha.
China também é construindo um navio de guerra robô armado com torpedos, imagens de satélite reveladas em outubro.
Todas essas máquinas assassinas podem ser programadas para buscar a aprovação humana antes de atacar os alvos que encontram.
Mas eles também podem ser usados como a tecnologia definitiva de “disparar e esquecer”, vagando por horas ou dias prontos para atirar em alvos escolhidos inteiramente por um computador.
Abate não verificado
Especialistas dizem que os principais militares estão se enganando se acreditam que podem controlar a disseminação dessas novas armas avançadas.
Eles dizem que Estados desonestos e terroristas inevitavelmente tentarão detê-los para desencadear massacres.
E, à medida que robôs assassinos compactos se tornam tão baratos quanto Kalashnikovs, gangues como os cartéis mexicanos podem usá-los em uma nova onda de derramamento de sangue aterrorizante.
“Se você pode comprar robôs de abate pelo mesmo preço de um AK-47, isso é muito preferível para cartéis de drogas, porque você não será pego ao matar alguém”, disse o professor Tegmark ao The Sun.
"Mesmo se um juiz tiver muitos guarda-costas, você pode voar pela janela do quarto enquanto eles estão dormindo e matá-los."
E os governos estarão mais propensos a entrar em guerra no futuro, dizem os especialistas, já que as armas robóticas significam menos soldados na linha de fogo.
Hum. Uma vez que todos os tecnocratas por trás dos assassinos de robôs parecem bem em exterminar a maioria de nós não elitistas, não tenho medo de que percam o controle. As máquinas não podem amar, mas também não podem odiar ou empenhar-se exclusivamente em destruir / conquistar. O “pior” cenário que prevejo é que os robôs podem matar acidentalmente um tecnocrata ou membro da oligarquia os contratando.
[...] Robogeddon: Autônomo 'Slaughterbots' programado para matar [...]