Os robôs assassinos são necessários ou uma ameaça à humanidade?

Essas armas, que poderiam operar em terra, no ar ou no mar, ameaçam revolucionar os conflitos armados e a aplicação da lei de maneiras alarmantes. Os defensores dizem que esses robôs assassinos são necessários porque o combate moderno se move tão rapidamente e porque ter robôs lutando manteria soldados e policiais fora de perigo. Mas as ameaças à humanidade superariam qualquer benefício militar ou policial.

Remover os humanos da decisão de direcionar criaria um mundo perigoso. Máquinas faziam determinações de vida ou morte fora do controle humano. O risco de dano desproporcional ou direcionamento errôneo de civis aumentaria. Nenhuma pessoa poderia ser responsabilizada.

Considerando a riscos morais, legais e de prestação de contas de armas totalmente autônomas, antecipando seu desenvolvimento, produção e uso, não pode esperar. A melhor maneira de lidar com essa ameaça é uma proibição internacional, legalmente vinculativa, de armas que carecem de controle humano significativo.

Preservar a empatia e o julgamento

Pelo menos Os países 20 se manifestaram em reuniões da ONU a crença de que os humanos devem ditar a seleção e o engajamento de alvos. Muitos deles ecoaram argumentos apresentados em um novo relatório, da qual eu era o principal autor. O relatório foi divulgado em abril por Human Rights Watch e a Clínica Internacional de Direitos Humanos da Harvard Law School, duas organizações que estão em campanha pela proibição de armas totalmente autônomas.

Manter o controle humano sobre as armas é uma imperativo moral. Por possuírem empatia, as pessoas podem sentir o peso emocional de prejudicar outro indivíduo. Seu respeito pela dignidade humana pode - e deve - servir como um controle sobre o assassinato.

Os robôs, ao contrário, carecem de emoções reais, incluindo compaixão. Além disso, as máquinas inanimadas não podiam realmente entender o valor de qualquer vida humana que escolheram levar. Permitir que determinassem quando usar a força minaria a dignidade humana.

O controle humano também promove a conformidade com o direito internacional, projetado para proteger civis e soldados. Por exemplo, as leis da guerra proibir ataques desproporcionais em que o dano civil esperado supera a vantagem militar prevista. Os seres humanos podem aplicar seu julgamento, com base em experiências passadas e considerações morais, e fazer determinações caso a caso sobre proporcionalidade.