A análise de ameaças e as decisões serão tomadas de forma autônoma, notificando os agentes de patrulha de fronteira; no entanto, esta é uma ladeira escorregadia que poderia facilmente ser introduzida em amplas práticas de aplicação da lei. ⁃ Editor TN
Imagine que você está caminhando através da floresta perto de uma fronteira. De repente, você ouve um zumbido mecânico, como uma abelha gigantesca. Dois quadcopters avistaram você e foram para um olhar mais atento. Antenas nos dois drones e em um veículo terrestre autônomo próximo captam as frequências de rádio vindas do telefone celular no seu bolso. Eles enviam os sinais para um servidor central, que triangula sua localização exata e os envia de volta aos drones. Os robôs se aproximam.
As câmeras e outros sensores nas máquinas reconhecem você como humano e tentam verificar suas intenções. Você é uma ameaça? Você está cruzando ilegalmente uma fronteira? Você tem uma arma? Você está envolvido em atos de terrorismo ou crime organizado? As máquinas enviam feeds de vídeo para o operador humano, um guarda de fronteira em um escritório a quilômetros de distância, que verifica os vídeos e decide que você não é um risco. O guarda de fronteira aperta um botão e os robôs se desligam e continuam em sua patrulha.
Isso não é ficção científica. A União Europeia está financiando um projeto para desenvolver drones pilotados por inteligência artificial e projetados para patrulhar autonomamente as fronteiras da Europa. Os drones operarão em enxames, coordenando e corroborando informações entre frotas de quadriciclos, pequenos aviões de asa fixa, veículos terrestres, submarinos e barcos. Os desenvolvedores do projeto, conhecido como Roborder, afirmam que os robôs serão capazes de identificar seres humanos e decidir independentemente se representam uma ameaça. Se eles determinarem que você pode ter cometido um crime, eles notificarão a polícia de fronteira.
O presidente Donald Trump usou o espectro de criminosos que cruzam a fronteira sul para despertar sentimentos políticos nacionalistas e energizar sua base. Na Europa, dois anos após o auge da crise migratória que levou mais de um milhão de pessoas ao continente, principalmente do Oriente Médio e da África, a imigração continua sendo um assunto polêmico, mesmo quando o número de recém-chegados diminuiu. Partidos políticos em toda a União Europeia estão vencendo eleições em plataformas anti-imigrantes e promulgar cada vez mais restritivo políticas de fronteira. Os especialistas em ética em tecnologia e defensores da privacidade temem que Roborder e projetos como esse terceirizem muito trabalho policial para atores não-humanos e possam ser facilmente armados contra pessoas nas áreas de fronteira.
"O desenvolvimento desses sistemas é um passo sombrio para um território moralmente perigoso", disse Noel Sharkey, professor emérito de robótica e inteligência artificial da Universidade de Sheffield, no Reino Unido, e um dos fundadores do Comitê Internacional para Controle de Armas de Robôs, uma organização sem fins lucrativos que defensores do uso militar da robótica. Sharkey lista exemplos de drones armados atualmente no mercado: robôs voadores equipados com Tasers, spray de pimenta, balas de borracha e outras armas. Ele alerta para as implicações de combinar essa tecnologia com a tomada de decisão baseada na IA e usá-la em zonas de fronteira com carga política. "É apenas uma questão de tempo até que um drone possa tomar medidas para impedir as pessoas", disse Sharkey ao The Intercept.
Os desenvolvedores da Roborder também podem estar violando os termos de seu financiamento, de acordo com documentos sobre o projeto obtido através dos regulamentos de transparência da União Europeia. A iniciativa é financiada principalmente por uma bolsa de pesquisa e inovação da UE 8 milhões de euros projetada para projetos exclusivamente não militares, mas os desenvolvedores da Roborder reconhecem que partes do sistema proposto envolvem tecnologia militar ou podem ser facilmente convertidas para uso militar.
Grande parte do desenvolvimento de Roborder é classificada, mas o The Intercept obteve relatórios internos relacionados a considerações éticas e preocupações sobre o programa. Essa documentação foi incorretamente redigida e inadvertidamente liberada na íntegra.
Em um dos relatórios, os desenvolvedores da Roborder procuraram abordar critérios éticos que estão vinculados ao seu financiamento na UE. Os desenvolvedores consideraram se seu trabalho poderia ser modificado ou aprimorado para prejudicar os seres humanos e o que poderia acontecer se a tecnologia ou o conhecimento desenvolvido no projeto "acabasse nas mãos erradas". Essas questões éticas são levantadas, escreveram os desenvolvedores, quando "a pesquisa faz uso de informações, materiais ou técnicas classificadas; materiais perigosos ou restritos [;] e se resultados específicos da pesquisa puderem representar um perigo para os participantes ou para a sociedade como um todo. ”
Os desenvolvedores da Roborder argumentaram que essas preocupações éticas não se aplicavam ao seu trabalho, afirmando que seu único objetivo era desenvolver e testar a nova tecnologia e que ela não seria vendida ou transferida para fora da União Europeia durante o ciclo de vida do projeto. Mas em entrevistas com o The Intercept, os desenvolvedores do projeto reconheceram que sua tecnologia poderia ser reaproveitada e vendida, mesmo fora da Europa, após o término do ciclo do projeto europeu, que deve ocorrer no próximo ano.
Além do projeto Roborder, os relatórios de ética arquivados na Comissão Européia sugerem uma questão maior: quando se trata de novas tecnologias com potencial para serem usadas contra pessoas vulneráveis em locais com poucas proteções aos direitos humanos, quem decide o que devemos ou não desenvolver ?
Roborder ganhou sua financiamento no 2017 e se propôs a desenvolver um protótipo comercializável - "um enxame de robótica para apoiar o monitoramento de fronteiras" - até meados do 2020. Seus desenvolvedores esperam construir e equipar uma coleção de drones aéreos, marítimos e terrestres que possam ser combinados e enviados em missões de patrulha de fronteira, procurando por "ameaças" autonomamente com base nas informações fornecidas por operadores humanos, disse Stefanos Vrochidis, gerente de projetos de Roborder .
Os drones empregarão câmeras ópticas, infravermelhas e térmicas; radar; e sensores de radiofrequência para determinar ameaças ao longo da fronteira. As frequências dos telefones celulares serão usadas para triangular a localização de pessoas suspeitas de atividade criminosa, e as câmeras identificarão seres humanos, armas, veículos e outros objetos. "O objetivo principal é ter o maior número possível de sensores em campo para ajudar o pessoal da patrulha", disse Kostas Ioannidis, gerente técnico da Roborder.
