Os tecnocratas estão enquadrando todas as facetas do futuro, incluindo a guerra da IA, com ou sem a participação dos cidadãos. Este é um relatório de pesquisa profissional sobre IA e guerra que vale a pena ler. ⁃ Editor TN
Resumo do trabalho
Tanto os robôs militares quanto os comerciais incorporarão no futuro 'inteligência artificial' (IA) que os tornaria capazes de realizar tarefas e missões por conta própria. No contexto militar, isso gera um debate sobre se esses robôs devem executar tais missões, especialmente se houver a possibilidade de que qualquer vida humana possa estar em risco.
Para entender melhor as questões em jogo, este artigo apresenta uma estrutura que explica o estado da arte atual da IA, os pontos fortes e fracos da tecnologia e o que o futuro provavelmente reserva. A estrutura demonstra que, enquanto computadores e IA podem ser superiores aos humanos em algumas tarefas baseadas em habilidades e regras, em situações que exigem julgamento e conhecimento, na presença de incerteza significativa, os humanos são superiores aos computadores.
Na discussão complexa de se e como o desenvolvimento de armas autônomas deve ser controlado, o mercado comercial em rápida expansão para sistemas autônomos aéreos e terrestres deve ser levado em consideração. Proibir uma tecnologia autônoma para uso militar pode não ser prático, uma vez que tecnologias derivadas ou superiores podem estar disponíveis no setor comercial.
Uma corrida armamentista metafórica está em andamento na esfera comercial do desenvolvimento de sistemas autônomos, e essa mudança no esforço de P&D e nos gastos de configurações militares para comerciais é problemática. O desenvolvimento de sistemas autônomos militares tem sido lento e incremental, na melhor das hipóteses, e empalidece em comparação com os avanços feitos em sistemas autônomos comerciais, como drones, e especialmente em carros sem motorista.
Em um mercado altamente competitivo para roboticistas altamente qualificados e engenheiros relacionados nos setores mais interessados em IA, aeroespacial e defesa, onde o financiamento é muito superior ao dos setores automotivo comercial ou de informação e comunicação, é menos atraente para o pessoal mais capaz. Como resultado, a indústria global de defesa está ficando para trás de suas contrapartes comerciais em termos de inovação tecnológica, com a diferença apenas aumentando à medida que os melhores e mais brilhantes engenheiros passam para a esfera comercial.
No que diz respeito ao futuro da guerra, visto que está ligada à IA, a grande disparidade atual nos gastos comerciais e militares em P&D no desenvolvimento de sistemas autônomos poderia ter um efeito cascata sobre os tipos e a qualidade da autonomia que eventualmente são incorporados aos sistemas militares. Uma questão crítica a esse respeito é se as empresas de defesa terão a capacidade de desenvolver e testar sistemas autônomos seguros e controláveis, especialmente aqueles que disparam armas.
O uso de tecnologias emergentes sem testes abrangentes pode colocar em risco pessoal e militar. No entanto, o rápido desenvolvimento de sistemas autônomos comerciais poderia normalizar a aceitação de sistemas autônomos pelos militares e pelo público, e isso poderia incentivar as forças armadas estaduais a financiar o desenvolvimento de tais sistemas em um nível que melhor corresponda ao investimento em sistemas tripulados.
wpDiscuz