No final do dia, serão tecnocratas humanos saturados de tecnologia, não programas, que criarão políticas e resultados anti-humanos que prejudicam a humanidade. Eles se esconderão atrás da IA para escapar da responsabilidade, e todos pensarão que os algoritmos os implementaram.⁃ TN Editor
A idéia de pequenos grupos de humanos controlando algumas das armas mais poderosas já construídas é assustadora, mas é a realidade em que vivemos. Em um futuro não tão distante, esse poder e responsabilidade incríveis podem ser entregues a IA e sistemas robóticos, que já estão em desenvolvimento ativo. Em duas cartas abertas aos primeiros ministros da Austrália e do Canadá, centenas de pesquisadores e cientistas da IA estão implorando para que isso não aconteça.
O medo, dizem eles, é que a remoção do elemento humano das decisões de vida e morte possa levar a uma era destrutiva que finalmente significa o fim da humanidade. Os sistemas de armas da IA são, como os pesquisadores dizem, "armas de destruição em massa", que devem ser banidas imediatamente antes que possam causar algum dano grave.
“Delegar decisões de vida ou morte a máquinas cruza uma linha moral fundamental - não importa de que lado as construa ou use”, a carta explica. “Jogar roleta russa com a vida de outras pessoas nunca pode ser justificado apenas com base na eficácia. Esta não é apenas uma questão fundamental dos direitos humanos. A decisão de proibir ou usar armas autônomas vai ao cerne da nossa humanidade. ”
Em um ambiente em que os computadores têm a palavra final em se envolver ou não em atos hostis - mesmo sob o pretexto de defender seus próprios territórios ou proteger as populações para as quais eles estão programados para proteger - os conflitos podem aumentar muito mais rapidamente do que os humanos jamais viram. Semanas, meses ou até anos de postura e diplomacia podem se transformar em meros minutos ou até segundos, com mísseis voando antes que os humanos possam começar a intervir. E, claro, há a questão da IA ser manipulada de maneiras imprevistas.
"Estas serão armas de destruição em massa", dizem os cientistas. “Um programador poderá controlar um exército inteiro. Todas as outras armas de destruição em massa foram banidas: armas químicas, biológicas e até nucleares. Precisamos adicionar armas autônomas à lista de armas moralmente inaceitáveis de usar. ”
wpDiscuz