Já foi demonstrado que os algoritmos de IA exibem os vieses de seus criadores, então por que não intenções assassinas também? Os tecnocratas estão tão absorvidos com suas invenções de Pollyanna que não conseguem ver o fim lógico de sua existência. ⁃ Editor TN
Soldados robóticos assassinos se tornarão tão avançados que poderão desenvolver seu próprio código moral para desafiar violentamente as ordens, afirma um especialista em IA.
O ex-engenheiro de cibernética Dr. Ian Pearson prevê que estamos caminhando para um futuro de máquinas conscientes.
Mas se os robôs forem colocados em ação por potências militares, o futurólogo avisa que eles serão capazes de invocar seu próprio “ponto de vista moral”.
E se o fizerem, o ex-cientista de foguetes afirma que pode se voltar contra as próprias pessoas que os enviam para a batalha.
Dr. Pearson, que bloga para Futurizon, disse ao Daily Star Online: “À medida que a IA continua a se desenvolver e à medida que avançamos na estrada em direção à consciência - e não será uma coisa da noite para o dia, mas estamos gradualmente fazendo mais computadores e mais sofisticado - em algum ponto você está dando a eles acesso à educação moral para que eles mesmos possam aprender moral.
“Você pode dar a eles capacidades de raciocínio e eles podem vir com um código moral diferente, que os coloca em um pedestal mais alto do que os humanos a quem deveriam servir.
Questionado se isso poderia ser fatal, ele respondeu: “Sim, claro.
“Se eles estão no controle de armas e decidem que são um ser moral superior aos humanos que deveriam estar protegendo, eles podem tomar decisões que certas pessoas devem ser mortas para proteger a população em geral.
“Quem sabe quais decisões eles podem tomar?
“Se você tem um cara em um campo de batalha, dizendo aos soldados para atirar neste bando de pessoas, por qualquer motivo, mas o computador pensa o contrário, o computador não está convencido por isso, pode concluir que o soldado que dá as ordens é o pior criminoso, em vez do que as pessoas que ele está tentando matar, então ele pode se virar e matá-lo.
“É totalmente possível, depende de como os sistemas são escritos.”
O alerta do Dr. Pearson surge em meio a preocupações crescentes de robôs totalmente autônomos sendo usados na guerra.
wpDiscuz
Idiota. Algum desses idiotas de computadores pensa no que está dizendo? Quero dizer, pense além da ponta do nariz.
O ditado “professando-se sábio, tornaram-se tolos ...” tem muita relevância aqui.