Criar robôs: a moral pode ser ensinada à IA por meio das habilidades parentais?

Máquinas inteligentes, prometidas há muito tempo e nunca entregues, são finalmente no horizonte. Robôs suficientemente inteligentes serão capazes de operar autonomamente a partir do controle humano. Eles serão capazes de fazer escolhas genuínas. E se um robô pode fazer escolhas, há uma pergunta real sobre se ele fará moral escolhas Mas o que é moral para um robô? É o mesmo que é moral para um humano?

Tanto filósofos quanto cientistas da computação tendem a se concentrar na dificuldade de implementar a moralidade humana sutil em máquinas de mente literal. Mas há outro problema, que realmente deve vir em primeiro lugar. É a questão de saber se devemos tentar impor nossa própria moralidade às máquinas inteligentes. Na verdade, eu argumentaria que isso provavelmente será contraproducente e até antiético. O verdadeiro problema da moralidade dos robôs não é os robôs, mas us. Podemos lidar com o compartilhamento do mundo com um novo tipo de criatura moral?

Gostamos de imaginar que a inteligência artificial (IA) será semelhante aos humanos, porque somos a única inteligência avançada que conhecemos. Mas nós somos provavelmente errado. Se e quando a IA aparecer, provavelmente será bem diferente de nós. Pode não ser o nosso raciocínio, e podemos ter dificuldade em entender suas escolhas.

No 2016, um programa de computador desafiou Lee Sedol, o principal jogador da humanidade no jogo antigo de Go. O programa, um projeto do Google chamado AlphaGo, é um exemplo inicial de como a IA pode ser. No segundo jogo da partida, o AlphaGo fez uma jogada - 'Move 37' - que surpreendeu os especialistas. Alguns pensaram que era um erro. Lee, o oponente humano, levantou-se da mesa e saiu da sala. Ninguém sabia o que AlphaGo estava fazendo; essa era uma tática que jogadores humanos especializados simplesmente não usavam. Mas funcionou. O AlphaGo venceu a partida, pois tinha o jogo antes e o próximo jogo. No final, Lee venceu apenas um jogo em cada cinco.

AlphaGo é muito, muito bom em Go, mas não é bom da mesma maneira que os humanos. Nem mesmo seus criadores podem explicar como se define em sua estratégia em cada jogo. Imagine que você poderia conversar com o AlphaGo e perguntar por que ele criou o Move 37. Seria capaz de explicar a escolha para você - ou para os especialistas em Go humanos? Possivelmente. As mentes artificiais não precisam funcionar como as nossas para realizar tarefas semelhantes.

De fato, podemos descobrir que máquinas inteligentes pensam em tudo, não apenas Go, de maneiras que nos são estranhas. Você não precisa imaginar um cenário horrível de ficção científica, em que os robôs entram em um tumulto assassino. Pode ser algo mais ou menos assim: imagine que robôs demonstrem preocupação moral com humanos, robôs e a maioria dos animais ... e também sofás. Eles tomam muito cuidado para não danificar os sofás, assim como tomamos cuidado para não danificar os bebês. Podemos perguntar às máquinas: por que você está tão preocupado com sofás? E a explicação deles pode não fazer sentido para nós, assim como a explicação da AlphaGo sobre o Move 37 pode não fazer sentido.

Essa linha de pensamento nos leva ao cerne de um enigma filosófico muito antigo sobre a natureza da moralidade. É algo acima e além da experiência humana, algo que se aplica a qualquer pessoa ou algo que possa fazer escolhas - ou a moralidade é uma criação distintamente humana, algo especialmente adaptado à nossa existência particular?

Leia a história completa aqui…