Os mesmos tecnocratas que nos trouxeram a IA em primeiro lugar estão agora ponderando se um 'super-IA' poderia ou não surgir de repente para destruir a civilização. Para uma resposta mais confiável, talvez devessem perguntar a Alexa. ⁃ Editor TN
O CEO do Allen Institute for AI, Professor Oren Etzioni, emitiu uma série de sinais de alerta em potencial que nos alertariam para a “superinteligência” que está por vir.
Os seres humanos devem estar prontos para sinais de super-inteligência robótica, mas devem ter tempo suficiente para resolvê-los, alertou um importante cientista da computação.
Oren Etzioni, CEO do Allen Institute for AI, escreveu um artigo recente intitulado: “Como saber se inteligência artificial está prestes a destruir a civilização. ”
Ele escreveu: “Será que poderíamos acordar uma manhã chocados com o surgimento de uma IA superpoderosa, com consequências desastrosas?
“Livros como Superinteligência de Nick Bostrom e Life 3.0 de Max Tegmark, assim como artigos mais recentes, argumentam que a superinteligência malévola é um risco existencial para a humanidade.
“Mas pode-se especular sem parar. É melhor fazer uma pergunta mais concreta e empírica: o que nos alertaria de que a superinteligência está realmente ao virar da esquina? ”
Ele comparou os sinais de alerta aos canários nas minas de carvão, que foram usadas para detectar monóxido de carbono porque elas entrariam em colapso.
Etzioni argumentou que esses sinais de alerta surgem quando os programas de IA desenvolvem uma nova capacidade.
Ele continuou para a MIT Review: “O famoso teste de Turing poderia servir como um canário? O teste, inventado por Alan Turing em 1950, postula que a IA de nível humano será alcançada quando uma pessoa não puder distinguir uma conversa com um humano de uma conversa com um computador.
“É um teste importante, mas não é um canário; é, antes, o sinal de que a IA de nível humano já chegou.
“Muitos cientistas da computação acreditam que, se esse momento chegar, a superinteligência o seguirá rapidamente. Precisamos de mais marcos intermediários. ”
Mas ele advertiu que a “formulação automática de problemas de aprendizagem” seria o primeiro canário, seguido pelos carros autônomos.
wpDiscuz
O que é "formulação automática de problemas de aprendizagem"? Acessou o link, mas o site deseja informações que eu não estava disposto a fornecer.