Super-IA pode surgir como coronavírus para destruir a civilização

Oren EtzioniOren Etzioni
Compartilhe esta história!
image_pdfimage_print
Os mesmos tecnocratas que nos trouxeram a IA em primeiro lugar agora estão ponderando se uma 'super-AI' poderia surgir repentinamente ou não que destruiria a civilização. Para uma resposta mais confiável, talvez eles devessem perguntar ao Alexa. ⁃ Editor TN

O CEO do Allen Institute for AI, Professor Oren Etzioni, emitiu uma série de sinais de alerta em potencial que nos alertariam para a super-inteligência estar ao virar da esquina.

Os seres humanos devem estar prontos para sinais de super-inteligência robótica, mas devem ter tempo suficiente para resolvê-los, alertou um importante cientista da computação.

Oren Etzioni, CEO do Allen Institute for AI, escreveu um artigo recente intitulado: “Como saber se inteligência artificial está prestes a destruir a civilização. "

Ele escreveu: “Poderíamos acordar uma manhã estupefatos com o surgimento de uma IA superpoderosa, com consequências desastrosas?

“Livros como Superinteligência de Nick Bostrom e Life 3.0 de Max Tegmark, bem como artigos mais recentes, argumentam que a superinteligência malévola é um risco existencial para a humanidade.

“Mas pode-se especular sem parar. É melhor fazer uma pergunta empírica mais concreta: o que nos alertaria de que a super-inteligência está mesmo chegando? ”

Ele comparou os sinais de alerta aos canários nas minas de carvão, que foram usadas para detectar monóxido de carbono porque elas entrariam em colapso.

Etzioni argumentou que esses sinais de alerta surgem quando os programas de IA desenvolvem uma nova capacidade.

Ele continuou no MIT Review: “O famoso teste de Turing poderia servir como canário? O teste, inventado por Alan Turing em 1950, postula que a IA no nível humano será alcançada quando uma pessoa não conseguir distinguir a conversa com um ser humano da conversa com um computador.

“É um teste importante, mas não é um canário; é, antes, o sinal de que a IA em nível humano já chegou.

“Muitos cientistas da computação acreditam que, se esse momento chegar, a superinteligência se seguirá rapidamente. Precisamos de marcos mais intermediários. ”

Mas ele alertou que a "formulação automática de problemas de aprendizado" seria o primeiro canário, seguido por carros autônomos.

Leia a história completa aqui…

Junte-se à nossa lista de endereços!


avatar
1 Comentar tópicos
0 Respostas do Tópico
0 Seguidores
Comentário Mostv¯ve
Tópico de comentário mais quente
1 Autores de comentários
Elle Autores recentes de comentários
Subscrever
o mais novo mais velho mais votado
Notificar a
Elle
Convidado
Elle

O que é "formulação automática de problemas de aprendizagem"? Acessou o link, mas o site deseja informações que eu não estava disposto a fornecer.