Cientistas da IA ​​se reúnem para planejar soluções para cenários do dia do juízo final

Wikipedia Commons
Compartilhe esta história!
image_pdfimage_print

Os tecnocratas criaram um monstro que eles agora percebem que pode transformar e destruir seus criadores; assim, 'jogos de guerra' são criados para aprender como derrotá-lo - Inteligência Artificial. Este é outro exemplo de uma tentativa de 'salvar o mundo' se transformou em um cenário de 'destruir o mundo'. TN Editor

Os impulsionadores da inteligência artificial preveem um admirável mundo novo de carros voadores e curas de câncer. Os destruidores se preocupam com um futuro em que os humanos são escravizados por uma raça maligna de senhores de robôs. O cientista veterano da IA ​​Eric Horvitz e o guru do Doomsday Clock, Lawrence Krauss, buscando um meio termo, reuniram um grupo de especialistas no deserto do Arizona para discutir o pior que poderia acontecer - e como impedi-lo.

O workshop ocorreu no final de semana passado na Arizona State University, com o financiamento do co-fundador da Tesla Inc., Elon Musk, e do co-fundador do Skype, Jaan Tallinn. Oficialmente apelidado de "Prevendo e lidando com resultados adversos da IA", era um tipo de jogo do juízo final da IA ​​que organizava alguns cientistas da 40, especialistas em segurança cibernética e políticas em grupos de atacantes - o time vermelho - e defensores - time azul - jogando AI - cenários muito errados, que vão da manipulação do mercado de ações à guerra global.

Horvitz está otimista - uma coisa boa porque a inteligência das máquinas é o trabalho de sua vida -, mas outros apoiadores mais distópicos do projeto pareciam achar sua perspectiva muito positiva quando os planos para esse evento começaram há dois anos, disse Krauss, um especialista em teoria. físico que dirige o Projeto Origens da ASU, o programa que administra o workshop. No entanto, Horvitz disse que, para que essas tecnologias avancem com sucesso e obtenham ampla confiança do público, todas as preocupações devem ser totalmente divulgadas e abordadas.

“Existe um enorme potencial para a IA transformar tantos aspectos da nossa sociedade de várias maneiras. Ao mesmo tempo, existem arestas e possíveis desvantagens, como qualquer tecnologia ”, disse Horvitz, diretor-gerente do Laboratório de Pesquisa da Microsoft em Redmond, Washington. "Para obter o máximo de vantagem, também precisamos pensar nos possíveis resultados com mais detalhes do que antes e pensar em como lidaríamos com eles".

Os participantes receberam “trabalhos de casa” para enviar inscrições para os piores cenários. Eles precisavam ser realistas - com base nas tecnologias atuais ou naquelas que parecem possíveis - e de cinco a dez anos no futuro. Os participantes com os pesadelos “vencedores” foram escolhidos para liderar os painéis, que contaram com cerca de quatro especialistas em cada uma das duas equipes para discutir o ataque e como evitá-lo.

Leia a história completa aqui…

Junte-se à nossa lista de endereços!


avatar
Subscrever
Notificar a