Os tecnocratas criaram um monstro que agora percebem que pode transformar e destruir seus criadores; assim, 'jogos de guerra' são criados para aprender como derrotá-lo - Inteligência Artificial. Este é outro exemplo de uma tentativa de 'salvar o mundo' que se transformou em um cenário de 'destruir o mundo'. ⁃ TN Editor
Os impulsionadores da inteligência artificial prevêem um admirável mundo novo de carros voadores e curas de câncer. Detratores se preocupam com um futuro em que os humanos serão escravizados por uma raça maligna de senhores robôs. O veterano cientista de IA Eric Horvitz e o guru do Doomsday Clock Lawrence Krauss, em busca de um meio-termo, reuniram um grupo de especialistas no deserto do Arizona para discutir o pior que poderia acontecer - e como evitá-lo.
O workshop aconteceu no fim de semana passado na Arizona State University com financiamento do co-fundador da Tesla Inc. Elon Musk e do cofundador do Skype Jaan Tallinn. Oficialmente apelidado de “Prevendo e direcionando resultados adversos de IA”, era uma espécie de jogos do juízo final de IA que organizava cerca de 40 cientistas, especialistas em segurança cibernética e especialistas em políticas em grupos de atacantes - o time vermelho - e defensores - time azul - jogando IA - Cenários muito errados, que vão desde a manipulação do mercado de ações até a guerra global.
Horvitz está otimista - o que é bom porque a inteligência da máquina é o trabalho de sua vida - mas alguns outros apoiantes do projeto, com uma mentalidade mais distópica, pareceram achar sua perspectiva muito positiva quando os planos para este evento começaram há cerca de dois anos, disse Krauss, um teórico físico que dirige o Projeto Origins da ASU, o programa responsável pelo workshop. Ainda assim, Horvitz disse que para que essas tecnologias avancem com sucesso e ganhem ampla confiança do público, todas as preocupações devem ser totalmente expostas e tratadas.
“Há um enorme potencial para a IA de transformar muitos aspectos de nossa sociedade de muitas maneiras. Ao mesmo tempo, existem arestas e desvantagens potenciais, como qualquer tecnologia ”, disse Horvitz, diretor administrativo do Laboratório de Pesquisa da Microsoft em Redmond, Washington. “Para ganhar ao máximo com as vantagens, também temos que pensar nos resultados possíveis com mais detalhes do que antes e pensar em como lidaríamos com eles.”
Os participantes receberam “lição de casa” para enviar inscrições para os piores cenários. Eles tinham que ser realistas - com base nas tecnologias atuais ou que parecem possíveis - e de cinco a 25 anos no futuro. Os participantes com pesadelos “vencedores” foram escolhidos para liderar os painéis, que contaram com cerca de quatro especialistas em cada uma das duas equipes para discutir o ataque e como evitá-lo.
wpDiscuz