O gênio já saiu da garrafa, mas os pesquisadores avançados de IA agora estão muito preocupados com a forma como suas criações serão usadas na guerra autônoma. A IA está perto de se auto-replicar, o que significa que aplicativos nocivos empenhados em matar humanos podem se multiplicar até que a raça humana seja extinta. ⁃ Editor TN
Milhares de cientistas especializados em inteligência artificial (IA) declararam que não participarão do desenvolvimento ou fabricação de robôs que podem identificar e atacar pessoas sem a supervisão humana.
Demis Hassabis no Google DeepMind e Elon Musk na empresa americana de foguetes SpaceX estão entre os mais do 2,400 signatários da promessa que pretende impedir empresas e países militares de construir sistemas letais de armas autônomas, também conhecidas como leis.
A decisão é a mais recente de cientistas e organizações preocupados em destacar os perigos de entregar decisões de vida ou morte a máquinas aprimoradas por IA. Segue chamadas para uma proibição preemptiva em tecnologia que os ativistas acreditam que poderia inaugurar uma nova geração de armas de destruição em massa.
Orquestrada pela organização com sede em Boston, The Future of Life Institute, a promessa pede aos governos que acordem normas, leis e regulamentos que estigmatizem e efetivamente proíbam o desenvolvimento de robôs assassinos. Na ausência de tais medidas hoje, os signatários prometem "não participar nem apoiar o desenvolvimento, fabricação, comércio ou uso de armas autônomas letais". Mais de empresas e organizações relacionadas à 150 AI adicionaram seus nomes à promessa de ser anunciado hoje na Conferência Conjunta Internacional sobre IA em Estocolmo.
Yoshua Bengio, pioneiro em IA do Instituto de Aprendizagem de Algoritmos de Montreal, disse ao Guardian que se a promessa pudesse envergonhar aquelas empresas e organizações militares que constroem armas autônomas, a opinião pública se oporia a elas. “Essa abordagem realmente funcionou para minas terrestres, graças a tratados internacionais e vergonha pública, apesar de países importantes como os EUA não terem assinado o tratado de proibição de minas terrestres. As empresas americanas pararam de construir minas terrestres ”, afirmou. Bengio assinou o compromisso de expressar sua "forte preocupação com armas autônomas letais".
O exército é um dos maiores financiadores e adotantes da tecnologia de IA. Com sistemas de computador avançados, os robôs podem fazer missões em terrenos hostis, navegar no solo e patrulhar no mar. Sistemas de armas mais sofisticados estão em andamento. Na segunda-feira, o secretário de defesa Gavin Williamson revelou um plano de £ 2bn para um novo caça RAF, o Tempest, que poderá voar sem piloto.
Os ministros britânicos declararam que a Grã-Bretanha não está desenvolvendo sistemas letais de armas autônomas e que suas forças sempre terão a supervisão e o controle das armas que são utilizadas. Mas os ativistas alertam que os rápidos avanços na IA e em outros campos significam que agora é possível construir armas sofisticadas que possam identificar, rastrear e disparar contra alvos humanos sem o consentimento de um controlador humano. Para muitos pesquisadores, dar às máquinas a decisão sobre quem vive e morre cruza uma linha moral.
“Precisamos fazer da norma internacional que armas autônomas não são aceitáveis. Um ser humano deve sempre estar em sintonia ”, disse Toby Walsh, professor de IA da Universidade de New South Wales, em Sydney, que assinou a promessa
wpDiscuz
crianças baseadas na história da vida real de Sobre Crianças da Vida Real que Mudaram o Mundo