Eric Schmidt: IA é tão poderosa quanto armas nucleares

O ex-CEO do Google Eric Schmidt comparou a IA às armas nucleares e pediu um regime de dissuasão semelhante à destruição mutuamente assegurada que impede que os países mais poderosos do mundo se destruam.

Schmidt falou sobre os perigos da IA ​​no Aspen Security Forum em uma painel sobre segurança nacional e inteligência artificial em 22 de julho. Ao responder a uma pergunta sobre o valor da moralidade na tecnologia, Schmidt explicou que ele próprio era ingênuo sobre o poder da informação nos primeiros dias do Google. Ele então pediu que a tecnologia fosse melhor de acordo com a ética e a moral das pessoas a quem serve e fez uma comparação bizarra entre IA e armas nucleares.

"Não estamos prontos para as negociações de que precisamos." – @ericschmidt #AspenSecurity pic.twitter.com/As749t6ZyU

— Fórum de segurança de Aspen (@AspenSecurity) 22 de julho de 2022

Schmidt imaginou um futuro próximo em que a China e os EUA precisariam consolidar um tratado em torno da IA. “Nas décadas de 50 e 60, acabamos criando um mundo onde havia uma regra de 'não surpresa' sobre testes nucleares e, eventualmente, eles foram proibidos”, disse Schmidt. “É um exemplo de equilíbrio de confiança, ou falta de confiança, é uma regra 'sem surpresas'. Estou muito preocupado que a visão dos EUA da China como corrupta ou comunista ou qualquer outra coisa, e a visão chinesa da América como fracassada... de enigma. Comece algum tipo de coisa onde, porque você está armando ou se preparando, você aciona o outro lado. Não temos ninguém trabalhando nisso e ainda assim a IA é tão poderosa.”

A IA e o aprendizado de máquina são uma tecnologia impressionante e frequentemente incompreendida. É, em grande parte, não tão inteligente quanto as pessoas pensam que é. Ele pode despejar arte em nível de obra-prima, espancar humanos em Starcraft II, e fazer ligações telefônicas rudimentares para os usuários. Tenta fazer com que ele faça tarefas mais complicadas, no entanto, como dirigir um carro por uma grande cidade, não tem ido tão bem.

Schmidt imaginou um futuro próximo em que tanto a China quanto os EUA teriam preocupações de segurança que forçariam uma espécie de tratado de dissuasão entre eles em torno da IA. Ele fala das décadas de 1950 e 60, quando a diplomacia criou uma série de controles em torno das armas mais mortíferas do planeta. Mas para que o mundo chegasse a um lugar onde instituiu o Tratado de Proibição de Testes Nucleares, SALT II e outras leis marcantes, foram necessárias décadas de explosões nucleares e, criticamente, a destruição de Hiroshima e Nagasaki.

As duas cidades japonesas destruídas pela América no final da Segunda Guerra Mundial mataram dezenas de milhares de pessoas e provaram ao mundo o horror eterno das armas nucleares. Os governos da Rússia e da China correram então para adquirir as armas. A maneira como vivemos com a possibilidade de que essas armas sejam usadas é por meio de algo chamado destruição mútua garantida (MAD), uma teoria de dissuasão que garante que, se um país lançar uma bomba nuclear, é possível que todos os outros também o façam. Não usamos a arma mais destrutiva do planeta por causa da possibilidade de que isso destruirá, no mínimo, a civilização ao redor do globo.

Apesar dos comentários coloridos de Schmidt, não queremos ou precisamos de MAD para IA. Por um lado, a IA não provou ser tão destrutiva quanto as armas nucleares. Mas as pessoas em posições de poder temer esta nova tecnologia e, normalmente, por todas as razões erradas. As pessoas até sugeriram dando controle de armas nucleares para a IA, teorizando que seriam melhores árbitros de seu uso do que os humanos.

O problema com a IA não é que ela tenha a força potencialmente destruidora do mundo de uma arma nuclear. É que a IA é tão boa quanto as pessoas que a projetaram e que refletem os valores de seus criadores. A IA sofre com o clássico problema “garbage in, garbage out”: algoritmos racistas fazem robôs racistas, toda IA ​​carrega os preconceitos de seus criadores e um chatbot treinado no 4chan torna-se vil.

Isso é algo Demis Hassabis – o CEO da DeepMind, que treinou a IA que está superando Starcraft II jogadores - parece entender melhor do que Schmidt. Em uma entrevista em julho no podcast Lex Fridman, Fridman perguntou a Hassabis como uma tecnologia tão poderosa quanto a IA poderia ser controlada e como o próprio Hassabis poderia evitar ser corrompido pelo poder.

Leia a história completa aqui…