Inventor da Internet: desastre aparece quando a IA dirige a economia

O arquiteto da world wide web, Sir Tim Berners-Lee, falou hoje sobre algumas de suas preocupações com a internet nos próximos anos, incluindo um cenário de pesadelo onde a inteligência artificial (IA) poderia se tornar os novos 'mestres do universo', criando e executando suas próprias empresas.

Masters of the universe é uma referência ao romance de Tom Wolfe de 1987, The Bonfire of the Vanities, sobre os homens (e eles eram homens) que começaram a acumular salários multimilionários e uma grande influência de suas funções financeiras em Wall Street e em Londres, durante o boom do comércio computadorizado antes da Segunda-Feira Negra.

Falando na Cúpula Global Innovate Finance hoje, Berners-Lee imaginou um mundo em que os sistemas de IA começarão a desenvolver capacidades de tomada de decisão e o impacto que isso terá na justiça de nossos sistemas econômicos.

Ele expôs o cenário em que a IA poderia decidir quais empresas adquirir e levou isso à sua conclusão lógica: “Então, quando a IA começa a tomar decisões como quem consegue uma hipoteca, isso é grande. Ou quais empresas adquirir e quando a AI passa a criar suas próprias empresas, criando holdings, gerando novas versões de si para administrar essas empresas.

“Então, você tem a sobrevivência do mais apto acontecendo entre essas empresas de IA até chegar ao ponto em que se pergunta se é possível entender como garantir que eles estão sendo justos, e como você descreve para um computador o que isso significa afinal? "

Embora seja difícil imaginar derramar muitas lágrimas pela perda do tomadores de decisão responsável pelo acidente do 2007, o cenário ameaça acabar com um setor inteiro e levanta algumas questões sérias sobre quão justo um sistema financeiro sem o envolvimento humano pode ser.

Isso é semelhante ao medo apresentado recentemente pelo cético em IA Elon Musk para Vanity Fair: “Digamos que você crie uma IA de autoaperfeiçoamento para colher morangos e que fique cada vez melhor em colher morangos e mais e mais e se auto-melhore, então tudo o que realmente quer fazer é colher morangos. Então, todo o mundo seria formado por campos de morango. Campos de morangos para sempre." Não há espaço para seres humanos.

Berners-Lee recebeu o prêmio AM Turing da Association for Computing Machinery na semana passada e chamou a atenção da mídia para criticar a reversão da administração Trump nas proteções contra a neutralidade da rede em uma entrevista ao The Guardian.

Berners-Lee também recentemente publicou uma carta no décimo nono aniversário da rede mundial de computadores, detalhando o que ele vê como os três principais desafios da web: perda de controle sobre dados pessoais, disseminação de informações erradas na web e necessidade de transparência na publicidade política on-line

Leia a história completa aqui…