Quando a complexidade da IA excede a capacidade do homem de entender como ela funciona, as consequências de seu uso também não podem ser entendidas. Os tecnocratas criam porque podem, com pouca consideração à segurança ou conseqüência. Chegará o momento em que o plugue deverá ser puxado, redefinindo todo o sistema de volta ao controle humano. ⁃ Editor TN
A inteligência artificial remodelará o mundo das finanças na próxima década, automatizando investimentos e outros serviços - mas também poderá introduzir debilidades e riscos sistemáticos preocupantes, de acordo com um novo relatório do Fórum Econômico Mundial (WEF).
Compilado por meio de entrevistas com dezenas de especialistas em finanças e líderes do setor, o relatório conclui que a inteligência artificial prejudicará o setor, permitindo que os adotantes iniciais manobrem os concorrentes. Também sugere que a tecnologia criará produtos mais convenientes para os consumidores, como ferramentas sofisticadas para gerenciar finanças e investimentos pessoais.
Mas, mais notavelmente, o relatório aponta para o potencial de grandes instituições financeiras criarem serviços baseados em aprendizado de máquina que vivem na nuvem e são acessados por outras instituições.
"A dinâmica do aprendizado de máquina cria um forte incentivo para a rede de back office", diz o principal autor do relatório, Jesse McWaters, que lidera o projeto de serviços financeiros de IA no Fórum Econômico Mundial. "Um mundo em rede é mais vulnerável aos riscos de segurança cibernética e também cria riscos de concentração".
Em outras palavras, sistemas financeiros que incorporam aprendizado de máquina e são acessados através da nuvem por muitas instituições diferentes podem apresentar um alvo interessante para hackers e um único ponto de falha sistêmica.
Wall Street já está adotando rapidamente o aprendizado de máquina, a tecnologia no centro do boom da inteligência artificial. As empresas financeiras geralmente têm muitos dados e incentivos para inovar. Os fundos de hedge e os bancos estão contratando pesquisadores de IA o mais rápido possível, e o setor financeiro está experimentando a automação de retaguarda em grande medida. A automação do comércio de alta frequência já criou riscos sistêmicos, como destacado por vários eventos de negociação em fugaou “falhas de flash," nos últimos anos.
Andrew Lo, professor da Sloan School of Management do MIT, pesquisa a questão do risco sistêmico no sistema financeiro e ele alertou anteriormente que o sistema como um todo possa estar vulnerável devido à sua grande complexidade.
wpDiscuz
[…] Fórum Econômico Mundial: IA pode causar colapso do sistema financeiro global (technocracy.news) […]