Tecnocratas que constroem apenas porque podem, em última análise, criam muito mais problemas do que resolvem em primeiro lugar. O aumento da complexidade invariavelmente resulta em "sobrecarga do sistema", em que tudo fica fora de controle. ⁃ TN Editor
O que diferencia os seres humanos das máquinas é a velocidade com que podemos aprender com o ambiente.
Mas os cientistas treinaram com sucesso computadores para usar a inteligência artificial para aprender com a experiência - e um dia eles poderiam ser mais espertos que seus criadores.
Agora, os cientistas admitiram que já estão confusos com os cérebros mecânicos que construíram, aumentando a perspectiva de que poderíamos perder completamente o controle deles.
Os computadores já estão realizando feitos incríveis - como dirigir carros e prever doenças -, mas seus fabricantes dizem que não estão totalmente no controle de suas criações.
Isso pode ter consequências catastróficas para a civilização, alertaram especialistas em tecnologia.
Pegue o estranho carro sem motorista que apareceu nas ruas de Nova Jersey, EUA, no ano passado.
Diferia dos veículos autônomos do Google, Tesla ou Uber, que seguem as regras estabelecidas pelos desenvolvedores de tecnologia para reagir aos cenários enquanto viajam.
Este carro pode tomar suas próprias decisões depois de observar como os humanos aprenderam a dirigir.
E seus criadores, pesquisadores da empresa fabricante de chips Nvidia (que fornece chips para supercomputadores a alguns dos maiores fabricantes de automóveis), disseram que não estavam 100 por cento certos de como isso acontecia, MIT Technology Review relatado.
Sua mente misteriosa pode ser um sinal de tempos sombrios, temem os céticos.
A tecnologia subjacente do carro, apelidada de "aprendizado profundo", é uma ferramenta poderosa para resolver problemas.
Isso nos ajuda a marcar nossos amigos no Facebook, fornece assistência em nossos smartphones usando Siri, Cortana ou Google.
O aprendizado profundo ajudou os computadores a reconhecerem melhor os objetos do que uma pessoa.
Os militares estão investindo milhões na tecnologia para que ela possa ser usada para dirigir navios, controlar drones e destruir alvos.
E há esperança de que seja capaz de diagnosticar doenças mortais, tornar bilionários traders lendo a bolsa de valores e transformar totalmente o mundo em que vivemos.
Mas se não garantirmos que os criadores tenham um entendimento completo de como isso funciona, estamos em um problema profundo, afirmam os cientistas.
Se eles não conseguirem descobrir como funcionam os algoritmos (as fórmulas que mantêm os computadores executando as tarefas que lhes pedimos), eles não serão capazes de prever quando falharão.
Tommi Jaakkola, professor do MIT que trabalha em aplicativos de aprendizado de máquina, alerta: "Se você tivesse uma rede neural muito pequena [algoritmo de aprendizado profundo], poderá entender isso".
"Mas, uma vez que se torna muito grande e possui milhares de unidades por camada e talvez centenas de camadas, torna-se bastante incompreensível".
Isso significa que um carro sem motorista, como o da Nvidia, poderia subir de cabeça em uma árvore e não teríamos ideia do motivo pelo qual decidiu fazê-lo.
wpDiscuz