A tecnocracia promete a ditadura científica no final. Se a IBM agora admitir que seus engenheiros podem fazê-lo, você pode ter certeza de que as agências de inteligência dos EUA o fazem há algum tempo. O hacking direcionado é potencialmente o tipo de vigilância mais malicioso e destrutivo da história. Nas mãos de intelectuais desonestos, todos os detalhes são expostos diante deles. ⁃ Editor TN
O cenário de pesadelo para a segurança do computador - programas de inteligência artificial que podem aprender a contornar até mesmo as melhores defesas - pode já ter chegado.
Esse aviso dos pesquisadores de segurança é levado para casa por uma equipe da IBM, que usou a técnica de inteligência artificial conhecida como aprendizado de máquina para criar programas de hackers que poderiam passar por medidas defensivas de primeira linha. O grupo divulgará detalhes de seu experimento na conferência de segurança da Black Hat em Las Vegas na quarta-feira.
As defesas de ponta geralmente dependem de examinar o que o software de ataque está fazendo, em vez da técnica mais comum de analisar o código do software em busca de sinais de perigo. Mas o novo gênero de programas orientados à IA pode ser treinado para permanecer inativo até atingir um objetivo muito específico, tornando-os excepcionalmente difíceis de parar.
Ninguém se vangloriou de capturar nenhum software malicioso que dependesse claramente de aprendizado de máquina ou de outras variantes de inteligência artificial, mas isso pode ser apenas porque os programas de ataque são bons demais para serem capturados.
Os pesquisadores dizem que, na melhor das hipóteses, é apenas uma questão de tempo. Blocos de construção de inteligência artificial gratuitos para programas de treinamento estão prontamente disponíveis no Google da Alphabet Inc e em outros, e as ideias funcionam muito bem na prática.
“Eu realmente acredito que vamos lá”, disse Jon DiMaggio, analista sênior de ameaças da empresa de segurança cibernética Symantec Corp. “Isso tornará muito mais difícil de detectar”.
Os hackers mais avançados do estado-nação já mostraram que podem criar programas de ataque que são ativados apenas quando atingem um alvo. O exemplo mais conhecido é o Stuxnet, que foi enviado por agências de inteligência dos EUA e de Israel contra uma instalação de enriquecimento de urânio no Irã.
O esforço da IBM, chamado DeepLocker, mostrou que um nível semelhante de precisão pode estar disponível para aqueles com muito menos recursos do que um governo nacional.
Em uma demonstração usando fotos publicamente disponíveis de um alvo de amostra, a equipe usou uma versão hackeada do software de videoconferência que entrou em ação somente quando detectou a face de um alvo.
“Temos muitos motivos para acreditar que essa é a próxima grande novidade”, disse o pesquisador-chefe da IBM, Marc Ph. Stoecklin. “Isso pode já ter acontecido, e veremos isso daqui a dois ou três anos.”
wpDiscuz