Intencional ou não, os algoritmos de IA herdam os preconceitos de seus criadores. É absolutamente inaceitável que qualquer IA possa aprender a enganar aqueles que são atendidos por ela. ⁃ Editor TN
Dependendo de como você é paranóico, esta pesquisa de Stanford e Google será aterrorizante ou fascinante. Um agente de aprendizado de máquina destinado a transformar imagens aéreas em mapas de ruas e voltar foi enganado, ocultando as informações necessárias mais tarde em "um sinal quase imperceptível de alta frequência". Garota esperta!
Essa ocorrência revela um problema com os computadores que existem desde que foram inventados: eles fazem exatamente o que você manda.
A intenção dos pesquisadores era, como você pode imaginar, acelerar e melhorar o processo de transformar imagens de satélite nos famosos mapas precisos do Google. Para esse fim, a equipe estava trabalhando com o que é chamado de CycleGAN - uma rede neural que aprende a transformar imagens do tipo X e Y uma na outra, da maneira mais eficiente e precisa possível, por meio de muitas experiências.
Em alguns resultados iniciais, o agente estava indo bem - desconfiado bem. O que avisou a equipe foi que, quando o agente reconstruiu fotografias aéreas de seus mapas de ruas, havia muitos detalhes que não pareciam estar nele. Por exemplo, clarabóias em um telhado que foram eliminadas no processo de criação do mapa de ruas reapareceriam magicamente quando pedissem ao agente que fizesse o processo inverso:
O mapa original, à esquerda; o mapa de ruas gerado a partir do centro original; e o mapa aéreo gerado apenas a partir do mapa da rua. Observe a presença de pontos nos dois mapas aéreos não representados no mapa da rua.
Embora seja muito difícil observar o funcionamento interno dos processos de uma rede neural, a equipe pode facilmente auditar os dados que estava gerando. E com um pouco de experimentação, eles descobriram que o CycleGAN realmente havia sido rápido.
A intenção era que o agente pudesse interpretar os recursos de qualquer tipo de mapa e combiná-los com os recursos corretos do outro. Mas o que o agente era realmenteser avaliado (entre outras coisas) era o quão perto um mapa aéreo estava do original e a clareza do mapa de ruas.
Por isso não Aprenda a fazer um do outro. Ele aprendeu a codificar sutilmente os recursos de um nos padrões de ruído do outro. Os detalhes do mapa aéreo são secretamente escritos nos dados visuais reais do mapa de ruas: milhares de pequenas mudanças de cor que o olho humano não notaria, mas que o computador pode detectar facilmente.
De fato, o computador é tão bom em inserir esses detalhes nos mapas de ruas que aprendeu a codificar qualquer mapa aéreo em qualquermapa de ruas! Ele nem precisa prestar atenção ao mapa de ruas “real” - todos os dados necessários para reconstruir a foto aérea podem ser sobrepostos inofensivamente em um mapa de ruas completamente diferente, como confirmaram os pesquisadores:
O mapa à direita foi codificado nos mapas à esquerda sem alterações visuais significativas (Imagens: agsandrew / Shutterstock)
Os mapas coloridos em (c) são uma visualização das pequenas diferenças que o computador introduziu sistematicamente. Você pode ver que eles formam a forma geral do mapa aéreo, mas você nunca notaria a menos que fosse cuidadosamente destacado e exagerado dessa maneira.
Essa prática de codificar dados em imagens não é nova; é uma ciência estabelecida chamada esteganografia e é usada o tempo todo para, digamos, imagens de marcas d'água ou adicionar metadados como configurações da câmera. Mas um computador que cria seu próprio método esteganográfico para evitar ter que realmente aprender a executar a tarefa em questão is bastante novo. (Bem, a pesquisa saiu no ano passado, então não é novo novo, mas é bastante novo.)
wpDiscuz