Quando o mundo ecológico coloca as mãos em software de IA 'profundamente falso', eles podem fazer imagens da Terra que não podem ser detectadas como falsas, inserindo coisas que não estão lá e removendo coisas que estão lá. Esqueça 'mentir com estatísticas'; Agora está mentindo com imagens. ⁃ Editor TN
Etapa 1: use o AI para fazer alterações indetectáveis nas fotos externas. Etapa 2: libere-os para o mundo do código aberto e aproveite o caos.
Preocupações com falsificações profundas- vídeos manipulados por máquinas de celebridades e líderes mundiais supostamente dizendo ou fazendo coisas que realmente não fizeram - são curiosos em comparação com uma nova ameaça: imagens manipuladas da própria Terra.
A China é a líder reconhecida no uso de uma técnica emergente chamada redes adversárias generativas para induzir computadores a ver objetos em paisagens ou imagens de satélite que não existem, diz Todd Myers, líder de automação e diretor de informações no escritório do diretor de tecnologia. na Agência Nacional de Inteligência Geoespacial.
“Os chineses estão bem à nossa frente. Isso não é informação classificada ”, afirmou Myers na segunda-feira. Genius Machines cimeira, organizada por Defense One e Nextgov. “Os chineses já projetaram; eles já estão fazendo isso agora, usando GANs - que são redes contraditórias generativas - para manipular cenas e pixels e criar coisas por razões nefastas. ”
Por exemplo, disse Myers, um adversário pode enganar seus analistas de imagens assistidas por computador e reportar que uma ponte atravessa um rio importante em um determinado ponto.
“Então, de uma perspectiva tática ou planejamento de missão, você treina suas forças para seguir um determinado caminho, em direção a uma ponte, mas não está lá. Depois, há uma grande surpresa esperando por você - ele disse.
Primeiro descrito em 2014, Os GANs representam uma grande evolução na maneira como as redes neurais aprendem a ver e reconhecer objetos e até mesmo detectar a verdade da ficção.
Digamos que você peça à sua rede neural convencional para descobrir quais objetos são o quê nas fotos de satélite. A rede dividirá a imagem em várias partes, ou grupos de pixels, calculará como essas partes quebradas se relacionam entre si e, em seguida, fará uma determinação sobre qual é o produto final, ou se as fotos são reais ou alteradas. É tudo baseado na experiência de ver muitas fotos de satélite.
Os GANs invertem esse processo colocando duas redes uma contra a outra - daí a palavra "contraditório". Uma rede convencional pode dizer: "A presença de x, ye z nesses aglomerados de pixels significa que esta é uma imagem de um gato". uma rede GAN pode dizer: “Esta é uma imagem de um gato; portanto, x, ye z devem estar presentes. O que são x, ye z, e como eles se relacionam? ”A rede adversária aprende como construir, ou gerar, x, ye z de uma maneira que convence a primeira rede neural, ou o discriminador, de que algo está lá quando, talvez, não seja.
Muitos estudiosos consideraram os GANs úteis para localizar objetos e classificar imagens válidas de falsas. No 2017, estudiosos chineses usaram GANs para identificar estradas, pontes e outros recursos nas fotos de satélite.
A preocupação, como tecnólogos de IA dissequartzo no ano passado, é que a mesma técnica que pode discernir pontes reais de falsas também pode ajudar a criar pontes falsas que a IA não pode distinguir da coisa real.
Myers teme que, à medida que o mundo dependa cada vez mais de imagens de código aberto para entender o terreno físico, apenas um punhado de conjuntos de dados manipulados habilmente inseridos na linha de suprimento de imagens de código aberto possa causar estragos. “Esqueça o [Departamento de Defesa] e a [comunidade de inteligência]. Imagine o Google Maps se infiltrando nisso, de propósito? E imagine daqui a cinco anos quando o Semi-automática Tesla estão lá roteando coisas? ”ele disse.
Quando se trata de vídeos falsos profundos de pessoas, indicadores biométricos como pulso e fala podem derrotar o efeito falso. Mas o cenário falso não é vulnerável às mesmas técnicas.
wpDiscuz