Utah cria Panopticon de vigilância ao fornecer dados para empresa privada de IA

Banjo está aplicando inteligência artificial a câmeras de vigilância e tráfego de propriedade do governo em todo o estado de Utah para informar a polícia sobre "anomalias".

O estado de Utah concedeu a uma empresa de inteligência artificial acesso em tempo real a câmeras de trânsito estaduais, câmeras de CFTV e de “segurança pública”, sistemas de emergência 911, dados de localização de veículos pertencentes ao estado e outros dados confidenciais.

A empresa, chamada Banjo, diz que está combinando esses dados com informações coletadas de mídias sociais, satélites e outros aplicativos, e afirma que seus algoritmos “detectam anomalias” no mundo real.

O objetivo elevado do sistema do Banjo é alertar as autoridades policiais sobre crimes conforme eles acontecem. Ele afirma que faz isso enquanto, de alguma forma, remove todos os dados pessoais do sistema, permitindo ajudar os policiais sem colocar a privacidade de ninguém em risco. Tal como acontece com outros sistemas de crime algorítmico, há pouca supervisão pública ou informação sobre como, exatamente, o sistema determina o que vale a pena alertar os policiais.

Em seus argumentos de venda para clientes em potencial, o Banjo promete que sua tecnologia, chamada “Live Time Intelligence”, pode identificar, e potencialmente ajudar a polícia a resolver, uma incrível variedade de crimes em tempo real. Banjo diz que sua IA pode ajudar a polícia a resolver casos de sequestro de crianças "em segundos", identificar situações de atiradores ativos conforme elas acontecem ou potencialmente enviar um alerta quando houver um acidente de trânsito, lançamento de airbag, incêndio ou um carro está dirigindo o caminho errado na estrada. Banjo diz tem “uma solução para os sem-teto” e pode ajudar com a epidemia de opioides detectando “eventos de opioides”. Ele oferece "processamento de inteligência artificial" de sensores de áudio estatais que "incluem, mas não podem estar limitados a, reconhecimento de voz e processamento de linguagem natural", bem como detecção automática de cena, reconhecimento de objeto e detecção de veículo em imagens de vídeo em tempo real puxadas das câmeras de Utah.

Em julho, o Banjo assinou um contrato de cinco anos e US $ 20.7 milhões com Utah, que dá à empresa acesso sem precedentes aos dados coletados pelo estado. O argumento do Banjo para agências estaduais e locais é que quanto mais dados forem inseridos nele, melhor funcionará seu produto. Assim, a empresa passou o último ano tentando obter o máximo possível de agências estaduais e locais para dar acesso a seu CFTV e câmeras de tráfego, sensores de áudio e outros dados.

Por isso, foi incrivelmente bem-sucedido. O Banjo instalou seus próprios servidores na sede do Departamento de Transportes de Utah (UDOT), uma agência civil, e tem acesso direto em tempo real às milhares de câmeras de trânsito em que o estado opera. Ele instalou 911 sistemas de centros de operações de emergência em todo o estado, de acordo com contratos, e-mails e outros documentos do governo obtidos pela Motherboard usando solicitações de registros públicos, bem como gravações de vídeo e áudio das reuniões do conselho da cidade em todo o estado que analisamos .

Está contrato com o estado diz que a tecnologia do Banjo será implantada ou está em processo de implantação em todos os 29 condados de Utah, nas 13 maiores cidades do estado e em 10 outras cidades com "relevância significativa", bem como para "segurança do campus" para a Universidade de Utah. Um representante do Banjo disse à cidade de Springville, Utah em janeiro que um total de cerca de 70 outras cidades e condados dentro de Utah concordaram em fornecer seus dados ao Banjo. Também está trabalhando com o Departamento de Segurança Pública de Utah e a Patrulha Rodoviária de Utah, de acordo com registros públicos.

Até agora, no entanto, o gabinete do procurador-geral de Utah não pôde fornecer ao Motherboard um exemplo de um caso da vida real em que o Banjo tenha sido usado, embora tenha insistido que realmente foi usado.

O banjo é outra parte de uma nova safra de policiamento preditivo e ferramentas de policiamento focadas em inteligência artificial. Ao contrário de outras ferramentas, como Palantir—que é usado pelo ICE e é tão controverso que houve vários protestos sobre o seu uso—Banjo afirma que não ajuda a polícia a encontrar criminosos, mas os ajuda a encontrar “emergências” e localizar atos criminosos.

“Basicamente, fazemos a maior parte do que Palantir faz, apenas o fazemos ao vivo”, disse Bryan Smith, principal lobista do Banjo, ao Conselho de Operações do Centro de Comunicações de Emergência de Salt Lake Valley, que é composto por chefes de polícia e oficiais de despacho do 911, em agosto. “Então Palantir é uma ferramenta que você usa para análise, meio que para investigar a fundo certas coisas. O que queremos fazer é entregar a você a informação certa no momento. Pense em um Google Maps [você obterá] um alfinete que cai com um chamador [despachante auxiliado por computador] e anexado a esse evento, em menos de um segundo com informações relacionadas a esse evento. ”

Leia a história completa aqui…