A Amazon afirma que seu sistema Rekognition AI é “indistinguível de mágica”, mas agora o oferece por taxas nominais para os agentes da lei em todos os níveis, desde a polícia municipal e escritórios do xerife até o FBI. Atualmente, não há leis nacionais que regulem o uso de reconhecimento facial. ⁃ Editor TN
Quando os trabalhadores de uma Ace Hardware aqui relataram que uma mulher saiu da loja com um tanque de gás de soldagem de US $ 11.99 que ela não havia pago em sua bolsa, uma operação elaborada de alta tecnologia de combate ao crime entrou em ação.
Um detetive do xerife do condado de Washington, trabalhando com a Unidade de Investigações Especiais da agência, analisou as imagens de vigilância da loja por meio de um programa interno de reconhecimento facial criado pela Amazon, revelando uma possível correspondência.
A placa daquela mulher estava sinalizada e, três meses depois, um oficial de narcóticos em um SUV sem identificação viu e mandou um rádio para outros policiais para detê-la. Um policial colocou um par de algemas em seus pulsos, e afirma o relatório de prisão. Ela disse que precisava de gasolina para consertar o carro.
Os policiais deste canto do oeste do Oregon, nos arredores da ultraliberal Portland, costumavam rastrear criminosos à moda antiga, enviando por fax imagens capturadas na câmera de um suspeito pelo escritório, na esperança de que alguém reconhecesse o rosto.
Então, no final de 2017, o Gabinete do Xerife do Condado de Washington se tornou a primeira agência de aplicação da lei no país conhecida a usar a ferramenta de inteligência artificial da Amazon, Rekognition, transformando este emaranhado de florestas e subúrbios em um campo de testes públicos para uma nova onda de vigilância policial experimental técnicas.
Quase da noite para o dia, os deputados viram seus poderes investigativos sobrecarregados, permitindo-lhes procurar correspondências do rosto de um suspeito em mais de 300,000 fotos tiradas na prisão do condado desde 2001. Uma foto granulada do rosto de alguém - capturada por uma câmera de segurança, uma mídia social conta ou smartphone de um deputado - pode rapidamente se tornar um link para sua identidade, incluindo seu nome, família e endereço. Mais de 1,000 buscas de reconhecimento facial foram registradas no ano passado, disseram os deputados, que às vezes usavam os resultados para encontrar a página de um suspeito no Facebook ou visitar sua casa.
Mas o condado de Washington também se tornou o marco zero para uma batalha de alto risco sobre o crescimento não regulamentado do policiamento por algoritmo. Advogados de defesa, pesquisadores de inteligência artificial e especialistas em direitos civis argumentam que a tecnologia pode levar à prisão injusta de pessoas inocentes que têm apenas uma semelhança com uma imagem de vídeo. A precisão do Rekognition também é fortemente contestada, e alguns especialistas temem que um caso de identidade trocada por deputados armados possa ter implicações perigosas, ameaçando a privacidade e a vida das pessoas.
Algumas agências policiais realizaram pesquisas de reconhecimento facial em bancos de dados estaduais ou do FBI usando sistemas construídos por empresas contratadas como Cognitec, IDEMIA e NEC. Mas o lançamento pela Amazon marcou talvez o maior passo para tornar a controversa tecnologia de digitalização de rosto dominante. O reconhecimento é fácil de ativar, não requer nenhuma infraestrutura técnica importante e é oferecido a praticamente qualquer pessoa a preços acessíveis. O Condado de Washington gastou cerca de US $ 700 para enviar seu primeiro grande lote de fotos e agora, para todas as suas pesquisas, paga cerca de US $ 7 por mês.
É impossível dizer, porém, o quão precisa ou eficaz a tecnologia foi durante seus primeiros 18 meses de testes no mundo real. Os policiais não precisam anotar nos relatórios de prisão quando uma busca de reconhecimento facial foi usada, e o número exato de vezes que resultou em uma prisão não é claro. Funcionários do xerife disseram que o software levou a dezenas de prisões por roubo, violência ou outros crimes, mas uma solicitação de registros públicos revelou nove relatórios de casos nos quais o reconhecimento facial foi mencionado.
“Assim como qualquer uma de nossas técnicas de investigação, não contamos às pessoas como as pegamos”, disse Robert Rookhuyzen, um detetive da equipe de crimes graves da agência que disse ter feito “várias dezenas” de buscas e achou útil cerca de 75% do tempo. "Queremos que eles continuem adivinhando."
Os oficiais do xerife dizem que as varreduras de rosto nem sempre marcam o fim da investigação: os deputados ainda devem estabelecer a causa provável ou encontrar evidências antes de acusar um suspeito de um crime. Mas o Gabinete do Xerife define suas próprias regras para o uso de reconhecimento facial e permite que os deputados usem a ferramenta para identificar corpos, suspeitos inconscientes e pessoas que se recusaram a fornecer seus nomes.
Os resultados imperfeitos da ferramenta de busca aumentam o risco de uma pessoa inocente ser sinalizada e presa, especialmente em casos de imagens borradas, de baixa qualidade ou parcialmente ocultas. Os deputados também têm permissão para executar os esboços dos artistas durante a busca, um uso incomum que, segundo os especialistas em IA, pode levar a uma correspondência falsa.
As diretrizes da Amazon para aplicação da lei dizem que os oficiais devem usar os resultados do Rekognition apenas quando o sistema estiver 99% confiante em uma correspondência. Mas os deputados aqui não vêem essa medida de confiança na pesquisa quando usam a ferramenta. Em vez disso, eles recebem cinco correspondências possíveis para cada pesquisa, mesmo se a certeza do sistema em uma correspondência for muito menor.
Depois de responder às perguntas do The Washington Post, a Amazon acrescentou texto a essas diretrizes, afirmando que os oficiais deveriam revisar manualmente todas as correspondências antes de deter um suspeito e que a busca “não deveria ser usada como o único determinante para a ação”.
A relação entre a Amazon e a terceira maior agência de aplicação da lei do Oregon é mutuamente benéfica: o Gabinete do Xerife está ajudando a refinar o sistema, que a Amazon espera vender em todo o país. Mas a pressão da Amazon nas vendas de aplicação da lei alarmou alguns defensores do direito, que afirmam que o sistema representa muitos riscos para as liberdades civis. (O fundador e CEO da Amazon, Jeff Bezos, é o proprietário do The Post.)
“O governo é incrivelmente poderoso e traz muita coisa contra um cidadão individual em um caso”, disse Mary Bruington, diretora do Gabinete do Defensor Público do Condado de Washington, que representa os réus que não podem pagar um advogado. “Você junta isso com a Amazon? Essa é uma parceria poderosa. ”
Matt Wood, o gerente geral de inteligência artificial da divisão de computação em nuvem da empresa, Amazon Web Services, disse em um comunicado que Rekognition é apenas “mais uma entrada entre muitas outras pistas para uma investigação 100% humana”.
Ainda assim, a empresa enfrenta críticas em muitas frentes: Principais pesquisadores de IA, membros do Congresso e grupos de direitos civis - bem como alguns dos próprios investidores e funcionários da Amazon - pediram que a empresa pare de fornecer a tecnologia para aplicação da lei, apontando para estudos que descobriram que o sistema é menos preciso com rostos de pele escura. A Amazon contestou essa pesquisa.
Alguns dos rivais da Amazon rejeitaram contratos semelhantes. O presidente da Microsoft, Brad Smith, disse em abril que a empresa havia recentemente se recusado a fornecer seu software de reconhecimento facial a uma agência de aplicação da lei da Califórnia que queria fazer uma varredura facial sempre que seus oficiais parassem alguém, mas que havia aprovado um acordo para colocar a tecnologia em uma prisão dos EUA. A Microsoft se recusou a fornecer detalhes.
Os investidores da Amazon vão votar em maio uma proposta, apoiada por um grupo de acionistas ativistas, que impediria a empresa de vender o Rekognition para agências governamentais, a menos que o conselho da empresa determine que não representa um risco para os direitos humanos.
O Gabinete do Xerife permitiu que os jornalistas do Post passassem dois dias em março em seus carros-patrulha, escritórios de detetives e prisão do condado, observando como os deputados incorporaram a tecnologia em sua carga diária. A maioria dos entrevistados disse que o software economizou tempo, aumentou o número de prisões e os ajudou a processar o crescente excesso de evidências visuais. Até o momento, nenhuma contestação legal foi feita contra uma prisão sob o argumento de que a combinação de fotos estava errada, disseram deputados e defensores públicos.
Mas os advogados de Oregon disseram que a tecnologia não deve ser, como muitos vêem, um passo iminente para o futuro do policiamento, e eles enquadram o sistema não como um marco técnico, mas moral: é certo prender mais bandidos se mais caras bons podem ser presos também?
“As pessoas adoram sempre dizer: 'Ei, se é pegar gente ruim, ótimo, quem se importa'”, disse Joshua Crowther, um vice-defensor chefe no Oregon, “até que eles estejam do outro lado”.
'Indistinguível da magia'
Quando a Amazon revelou o Rekognition em 2016, a empresa chamou-o de um avanço para um estilo potente de inteligência artificial de aprendizagem profunda que mostrou resultados “indistinguíveis da mágica”. Em uma postagem de blog ilustrada com a foto do cachorro de um executivo, a empresa ofereceu algumas idéias gerais de como as pessoas poderiam começar a usá-lo, incluindo para pontos de verificação de segurança ou outdoors com fio para coletar dados do rosto do espectador.
A revelação chamou a atenção de Chris Adzima, um ex-programador do eBay que havia sido contratado no Gabinete do Xerife do Condado de Washington para trabalhar em um aplicativo para iPhone que os deputados usam para rastrear o comportamento dos presos. Sua agência já tinha centenas de milhares de fotos faciais online e nenhuma maneira real de analisá-las. Usando a IA da Amazon, ele colocou um sistema instalado e funcionando em menos de três semanas.
“Eles realmente não tinham uma ideia firme de qualquer tipo de caso de uso no mundo real, mas sabiam que tinham uma ferramenta poderosa que criaram”, disse Adzima, analista de sistemas de informação sênior que trabalha em um pequeno cubículo em o quartel-general do xerife. "Então, você sabe, eu apenas comecei a usá-lo."
Os policiais imediatamente começaram a incorporar buscas faciais em seu policiamento diário, e Adzima construiu um site interno básico que os permitia fazer buscas em seus carros de patrulha. Ele diminuiu as porcentagens de confiança na pesquisa e projetou o sistema para retornar cinco resultados, todas as vezes: quando o sistema retornava zero resultados, disse ele, os deputados se perguntavam se eles tinham errado alguma coisa. Para apimentar, ele também adicionava uma animação roxa desnecessária de "digitalização" sempre que um deputado carregava uma foto - um toque que ele disse ter sido inspirado em programas policiais como "CSI".
