Smackdown biométrico: folga cresce contra o reconhecimento facial

Um adolescente está processando a Apple por US $ 1 bilhões. o ação judicial, arquivado na segunda-feira, depende do uso alegado de uma tecnologia cada vez mais popular - e controversa -: o reconhecimento facial. A tecnologia pode identificar um indivíduo analisando suas características faciais em imagens, vídeos ou em tempo real.

O autor, Ousmane Bah, estudante de uma faculdade de 19 anos, alega que a empresa ferramenta de reconhecimento facial o levou a ser preso por furtos na Apple Store ele não cometeu, vinculando erroneamente seu nome à cara do verdadeiro ladrão. Os policiais da polícia de Nova York chegaram à casa de Bah no outono passado para prendê-lo no 4 pela manhã, apenas para descobrir que eles aparentemente tinham o cara errado. Bah diz que todo o calvário lhe causou sérios problemas emocionais. Enquanto isso, a Apple insiste em que suas lojas não usem tecnologia de reconhecimento facial.

Qualquer que seja a verdade, neste caso, o processo de Bah é o último sinal de uma reação crescente contra o reconhecimento facial. À medida que a tecnologia é implementada em mais e mais domínios, cada vez mais gera polêmica. Tomemos, por exemplo, os inquilinos negros no Brooklyn que recentemente se opuseram ao plano de seus proprietários de instalar a tecnologia em seu prédio com aluguel estabilizado. Ou o viajante que reclamou via Twitter que JetBlue a havia verificado em seu vôo usando reconhecimento facial sem o consentimento dela. (A companhia aérea explicou que havia usado os dados do Departamento de Segurança Interna para fazer isso e pediu desculpas.)

Isso além do pesquisadores, defensorese  milhares de membros do públicoque têm manifestado preocupações sobre o risco de reconhecimento facial levando a prisões injustificadas. Eles temem que certos grupos sejam afetados desproporcionalmente. A tecnologia de reconhecimento facial é muito boa em identificar rostos masculinos brancos, porque esses são os tipos de rostos nos quais ela foi treinada. Mas com muita freqüência, identifica erroneamente pessoas de cor e mulheres. Esse viés poderia levá-los a serem desproporcionalmente questionados, à medida que mais agências policiais colocassem a tecnologia em uso.

Agora, estamos chegando a um ponto de inflexão em que grandes empresas - não apenas a Apple, mas também a Amazon e a Microsoft - estão sendo forçadas a levar a sério essas queixas. E, apesar de finalmente tentarem telegrafar que são sensíveis às preocupações, pode ser tarde demais para recuperar a confiança. A insatisfação do público chegou a tal ponto que alguns, incluindo a cidade de são francisco, agora estão considerando proibições completas de tecnologia de reconhecimento facial.

Uma votação para proibir a Amazon de vender o Reconhecimento

A Amazon não é exatamente conhecida por jogar bem. Tem uma reputação de lutando leis propostas que não gosta e para defender agressivamente seu trabalho com a polícia e o governo. Durante anos, poderia se comportar dessa maneira. No entanto, o alvoroço pelo reconhecimento facial está dificultando a postura.

A ferramenta de reconhecimento facial da Amazon, Rekognition, já foi vendida para aplicação da lei e lançado para Imigração e Alfândega. Mas os principais pesquisadores de IA argumentaram recentemente em uma carta aberta que a tecnologia é profundamente falha. (Caso em questão: em um teste no ano passado, O reconhecimento combinou membros do congresso da 28 com tiros de caneca criminosos.) E os acionistas da Amazon pedem uma votação sobre se a empresa deve parar de vender a ferramenta para agências governamentais até que ela passe por uma revisão independente de seu impacto nos direitos civis.

A Amazon lutou muito para impedir que o voto acontecesse, mas a Comissão de Valores Mobiliários governado este mês em que a empresa tem que deixá-lo ir em frente. Será realizado em maio do 22. Embora o resultado seja em grande parte simbólico - as resoluções dos acionistas não são vinculativas - o voto deve trazer atenção negativa à Amazon.

Enquanto isso, a empresa tem sido tentando suavizar sua imagem por, por exemplo, discando algumas de suas táticas promocionais agressivas. Kartik Hosanagar, professor da Wharton School of Business, dito A Amazon está adotando uma "ação preventiva" para ser legal "antes que um dos candidatos [presidenciais] faça da Amazon o filho do que eles chamam de problemas com a Big Tech".

Mensagens mistas da Microsoft sobre o uso ético do reconhecimento facial

Enquanto a Amazon ainda é uma empresa jovem, fundada na 1994, a Microsoft atingiu a idade adulta - existe desde a 1975. Essa vida útil mais longa significa que ele teve mais tempo para cometer erros, mas também mais tempo para aprender com eles. Kim Hart na Axios argumenta que é por isso A Microsoft conseguiu, na maior parte, evitar a reação contra as grandes tecnologias. “A Microsoft, que passou por sua própria batalha antitruste com o Departamento de Justiça nos '90s', evitou os erros cometidos por seus irmãos mais jovens e ousados ​​da Big Tech”, ela escreve.

No entanto, a Microsoft não é de modo algum completamente imune à reação. Depois que foi relatado neste mês que pesquisadores da Microsoft haviam produzido três artigos sobre IA e reconhecimento facial em uma universidade militar na China, alguns políticos dos EUA criticaram a empresa por ajudar um regime que está detendo um milhão de muçulmanos uigures em campos de concentração e vigiando milhões a mais. Sen. Marco Rubio chamou-lhe "Profundamente perturbador ... um ato que os torna cúmplices em ajudar o aparato de censura totalitária do governo comunista chinês."

A imprensa também apontou que a empresa vendeu seu software de reconhecimento facial para uma prisão americanae que o presidente da Microsoft, Brad Smith, disse que seria "cruel" parar completamente de vender o software para agências governamentais.

Dias depois, a empresa se esforçou para mostrar que se importa com o uso ético da IA. Smith anunciou que havia se recusado a vender seu software de reconhecimento facial para uma agência da Califórnia que queria instalá-lo em carros e câmeras corporais. Ele disse que a Microsoft se recusou por questões de direitos humanos, sabendo que o uso do software faria com que pessoas de cor e mulheres fossem detidas desproporcionalmente para interrogatório.

O esforço para proibir a tecnologia de reconhecimento facial

Este mês deixou claro que a pressão do público está funcionando quando se trata de reconhecimento facial. As empresas gigantes sabem que não podem mais ignorar as críticas - ou, como fizeram recentemente, simplesmente dizem que aceitariam a regulamentação dessa tecnologia. Os críticos estão deixando claro que não é bom o suficiente - eles querem ver essas empresas "sair completamente do negócio de vigilância" como a União Americana das Liberdades Civis disse à Vox.

Leia a história completa aqui…