Os sistemas de reconhecimento facial devem ser instalados nas escolas dos EUA?

Imagem: Steve Ringman / The Seattle Times
Compartilhe esta história!
image_pdfimage_print
Os pais estão protestando menos do que deveriam, a identificação biométrica dos filhos será absoluta antes mesmo de se formar no ensino médio. Os tecnocratas geralmente se preocupam com questões éticas e constitucionais, alegando eficiência e conveniência. ⁃ Editor TN

A RealNetworks está oferecendo às escolas uma nova ferramenta de segurança gratuita: software de reconhecimento facial. Mas, à medida que a tecnologia avança para os espaços públicos, aumenta as preocupações com a privacidade e exige regulamentação - mesmo das empresas de tecnologia que estão inventando o software biométrico.

Quando Mike Vance se aproxima da porta de vidro que leva ao escritório de engenharia da RealNetworks, ele sorri levemente para uma pequena câmera montada à sua frente. Clique. A porta abre, respondendo a um comando do software que liga a câmera que reconheceu o rosto de Vance e confirmou sua identidade.

Vance, diretor sênior de gerenciamento de produtos da empresa de tecnologia de Seattle, lidera a equipe que criou o Reconhecimento Facial Seguro e Preciso - ou SAFR, pronunciado "mais seguro" - uma tecnologia que a empresa começou a oferecer gratuitamente às escolas K-12 neste verão.

Foram necessários três anos, milhões de faces da 8 e mais de bilhões de pontos de dados da 8 para desenvolver a tecnologia, que pode identificar uma face com precisão quase perfeita. O objetivo de curto prazo, dizem os executivos da RealNetworks, é aumentar a segurança escolar.

"Há muitos benefícios para as escolas entenderem quem está indo e vindo", disse Vance.

O software já está sendo usado em uma escola de Seattle e a RealNetworks está em negociações para expandi-lo para várias outras em todo o país. Olhando para o futuro, a RealNetworks - conhecida pelo software de streaming de vídeo e música introduzido no início do 2000s - planeja vender o SAFR para vários setores, embora a empresa permaneça completamente preocupada com os detalhes por enquanto.

A introdução da tecnologia colocou a RealNetworks no centro de um campo que cresce rapidamente à medida que o software melhora a identificação de rostos. Mas crescem junto a isso preocupações com a privacidade e crescentes pedidos de regulamentação - mesmo das empresas de tecnologia que estão inventando o software biométrico.

A tecnologia de reconhecimento facial já é comum, usada em tudo, desde aplicativos de fotos que classificam fotos de pessoas, até desbloquear um iPhone, até órgãos policiais que pesquisam bancos de dados de fotos de carteira de motorista.

O reconhecimento facial é usado, de maneira geral, de duas maneiras, disse Oren Etzioni, CEO do Allen Institute for Artificial Intelligence de Seattle, a organização irmã do instituto de ciências do cérebro de Paul Allen. Uma é a conveniência do consumidor, como agrupar fotos, e a outra é para vigilância e rastreamento.

Os grandes jogadores da tecnologia foram envolvido por anos: Microsoft mercados API face para que as empresas identifiquem e agrupem rostos semelhantes para aplicativos e outros produtos, enquanto a Amazon possui o Rekognition, que foi criticado no início deste ano, quando o A ACLU pediu à empresa para parar vendê-lo a agências policiais. Google, Apple e Facebook também estão no jogo, como ilustram a marcação e o agrupamento de fotos em smartphones.

Mas agora, como mostra o SAFR da RealNetworks, a tecnologia está avançando ainda mais nos espaços públicos. E com isso, os defensores da privacidade se perguntam se as pessoas percebem com que frequência seus rostos estão sendo digitalizados, e os advogados e a indústria questionam onde está a linha entre os benefícios para o público e o custo para a privacidade.

Aprendendo um rosto

A tecnologia de reconhecimento facial funciona como impressão digital - cada rosto tem sua própria assinatura exclusiva, e as empresas ensinam máquinas a reconhecer e combinar os recursos exclusivos das pessoas.

A tecnologia da RealNetworks mapeia os pontos de dados 1,600 em cada face que vê. A equipe “treina” sua máquina há cerca de dois anos, desde o lançamento do RealTimes, seu aplicativo gratuito que permite que as pessoas criem apresentações de slides de fotos. Integrado no contrato de usuário do 3,300 word para esse aplicativo, está o idioma que permite à RealNetworks usar as fotos dos clientes para treinar seu sistema de reconhecimento facial.

O SAFR não conhece a identidade das pessoas nas fotos do RealTimes, disse Vance - não há nomes, endereços ou outras informações de identificação no enorme banco de dados do 8 milhão de rostos. Mas o que ele pode fazer é dizer se dois rostos são a mesma pessoa. É tão preciso que consegue distinguir gêmeos idênticos e combinar fotos de família da mesma pessoa, mesmo que tenham sido separadas décadas.

O SAFR conta com a capacidade de identificar as pessoas "em estado selvagem" ou a agir com franqueza, sem posar.

"As grandes coisas sobre esse tipo de rosto são as pessoas fazendo coisas que naturalmente fazem na vida", disse Vance. “Eles não são fotos de caneca ou fotos em lata. Você pode treinar demais um sistema para pessoas que olham diretamente para a câmera. Mas quando você está andando por aqui, quando está andando pela escola, nem sempre está olhando diretamente para a câmera. ”

Muitas tecnologias de reconhecimento facial também podem identificar dados demográficos básicos de uma pessoa. A API Face da Microsoft, por exemplo, pode adivinhar sua idade com apenas uma foto - um recurso que se tornou mais preciso desde que foi lançado pela primeira vez no 2015, para mediar comentários de usuários.

Isso levou a preocupações de viés, especialmente porque uma estudar no Media Lab do MIT descobriram que os aplicativos de reconhecimento facial de algumas grandes empresas de tecnologia tinham taxas de erro até 35 por cento mais altas ao identificar mulheres com pele mais escura do que homens com pele mais clara. Alguns temiam que isso pudesse levar à identificação errônea de mulheres e pessoas de cor, uma questão preocupante, especialmente se os sistemas forem usados ​​pela polícia.

A Microsoft reconheceu os problemas de viés e está dando passos para identificar melhor rostos diversos,ampliando o banco de dados usado para treinar seu sistema, adicionando fotos de pessoas mais diversas.

A RealNetworks, no entanto, não treinou seu software para identificar alguém com base na raça. Você não poderia, por exemplo, pedir ao SAFR para alertá-lo quando um homem branco entra pela porta, porque ele não sabe quais rostos são brancos.

Leia a história completa aqui…

Junte-se à nossa lista de endereços!


avatar
Subscrever
Notificar a