O software de reconhecimento facial da Amazon é 'falho, tendencioso e perigoso'

Compartilhe esta história!

Depois de identificar 28 membros do Congresso como suspeitos da polícia, o reconhecimento facial AI da Amazon parece funcionar apenas cerca de 80% das vezes, e ainda está sendo vendido em massa para governos e agências policiais. Mesmo que funcionasse 95% do tempo, os 5% que são identificados erroneamente correm o risco de ter suas vidas destruídas por nada. ⁃ Editor TN

Uma ferramenta de reconhecimento facial que a Amazon.com vende para desenvolvedores da Web identificou erroneamente membros do Congresso da 28 como suspeitos de polícia, em um teste realizado pela União Americana de Liberdades Civis (ACLU), informou a organização nesta quinta-feira.

A Amazon, em resposta, disse que teve problemas com as configurações de sua ferramenta de identificação de rosto durante o teste. As descobertas, no entanto, destacam os riscos que os indivíduos podem enfrentar se a polícia usar a tecnologia de certas maneiras para capturar criminosos.

Desde maio, a ACLU e outros grupos de direitos civis têm pressionado a Amazon para que pare de vender o acesso dos governos ao Rekognition, um poderoso software de identificação de imagem lançado em 2016 pela divisão de computação em nuvem da empresa.

Os grupos citaram o uso do Rekognition pela aplicação da lei no Oregon e na Flórida e alertaram que a ferramenta poderia ser usada para atingir imigrantes e pessoas de cor injustamente.

Seu ativismo deu início a um debate público. O presidente da Microsoft Corp, rival da Amazon que também usa tecnologia de reconhecimento facial, convocou o Congresso no início deste mês para estudar possíveis regulamentações.

A ACLU disse que deseja que o Congresso promova uma moratória sobre o uso da tecnologia pela polícia.

O reconhecimento facial já é amplamente utilizado na China para fins policiais, e várias empresas iniciantes lá - algumas avaliadas em bilhões de dólares - estão buscando agressivamente a tecnologia.

A Amazon divulgou uma variedade de usos para o Rekognition, desde a detecção de conteúdo ofensivo online até a identificação de celebridades.

“Continuamos entusiasmados com a forma como a análise de imagens e vídeos pode ser um fator positivo para o mundo”, disse uma porta-voz da Amazon Web Services em um comunicado, citando sua ajuda para encontrar crianças perdidas e prevenir crimes. Ela disse que o Rekognition era normalmente usado para estreitar o campo da revisão humana, não para tomar decisões finais.

A ACLU disse que pagou apenas US $ 12.33 para que o Amazon Rekognition comparasse fotos oficiais de todos os membros da Câmara e do Senado dos EUA com um banco de dados de fotos de detenções públicas da 25,000.

A tecnologia identificou "combinações" para 28 membros do Congresso com pelo menos 80 por cento de precisão, a configuração padrão da Amazon, disse a ACLU.

Leia a história completa aqui…