O CEO da IBM, Arvind Krishna, anunciou hoje que a empresa não venderia mais serviços de reconhecimento facial, pedindo um "diálogo nacional" sobre se deve ou não ser utilizado. Ele também expressou apoio a um novo projeto de lei com o objetivo de reduzir a violência policial e aumentar a prestação de contas.
Numa carta relatado pela CNBC, escrito em apoio ao Lei de Justiça no Policiamento apresentado hoje, Krishna explica a saída da empresa do controverso negócio de identificação facial como serviço.
A IBM se opõe firmemente e não tolerará o uso de nenhuma tecnologia, incluindo a tecnologia de reconhecimento facial oferecida por outros fornecedores, para vigilância em massa, criação de perfil racial, violações de direitos humanos e liberdades básicas, ou qualquer finalidade que não seja consistente com nossos valores e Princípios de Confiança. e transparência. Acreditamos que agora é a hora de iniciar um diálogo nacional sobre se e como a tecnologia de reconhecimento facial deve ser empregada pelas agências policiais nacionais.
Essa abordagem cuidadosa para desenvolver e implementar a tecnologia não é nova: a IBM no ano passado enfatizou isso com um novo banco de dados de dados faciais isso era mais diversificado do que qualquer coisa disponível na época. Afinal, como qualquer programa, esses sistemas são tão bons quanto as informações que você fornece para eles.
No entanto, o reconhecimento facial não parece estar gerando muito dinheiro para a empresa, se houver. Para ser justo, a tecnologia está realmente em sua infância e há poucas aplicações em que um fornecedor corporativo como a IBM faz sentido. O controverso serviço de reconhecimento da Amazon, embora tenha sido testado por várias entidades policiais, não é bem pensado em campo. Não beneficiaria muito a IBM tentar competir com um produto que é similarmente apenas bom o suficiente para usar.
A carta de Krishna também diz que "fornecedores e usuários de sistemas de Al têm uma responsabilidade compartilhada de garantir que o Al seja testado quanto a viés, principalmente quando usado na aplicação da lei, e que esse teste seja auditado e relatado". Isso é uma espécie de despedida para os que estão no campo, em particular a Amazon, que foram chamados para a baixa qualidade dos sistemas de reconhecimento facial, mas não deixaram de comercializá-los.
Não está claro se ou como a empresa continuará a realizar pesquisas de IA nesse sentido.