Reivindicação: A IA de reconhecimento facial pode revelar seu partido político

Os pesquisadores criaram um sistema de aprendizado de máquina que, segundo eles, pode determinar o partido político de uma pessoa, com uma precisão razoável, com base apenas em seu rosto. O estudo, de um grupo que também mostrou que a preferência sexual pode aparentemente ser inferida dessa maneira, aborda com franqueza e evita cuidadosamente as armadilhas da “frenologia moderna”, levando à desconfortável conclusão de que nossa aparência pode expressar mais informações pessoais do que pensamos.

O estudo, que apareceu esta semana na revista Nature Scientific Reports, foi conduzido por Michal Kosinski da Universidade de Stanford. Kosinski foi manchete em 2017 com um trabalho que descobriram que a preferência sexual de uma pessoa pode ser prevista a partir de dados faciais.

O estudo atraiu críticas não tanto por seus métodos, mas pela própria ideia de que algo que é nocionalmente não físico poderia ser detectado dessa forma. Mas o trabalho de Kosinski, como ele explicou então e depois, foi feito especificamente para desafiar essas suposições e foi tão surpreendente e perturbador para ele quanto para outros. A ideia não era construir uma espécie de IA gaydar - muito pelo contrário, na verdade. Como escreveu a equipe na época, era preciso publicar para alertar os demais que tal coisa pode ser construída por pessoas cujos interesses iam além do acadêmico:

Ficamos realmente perturbados com esses resultados e passamos muito tempo considerando se eles deveriam ser tornados públicos. Não queríamos ativar os próprios riscos contra os quais estamos alertando. A capacidade de controlar quando e para quem revelar a orientação sexual é crucial não só para o bem-estar, mas também para a segurança.

Sentimos que há uma necessidade urgente de conscientizar os legisladores e as comunidades LGBTQ dos riscos que enfrentam. Não criamos uma ferramenta de invasão de privacidade, mas mostramos que métodos básicos e amplamente usados ​​representam sérias ameaças à privacidade.

Advertências semelhantes podem ser feitas aqui, pois embora a afiliação política, pelo menos nos Estados Unidos (e pelo menos no presente) não seja as sensível ou pessoal um elemento como preferência sexual, ainda é sensível e pessoal. Dificilmente se passa uma semana sem ler sobre algum “dissidente” político ou religioso ou outro sendo preso ou morto. Se regimes opressores pudessem obter o que passa por causa provável dizendo “o algoritmo sinalizou você como um possível extremista”, em vez de, por exemplo, interceptar mensagens, isso torna esse tipo de prática muito mais fácil e escalável.

O algoritmo em si não é uma tecnologia hiperavançada. O artigo de Kosinski descreve um processo bastante comum de alimentar um sistema de aprendizado de máquina com imagens de mais de um milhão de rostos, coletadas de sites de namoro nos Estados Unidos, Canadá e Reino Unido, bem como de usuários americanos do Facebook. As pessoas cujos rostos foram usados ​​foram identificadas como politicamente conservadoras ou liberais como parte do questionário do site.

O algoritmo foi baseado em software de reconhecimento facial de código aberto e, após o processamento básico para cortar apenas o rosto (dessa forma, nenhum item de fundo aparece como fator), os rostos são reduzidos a 2,048 pontuações que representam vários recursos - como com outros reconhecimentos de rosto algoritmos, não são coisas intuitivas necessárias como “cor da sobrancelha” e “tipo de nariz”, mas conceitos mais nativos do computador.

O sistema recebeu dados de afiliação política provenientes do próprio povo e, com isso, começou a estudar diligentemente as diferenças entre as estatísticas faciais de pessoas que se identificam como conservadoras e aquelas que se identificam como liberais. Porque, ao que parece, existem diferenças.

Claro que não é tão simples quanto “conservadores têm sobrancelhas mais grossas” ou “liberais franzem mais a testa”. Nem se resume à demografia, o que tornaria as coisas muito fáceis e simples. Afinal, se a identificação do partido político se correlaciona com a idade e a cor da pele, isso cria um algoritmo de previsão simples ali mesmo. Mas embora os mecanismos de software usados ​​por Kosinski sejam bastante padronizados, ele teve o cuidado de cobrir suas bases para que este estudo, como o anterior, não possa ser descartado como pseudociência.

A maneira mais óbvia de abordar isso é fazer com que o sistema faça suposições quanto ao partido político de pessoas da mesma idade, gênero e etnia. O teste envolvia ser apresentado a duas faces, uma de cada parte, e adivinhar qual era qual. Obviamente, a precisão do acaso é de 50%. Os humanos não são muito bons nessa tarefa, desempenhando apenas um pouco acima do acaso, cerca de 55% de precisão.

O algoritmo conseguiu chegar a 71% de precisão ao prever partido político entre dois indivíduos semelhantes, e 73% apresentou dois indivíduos de qualquer idade, etnia ou sexo (mas ainda garantido ser um conservador e um liberal).

Leia a história completa aqui…