Professor: Militantes liberais estão politizando a inteligência artificial

O que você faria se decisões antes tomadas por humanos, com todos os seus vieses, passassem a ser feitas por algoritmos matematicamente incapazes de viés? Se você é racional, deveria comemorar. Se você é um militante liberal, reconhece esse desenvolvimento como uma ameaça mortal e luta para retomar o controle.

Você pode ver isso se desenrolando nas conferências de IA. Na semana passada participei da edição 2020 da NeurIPS, a principal conferência internacional de aprendizado de máquina. O que começou como uma pequena reunião agora reúne pessoas suficientes para encher uma arena esportiva. Este ano, pela primeira vez, NeurIPS exigia que a maioria dos documentos incluísse uma declaração de 'impactos mais amplos' e estivesse sujeita à revisão por um conselho de ética. Todo artigo que descreve como acelerar um algoritmo, por exemplo, agora precisa ter uma seção sobre os benefícios sociais e os males desse obscuro avanço técnico. 'Independentemente da qualidade ou contribuição científica', declarava a convocação de artigos, 'uma submissão pode ser rejeitada por... incluir métodos, aplicações ou dados que criem ou reforcem preconceitos injustos.'

Esta foi apenas a última volta da catraca. Os anteriores incluíram renomear a conferência para algo mais politicamente correto e exigir que os participantes aceitem explicitamente um 'código de conduta' abrangente antes de se registrarem, o que permite que a conferência expulse os participantes por postar algo nas mídias sociais que os funcionários desaprovaram. Falando mais sério, todo um subcampo da IA ​​surgiu com o propósito expresso de, entre outras coisas, 'eliminar' os algoritmos. Isso agora está em pleno andamento.

Publiquei alguns tweets levantando questões sobre as últimas mudanças - e a turba do cancelamento desceu sobre mim. Insultos, provocações, ameaças - você escolhe. Você pensaria que os cientistas estariam acima de tais comportamentos, mas não. Eu indiquei que o NeurIPS é um caso atípico ao exigir declarações de impacto mais amplas, e os canceladores mudaram repetidamente de assunto. Argumentei contra a politização da IA, mas eles interpretaram isso como uma negação de que quaisquer considerações éticas são válidas. Um diretor corporativo de pesquisa de aprendizado de máquina, também professor da Caltech, publicou no Twitter para todos verem uma longa lista de pessoas a serem canceladas, sendo o único crime terem me seguido ou gostado de um de meus tweets. A mesma multidão conseguiu fazer minha universidade emitir uma declaração negando meus pontos de vista e reafirmando suas credenciais liberais.

Por que o barulho? Os dados podem ter vieses, é claro, assim como os cientistas de dados. E os algoritmos que são codificados por humanos podem, em princípio, fazer tudo o que lhes dissermos. Mas algoritmos de aprendizado de máquina, como praticamente todos os algoritmos que você encontra em livros de ciência da computação, são essencialmente apenas fórmulas matemáticas complexas que não sabem nada sobre raça, gênero ou status socioeconômico. Eles não podem ser racistas ou sexistas mais do que a fórmula y = ax + b pode.

O livro best-seller de Daniel Kahneman, Pensando, Fast and Slow, tem um capítulo inteiro sobre como os algoritmos são mais objetivos que os humanos e, portanto, tomam melhores decisões. Para a mente liberal militante, no entanto, eles são fossas de iniqüidade e devem ser limpos.

O que limpar algoritmos significa, na prática, é inserir neles vieses que favorecem grupos específicos, restabelecendo de forma automatizada os controles sociais que a esquerda política tanto almeja. 'Debiasing', em outras palavras, significa adicionar viés. Não surpreendentemente, isso faz com que os algoritmos tenham um desempenho pior em sua função pretendida. Algoritmos de pontuação de cartão de crédito podem rejeitar candidatos mais qualificados para garantir que o mesmo número de mulheres e homens seja aceito. Algoritmos de consulta de liberdade condicional podem recomendar a libertação de criminosos mais perigosos para que um número proporcional de brancos e negros seja libertado. Alguns até defendem a proibição do uso em algoritmos de todas as variáveis ​​correlacionadas com raça ou gênero, alegando que elas equivalem a redlining. Isso não apenas tornaria o aprendizado de máquina e todos os seus benefícios essencialmente impossíveis, mas é particularmente irônico, visto que essas variáveis ​​são exatamente o que precisamos para separar as decisões daquelas que queremos excluir.

Se você questionar esta ou qualquer outra de uma ampla gama de demandas liberais sobre IA, você terá muito sofrimento. Quanto mais proeminente for o pesquisador que for cancelado, melhor, porque enviará a mensagem mais assustadora para todos os outros, principalmente para os pesquisadores juniores. Jeff Dean, o lendário chefe de IA do Google, e Yann LeCun, cientista-chefe de IA do Facebook e cofundador do Deep Learning, têm ambos encontraram-se na ponta receptora do descontentamento do pelotão liberal.

Até agora, os conservadores têm sido amplamente alheios à invasão acelerada da política progressista na IA. Se a IA ainda fosse um campo obscuro e imaturo, tudo bem, mas o tempo para isso já passou. Algoritmos cada vez mais controlam nossas vidas e podem impor uma sociedade militantemente liberal (na realidade iliberal) pela porta dos fundos. Toda vez que você faz uma pesquisa na web, usa a mídia social ou obtém recomendações da Amazon ou Netflix, os algoritmos escolhem o que você vê. Os algoritmos ajudam a selecionar candidatos a empregos, eleitores para campanhas políticas e até mesmo pessoas para namorar. As empresas e os legisladores precisam garantir que não sejam adulterados. E todos nós precisamos estar cientes do que está acontecendo, para que possamos ter uma palavra a dizer. Eu, por exemplo, depois de ver como os progressistas atribuem alegremente preconceitos até mesmo a algoritmos que claramente não podem ter nenhum, comecei a questionar a visão ortodoxa dos preconceitos humanos. Somos realmente tão profunda e irremediavelmente racistas e sexistas quanto eles afirmam? Eu acho que não.

Pedro Domingos é professor emérito de ciência da computação e engenharia da Universidade de Washington.

Leia a história completa aqui…