O famoso zoólogo austríaco Konrad Lorenz (1903-1989), que entendeu a tecnocracia a partir de observações em primeira mão, declarou: “A mente humana, ao nos levar pelo caminho da tecnocracia, tornou-se a adversária da própria vida e, colateralmente, a adversária da alma humana.” ⁃ Editor TN
O desejo de eficiência do Facebook significa que a democracia está fora e o domínio tecnocrático, o rei dos desenvolvedores, está.
Vamos estipular que o Facebook não é um país, que governos reais desempenham muito mais funções e que as pessoas não são cidadãos de suas redes sociais.
No entanto, 900 milhões de seres humanos fazem algo como viver no espaço virtual azul e branco da maior rede estruturada de pessoas do mundo. E essas pessoas entram em disputas que esperam que sejam julgadas. Eles têm essa expectativa em parte porque o Facebook há muito diz que quer criar um ambiente seguro para se conectar com outras pessoas. (De que outra forma você pode fazer as pessoas serem “mais aberto e conectado“?) Mas as pessoas também querem que alguém esteja no comando, querem uma autoridade a quem possam apelar se outra pessoa estiver sendo um idiota.
Exceto neste caso, o alguém realmente é uma pessoa corporativa. Então, quando você relata algo ou alguém relata algo seu, é o Facebook que toma a decisão sobre o que foi postado, mesmo que saibamos que em algum momento, algum ser humano terá que incorporar o nós corporativo, mesmo que apenas por tempo suficiente para clique em um botão.
Qualquer decisão individual feita pela equipe do Facebook - como derrubando esta foto de um casal gay se beijando - é fácil questionar. Ken Fisher da Ars Technica detalhado um monte de problemas pontuais que as pessoas encontraram com o sistema de relatórios do Facebook. Em cada um, há uma parte prejudicada, mas estamos ouvindo apenas um lado do conflito quando esses problemas surgem. Em muitos eventos únicos, você tem duas pessoas (ou entidades, como empresas) com desejos conflitantes. Este é um caso clássico em que você precisa de algum tipo de governo.
Não é difícil imaginar a tomada de uma ou 20 ou mesmo 200 decisões sobre fotos ou atualizações de status em uma semana, mas é estonteante considerar que o Facebook tem que processar 2 milhões de relatórios por semana, e isso não inclui mensagens simples de “marcar como spam”.
Como você projeta um sistema para lidar com essa carga de trabalho? Falei com James Mitchell, que comanda o que o Facebook chama de “integridade do site” em seu departamento de operações de usuário, e Jud Hoffman, o gerente de política global da empresa sobre o processo de relatório. Eles são os arquitetos da tecnocracia do Facebook.
“A quantidade de reflexão e debate envolvidos no processo de criação e gerenciamento dessas regras não é muito diferente de um processo legislativo e judicial reunido em um só”, disse-me Hoffman, advogado. “E James tem o elemento executivo / judicial. Não acho que seja exagero pensar sobre isso em um contexto de governança, mas é uma forma diferente e levamos isso muito, muito a sério. ”
A etapa principal, Mitchell me disse, era estruturar o processo de relatório. Quando começou em 2006, não existia nenhum formulário para reclamações dos usuários. Isso significava que havia uma enorme fila de problemas indiferenciados. Então, ele e sua equipe começaram a pensar sobre os tipos de problemas que recebiam e criaram categorias de problemas, que foram aprimorando com o tempo.
Isso permite que os relatórios sejam canalizados por meio de um conjunto complexo de processos e equipes, para que cheguem à frente de seres humanos ou computadores que sabem o que fazer com eles.
O Facebook revelou essa infraestrutura pela primeira vez hoje. É o produto de mais de cinco anos de trabalho de várias equipes do Facebook, que trabalharam para tornar o processo de lidar com essa enxurrada de consultas de usuários o mais eficiente possível.
No final de muitas dessas linhas de relatório, há uma pessoa que deve tomar uma decisão sobre a mensagem do usuário. Algumas dessas decisões são binárias - esta fotografia contém nudez? - e geralmente são terceirizados para equipes que podem aplicar fórmulas simples e rigorosas, como perguntar: "Esta pessoa está nua?" Outras decisões são complexas de maneiras que tornam as máquinas muito boas em lidar com elas. (Por exemplo, há mais de 50 sinais que os algoritmos do Facebook analisam para determinar se um perfil é spam, e as respostas automatizadas são mais precisas do que seriam as humanas.)
Mas a maior parte dos relatórios é fornecida por uma equipe sem rosto de várias centenas de funcionários do Facebook em Mountain View, Austin, Dublin e Hyderabad. Essas pessoas e as ferramentas que criaram se tornaram os legisladores, burocratas, policiais e juízes de fato da quase-nação do Facebook. Algumas decisões que eles tomam impactam centenas de milhões de pessoas de alguma forma; outras decisões mudarão muito a vida de um pequeno número de pessoas.
O que é fascinante para mim é que o Facebook essencialmente recriou uma burocracia governamental completa com reguladores e agentes da lei, mas otimizada para valores totalmente diferentes dos governos tradicionais. Em vez de uma constituição, o Facebook tem a missão dupla de tornar “o mundo mais aberto e conectado” e manter os usuários em seu site, minimizando suas experiências negativas. Acima de tudo, a solução do Facebook para todos os problemas de governança deve ser projetada para extrema eficiência em escala.
Conforme estipulado acima, os governos do mundo real têm que cumprir todos os tipos de funções, além de disputas entre cidadãos, mas basta olhar para a diferença de escala entre o governo do Facebook e o governo de Palo Alto. Palo Alto tem cerca de 65,000 residentes e 617 em tempo integral funcionários. O Facebook tem 900 milhões de “residentes” e algumas centenas de burocratas que tomam todas as decisões de conteúdo.
O desejo de eficiência do Facebook significa que a democracia está fora e o domínio tecnocrático, o rei dos desenvolvedores, está. As pessoas não podem votar nas regras, e mesmo quando o Facebook ofereceu a seus usuários a oportunidade de votar em uma nova política de privacidade na semana passada, a participação dos eleitores foi de 0.038 por cento. As pessoas sabem que o Facebook controla uma grande parte de suas vidas digitais, mas elas não têm um senso de cidadania digital. E essa apatia dá à tecnocracia do Facebook uma chance de sucesso onde seus antecedentes históricos não o fizeram.
Os tecnocratas originais eram um grupo de pensadores e engenheiros da década de 1930 que reviveram o sonho de Platão do rei-filósofo, mas com um giro da era da máquina. Liderados por Thorstein Veblen, Howard Scott e M. King Hubbert, eles defendiam não o governo do povo, da monarquia ou do ditador, mas dos engenheiros. Os engenheiros e cientistas governariam de forma racional e imparcial. Eles criariam uma Tecnocracia que funcionasse como um relógio e garantisse que a produtividade de todos fosse distribuída com eficiência. Eles elaboraram todo um sistema pelo qual o continente norte-americano seria governado com sequências funcionais que permitiriam ao Diretor Continental fazer as coisas.
A tecnocracia, como originalmente concebida, não era explicitamente democrática. Seus proponentes não queriam o domínio popular; eles queriam governar por uma elite experiente que tomava boas decisões. E talvez eles tivessem, mas havia um grande problema. Poucas pessoas acharam a visão geral de renunciar ao seu poder político aos engenheiros, tão atraente.
Com o Facebook, as pessoas parecem se preocupar muito mais com as decisões individuais que o Facebook toma do que com a existência de um sistema tecnocrático ultraeficiente. Eles não estão desafiando os princípios ou valores do sistema, mas sim querendo que eles sejam aplicados rapidamente para resolver sua disputa particular. E o desejo por velocidade, é claro, impulsiona a mentalidade de eficiência em primeiro lugar que torna difícil lidar com problemas diferenciados. Nenhuma das acusações levantadas contra o sistema administrativo do Facebook parecem críticas à sua estrutura central.
wpDiscuz