Fúria contra o algoritmo: Google e tecnologia persuasiva

Monstros e titãs compartilham o estágio da mitologia entre culturas como as realizações necessárias da imaginação humana. Da caverna de pedra à habitação urbana, o tema é incessante; mantidas na imaginação, essas criaturas desempenham, inocentemente, funções benignas. O problema aqui é a tendência humana de realizar tais criaturas. Eles assumem a forma de engenharia social e utopia. Atordoados, esses projetos e empreendimentos acabam corrompendo e degradando. O monstro nasce e a terrível verdade vem à tona: o campo de concentração, o estado de vigilância, o jornalismo, os exércitos da censura.

Os gigantes da tecnologia da era atual são os utópicos modernos, satisfazendo a fome e os interesses humanos, moldando-os. Uma empresa nos fornece o arquétipo. É o Google, que tem a distinção incomum de ser substantivo e verbo, entidade e ação. O poder do Google é desproporcionalmente vasto, uma expansão assustadora que preza a transparência, enquanto falta, e valoriza as informações enquanto regula seu alcance. É também uma entidade que foi além de ser um mero repositório de pesquisas e dados, uma tentativa de induzir mudanças comportamentais por parte dos usuários.

O Google sempre dá a impressão de que seus usuários são os líderes, autônomos e independentes em uma terra verdejante de brincadeiras digitais. A idéia de que a própria empresa promove essa mudança, provocando alterações no comportamento, é posta de lado. Não há Svengalis em Googleland, porque somos todos livres. Gratuito, mas precisando de assistência em meio ao caos e "multitarefa".

As pessoas têm o que chamadas da empresa “Micromomentos”, como o economista comportamental Dan Ariely descreve como “momentos móveis on-the-go” em que as decisões são tomadas por um usuário enquanto ele participa, simultaneamente, em uma variedade de tarefas: hotéis para reservar, opções de viagem para fazer, horários de trabalho a serem cumpridos. Enquanto Ariely está escrevendo de maneira mais ampla da perspectiva do profissional de marketing digital onipresente, a linguagem é pura googlelesa, cheirando a persuasão e imposição de parte. "Deseja desenvolver uma estratégia para moldar suas decisões de consumidor?" pergunta o Google. “Comece entendendo os principais micro-momentos de sua jornada.” Entenda-os; alimentar sua mente; segure a mão deles.

O vício no Google produz o que não pode mais ser visto como retardador, mas estimulante. Uma geração está crescendo sem uma biblioteca de pesquisa impressa, uma lista pronta de clássicos e os meios para pesquisar registros sem recorrer a essas malditas chaves digitais. É provável que haja debates (alguns já poluem o espaço digital) sobre se isso é necessariamente uma condição para lamentar. Abrace a amnésia digital! Para o Google é existir.

O que é inegável é que os meios para encontrar informações - instantâneos, cheios de excesso, desesperadamente rápidos - criaram usuários que habitam um espaço que guia seu pensamento, antecipando-se, persuadindo e ajustando. Uma forma de alfabetização, poderíamos dizer, está sendo substituída por outra: o imbecil do Google está sobre nós.

Dada a natureza de tais efeitos, não é de admirar que os políticos considerem o Google ameaçador para seus mofados e enferrujados. A reserva do político é uma comunicação sólida - ou falsa -; o sucesso nas próximas eleições depende da idéia de que os eleitores compreendam e aprovam o que lhes foi transmitido (se esse material é factual ou não, uma mentira ou não) está fora de questão: o político deseja convencer para ganhar).

O antigo mecanismo de busca titan fornece uma espécie de obstáculo a esse respeito. Por um lado, oferece às classes políticas os meios para alcançar uma audiência global, uma via para gritar e promover o próximo esquema de cérebro que vem à mente do aparato político. Mas e se a mensagem atrapalhar no caminho, encontrar atrasos nos meios do que é chamado de "otimização de mecanismo de pesquisa"? O Google é o culpado, ou o padrão comum por parte do político?

Os políticos americanos acham que têm uma resposta. Somente eles podem controlar a narrativa e disseminar a mentira. Ultimamente, eles tentam traçar um caminho ao qual não estão acostumados: indústrias reguladoras que antes eram consideradas sentinelas da liberdade, promotoras da liberdade. Suas queixas tendem a não ter consistência. Por um lado, eles acham vários algoritmos do Google problemáticos (preferência por sites alternativos à direita, mingau conspiratório como prejudicial), mas sua inclinação é instável e distorcida. Se esses algoritmos estivessem gerando termos de pesquisa favoráveis ​​(conformista, estável, inquestionável, anti-Trump), o assunto não seria de partida. Nossa mensagem, eles diriam, está chegando lá.

Nesta semana, o Comitê de Comércio, Ciência e Transporte do Senado dos EUA tentou fazer sentido, de maneira bastante acusadora, de "tecnologia persuasiva". Nanette Byrnes fornece com uma definição: “a ideia de que computadores, telefones celulares, sites e outras tecnologias possam ser projetados para influenciar o comportamento e até as atitudes das pessoas”. O papa permanece resolutamente católico.

O audiência do comitê apresentou opiniões como as do senador John Thune (R-SD), que desejava usar os procedimentos para elaborar legislação que “exigisse que as plataformas da Internet dessem aos consumidores a opção de se envolver com a plataforma sem ter a experiência modelada por algoritmos”. O senador está feliz em aceitar que a inteligência artificial "capacita as automações a exibir conteúdo para otimizar o engajamento", mas vê um demônio em andamento, pois "os algoritmos de IA podem ter uma desvantagem não intencional e possivelmente até perigosa". Isso equivale a querer um Grande Prêmio de Fórmula 1 sem carros velozes e uma competição de atletismo em câmera lenta.

Diante dos senadores do lado do Google estava Maggie Stanphill, diretora da Experiência do Usuário do Google. Dela testemunho foi expresso em palavras mais semelhantes ao brilho de uma brochura de viagem com uma pitada de cocaína complementar. "A Iniciativa de Bem-Estar Digital do Google é uma das principais metas da empresa, com foco em fornecer aos usuários informações sobre seus hábitos e ferramentas digitais para apoiar um relacionamento intencional com a tecnologia". O Google apenas "cria produtos que melhoram a vida das pessoas que os usam". A empresa forneceu acesso que “democratizou informações e prestou serviços para bilhões de pessoas em todo o mundo”. Quando questionado sobre se o Google estava fazendo sua parte no negócio de persuasão, Stanphill era inequívoco. "Não usamos tecnologia persuasiva".

O tema da sessão foi claro: grande quantidade e conteúdo são bons, mas devem ser apropriados. Na utopia da informação, onde Adão e Eva digitais ainda ficam nus, a maldade não será permitida. Se as pessoas quiserem procurar conteúdo "negativo" (essa natureza arbitrária e horrenda continua aparecendo), elas não devem fazer isso. Amordace-os e verifique se os termos populares procurados são lavados de branco de qualquer importação ofensiva ou perigosa. Imponha aos titãs da tecnologia a responsabilidade de controlar o negativo.

O senador Brian Schatz (D-Havaí) reclamou dessas empresas “deixando esses algoritmos correrem soltos […] deixando humanos para limpar a bagunça. Os algoritmos são amorais. ”Tristan Harris, co-fundador e diretor executivo do Center for Humane Technology, raio da concorrência entre empresas para usar algoritmos que “preveem com mais precisão o que manterá os usuários por mais tempo”. Se você deseja maximizar o tempo gasto pesquisando termos ou, no caso do YouTube, assistindo a um vídeo, concentre-se em “toda a colônia de formigas da humanidade em direção à cidade louca. ”Para Harris,“ a tecnologia corta as fraquezas humanas ”. A moral? Não dê às pessoas o que elas querem.

A raiva contra o algoritmo, e a crença de que não ocorre nenhuma pressão comportamental na tecnologia de busca, é extraviada em algumas frentes. Em um certo nível, todos aceitam como esses modos de recuperação de informações funcionam. Ocorre um desacordo quanto às suas consequências, uma concessão, efetivamente, ao usuário do Google como imbecil. Stanphill está sendo dissimulado por supor que a tecnologia persuasiva não é uma função do trabalho do Google (evidentemente, dada a intenção da empresa de melhorar o "relacionamento intencional com a tecnologia"). Em seu depoimento, ela falou sobre a construção de “produtos com privacidade, transparência e controle para os usuários, e construímos um relacionamento ao longo da vida com o usuário, o que é fundamental”. Os senadores, por sua vez, estão preocupados com o fato de os usuários, com fraldas incentivadas. em seus interesses de busca, são incapazes de criar suas próprias mentes frágeis.

A natureza das informações gerenciadas na experiência digital não é, como mostram o Google, o YouTube e empresas semelhantes, um caso de ampliação do conhecimento, mas reafirmando as premissas existentes. A câmara de eco está repleta de confirmações, não de desafios, com o conforto do preconceito e não com o desconforto do aprendizado da artilharia pesada. Mas os cidadãos eleitos no Monte, e os ciber-utópicos, continuam a lutar e a debater-se na selva digital que consideravam uma utopia da informação igual a todos. Para os gigantes da Big Tech, tudo é bem simples: a atenção chamando a atenção, os vagabundos nos assentos e os downloads em abundância.

Leia a história completa aqui…