Censura de pesquisa distópica do Google, Twisting Knowledge

Na esteira da demissão de Timnit Gebru e de outros pesquisadores notáveis ​​de IA do Google, a Alphabet's circulou pelos vagões e fez advocacia. Relatórios fluem de Mountain View retratando equipes de advogados censurando pesquisas científicas e agindo como colaboradores e revisores não identificados.

Mais recentemente, o Business Insider conseguiu entrevista vários pesquisadores que pintaram um quadro surpreendente e sombrio de como é tentar conduzir pesquisas sob tal regime anticientífico.

De acordo com o artigo, um pesquisador disse:

Você tem dezenas de advogados - sem dúvida, advogados altamente treinados - que, na verdade, sabem muito pouco sobre essa tecnologia ... e estão trabalhando em sua pesquisa como estudantes de inglês lendo um poema.

O problema aqui é que o Google não está censurando a pesquisa para evitar, digamos, que seus segredos sejam revelados. Seus advogados buscam pesquisas científicas que prejudiquem a imagem da empresa.

A pessoa citada acima acrescentou que eles estavam falando especificamente sobre riscar referências a “justiça” e “preconceito” e cientistas sendo instruídos a mudar os resultados de seu trabalho. Não é apenas antiético, é incrivelmente perigoso.

O chá: a IA do Google está quebrada. Pode ser uma empresa de um trilhão de dólares e o equipamento de IA mais avançado da Terra, mas seus algoritmos são tendenciosos. E isso é perigoso.

Não importa como você o divide, a IA do Google não funciona tão bem para pessoas que não se parecem com a grande maioria dos funcionários do Google (caras brancos) quanto para pessoas que parecem. Da Pesquisa fusão de negros e animais aos algoritmos que executam a câmera no Pixel 6 incapacidade de processar adequadamente tons de pele não brancos, Os problemas de aprendizado de máquina do Google são bem documentados.

Este é um grande problema e não é fácil de resolver. Imagine construir um carro que não funcionasse tão bem para negros e mulheres como funcionava para brancos, vendendo 200 milhões, e então as pessoas lentamente descobrindo que seus automóveis eram racistas.

Haveria muitos sentimentos e emoções sobre o que isso significaria.

A situação atual do Google é muito parecida com isso. Seus produtos estão por toda parte. Ele não pode simplesmente recuperar a Pesquisa ou colocar o Google Ads em espera por alguns dias enquanto repensa todo o mundo do aprendizado profundo para excluir preconceitos. Por que não consertar a fome mundial e tornar os filhotes imortais enquanto estão nisso?

Então, o que você faz quando é uma das empresas mais ricas do mundo e se depara com uma verdade tão terrível que sua existência faz seu modelo parecer mau?

Você faz o que o tabaco grande fez. Você encontra pessoas dispostas a dizer o que é melhor para a sua empresa e as usa para impedir que as pessoas que dizem a verdade compartilhem suas pesquisas.

O National Institutes of Health divulgou uma pesquisa em 2007 descrevendo o papel dos advogados durante as grandes batalhas legais contra o tabaco nas décadas anteriores.

No jornal, que é intitulado “Advogados da indústria do tabaco como vetor de doenças”, Os pesquisadores atribuem a disseminação de doenças associadas ao uso de tabaco por longo prazo às táticas empregadas por advogados da indústria.

Algumas lições importantes do papel incluem:

• Apesar de sua obrigação de fazê-lo, as empresas de tabaco freqüentemente deixavam de conduzir pesquisas de segurança de produtos ou, quando as pesquisas eram realizadas, não divulgavam os resultados para a comunidade médica e para o público.
• Os advogados de empresas de tabaco têm se envolvido em atividades que têm pouco ou nada a ver com a prática da lei, incluindo avaliar e tentar influenciar as crenças dos cientistas da empresa, vetar pesquisas científicas internas e instruir cientistas internos a não publicar resultados potencialmente prejudiciais .
• Além disso, os advogados da empresa tomaram medidas para fabricar o privilégio advogado-cliente e a capa de produto de trabalho para ajudar seus clientes a proteger documentos confidenciais da divulgação, estiveram envolvidos na ocultação de tais documentos e empregaram táticas de litígio que impediram processos judiciais bem-sucedidos contra as empresas de seus clientes.

Leia a história completa aqui…