Tecnocratas recorrem aos éticos para 'salvar sua alma'

Cinqüenta e dois andares abaixo do topo da Salesforce Tower, encontro Paula Goldman em uma sala de conferências com painéis de vidro onde as palavras EQUALITY OFFICE estão escritas em um banner de patchwork, o tipo de decoração que você pode comprar para uma festa de aniversário de criança.

Goldman tem um mestrado em Princeton e um Ph.D. de Harvard, onde estudou como ideias polêmicas se tornaram mainstream. Ela chegou à Salesforce pouco mais de um ano atrás para se tornar seu primeiro Diretor de Ética e Uso Humano, assumindo um título sem precedentes e decididamente ambíguo, criado especificamente para seu trabalho sem precedentes, ambíguo e ainda altamente específico: garanta que o Salesforce melhore o mundo, não pior.

“Acho que estamos em um momento na indústria em que estamos neste ponto de inflexão”, Goldman me diz. “Acho que a indústria de tecnologia já existia antes, com segurança nos anos 80. De repente, surgiram vírus e worms e precisava haver uma maneira totalmente nova de pensar sobre isso e lidar com isso. E você viu uma indústria de segurança crescer depois disso. E agora é apenas o protocolo padrão. Você não enviaria um produto importante sem agrupá-lo ou certificar-se de que as proteções de segurança corretas estão nele. ”

“Acho que estamos em um momento semelhante com a ética”, diz ela. “É preciso não só ter um conjunto de ferramentas para fazer o trabalho, mas também um conjunto de normas, que é importante. Então, como você escala essas normas? ”

Pergunto a ela como essas normas são decididas em primeiro lugar.

“Em certo sentido, é a pergunta de um bilhão de dólares”, diz ela. “Todos esses problemas são extremamente complicados e há poucos deles em que a resposta é absolutamente clara. Direito? Muito disso se resume a quais valores você está mantendo mais alto em seu cálculo? "

···

Após o escândalo da Cambridge Analytica, a renúncia de funcionários e outros incidentes políticos e de privacidade, as empresas de tecnologia enfrentaram uma onda de chamadas para contratar o que os pesquisadores do Data & Society Research Institute chamam “Proprietários de ética,” pessoas responsáveis ​​por operacionalizar “os debates antigos, dominantes e insolúveis sobre os valores humanos que fundamentam a investigação ética” de maneiras práticas e demonstráveis.

A Salesforce contratou o Goldman para longe da Omidyar Network como o culminar de um processo de gerenciamento de crise de sete meses que ocorreu depois que funcionários da Salesforce protestaram contra o envolvimento da empresa no trabalho de imigração da administração Trump. Outras empresas, respondendo às suas próprias crises e preocupações, contrataram um pequeno grupo de profissionais semelhantes - filósofos, especialistas em política, linguistas e artistas - todos para se certificar de que, quando prometem não ser maus, eles realmente têm uma ideia coerente de o que isso implica.

Então o que aconteceu?

Embora algumas empresas de tecnologia tenham tomado medidas concretas para inserir o pensamento ético em seus processos, Catherine Miller, CEO interina da consultoria ética Doteveryone, diz que também tem havido muitas discussões sobre o assunto.

Os críticos descartam isso como “Lavagem ética, ”A prática de meramente se prostrar na direção dos valores morais, a fim de evitar a regulamentação governamental e as críticas da mídia. O termo pertence ao léxico crescente em torno da ética da tecnologia, ou “tética”, uma abreviatura que começou como sátira no programa de TV “Vale do Silício”, mas desde então passou a ser ocasionalmente usada com seriedade.

“Se você não aplicar essas coisas em práticas reais e em suas estruturas de incentivo, se você não tiver processos de revisão, bem, então, torna-se como um vaporware moral”, diz Shannon Vallor, um filósofo da tecnologia no Markkula Center de Ética Aplicada na Universidade de Santa Clara. “É algo que você prometeu e pretendia entregar, mas nunca chegou.”

O Google, infame, criou um Conselho da AI e, em abril do ano passado, dissolveu depois de funcionários protestaram a inclusão de um defensor anti-LGBTQ. Hoje, a abordagem ética do Google inclui o uso de “Cartões Modelo”Que visam explicar sua IA.

“Isso não é nada que tenha dentes”, diz Michael Brent, especialista em ética de dados na Enigma e professor de filosofia na Universidade de Denver. “É como, 'Este é um cartão muito bonito'.”

A empresa fez esforços mais substanciais: Vallor acabou de concluir um período de serviço no Google, onde ministrou seminários sobre ética para engenheiros e ajudou a empresa a implementar estruturas de governança para desenvolvimento de produtos. “Quando falo sobre ética em ambientes organizacionais, a forma como frequentemente apresento é que é o corpo de conhecimento moral e habilidade moral que ajuda as pessoas e as organizações a cumprirem suas responsabilidades para com os outros”, Vallor me diz.

Mais de 100 funcionários do Google possuem participaram treinamentos de ética desenvolvidos no centro de Markkula. A empresa também desenvolveu um módulo de justiça como parte do curso de aprendizado de máquina e atualizações sua lista de “práticas de IA responsáveis” trimestralmente. “A grande maioria das pessoas que compõem essas empresas deseja criar produtos que sejam bons para as pessoas”, diz Vallor. “Eles realmente não querem quebrar a democracia e realmente não querem criar ameaças ao bem-estar humano e realmente não querem diminuir a alfabetização e a consciência da realidade na sociedade. Eles querem fazer coisas das quais se orgulham. Então, vou fazer o que puder para ajudá-los a conseguir isso? Sim."

···

O centro Markkula, onde Vallor trabalha, tem o nome de Mike Markkula Jr., o “desconhecido”Co-fundador da Apple que, em 1986, concedeu ao centro um subsídio inicial da mesma maneira que concedeu um empréstimo inicial ao jovem Steve Jobs. Ele nunca quis que seu nome estivesse no prédio - isso foi uma surpresa, um sinal de gratidão, da universidade.

Markkula retirou-se para viver uma vida tranquila, trabalhando em sua vasta propriedade fechada em Woodside. Hoje em dia, ele não tem muito contato com a empresa que fundou - “apenas quando algo dá errado com meu computador”, ele me conta. Mas quando ele chegou ao campus de Santa Clara para uma orientação com sua filha em meados dos anos 80, ele era o presidente da Apple e estava preocupado com a forma como as coisas estavam indo no Valley. “Ficou claro para nós dois, Linda [sua esposa] e eu, que havia algumas pessoas em posições de tomada de decisão que simplesmente não tinham a ética em sua tela de radar”, diz ele. “Não é que eles fossem antiéticos, simplesmente não tinham ferramentas para trabalhar.”

Leia a história completa aqui…