Tecnocratas recorrem a eticistas para 'salvar sua alma'

SócratesWikipedia Commons, Greg O'Beirne
Compartilhe esta história!
image_pdfimage_print
Os tecnocratas criam porque podem, não porque existe um argumento moral ou ético para fazê-lo. Na sua opinião, a tecnologia não é ética ou moral e, portanto, não merece consideração durante os processos de desenvolvimento. ⁃ Editor TN

Cinquenta e dois andares abaixo do topo da Salesforce Tower, encontro Paula Goldman em uma sala de conferências com painéis de vidro, onde as palavras EQUALITY OFFICE estão escritas em uma faixa de estamenha de retalhos, o tipo de decoração que você pode comprar para a festa de aniversário de uma criança.

Goldman possui mestrado em Princeton e doutorado. de Harvard, onde estudou como as idéias controversas se tornam dominantes. Ela chegou ao Salesforce pouco mais de um ano atrás para se tornar seu primeiro Diretor de Ética e Uso Humano, assumindo um título sem precedentes e decididamente ambíguo, criado especificamente para seu trabalho sem precedentes, ambíguo e ainda altamente específico: garanta que o Salesforce melhore o mundo, não pior.

"Acho que estamos em um momento no setor em que estamos nesse ponto de inflexão", diz Goldman. “Acho que a indústria da tecnologia já esteve aqui antes, com segurança nos anos 80. De repente, houve vírus e worms, e precisava haver uma maneira totalmente nova de pensar e lidar com isso. E você viu um setor de segurança crescer depois disso. E agora é apenas um protocolo padrão. Você não enviaria um produto importante sem fazer uma equipe em vermelho ou garantir que as proteções de segurança certas estejam nele. ”

"Acho que estamos em um momento semelhante com a ética", diz ela. “É necessário não apenas ter um conjunto de ferramentas para executar o trabalho, mas também um conjunto de normas. Então, como você escala essas normas? ”

Pergunto a ela como essas normas são decididas em primeiro lugar.

"Em certo sentido, é a pergunta de um bilhão de dólares", diz ela. “Todas essas questões são extremamente complicadas e há muito poucas em que a resposta é absolutamente clara. Certo? Muito disso se resume a quais valores você está mantendo mais alto em seu cálculo? ”

···

Após o escândalo da Cambridge Analytica, a renúncia de funcionários e outros incidentes políticos e de privacidade, as empresas de tecnologia enfrentaram uma onda de chamadas para contratar o que os pesquisadores do Data & Society Research Institute chamam "Proprietários de ética" pessoas responsáveis ​​por operacionalizar “os debates antigos, de salto de domínio e irresolúveis sobre os valores humanos subjacentes à investigação ética” de maneira prática e demonstrável.

A Salesforce contratou o Goldman para longe da Omidyar Network como o culminar de um processo de gerenciamento de crises de sete meses que ocorreu depois que os funcionários da Salesforce protestaram contra o envolvimento da empresa no trabalho de imigração do governo Trump. Outras empresas, respondendo às suas próprias crises e preocupações, contrataram um pequeno quadro de profissionais semelhantes - filósofos, especialistas em políticas, linguistas e artistas - tudo para garantir que, quando prometem não ser maus, tenham realmente uma idéia coerente. o que isso implica.

Então o que aconteceu?

Embora algumas empresas de tecnologia tenham adotado medidas concretas para inserir o pensamento ético em seus processos, Catherine Miller, CEO interina da consultoria ética Doteveryone, diz que também houve muita "discussão" sobre o assunto.

Os críticos descartam isso como “Lavagem ética, ”A prática de simplesmente se prostrar na direção dos valores morais, a fim de afastar a regulamentação do governo e as críticas da mídia. O termo pertence ao crescente léxico sobre ética em tecnologia, ou "tética", uma abreviação que começou como sátira no programa de TV "Silicon Valley", mas que passou a ser usada ocasionalmente.

"Se você não aplicar essas coisas nas práticas reais e nas suas estruturas de incentivo, se não tiver processos de revisão, bem, isso se tornará um vapor moral", diz Shannon Vallor, filósofo da tecnologia no Markkula Center Ética Aplicada na Universidade Santa Clara. "É algo que você prometeu e pretendia entregar, mas nunca chegou realmente".

O Google, infame, criou um Conselho da AI e, em abril do ano passado, dissolveu depois de funcionários protestaram a inclusão de um advogado anti-LGBTQ. Hoje, a abordagem do Google à ética inclui o uso de "Cartões Modelo”Que visam explicar sua IA.

"Isso não tem nada a ver", diz Michael Brent, especialista em ética de dados da Enigma e professor de filosofia da Universidade de Denver. "É como 'Aqui está um cartão realmente bonito'".

A empresa fez esforços mais substanciais: Vallor acabou de completar uma missão no Google, onde ministrou seminários de ética para engenheiros e ajudou a empresa a implementar estruturas de governança para o desenvolvimento de produtos. “Quando falo sobre ética em ambientes organizacionais, a maneira como frequentemente apresento é que é o corpo de conhecimento moral e habilidade moral que ajuda pessoas e organizações a cumprir suas responsabilidades com os outros”, diz Vallor.

Mais de 100 funcionários do Google possuem participaram treinamentos de ética desenvolvidos no centro de Markkula. A empresa também desenvolveu um módulo de justiça como parte do curso de aprendizado de máquina e atualizações sua lista de "práticas responsáveis ​​de IA" trimestralmente. "A grande maioria das pessoas que compõem essas empresas deseja criar produtos que sejam bons para as pessoas", diz Vallor. “Eles realmente não querem quebrar a democracia, e eles realmente não querem criar ameaças ao bem-estar humano, e eles realmente não querem diminuir a alfabetização e a consciência da realidade na sociedade. Eles querem fazer coisas das quais se orgulham. Então, vou fazer o que puder para ajudá-los a conseguir isso? Sim."

···

O centro de Markkula, onde Vallor trabalha, recebeu o nome de Mike Markkula Jr., o "desconhecidoCo-fundador da Apple que, em 1986, concedeu ao centro um subsídio inicial da mesma maneira que concedeu um empréstimo inicial ao jovem Steve Jobs. Ele nunca quis que seu nome estivesse no prédio - isso foi uma surpresa, um sinal de gratidão, da universidade.

Markkula se retirou para viver uma vida tranqüila, trabalhando em sua propriedade em Woodside. Hoje em dia, ele não tem muito contato com a empresa que iniciou - "somente quando há algo errado com meu computador", ele me diz. Mas quando ele chegou ao campus de Santa Clara para uma orientação com a filha em meados dos anos 80, ele era o presidente da Apple e estava preocupado com a maneira como as coisas estavam acontecendo no vale. “Ficou claro para nós dois, Linda [sua esposa] e eu, que havia muitas pessoas que estavam em posições de tomada de decisão que simplesmente não tinham ética na tela do radar”, diz ele. "Não é que eles não fossem éticos, eles simplesmente não tinham ferramentas para trabalhar".

Leia a história completa aqui…

Junte-se à nossa lista de endereços!


avatar
3 Comentar tópicos
0 Respostas do Tópico
0 Seguidores
Comentário Mostv¯ve
Tópico de comentário mais quente
2 Autores de comentários
Steve Prewittapenas dizendo Autores recentes de comentários
Subscrever
o mais novo mais velho mais votado
Notificar a
apenas dizendo
Convidado
apenas dizendo

"Todas essas questões são extremamente complicadas", diz ela. Os valores são individuais. Num certo sentido, sim, depende de nós individualmente, mas a questão não é complicada. Eles morderam a isca e funciona. Eles são importantes e, como tal, se tornaram pequenos deuses conhecendo o bem e o mal, não apenas para si, mas também o escolheram para nós. Ética e Jurisprudência costumam ser ensinadas na escola, mas isso é jogado fora com a Bíblia. Basta olhar para todos os advogados que anunciam na televisão. A verdade é que todos somos pecadores. Isso... Leia mais "

Steve Prewitt
Convidado
Steve Prewitt

Todo este artigo me pareceu um "vaporware". A ética é uma piada quando o maior participante do setor trabalha em conjunto com a China, criando um gulag tecnocrático nacional (e não, não estou falando dos campos de "reeducação" para os muçulmanos que definem o mal).