Como o homem é imperfeito, segue-se que tudo o que ele cria também é imperfeito, incluindo os programas de computador destinados a executar tudo em nossas vidas. Além disso, a lei da Entropia sugere que qualquer coisa que o homem criar será mais imperfeito que o criador. Confiar em nossas vidas e fortunas em algoritmos secretos é tolice e perigoso. ⁃ Editor TN
Em 1603, Autoridades inglesas prenderam Sir Walter Raleigh. Eles o acusaram de traição. Ele estava envolvido em uma conspiração para derrubar e matar o novo rei, James I.
No julgamento, os promotores entraram com apenas uma evidência. Era uma carta de confissão escrita pelo homem que supostamente planejou a trama, Senhor Cobham. A carta chamada Raleigh a co-conspirador.
Sir Walter Raleigh disse que a confissão sozinha não era confiável. Se ele pudesse trazer Cobham testemunhar em tribunal, ele teria pelo menos a chance de interrogar a única testemunha contra ele.
Mas os tribunais ingleses no o tempo não estava particularmente interessado no devido processo legal. Eles condenaram a inteligência de Raleighque lhe permita confrontar ou examinar a testemunha.
Ele foi preso e, eventualmente, executado.
Avanço rápido para EUA, 2017. Um homem enfrenta acusações de assassinato. E a principal testemunha contra ele é um algoritmo de computador.
O algoritmo análises amostras complexas de DNA. isto decideif o DNA do acusado está presente em uma amostra.
Naturalmente, o réu quer saber exatamente como o algoritmo funciona.
E ele tem boa causa para se perguntar. Seu condenação anterior pelo mesmo assassinato se baseava em máquina de teste de DNA diferente.
Mas scientistas mais tarde decidiu o algoritmo não estava certo.a evidência que o condenou foi alterada de positiva para inconclusiva.
Ele estava sentado na prisão, condenado por assassinato, com base em um algoritmo defeituoso!
Então, no novo julgamento, a defesa pergunta para examine tO novo algoritmo da máquina.BUT a empresa que desenhou oalgoritmo não gosta dessa ideia.
O aO algoritmo é um segredo comercial. Foi caro desenvolver, ume eles não querem que esse segredo seja divulgado.
Estamos vidain a idade dos algoritmos.
Um algoritmo escolhe qual música você escuta. E o Spotify faz um bom trabalho ... A um algoritmo defeituoso pode forçá-lo a ouvir uma música gospel em vez de um gangster. Não é o maior negócio ...
Mas o que acontece quando um algoritmo para um carro autônomo tem que decidir entre atingir um grupo ou pedestres ou mergulhando em si - e Você-de um penhasco?
O algoritmo se torna uma questão de vida ou morte.
Antes de entrar em um carro autônomo, vocêvou quer saber um pouco sobre o algoritmo.
Que tipo de decisão em frações de segundo foi programada para tomar?
Quais entradas de dados são consideradas?
Ewho exatamente escreveu o algoritmo? Lembre-se de algoritmos aindatem um componen humanot. E os humanos são inerentemente tendenciosos. Suas opiniões subjetivas inevitavelmente vão entrar no algoritmo.
Quando um algoritmo convence o réu em um julgamento por assassinato… isso também é vida ou morte.
Alguns serviços de proteção infantil usam um algoritmo para decidir quais crianças levar. O algoritmo atribui um pontuação de riscocom base em informações como quantas chamadas o departamento recebeu e se os pais são hostis para com os responsáveis pelo caso.
Outros os tribunais já usam um algoritmo para descobrir as reincidênciasrisco - se um criminoso provavelmente reincidir. Quanto maior o risco, mais longa a frase.
Se eu fumei um baseado ou entrei em uma briga no ensino médio, tenho uma chance xlmx mais alta de commita crime?
WiEu serei considerado culpado com base em probabilidade sozinho? Como posso ter certeza de que o algoritmo não é tendencioso?
Quando o ProPublica analisou o reincidência algoritmo, eles descobriram que foi racialmente tendencioso.
O'Neil Risk Consulting & Algorithmic Auditing é outra organização que estuda quão justos são os algoritmos usados pelo sistema de justiça. Mas eles admitem que mesmo as auditorias são subjetivas até certo ponto.
É bastante assustador ter algoritmos que controlam o sistema de justiça criminal. Devido processo pode ser substituído por processadores de computador.
Mas algoritmos não são necessariamente uma coisa ruim. Eles podem analisar conjuntos de dados vastos e complexos. É preciso muito trabalho para criar um bom algoritmo. Você pode entender por que uma empresa queremoss proteger seus segredos.
wpDiscuz