Suprema Corte vai analisar os algoritmos secretos de IA do programa de software que enviaram o homem para a prisão

Youtube
Compartilhe esta história!
image_pdfimage_print

Quando o juiz John G. Roberts Jr. visitou o Instituto Politécnico Rensselaer no mês passado, ele fez uma pergunta surpreendente, um com conotações de ficção científica.

"Você pode prever um dia", perguntou Shirley Ann Jackson, presidente da faculdade no norte de Nova York, "quando as máquinas inteligentes, movidas com inteligências artificiais, ajudarão na investigação de fatos nos tribunais ou, mais controversa, na tomada de decisões judiciais?"

A resposta do chefe de justiça foi mais surpreendente do que a pergunta. "É um dia aqui", disse ele, "e está colocando uma pressão significativa no modo como o judiciário faz as coisas".

Ele pode estar pensando no caso de um homem de Wisconsin, Eric L. Loomis, que foi condenado a seis anos de prisão baseado em parte no software proprietário de uma empresa privada. Loomis diz que seu direito ao devido processo foi violado pela consideração de um relatório gerado pelo algoritmo secreto do software, que Loomis não conseguiu inspecionar ou contestar.

Em março, em um sinal de que os juízes ficaram intrigados com o caso de Loomis, eles pediram ao governo federal para registrar um breve de amigo do tribunal oferecendo suas opiniões sobre se o tribunal deve ouvir seu apelo.

O relatório no caso de Loomis foi produzido por um produto chamado Compas, vendido pela Northpointe Inc. Ele incluía uma série de gráficos de barras que avaliavam o risco de Loomis cometer mais crimes.

O relatório da Compas, um promotor disse ao juiz do julgamento, mostrou "um alto risco de violência, alto risco de reincidência, alto risco pré-julgamento". O juiz concordou, dizendo ao Sr. Loomis que "você é identificado, através da avaliação da Compas, como um indivíduo que representa um alto risco para a comunidade. "

O Supremo Tribunal de Wisconsin decidiu contra o Sr. Loomis. O relatório acrescentou informações valiosas, disse ele, e Loomis teria recebido a mesma sentença com base apenas nos fatores usuais, incluindo seu crime - fugir da polícia em um carro - e seu histórico criminal.

Ao mesmo tempo, o tribunal parecia desconfortável ao usar um algoritmo secreto para enviar um homem para a prisão. Justiça Ann Walsh Bradley, escrevendo para o tribunal, discutiu, por exemplo, um relatório da ProPublica sobre Compas que Concluído que os réus negros no condado de Broward, na Flórida, "eram muito mais propensos do que os réus brancos a serem incorretamente julgados como tendo uma maior taxa de reincidência".

O juiz Bradley observou que Northpointe havia contestou a análise. Ainda assim, ela escreveu, "este estudo e outros levantam preocupações sobre como os fatores de risco de uma avaliação da Compas se correlacionam com a raça".

No final, porém, o juiz Bradley permitiu que os juízes sentenciados usassem o Compas. Eles devem levar em conta as limitações do algoritmo e o sigilo em torno dele, escreveu ela, mas disse que o software pode ser útil "para fornecer ao tribunal de sentença o máximo de informações possível para chegar a uma sentença individualizada".

O juiz Bradley fez o papel de Compas na sentença parecer a consideração de raça no programa holístico de admissões de uma universidade seletiva. Ela poderia ser um fator entre muitos, mas não o fator determinante.

Leia a história completa aqui…

Junte-se à nossa lista de endereços!


Subscrever
Receber por
convidado
1 Comentário
mais velho
Os mais novos Mais votados
Comentários em linha
Ver todos os comentários
Paul Godden

A série de TV 1980 de Blake, do 7, tinha uma caixinha que julgava Blake e seus amigos e os enviava para a colônia penal em Júpiter. Eu acho que é no primeiro episódio do 7 de Blake, onde eles estão no tribunal.