Pesquisadores descobrem que os programas de IA estão aprendendo preconceitos raciais e de gênero

Foi demonstrado que uma ferramenta de inteligência artificial que revolucionou a capacidade dos computadores de interpretar a linguagem cotidiana exibem marcantes preconceitos raciais e de gênero.

As conclusões levantam o espectro de desigualdades sociais e preconceitos existentes sendo reforçados de maneiras novas e imprevisíveis, à medida que um número crescente de decisões que afetam nossa vida cotidiana é cedido aos autômatos.

Nos últimos anos, a capacidade de programas como o Google Translate de interpretar linguagem melhorou drasticamente. Esses ganhos foram graças às novas técnicas de aprendizado de máquina e à disponibilidade de grandes quantidades de dados de texto on-line, nos quais os algoritmos podem ser treinados.

No entanto, à medida que as máquinas estão se aproximando da aquisição de habilidades linguísticas semelhantes às humanas, elas também estão absorvendo os preconceitos profundamente arraigados escondidos nos padrões de uso da linguagem, revela a pesquisa mais recente.

Joanna Bryson, cientista da computação da Universidade de Bath e coautora, disse: “Muitas pessoas estão dizendo que isso está mostrando que a IA é preconceituosa. Não. Isso está mostrando que temos preconceito e que a IA está aprendendo. ”

Mas Bryson alertou que a IA tem potencial para reforçar vieses existentes porque, diferentemente dos humanos, os algoritmos podem não estar equipados para neutralizar conscientemente vieses aprendidos. "Um perigo seria se você tivesse um sistema de IA que não tivesse uma parte explícita que fosse guiada por idéias morais, isso seria ruim", disse ela.

A pesquisa, publicada no jornal Ciência, concentra-se em uma ferramenta de aprendizado de máquina conhecida como "incorporação de palavras", que já está transformando a maneira como os computadores interpretam fala e texto. Alguns argumentam que o próximo passo natural da tecnologia pode envolver máquinas que desenvolvem habilidades humanas, como senso comum e lógica.

"Um dos principais motivos pelos quais escolhemos estudar as palavras incorporadas é que elas têm sido espetacularmente bem-sucedidas nos últimos anos em ajudar os computadores a entender a linguagem", disse Arvind Narayanan, cientista da computação da Universidade de Princeton e principal autor do artigo.

A abordagem, que já é usada em pesquisa na Web e tradução automática, funciona através da construção de uma representação matemática da linguagem, na qual o significado de uma palavra é destilado em uma série de números (conhecidos como vetor de palavras) com base nas quais outras palavras aparecem com mais frequência. Talvez surpreendentemente, essa abordagem puramente estatística parece capturar o rico contexto cultural e social do que uma palavra significa da maneira que uma definição de dicionário seria incapaz.

Leia a história completa aqui…