Especialistas: AI 'consciente' é direcionada para os direitos da personalidade no futuro

Primeiro corporações, e agora inteligência artificial - o impulso para a personalidade não humana continua em ritmo acelerado, embora este último argumento seja decididamente mais complicado do que o anterior.

Em um artigo de opinião para o Los Angeles Times, o especialista em filosofia Eric Schwitzgebel e o pesquisador de inteligência “não-humana” Henry Shevlin argumentaram que, embora a tecnologia de IA definitivamente ainda não esteja lá, “tornou-se cada vez mais plausível que os sistemas de IA possam exibir algo como consciência” – e se ou quando isso ocorrer, os algoritmos, também precisarão de direitos.

Citando o ano passado Guerras de consciência da IA - que nós coberto extensivamente e até mesmo mergulhamos nossos dedos em – os pesquisadores observaram que “alguns teóricos importantes afirmam que já temos os principais ingredientes tecnológicos para máquinas conscientes”.

Se as máquinas algum dia ganhassem consciência, Schwitzgebel e Shevlin argumentam que teríamos que começar a pensar criticamente sobre como as IAs são tratadas – ou melhor, como elas podem forçar nossas mãos.

“Os próprios sistemas de IA podem começar a implorar, ou parecer implorar, por tratamento ético”, previu a dupla. “Eles podem exigir que não sejam desligados, reformatados ou excluídos; implore para ser autorizado a fazer certas tarefas em vez de outras; insistir em direitos, liberdade e novos poderes; talvez até esperemos ser tratados como nossos iguais.”

Os “enormes” riscos morais envolvidos em tal decisão coletiva teriam, sem dúvida, grande peso, especialmente se as IAs se tornassem conscientes mais cedo ou mais tarde.

“Suponha que respondamos de forma conservadora, recusando-nos a mudar a lei ou a política até que haja um consenso generalizado de que os sistemas de IA realmente são significativamente sensíveis”, escreveram Shevlin e Schwitzgebel. “Embora isso possa parecer cauteloso, também garante que seremos lentos em reconhecer os direitos de nossas criações de IA.”

“Se a consciência da IA ​​chegar mais cedo do que os teóricos mais conservadores esperam, isso provavelmente resultaria no equivalente moral da escravidão e assassinato de potencialmente milhões ou bilhões de sistemas de IA sencientes – sofrendo em uma escala normalmente associada a guerras ou fome”, acrescentaram. .

A alternativa “mais segura” para esse cenário apocalíptico seria conceder direitos antecipados às máquinas conscientes – mas isso também traria seus próprios problemas.

“Imagine se não pudéssemos atualizar ou excluir um algoritmo que vomita ódio ou vende mentiras porque algumas pessoas temem que o algoritmo seja consciente”, postularam os especialistas. “Ou imagine se alguém deixasse um ser humano morrer para salvar um 'amigo' da IA. Se concedermos direitos substanciais aos sistemas de IA muito rapidamente, os custos humanos podem ser enormes.”

A única maneira de garantir que nenhum desses resultados ocorra, escreveram os dois, seria parar de dar uma consciência à IA em primeiro lugar.

Leia a história completa aqui…