Um dos principais inventores da IA, Bengio afirma: “Este é o cenário do Big Brother de 1984”. Bengio e seus colegas cientistas tecnocratas deveriam ter pensado nisso antes, mas isso reflete sua visão de humanidade do tipo Poliana. ⁃ Editor TN
Yoshua Bengio, um cientista da computação canadense que ajudou a desbravar as técnicas que sustentam grande parte da excitação atual em torno da inteligência artificial, está preocupado com o uso da IA da China para vigilância e controle político.
Bengio, que também é co-fundador da empresa de software AI AI, com sede em Montreal, disse estar preocupado com a tecnologia que ele ajudou a criar sendo usada para controlar o comportamento das pessoas e influenciar suas mentes.
“Este é o cenário do Big Brother de 1984”, disse ele em uma entrevista. “Acho que está se tornando cada vez mais assustador.”
Bengio, professor da Universidade de Montreal, é considerado um dos três “padrinhos” do aprendizado profundo, junto com Yann LeCun e Geoff Hinton. É uma tecnologia que usa redes neurais - um tipo de software vagamente baseado em aspectos do cérebro humano - para fazer previsões baseadas em dados. É responsável por avanços recentes em reconhecimento facial, processamento de linguagem natural, tradução e algoritmos de recomendação.
O aprendizado profundo requer uma grande quantidade de dados para fornecer exemplos dos quais aprender - mas a China, com sua vasta população e sistema de manutenção de registros estaduais, tem muito disso.
O governo chinês começou a usar câmeras de vídeo em circuito fechado e reconhecimento facial para monitorar o que seus cidadãos fazem em público, desde passeios ilegais até o envolvimento em dissidência política. Também foi criada uma Plataforma Nacional de Compartilhamento de Informações de Crédito, que está sendo usada para colocar passageiros ferroviários e aéreos na lista negra por comportamento “anti-social” e está considerando expandir o uso desse sistema para outras situações.
“O uso de seu rosto para rastreá-lo deve ser altamente regulamentado”, disse Bengio.
Bengio não está sozinho em sua preocupação com os casos de uso da China para IA. O bilionário George Soros recentemente usou um discurso no Fórum Econômico Mundial em janeiro de 24, para destacar os riscos que o uso da IA do país representa para as liberdades civis e os direitos das minorias.
Diferentemente de alguns colegas, Bengio, que dirige o Instituto de Montreal para Aprendizagem de Algoritmos (Mila), resistiu à tentação de trabalhar para uma grande empresa de tecnologia voltada para publicidade. Ele disse que o desenvolvimento responsável da IA pode exigir que algumas grandes empresas de tecnologia mudem a maneira como operam.
A quantidade de dados que as grandes empresas de tecnologia controlam também é uma preocupação. Ele disse que a criação de relações de confiança de dados - entidades sem fins lucrativos ou estruturas legais sob as quais as pessoas possuem seus dados e permitem que eles sejam usados apenas para determinados fins - pode ser uma solução. Se um trust mantivesse dados suficientes, poderia negociar melhores termos com as grandes empresas de tecnologia que deles precisassem, disse ele na quinta-feira, durante uma palestra no escritório da Amnistia Internacional do Reino Unido em Londres.
wpDiscuz