Tecnocracia chinesa usando sistema de pontuação de crédito social para impulsionar a ditadura científica

Principais conclusões

• O governo chinês aprovou o teste piloto de um sistema de crédito social que utiliza dados pessoais dos cidadãos para atribuir notas de crédito não oficiais, que trazem benefícios e multas que empresas privadas e agências governamentais gerenciam.
• As cinco dimensões dos dados da pontuação de crédito são "histórico de crédito dos usuários, hábitos comportamentais, capacidade de quitar dívidas, informações pessoais e redes sociais".
• Os algoritmos que derivam as pontuações de crédito são segredos comerciais, proibindo formas de teste que podem determinar como elas funcionam.
• As listas negras de devedores do governo estão sendo compartilhadas com serviços de pontuação de crédito públicos e privados para proibir indivíduos de fazer determinadas transações.

Este post, o segundo de um série em sistemas de pagamento móvel, examina um recurso de aplicativo de pagamento móvel chinês cada vez mais coberto na mídia estrangeira: o teste do que pode um dia ser um sistema de crédito social oficial em todo o país para substituir sua contraparte analógica tradicional. As pontuações de crédito social mais populares disponíveis ao público atualmente estão sendo emitidas por meio da Sesame Credit, uma empresa estabelecida pela subsidiária do Alibaba Ant Financial. As reportagens da mídia ocidental sobre o sistema de crédito social descrevem um fenômeno semelhante à ficção científica, em que os cidadãos recebem pontuações com base em seu comportamento online, informações financeiras e registros do governo. As divulgações dos representantes do Ant Financial sugeriram que navegar tarde da noite na web, horas gastas jogando videogame e itens específicos comprados podem diminuir a pontuação de uma pessoa. Independentemente de essas afirmações serem verdadeiras ou não, os mecanismos de pontuação do Sesame Credit ainda estão em fase experimental e, portanto, estão sujeitos a alterações. Nossa exploração do potencial de segurança, privacidade e outras questões desse sistema visa levantar questões que podem informar as discussões sobre como ele evoluirá.

Já no 2003, o Governo chinês manifestou interesse na criação de um meio abrangente de atribuir notas de crédito aos cidadãos, o que seria uma melhoria em relação ao sistema de classificação de crédito do país. O Conselho de Estado aprovou recentemente o “Esboço dos regulamentos para a construção de um sistema de crédito social (2014-2020)” e atualmente oito empresas receberam permissão do banco central para realizar teste piloto de seus próprios sistemas de crédito social, semelhante às classificações de crédito ao consumidor da Fair, Isaac and Company (FICO). Parte do que torna esse empreendimento único na China é a imprecisão e, em alguns casos, a completa ausência de regulamentação sobre a coleta de grandes dados para fins de pontuação de crédito, possíveis usos de terceiros de tais pontuações e proteções de privacidade dos dados do usuário que são considerados na pontuação de crédito cálculos. o nova lei de segurança cibernética lançado em novembro do 7, o 2016 contém um idioma referente às proteções de privacidade, mas não será implementado até junho do 2017.

Este artigo trata do serviço de pontuação de crédito social do Sesame Credit, que os usuários da Alipay podem optar por receber no aplicativo. As pontuações do Sesame Credit são o exemplo mais popular de como um sistema nacional de crédito social chinês poderá funcionar um dia e fornece uma idéia de quais considerações as empresas, cidadãos e o estado chineses pensam que deveriam entrar nesse sistema. É um componente de um esforço mais amplo do governo chinês para aproveitar o big data como um recurso para controle social. As pontuações de crédito são divididas em cinco dimensões: “Histórico de crédito dos usuários, hábitos comportamentais, capacidade de quitar dívidas, informações pessoais e redes sociais.” Breves descrições de cada uma dessas categorias estão incluídas no recurso de crédito de gergelim da Alipay, mas não esclarecem quais ações específicas alteraria a pontuação de alguém.

De acordo com o O Livro, "Preferências comportamentais" referem-se a ações como pagamento pontual de faturas e "informações pessoais" incluem idade, sexo, ocupação e histórico educacional. Mais preocupantes são os "conceitos de estabilidade" mal definidos que o Sesame Credit supostamente leva em consideração, aos quais os representantes da empresa aludiram sem definir claramente. Esses pareceriam marcadores altamente subjetivos da capacidade financeira e social de alguém que contribuem para o mecanismo de pontuação de crédito. o mesmo artigo da O Livro postula que “se o seu endereço mudar com frequência, sua credibilidade cairá correspondentemente. Além disso, os registros de crédito de seus amigos também influenciarão seus Pontos de Gergelim. ”O espaço para deturpações e discriminação com base nesses fatores é amplo, e os incentivos à mudança de comportamento subjacentes a eles também são preocupantes. O principal cientista de dados de crédito da Ant Financial, Yu Wujie afirmou que “se você doar regularmente para instituições de caridade, sua pontuação de crédito será maior, mas não informará quantos pagamentos você precisa fazer todos os meses… mas [o desenvolvimento] nessa direção [é realizado com] a esperança de que todo mundo vai doar. ”Além disso, O diretor de tecnologia da Ant Financial, Li Yingyun, afirmou que "alguém que joga videogame durante o 10 horas por dia, por exemplo, seria considerado uma pessoa ociosa, e alguém que frequentemente compra fraldas seria considerado provavelmente um pai, que, em geral, tem mais sentido responsabilidade ”. Essas declarações alimentaram a cobertura condenatória da mídia ocidental sobre crédito social até agora, embora se deva observar que a única maneira de saber com certeza que os fatores que os representantes da empresa citam podem realmente aumentar ou diminuir a pontuação seria desconstruir os algoritmos que os determinam, que foram rotulados segredos comerciais.

Sem a capacidade de realizar testes estáticos ou dinâmicos dos algoritmos de crédito social, o que podemos inferir sobre como eles operam? Deng Yiming, diretor do desenvolvimento de negócios da Sesame Credit, disse que apenas 30 a 40 por cento dos dados usado para gerar pontuações de crédito vem de empresas e serviços de propriedade do Alibaba. Além dos dados coletados através da atividade dos usuários no aplicativo Alipay, o Sesame Credit calcula pontuações individuais com dados coletados nos sites de comércio eletrônico da Alibaba, aplicativos de compartilhamento de passeios e restaurantes conectados à Alipay e agências do governo envolvendo a lei, educação e comércio. Um dos exemplos mais claros dessa troca de dados é Ligação do crédito com gergelim ao Supremo Tribunal Popular, que foi relatado como tendo compartilhado sua lista negra de devedores e outros que violaram veredictos judiciais com a empresa, a fim de impedir que essas pessoas façam as chamadas compras de luxo em Taobao e Tmall. Esse arranjo leva à questão de saber se o Sesame Credit compartilha dados na direção oposta, possivelmente fornecendo às agências governamentais parceiras as informações transacionais dos usuários. Essas colaborações tendem a ser ofuscadas por aquelas em que o Crédito de gergelim trabalha com o setor privado para oferecer benefícios aos que obtiveram notas altas.

No momento, os privilégios de ter uma pontuação de crédito social alta podem incluir reservar um carro alugado ou um quarto de hotel sem fazer um depósito, contrair empréstimos com taxas de juros mais baixas, enviar compras on-line para experimentar antes de pagar por eles e obter vistos para Luxemburgo e Cingapura através de um processo acelerado. Outros países que manifestaram interesse em participar deste emissão acelerada de vistos incluem Japão, Coréia do Sul, Sri Lanka e Reino Unido. Houve uma discussão sobre os usos futuros de altas pontuações de crédito, que se estendem ao matchmaking e recrutamento de empregos, o que ressalta até que ponto as contribuições tendenciosas podem criar novas barreiras sociais.

Os retratos do governo chinês do sistema de crédito social o definem como um meio de restabelecer a confiança entre os cidadãos e as empresas locais, como restaurantes que serão monitorados quanto à conformidade com os regulamentos de saúde. Outro argumento importante para a criação de um sistema de crédito social é que ele permitirá que pessoas tradicionalmente incapazes de acumular crédito possam fazê-lo: estudantes, trabalhadores de colarinho azul, proprietários de pequenas empresas e similares. Até agora, parece que as vantagens de ter uma pontuação alta (das quais se especula que, de fato, poucos usuários alcançaram) são aqueles que favorecem aqueles que estão em uma melhor posição financeira para fazer gastos generosos e frequentes. Uma crítica é que o Sesame Credit aumenta a pontuação para as pessoas que realizam mais transações da Alipay, que a empresa negou firmemente. Os exemplos de pontuações mais altas para compras associadas a pessoas que são pais e pontuações mais baixas para pessoas que mudam de endereço residencial geralmente sugerem ainda que a falta de contexto pode levar a deturpações das ações das pessoas, o que pode levar a consequências desproporcionais.

Existe o perigo de explicar as iniciativas de big data como a tomada de medidas "objetivas" dos dados do usuário, em parte porque nos casos em que um indicador é impreciso, fica difícil contestar esse ponto. Um exemplo de um recentemente Wall Street Journal artigo envolve uma mulher que usou o passe de metrô do filho e foi multada por um ato que, segundo um algoritmo, parecia ter sido roubo. Esse pequeno incidente suscita preocupações sobre a maneira descontextualizada pela qual a pontuação de crédito social pode ser projetada para operar. Que recurso legal, se houver, está disponível para erros muito mais conseqüentes em um sistema de crédito social?

O estado das experiências atuais neste campo levanta muitas questões sobre a proteção do usuário. Em relação à privacidade do usuário, houve poucas discussões sobre as implicações de tornar as pontuações dos indivíduos visíveis para os outros. Alipay oferece uma jogo em que amigos podem adivinhar a pontuação de crédito um do outro e revelá-los um ao outro, por exemplo. Além de outros usuários, empresas externas que prestam serviços especiais a portadores de alta pontuação de crédito e as agências governamentais parceiras do aplicativo, com quais terceiros o Sesame Credit compartilhará dados? A centralização dos mecanismos de coleta de dados para crédito social torna dang'an- como dossiês de vidas on-line e off-line de pessoas ainda mais portáteis, como notaram vários relatos da mídia. Quais procedimentos de segurança existem para proteger esses repositórios de informações pessoais valiosas?

Em uma ironia que atormentou muitos aparelhos de vigilância, a disseminação de um sistema de crédito social e seus sensores associados, códigos QR e outras ferramentas de leitura de traços podem criar novas preocupações de segurança separadas daquelas que supostamente pretendem reduzir por meio de monitoramento quase onipresente de comportamento. Essas novas ameaças envolvem as maneiras pelas quais os dados da pontuação de crédito podem ser forjados e os fins para os quais as pontuações de crédito falsas podem ser usadas. o verificação de segurança acelerada no aeroporto de Pequim para usuários de crédito de gergelim com pontuações suficientemente altas que viajam em voos domésticos, é um exemplo de uma situação em que uma pontuação alta falsificada pode permitir que alguém ignore verificações de segurança mais rigorosas, o que pode ser uma ameaça à segurança nacional de um técnico qualificado. e ator suficiente determinado. Quanto mais amplamente utilizado o sistema de crédito social e maior a variedade de recompensas que ele pode oferecer, maior será o incentivo para descobrir como invadir o sistema. Artigos e tópicos sobre como aumentar as pontuações de crédito já estão aumentando, e ainda não está claro o quão fácil pode ser invadir uma conta específica e falsificar informações.

Conforme detalhado em um post anterior, o Alibaba experimentou vazamentos de dados de funcionários da empresa, bem como hacks externos. É imperativo questionar quais precauções eles estão tomando, dado que o rápido desenvolvimento de um sistema de crédito social provavelmente tornará as empresas que são seus administradores alvos de roubo e extorsão de dados. Além disso, como uma série de dispositivos de coleta de dados da Internet das Coisas (IoT) são vendidos em toda a China, recursos granulares para rastrear cada movimento dos cidadãos e obter essas informações como uma entrada de crédito social só ficarão mais fortes e exigirão trabalho da parte dos fabricantes de IoT para resolver esses problemas. Um desenvolvimento que tem potencial para tornar as empresas de crédito social mais transparentes foi o anúncio da Comissão Nacional de Desenvolvimento e Reforma de que serviços de avaliação de crédito serão abertos para investimento estrangeiro, que pode no mínimo fornecer mais informações sobre como a pontuação de crédito social da empresa (para restaurantes e empresas locais) é realizada.

A preocupação final relacionada à segurança e à censura que oferecemos para consideração é a possibilidade de crédito social e financiamento móvel Acesso sendo bloqueado para penalizar os cidadãos por atos de protesto, como apenas um exemplo. Se esses dois serviços se tornarem indispensáveis ​​na vida cotidiana, a possibilidade de congelamento sancionado pelo governo das contas dos usuários poderá causar grandes danos às liberdades civis. À medida que a implantação do sistema avança, é importante ter em mente que, embora os algoritmos que determinam as pontuações de crédito possam mudar rapidamente de maneiras que os usuários e pesquisadores não possam perceber, o poder do estado e das empresas que moldam o desenvolvimento do sistema de crédito social é muito mais arraigada e, em última análise, é responsável pelos resultados do mundo real que o sistema de crédito social pode produzir.

Leia o artigo completo aqui ...