quarta-feira, 25 de outubro de 2017

4281) O big-brode da China (25.10.2017)



(ilustração: Kevin Hong)

Quando George Orwell imaginou em 1948 o seu conceito de “Big Brother”, de uma sociedde totalitária onde existe um controle e uma vigilância totais sobre o indivíduo, isso se dava no contexto de uma sociedade com uma tecnologia bastante precária, até mesmo para a sua época.

Em 1948 a ficção científica, que ele provavelmente não lia, ou lia pouco, ainda não tinha avançado muito em termos de tecnologia de controle. O precedente mais imediato era o romance Nós de Ievgeni Zamiátin, do qual Orwell pediu emprestados tantos conceitos que muita gente considera que 1984 é um plágio.

No tempo de Orwell, tudo se fazia à base de olheiros humanos e de câmeras de TV. Hoje, toda atividade humana tem que passar por uma barreira eletrônica qualquer. Tudo passa por celulares, computadores, cartões de crédito. Tudo fica registrado. E mesmo na China Comunista, com seus números espantosos, é relativamente fácil fazer isso.

Um artigo de Rachel Botsman na revista Wired com data de novembro próximo fala do megaprojeto chinês de instituir no país, a partir de 2020, o Sistema de Crédito Social, em que todas as atividades eletrônicas dos cidadãos serão computadas para gerar um número de ranking. Diz ela para imaginarmos um mundo em que todas a nossas transações comerciais, deslocamentos, relacionamentos nas redes sociais (likes, etc.), taxas e contas pagas, tempo passado em atividades onlines, tudo será computado e gerará um número.

Isso irá criar o seu Placar Cidadão (“Citizen Score”), e dirá a todo mundo se você merece confiança ou não. Mais que isto: sua cotação será incluída num ranking que abrange a população inteira e será usado para determinar sua elegibilidade para um empréstimo ou para um emprego, ou para escolher a escola que seus filhos poderão frequentar, ou até mesmo as suas chances de marcar um encontro com alguém.

Vimos isto (ou parte disto) recentemente no episódio “Nosedive” da série Black Mirror (episódio 1 da temporada 3), onde as pessoas são socialmente “ranqueadas” através de votos recíprocos, e quem estiver abaixo de tais e tais índices perde certos direitos.

O fato do registro eletrônico estar onipresente torna essa questão um mero problema de logística, de como fazer convergir todos esses “clics” eletrônicos, filtrá-los, classificá-los. E é claro que isso vai ter utilização policial e política. Que polícia e que governo deixariam de usar uma arma como essa?

Rachel Botsman diz que um desses megaprojetos chineses, Sesame Credit, se baseia em cinco fatores. O primeiro é o histórico de crédito pessoal do cidadão. O segundo é “a capacidade do usuário de comprir suas obrigações contratuais”. O terceiro é o seu conjunto de dados pessoais (endereço, telefone, etc.). O quarto e o quinto são “comportamento” e “preferências”. É possível deduzir informações sobre as pessoas (dizem os desenvolvedores do algoritmo) a partir das informações de que ela joga dez horas de videogame por dia, ou compras fraldas descartáveis constantemente.

O artigo completo está aqui:


É interessante notar esta confluência entre a paranóia de vigilância típica das ditaduras e a capacidade de tabular e quantificar comportamentos que se tem, por exemplo, num videogame.

Existe também, para a contagem de pontos no ranking, o critério de que se alguma pessoa está “se queimando” em algum aspecto – participando de atividades antigovernamentais ou deixando de pagar impostos, por exemplo – isso pode se refletir no ranking de seus parentes, o que inevitavelmente leva as pessoas a se vigiarem e se pressionarem umas às outras.

Isso vai nos levando aos poucos para aquelas histórias de humor absurdista da Philip K. Dick, em que o sujeito vai sair de casa pela manhã e a porta computadorizada se recusa a abrir, dizendo: “O senhor está com o condomínio atrasado, só pode sair quando saldar seu débito”. Ou aqueles contos de Asimov em que os computadores conseguem descobrir um único cidadão considerado “o mais representativo da população”, e analisando suas respostas a um questionário nomeiam (sem necessidade de eleição) o próximo Presidente da República, o presidente ideal para aquele “americano típico”.

Devagarinho, devagarinho, a gente vai chegando lá.