(ilustração: Kevin Hong)
Quando George Orwell imaginou em 1948 o seu conceito de “Big
Brother”, de uma sociedde totalitária onde existe um controle e uma vigilância
totais sobre o indivíduo, isso se dava no contexto de uma sociedade com uma
tecnologia bastante precária, até mesmo para a sua época.
Em 1948 a ficção científica, que ele provavelmente não
lia, ou lia pouco, ainda não tinha avançado muito em termos de tecnologia de
controle. O precedente mais imediato era o romance Nós de Ievgeni Zamiátin, do qual Orwell pediu emprestados tantos
conceitos que muita gente considera que 1984
é um plágio.
No tempo de Orwell, tudo se fazia à base de olheiros
humanos e de câmeras de TV. Hoje, toda atividade humana tem que passar por uma
barreira eletrônica qualquer. Tudo passa por celulares, computadores, cartões
de crédito. Tudo fica registrado. E mesmo na China Comunista, com seus números
espantosos, é relativamente fácil fazer isso.
Um artigo de Rachel Botsman na revista Wired com data de novembro próximo fala
do megaprojeto chinês de instituir no país, a partir de 2020, o Sistema de
Crédito Social, em que todas as atividades eletrônicas dos cidadãos serão
computadas para gerar um número de ranking.
Diz ela para imaginarmos um mundo em que todas a nossas transações comerciais,
deslocamentos, relacionamentos nas redes sociais (likes, etc.), taxas e contas pagas, tempo passado em atividades
onlines, tudo será computado e gerará um número.
Isso irá criar o seu Placar Cidadão (“Citizen Score”), e dirá a todo
mundo se você merece confiança ou não. Mais que isto: sua cotação será incluída
num ranking que abrange a população inteira e será usado para determinar sua
elegibilidade para um empréstimo ou para um emprego, ou para escolher a escola
que seus filhos poderão frequentar, ou até mesmo as suas chances de marcar um
encontro com alguém.
Vimos isto (ou parte disto) recentemente no episódio “Nosedive”
da série Black Mirror (episódio 1 da
temporada 3), onde as pessoas são socialmente “ranqueadas” através de votos
recíprocos, e quem estiver abaixo de tais e tais índices perde certos direitos.
O fato do registro eletrônico estar onipresente torna
essa questão um mero problema de logística, de como fazer convergir todos esses
“clics” eletrônicos, filtrá-los, classificá-los. E é claro que isso vai ter
utilização policial e política. Que polícia e que governo deixariam de usar uma
arma como essa?
Rachel Botsman diz que um desses megaprojetos chineses,
Sesame Credit, se baseia em cinco fatores. O primeiro é o histórico de crédito
pessoal do cidadão. O segundo é “a capacidade do usuário de comprir suas
obrigações contratuais”. O terceiro é o seu conjunto de dados pessoais
(endereço, telefone, etc.). O quarto e o quinto são “comportamento” e “preferências”.
É possível deduzir informações sobre as pessoas (dizem os desenvolvedores do
algoritmo) a partir das informações de que ela joga dez horas de videogame por
dia, ou compras fraldas descartáveis constantemente.
O artigo completo está aqui:
É interessante notar esta confluência entre a paranóia de
vigilância típica das ditaduras e a capacidade de tabular e quantificar
comportamentos que se tem, por exemplo, num videogame.
Existe também, para a contagem de pontos no ranking, o critério de que se alguma
pessoa está “se queimando” em algum aspecto – participando de atividades
antigovernamentais ou deixando de pagar impostos, por exemplo – isso pode se
refletir no ranking de seus parentes,
o que inevitavelmente leva as pessoas a se vigiarem e se pressionarem umas às
outras.
Isso vai nos levando aos poucos para aquelas histórias de
humor absurdista da Philip K. Dick, em que o sujeito vai sair de casa pela
manhã e a porta computadorizada se recusa a abrir, dizendo: “O senhor está com
o condomínio atrasado, só pode sair quando saldar seu débito”. Ou aqueles
contos de Asimov em que os computadores conseguem descobrir um único cidadão
considerado “o mais representativo da população”, e analisando suas respostas a
um questionário nomeiam (sem necessidade de eleição) o próximo Presidente da
República, o presidente ideal para aquele “americano típico”.
Devagarinho, devagarinho, a gente vai chegando lá.