3381) Singularidade maligna (28.12.2013)

Quando Mary Shelley criou em 1818 o seu Frankenstein, estava criando um dos mais versáteis símbolos do mundo futuro. O monstro fabricado em laboratório já serviu de alegoria para tudo. Uma das primeiras que me chamaram a atenção foi a de um crítico que disse: “O monstro de Frankenstein é o adolescente de hoje. Feioso, desajeitado, mal vestido, com um cabelo horrível... Sem saber falar direito, e sem saber o que fazer com o próprio corpo... Querendo achar uma companheira, praticando atos involuntários de violência, porque é grande demais para si mesmo...”  E por aí vai.

Talvez o primeiro grande monstro da FC seja uma metáfora para o último: a Singularidade, o momento em que o homem produzirá uma Super-Inteligência Artificial capaz de suplantá-lo. Ninguém está tentando criar isso, na verdade. Mas existem hoje no mundo milhares de pesquisas independentes que convergem todas nessa direção. A S.I.A. vai surgir pelas mãos de pessoas que não tinham a intenção de criá-la.

Softwares capazes de se reprogramar, se auto-consertar, se aperfeiçoar e evoluir. Chips, fibras, hardwares cada vez mais leves, eficazes, rápidos e baratos. Conexões sem fio ubíquas, velozes, superpostas. Tudo isto são como os pedaços de uma criatura artificial que estão sendo criados por pesquisadores independentes, que muitas vezes nem prestam atenção às pesquisas dos outros, porque estão mergulhados demais na própria.

Se quiséssemos criar a S.I.A. como um projeto civilizatório coletivo, talvez ela nunca acontecesse, porque cada passo teria que ser examinado e aprovado por dezenas de comissões internacionais. Não é o que está acontecendo. Cada pesquisa independente das outras, mas o que acontecerá quando essas partes, administradas por softwares conscientes, começarem a se coordenar e a trabalhar em conjunto?

A criação da Singularidade não deve ser muito diversa da criação da vida no tal “oceano primitivo”, há milhões de anos. Uma série de processos químicos independentes que acabaram gerando algo de natureza essencialmente diversa. No caso presente, pode-se argumentar que as pessoas envolvidas (os cientistas, as corporações, os laboratórios, etc.) sabem o que estão fazendo, mas na verdade esse “saber” é parcial, localizado, e de modo algum tem aquele objetivo em mente. Interrogados, esses pesquisadores não admitiriam ter como objetivo a criação de uma entidade bioeletrônica incontrolável. Diriam todos que “sabem muito bem o que estão fazendo” e que “não há a menor possibilidade daquele processo escapar ao seu controle”. Diriam, em suma, o que todo cientista diz antes de ser surpreendido pelo tsunami cumulativo e aleatório da ciência.