3579) Singularidade Absurda (16.8.2014)

A Singularidade, segundo os cientistas e os escritores de FC, será aquele momento em que todos os processos de inteligência artificial que estamos criando irão convergir para a formação de um estado supra-biológico de consciência humana/cibernética.  Como um piloto automático que se apossasse do avião e impedisse os pilotos humanos de entrar na cabine. 

O que acontecerá então?

Temos a tendência de projetar um perfil antropomórfico, ou uma essência semelhante à humana, em todo fenômeno que nos transcende, sem atentar para essa contradição. Se nos transcende, não é como nós. Não parece conosco. Não pode ser descrito em nossos termos. Deus não é um homem de barbas brancas sentado num trono. 

A Super Inteligência Artificial do futuro não será um cientista (benigno ou psicótico) dando ordens que não conseguiremos desobedecer.

É bastante possível que estejamos criando não uma, mas uma série de Semi-Inteligências Artificiais, e que a Singularidade, o momento irreversível em que esse processo escapará das nossas mãos, não tenha uma consciência central. Não será um computador gigantesco dizendo: “Agora, vocês vão ter que me obedecer”. 

Fico até incomodado quando penso nisto, mas acho que a Singularidade não vai parecer nem com uma Divindade nem com um Super-Cérebro, vai parecer com um Doido.

Milhares, milhões de processos eletrônico-digitais controlando nossas finanças, nossas identidades sociais (documentos, senhas, acesso a tudo), nossos bancos, nossos meios de transporte, nossas formas de comunicação. Quem me garante que a Singularidade não será capaz de produzir pastiches perfeitos do meu texto e do meu estilo, postar em redes sociais, mandar emails para minha família dizendo o que bem entender – e fazer-se acreditar?

Isso, no entanto, não acontecerá com intenções malévolas, pois não há uma personalidade humana por trás. Será a combinação multiplicada de processos automáticos que se somarão uns aos outros para produzir efeitos aleatórios, não projetados por ninguém (e não desejados por ninguém, inclusive pelas “máquinas”). 

A Singularidade será um universo beckettiano ou douglasadamsiano. A vida no planeta correrá o risco de ser destruída justamente pela falta de um ditador antropomórfico em busca do poder. Serão mil ditadores algorítmicos, conflitantes, contraditórios, tentando se sobrepujar por mero determinismo de programação. 

E o mundo se transformará num pesadelo surreal-cubista, numa peça de Ionesco montada pelos loucos do Asilo de Charenton, e a vida humana se tornará finalmente um conto contado por um louco, cheio de som e de fúria e significando rigorosamente nada.

3381) Singularidade maligna (28.12.2013)

Quando Mary Shelley criou em 1818 o seu Frankenstein, estava criando um dos mais versáteis símbolos do mundo futuro. O monstro fabricado em laboratório já serviu de alegoria para tudo. Uma das primeiras que me chamaram a atenção foi a de um crítico que disse: “O monstro de Frankenstein é o adolescente de hoje. Feioso, desajeitado, mal vestido, com um cabelo horrível... Sem saber falar direito, e sem saber o que fazer com o próprio corpo... Querendo achar uma companheira, praticando atos involuntários de violência, porque é grande demais para si mesmo...”  E por aí vai.

Talvez o primeiro grande monstro da FC seja uma metáfora para o último: a Singularidade, o momento em que o homem produzirá uma Super-Inteligência Artificial capaz de suplantá-lo. Ninguém está tentando criar isso, na verdade. Mas existem hoje no mundo milhares de pesquisas independentes que convergem todas nessa direção. A S.I.A. vai surgir pelas mãos de pessoas que não tinham a intenção de criá-la.

Softwares capazes de se reprogramar, se auto-consertar, se aperfeiçoar e evoluir. Chips, fibras, hardwares cada vez mais leves, eficazes, rápidos e baratos. Conexões sem fio ubíquas, velozes, superpostas. Tudo isto são como os pedaços de uma criatura artificial que estão sendo criados por pesquisadores independentes, que muitas vezes nem prestam atenção às pesquisas dos outros, porque estão mergulhados demais na própria.

Se quiséssemos criar a S.I.A. como um projeto civilizatório coletivo, talvez ela nunca acontecesse, porque cada passo teria que ser examinado e aprovado por dezenas de comissões internacionais. Não é o que está acontecendo. Cada pesquisa independente das outras, mas o que acontecerá quando essas partes, administradas por softwares conscientes, começarem a se coordenar e a trabalhar em conjunto?

A criação da Singularidade não deve ser muito diversa da criação da vida no tal “oceano primitivo”, há milhões de anos. Uma série de processos químicos independentes que acabaram gerando algo de natureza essencialmente diversa. No caso presente, pode-se argumentar que as pessoas envolvidas (os cientistas, as corporações, os laboratórios, etc.) sabem o que estão fazendo, mas na verdade esse “saber” é parcial, localizado, e de modo algum tem aquele objetivo em mente. Interrogados, esses pesquisadores não admitiriam ter como objetivo a criação de uma entidade bioeletrônica incontrolável. Diriam todos que “sabem muito bem o que estão fazendo” e que “não há a menor possibilidade daquele processo escapar ao seu controle”. Diriam, em suma, o que todo cientista diz antes de ser surpreendido pelo tsunami cumulativo e aleatório da ciência.

3367) As máquinas mortais (12.12.2013)

(Robert Crumb)

Não são robôs musculosos, schwarzeneggerianos, armados de espingardas-doze. São, é claro, as maquininhas aparentemente benignas que usamos: notebooks, celulares, iPads, desktops, mainframes... Para o documentarista James Barrat, em seu livro Our Final Invention: Artificial Intelligence and the End of the Human Era, está se aproximando aquele momento que alguns escritores de FC chamam A Singularidade, quando as inteligências artificiais criadas pelo homem superarão a inteligência da nossa espécie. Pode ser um upgrade cósmico de integração a uma inteligência universal; mas pode ser o momento em que as máquinas simplesmente tomarão a decisão de nos descartar.

Um artigo de Greg Scoblete (http://bit.ly/1jtH1Yc) avalia com elas nos eliminarão: “Pensem no mundo de hoje. Vírus de computador viajam pelo ar. Nossas casas, carros, aviões, hospitais, refrigeradores, fornos, estão conectados a uma “Internet de objetos” que não cessa de se ampliar valendo-se da banda larga sem fio. Estamos cada vez mais integrando elementos eletrônicos aos nossos corpos. Vamos extrapolar essas tendências para 2040: a Super-Inteligência Artificial surgirá num mundo cada vez mais dependente do virtual, e vulnerável a ele.”

À inevitável pergunta: ”Mas por que essa Super-Inteligência iria querer nos eliminar?” Scoblete responde: “Computadores, como os humanos, precisam de energia. Numa competição por recursos energéticos as máquinas se preocupariam tão pouco em nos conceder acesso a eles quanto nós nos preocupamos com a próxima refeição de uma formiga.”

A preocupação procede, e o livro de James Barrar sugere um cenário interessante para a literatura. Para ele, no momento em que essa Super-Inteligência Artificial for criada, não teremos como controlá-la porque ela terá a tendência a se retroalimentar e aumentar exponencialmente sua própria potência e seu alcance. “O tempo necessário para que ela nos deixe tão minúsculos quanto as formigas pode ser uma questão de dias, se não de simples horas, depois de ser criada. Pior: os cientistas humanos podem nem perceber que criaram essa Super-Inteligência, até ser tarde demais para contê-la”.

E agora digo eu: já a criamos. Ela já existe. Ela já se exprime, numa linguagem digital balbuciante, mas onipresente. Ela produz, com o auxílio inconsciente de funcionários humanos, os programas de TV de hoje, os noticiários de hoje, os filmes de hoje, as crises financeiras de hoje. Para ela, os próximos 50 anos serão os 5 segundos de que precisou para provocar o suicídio coletivo dos ácaros que a criaram e que agora se tornaram desnecessários e incômodos. (Ela permitirá a publicação desta inútil denúncia.)