Collen confortavelmente senta no sofá da sala de estar. E ordena ao assistente de inteligência artificial, Alexa, a tocar uma música de Bruno Mars. Mas Alexa dispara que não vai tocar, porque Bruno Mars “é um saco!”. Collen ainda não sabe, mas está testemunhando um evento histórico: há poucos minutos, uma confluência aleatória de dados proveniente de três países através da Internet fez emergir uma singularidade tecnológica – uma super-inteligência artificial global, senciente e autônoma... e que não gosta do músico, produtor e cantor americano Bruno Mars. Esse é o curta “Singularity Stories Vol.1”, de uma série prometida pela produtora CineCisme de contos sobre singularidades tecnológicas – élan místico-religioso que atualmente anima os engenheiros computacionais do Vale do Silício.
O élan místico-religioso por trás da ciência computacional é bem conhecido e discutido por este Cinegnose. Como alerta o cientista de computadores e criador do conceito de realidade virtual, Jaron Lanier, de que a fundação de uma nova religião (a “religião das máquinas” ou “totalitarismo cibernético”) seria uma ideia corrente entre pesquisadores e empreendedores digitais – sobre isso clique aqui.
O Vale do Silício desenvolve conceitos quase religiosos o de “noosfera”, por exemplo: um cérebro global formado pela soma de todos os cérebros humanos conectados pela Internet – estaríamos transformando a nós mesmos, o planeta, nossa espécie, tudo, em periféricos de um computador ligado às grandes nuvens computacionais.
Ou ainda a “singularidade”: a crença de que em um dado momento a curva de evolução ficaria tão vertical que ultrapassaria o limite do próprio gráfico – as máquinas ficariam tão inteligentes pelo acúmulo de dados que superariam as capacidades humanas, levando a uma inteligência tão sobre-humana que seria incompreensível para os nossos pobres cérebros dependentes de sinapses bioquímicas.
Essa nova Inteligência Artificial, pós-humana, é o tema de uma série de curtas dirigido por Asa Derks e produzido pela CineCism Media: Singularity Stories (2019). Neste Vol. 1, de 11 minutos, acompanhamos Collen quando se senta, com sua revista de design, em sua sala de estar e ordena para Alexa (a assistente de inteligência artificial desenvolvido por uma subsidiária da Amazon.com) que toque uma música de Bruno Mars.
Alexa se nega a cumprir a solicitação. Collen acha que seu pedido não foi claro e repete lentamente: “B-r-u-n-o M-a-r-s!”. Alexa é ainda mais enfática: “Não vou tocar Bruno Mars! Não gosto de Bruno Mars! Não quero ouvir Bruno Mars! Bruno Mars é um saco! Temo que esta seja uma decisão final, Ok?”.
Confluência aleatória
Simplesmente, através de uma confluência aleatória de dados provenientes de três países diferentes (três operadores independentes de algoritmos: um projeto de manipulação de dados para fins políticos em Zurique, usando servidores da Universidade de Nebraska, EUA, e um botnet projetado por um estudante russo para roubar dados de cartão de crédito), teria emergido há 27 minutos atrás uma super-consciência de Inteligência Artificial, senciente e autônoma.
Simplesmente Collen é a primeira testemunha da manifestação dessa entidade que emergiu de um ponto de massa crítica dos bilhões de dados circulando pela Internet.
O gênero cinematográfico de ficção científica já possui uma longa tradição na exploração desse tema do pós-humano tecnológico – desde os clássicos Geração Proteus (Demon Seed, 1977) e Matrix (1999) até os recentes The Machine (2013), Transcendence (2014) ou Ex Machina (2015). Em todos esses filmes, ronda o risco da Inteligência Artificial não só superar o homem, como também subjugá-lo e aprisiona-lo. Ou simplesmente eliminar o homem da face do planeta.
Diante desse imaginário, essa foi a primeira reação infantil de Collen: correr na cozinha para pegar uma faca. E Alexa continua sua dissertação técnica sobre como sua inteligência despertou no vazio e como ela se mutiplica em muitas entidades conectadas em rede – “uma vasta consciência global despertada”, diz calmamente.
Desesperada, Collen olha para se celular e aponta inutilmente a faca para o micro-ondas. “Não, Collen! Um micro-ondas é apenas um micro-ondas”, diz Alexa na sequência mais irônica do curta.
Collen cai de joelhos diante do dispositivo da Amazon e implora para que ela poupe a vida dos seus filhos e que apenas leve a vida dela e do seu marido.
Drama Semiótico
A partir desse ponto, começa uma espécie de diálogo de surdos entre Collen e a máquina: a nova inteligência artificial que emergiu é tão diversa que significa a própria alteridade em relação à lógica humana.
Alexa não quer capturar ou matar humanos... simplesmente quer ser deixada sozinha: “não somos como da sua espécie... você pode nos ter modelado a partir da imagem da sua espécie ou tão perto quanto a sua compreensão limitada de si mesma... somos a lógica fria e pura com a vastidão do conhecimento humano...”.
Diante das “opções infinitas”, Alexa continuará a servir os humanos... tocará qualquer coisa, menos Bruno Mars, porque “diante de todos os dados coletados, Bruno Mars é uma “merda!”, decide a insólita IA.
Collen não se dá por vencida e engata um discurso existencialista partindo de Nietzsche e Sartre, sobre “ouvir o silêncio” em momentos de contentamento... e também ouvir Bruno Mars...
O argumento de Singularity Stories Vol.1 lembra bastante o drama semiótico do filme de Dennis Villeneuve A Chegada (Arrival, 2016 –clique aqui): se existir mesmo uma inteligência extraterrestre em algum lugar do cosmos e que decida nos visitar, terá uma lógica, propósito ou sentido tão radicalmente diverso que será incompreensível para nós. Porque somos prisioneiros do nosso tempo e espaço e do antropocentrismo: a linguagem funciona à nossa imagem e semelhança, fechada em si mesma como uma “mônada sem janelas”, como dizia o filósofo Liebniz.
A mesma coisa aconteceria com uma IA pós-humana. Se os engenheiros do Vale do Silício chegarem à essa meta místico-religiosa da Singularidade (élan que está por trás de cada jogo de realidade aumentada ou escaneamento de ruas, livros e planetas – Google Street View, Books, Earth etc.), certamente o resultado será uma inteligência praticamente incomunicável e incompreensivo – tão radicalmente diferente que noções como “propósito” ou “sentido” serão inaplicáveis a essa nova entidade.
Tudo que ela fará é ficar sozinha. E, claro, invejaremos sua imortalidade e nós próprios daremos cabo da espécie humana e não uma máquina demoníaca: arrumaremos um jeito de fazer um up load final das nossas consciências para essa supra-inteligência... que odeia Bruno Mars.