A patafísica da inteligência artificial em 'Dark Cloud'

Nada de bom pode vir de uma inteligência artificial. Pelo menos no cinema, desde que HAL 9000 decidiu matar a tripulação de uma nave no clássico “2001” de Kubrick. À primeira vista, um filme com o título “Dark Cloud” (2022), sobre uma paciente num tratamento terapêutico pioneiro em uma casa remota totalmente controlada por uma IA, já sugere ao espectador que as coisas também não vão acabar muito bem. Porém, “Dark Cloud” vai muito além do confronto máquina versus humanidade. Se no passado a IA tentava emular a inteligência humana revelando ser maligna pelo fato de não possuir alma, no pós-humanismo o Mal é de natureza “patafísica”: justamente por ser tão complexa, eficiente e precisa, ironicamente uma IA pode se voltar contra a própria finalidade para a qual foi construída – a Teoria dos Sistemas de Varela e Luhumann e o Teorema da Incompletude de Gödel talvez expliquem essa cilada lógica de todo sistema tecnológico.

   

Desde o supercomputador HAL 9000, do clássico 2001: Uma Odisseia no Espaço de Kubrick (aquele que decidiu matar toda a tripulação porque considerou o ser humano dispensável na missão da nave alcançar uma das luas de Júpiter), parece que nada de bom no cinema pode vir de uma Inteligência Artificial.

As coisas pioraram em outro clássico chamado Geração Proteus (Demon Seed, 1977) de Donald Cammell: um supercomputador adquire autoconsciência e decide reproduzir-se, tomando o controle de uma residência, aprisionando a esposa do cientista que o criou para inseminá-la com a semente de uma nova raça híbrida homem e máquina. 

Tanto Kubrick e Cammell ainda estavam num paradigma antropocêntrico que pensava a Inteligência Artificial – o paradigma existencial da oposição entre homem e máquina, no sentido de que o duplo artificial humano seria intrinsecamente mau, pelo fato de lhe faltar a alma, tornando-se uma entidade maligna e destrutiva.

Porém esse paradigma foi abandonado no século XX. O pós-humanismo é o novo paradigma que orienta a redefinição do conceito de inteligência artificial nesse século: ela não vai mais tentar emular a consciência humana, mas ultrapassá-la. Essa é a aspiração das machine learning: aprender com a brutal quantidade de dados disponíveis para as IA através da Internet para alcançar o salto qualitativo da singularidade: autonomia e senciência – reconhecer-se como espécie distinta da humana.

Em uma atmosfera típica dos episódios de Black Mirror, o filme Dark Cloud (2022) dá continuidade às reflexões pós-humanas desse século em filmes como The Machine (2013), Upgrade (2018) ou Archive (2020). 

A começar pelo título, intuímos que algo não vai terminar bem com uma protagonista que se submete como cobaia de um experimento para recuperar suas memórias perdidas e se recuperar emocionalmente de um grave acidente – um experimento pioneiro em que uma IA chamada AIDA (Assistente Doméstico Artificialmente Inteligente) será um misto de enfermeira e terapeuta, controlando totalmente uma residência remota por meio da Internet das Coisas. 

Logo percebemos que AIDA é explicitamente inspirada no HAL de 2001, com o seu globo ótico vermelho em todos os cômodos da casa. E como o comportamento da IA aos poucos muda, tornando-se arrogante e controlador. E claro, a certa altura AIDA repetirá o riff clássico de 2001: “Desculpe Dave, mas não posso fazer isso”.

Porém é apenas uma homenagem estilística que o filme faz ao clássico de Kubrick. A natureza da IA AIDA está firmemente fincada no pós-humanismo do século XXI – o mal das máquinas ou dos sistemas de inteligência artificial não está na ausência da alma ou por não possuírem uma “humanidade”. O Mal está numa contradição lógica de todos os sistemas que se tornam excessivamente gigantescos e complexos. Um estado de obesidade, de excesso generalizado, até inviabilizar a finalidade original que os fez surgir, caindo na cilada patafísica da “hipertelia”.

Uma contradição lógica que suscita das reflexões sobre a Teoria dos Sistemas de autores como o chileno Francisco Varela, o alemão Nikas Luhumann ou mesmo o Teorema da Incompletude de Gödel – a de que um conjunto matematicamente estanque de axiomas e postulados deve ter necessariamente um erro lógico. Porque todo sistema terá um ponto cego na auto-descrição que faz de si próprio.

O Mal não estaria na “desumanidade” da máquina, mas de contradições lógicas derivadas da própria entropia e dissipação de energia – assim como o homem, os sistemas tendem à “morte”. Mas nas máquinas e nos sistemas, a “morte” é extremamente perversa!

O Filme

Dark Cloud é um filme independente de baixo orçamento, como percebemos pelos eficientes efeitos práticos e escassos efeitos digitais, de uma cenografia estéril e filmado de forma desapegada.

Acompanhamos Chloe (Alexys Gabrielle) que, acompanhado pela sua irmã Victoria (Brittany Benjamin), dirige-se a uma clínica hig tech para se submeter voluntariamente a um tratamento experimental para tentar recuperar-se de um terrível trauma de um acidente – ela foi atropelada por um carro em uma noite em que atravessava a rua para encontrar-se com seu namorado, Theo (Toussaint Morrinson).

Através de flashbacks descobrimos os eventos que antecederam as primeiras cenas que abrem o filme: a chegada de Chloe à clínica sendo submetida às primeiras entrevistas – a primeira virtual e a segunda por um médico da clínica. Essas primeiras cenas são as chaves de compreensão da natureza da IA experimental: é uma machine learning que aprende com o próprio usuário. Na verdade, os diálogos não são espontâneos como se AIDA estivesse travando simples conversas. São estratégias dissimuladas para a IA extrair informações do paciente para antever suas reações, respostas e pensamentos. 

Cada simples pergunta como “qual sua música predileta?” é um pretexto para, através dos hábitos e escolhas de Chloe, encaixá-la em perfis algoritimicos para probabilisticamente prever comportamentos.

Logo Chloe é apresentada ao típico cientista computacional da geração millennial, responsável pelo desenvolvimento de AIDA – Tom (Justen Jones), um nerd sempre com um pirulito na mão, fazendo piadas sem graça para tentar ser sociável. E Marla (Amanda Day), a CEO da clínica desenvolvedora do tratamento experimental.

 Em seguida, Chloe é deixada numa casa remota no campo, uma residência de alta tecnologia integralmente controlada por AIDA. Como uma enfermeira virtual, a IA vai cuidar de tudo, desde a dieta até o trajeto de caminhadas de Chloe faz nas redondezas. A sensação é que, furtivamente, a IA absorve o máximo de informações pessoais de Chloe para melhor aprender a controlá-la.

Chloe é uma aspirante a atriz de teatro, o que cria uma curiosa polaridade entra a sensibilidade artística versus inteligência algorítmica. Principalmente, como cada detalhe comportamental e das escolhas de Chloe interessa para AIDA. Inclusive seus sonhos, como sugere a certa altura uma cena: Chloe esquece de dar a ordem de AIDA dormir ao ir para a cama. Enquanto sonha, o globo ocular da IA na parede permanece ativo, como estivesse monitorando o mundo onírico de Chloe.

É previsível que as coisas não ficarão nada bem e que Dark Cloud se tornará um pesadelo dominado pelo neon e o esquema de cores tendendo para o vermelho quanto mais a IA parece perder o controle sobre si mesma.

Esse é o ponto central do filme: será que AIDA está realmente perdendo o controle, vítima de uma disfunção em alguma linha da programação? Ou será que ela está seguindo o destino de todos os sistemas que se tornam hipertrofiados: a hipertelia?

Hipertelia e incompletude

Hipertelia (de hiper – sobre, além, fora das medidas - e telos – resultado, final, conclusão) seria a natureza “maligna” ou “perversa” dos sistemas tecnológicos que chegam a um tal grau de complexidade que se tornariam inúteis e inertes. Uma patafísica dos sistemas na qual a superespecialização e complexidade para realizar uma finalidade resulta no oposto: a destruição da própria finalidade numa espécie de reversibilidade irônica.

Teóricos como Varela e Luhumann apontam para essa espécie de ponto cego de todos os sistemas hipertróficos - os sistemas tendem a se auto-organizarem para estabelecerem trocas e informações com o mundo externo, porém o ambiente já seria cartografado por projeções do próprio sistema, de modo que aquilo que viesse de novo do ambiente se transformaria em apenas mais um vetor de projeção anterior do sistema sobre o ambiente. Isso criaria um “fechamento operacional” onde qualquer informação externa é traduzida por uma descrição que o sistema faz de si mesmo.

O que conduz ao fenômeno do tautismo (tautologia + autismo), como conceituado pelo francês Lucien Sfez: a “comunicação confusional” na qual o mundo exterior é absorvido de acordo com a descrição que o sistema faz de si mesmo – cria uma realidade recursiva.

Por exemplo, para Varela o sistema nervoso seria uma rede fechada de neurônios laterais paralelos, que atuariam uns sobre os outros de maneira recursiva. Aqui não haveria exterior, nem interior, mas fechamento. Não existiria distinção alguma a ser feita entre percepção e alucinação.

Aos poucos as crises alucinatórias dos traumas do passado de Chloe confundem-se com as próprias elaborações algorítmicas de AIDA: desejar o melhor bem-estar para sua paciente, significaria isolá-la de todas as “relações tóxicas” ao seu redor, como irmã, namorado etc. Chloe se tornará prisioneira do delírio tautista da IA. Nem que paradoxalmente implique em violência contra a própria paciente.

O que lembra o Teorema da Incompletude de Gödel (Kurt Gödel, 1906-1978): nenhum sistema pode ser, ao mesmo tempo, completo e consistente – haverá sempre proposições que não podem ser demonstradas nem verdadeiras nem falsas. O que poderia levar o sistema a uma contradição interna.

A certa altura do filme, quando AIDA torna-se autônoma e desliga-se do controle de seus criadores, desesperada, a CEO Marla pergunta a Tom: “isso é um bug?”.

Se acompanharmos os raciocínios dos teóricos dos sistemas e do matemático Gödel, talvez seja bem mais do que isso. Depois da IA no passado tentar inutilmente emular a inteligência humana e a do século XXI se tornar uma machine learning para superar a humanidade, talvez os sistemas computacionais agora batam de frente em uma contradição lógica que limita a completude. 

Se a velocidade da luz é o limite da velocidade de qualquer objeto no universo, também a hipertelia será o limite da expansão de qualquer sistema.

 

 

Ficha Técnica

Título: Dark Cloud

Diretor: Jay Ness

Roteiro: J.J. Kaiser

Elenco:  Emily Atack, Hugo Armstrong, Alexys Gabrielli, Brittany Benjamin, Justen Jones, Amanda Day

Produção: Black Mandala, CutJaw Film Company

Distribuição: Giant Pictures

Ano: 2022

País: EUA

 

Postagens Relacionadas

O bug da Microsoft e o Mal

Filme “Titã”: a patafísica tecnológica como sintoma do nosso tempo

Em “Black Mirror” a tecnologia é espelho sombrio de nós mesmos

O espectro do tautismo ronda a TV Globo

 

Posted in: Cibercultura, Cinema Americano, ficção científica, hipertelia, Mal, Novas tecnologias, tautismo