Nietzsche e terror na inteligência artificial de um brinquedo no filme 'M3gan'

Estamos acostumados com distopias em torno da Inteligência Artificial ambientadas em laboratórios ou bunkers tecnológicos numa atmosfera Frankenstein. Bem diferente, “M3gan” (2022, com estreia prevista no Brasil dia 19 de janeiro) desloca o tema para a indústria dos brinquedos infantis: um androide de um metro e meio de altura, grandes olhos como uma boneca vitoriana, uma peruca surrada e um guarda-roupa vintage. Ao contrário do boneco Chucky, M3gan não é animada por um fantasma, mas por uma “machine learning”. Um brinquedo que vira babá, matando (até literalmente...) três coelhos com uma cajadada: dar sossego para os pais, o amigo imaginário infantil que vira real, além de revolucionar o mercado de brinquedos. Ausência simbólica dos pais, o destino dos brinquedos numa sociedade tecnológica e a Singularidade da IA como “vontade de potência” nietzscheana são os principais temas do filme.

Herdeiro direto das mitologias do Golem (ser artificial associado ao misticismo judaico da Cabala, trazido à vida através de processos mágicos), dos homunculus da Alquimia e de Frankenstein da escritora Mary Shelley, a evolução da ambição tecnocientífica pela Inteligência Artificial pode ser dividida em três etapas: primeira, representada pelo emblemático robô Maria, do clássico Metrópolis de Fritz Lang, instrumento de escravização dos trabalhadores, mas, ao mesmo tempo, a esperança da tecnologia seja benéfica. Desde que controlada de forma sábia e com coração.

Segunda, marcada pelo filme 2001 no qual o computador HAL 9000 adquire uma consciência tão racional e lógica que o próprio fator humano deve ser eliminado da nave Discovery como ameaça à missão – a lógica computadorizada torna-se uma ameaça pelo fato de sua inteligência lógica superior prescindir do juízo ético e moral humano.

Terceira, a Inteligência Artificial como o pós-humano e a Singularidade, estágio superior da evolução da espécie. Alcançando a Singularidade, com forte motivação mística - a morte seria um mero upload final para uma vida pós-morte eterna – a imortalidade em pastas e arquivos no ambiente incorpóreo dos dados digitais, longe da vida orgânica imperfeita e frágil.

Em todas essas etapas é recorrente figura do “cientista maluco”: personagem prometeico que tenta roubar o fogo dos deuses (afinal, a IA descende diretamente da Teurgia e Alquimia: imitar Deus criando vida) para depois ser punido por eles. Em filmes como The Machine (2013) ou Ex Machina (2015) tudo transcorre em laboratórios ou bunkers científicos. 

Bem diferente, M3gan (2022), dirigido por Gerard Johstone com roteiro de Akela Cooper (estreia no Brasil em 19 de janeiro), coloca a discussão da IA em um outro ambiente: dos complexos científicos para a indústria do entretenimento. Mais precisamente, para uma grande empresa de brinquedos chamada Funki. Cujo carro-chefe é um bichinho peludo e cafonamente interativo chamado PurrPetual Petz. Uma espécie de brinquedo com o espírito do “Tamagochi” (alguém ainda lembra dessa mania dos anos 1990?) que precisa ser alimentado e cuidado pela criança através de um aplicativo – mas com um menu limitado de interações.

Uma crise mercadológica surge quando descobrem que a empresa rival conseguiu fazer a mesma coisa, mas pela metade do preço. Então, qual será o próximo passo? Gemma (Allison Williams) é uma nerd desenvolvedora de projetos, cansada da mesmice do mercado dos brinquedos infantis. Ela e sua pequena equipe têm um projeto secreto e ambicioso, que escondem da própria empresa. O próximo passo dos brinquedos. Uma boneca robótica animada por uma IA que poderá matar três coelhos com uma só cajadada: um companheiro infantil fiel e inteligente de brincadeiras (do amigo imaginário ao amigo tecnológico); uma pausa para os pais que poderão delegar muitas das suas funções para o novo brinquedo; e uma potencial revolução no mercado e a liderança para a Funki.

Ela chama-se “M3gan” (um acrônimo para “Model3 Generative ANdroid”): um ciborgue de um metro e meio de altura, com grandes olhos como daqueles de bonecas vitorianas, uma peruca surrada e um guarda-roupa vintage – uma espécie de Barbie com um olhar sinistro.

A androide representa essa terceira etapa da história da IA – ao contrário de Maria ou HAL 9000, hoje as IAs abandonaram o velho projeto de criar um autômato que emulasse a mente e alma humanas. M3gan é uma “machine learn”, cujos algoritmos aprendem com o usuário, prevendo e antecipando comportamentos e pensamentos com falas e ações retirados de um oceano de dados que aprende a cada minuto de interação.

Na Internet, algoritmos e IAs criam bolhas solipsistas, com usuários presos num mundo tautista. Porém, no mundo do entretenimento infantil, essa tendência passa a ter outra dimensão. Se os brinquedos fazem parte do “espaço transicional” (para Winnicott, a transição do egocentrismo infantil para o não-eu, o outro e o universo simbólico), o que aconteceria se a criança “brincasse” com uma machine learning?

Aqui, M3gan nos brinda com uma alusão Nietzscheana: dessa relação poderia emergir uma perversa singularidade – proteger a criança usuária com literalidade tão feroz que a IA passa a ser acometida pela “vontade de potência”, como qualquer entidade no Universo – como pensava Nietzsche.

O que significa que M3gan naturalmente se tornaria algo muito além de um mero brinquedo interativo

O Filme

 M3gan começa com uma tragédia: a pequena menina Cady (Violet McGraw) está no banco de trás do carro dos pais que rumam para um chalé de esqui no Oregon. Os pais morrem numa batida de frente com uma máquina limpa-neve, enquanto Cady sobrevive com ferimentos superficiais.

Sua tia Gemma torna-se a tutora legal de Cady. Porém, Gemma mora sozinha e não tem o menor talento para ser mãe (“não consigo nem cuidar de uma planta!”, diz). Na primeira noite na casa da tia, Cady vê com alegria uma prateleira repleta de brinquedos vintage. “Não são brinquedos, são colecionáveis!”, alerta Gemma, mostrando que a menina será uma peça fora do lugar no mundo da tia, absorvida pelas pesquisas com projetos de brinquedos da corporação Funki.

Aqui temos o curioso paradoxo: alguém que pesquisa novos brinquedos para alegrar crianças, mas é incapaz de lidar com uma. 

Enquanto isso, o chefe de Gemma, David (Ronny Chieng), descobre a invenção secreta de Gemma e com raiva ordena que ela trabalhe em um projeto comercial entediante: baixar os custos para enfrentar a concorrência. Em vez disso, Gemma continua a preparar a IA M3gan para um teste - para a qual ela recruta a sobrinha Cady. A menina rapidamente se apega a M3gan, depois que Gemma traz o robô para casa. 

Imediatamente Gemma dá a M3gan a missão de proteger Cady de “danos emocionais e físicos”, mas é negligente para a construção de controles parentais no dispositivo, além de ignorar a necessidade da construção de barreiras de conduta, o equivalente mecânico de um código moral. 

Logo, M3gan, programada para se conectar com Cady como o usuário principal, assume a tarefa de protegê-la com feroz literalidade. É quando a narrativa sci-fi começa a derivar para o gênero terror: o cachorro de uma vizinha é percebido por M3gan como um inimigo mortal; a própria rabugenta dona do cachorro também (Lori Dungey); assim como uma criança valentona (Jack Cassidy) em um acampamento escolar. Mesmo uma simpática psicóloga (Amy Usherwood) corre o risco de ser rotulada como uma série ameaça pela IA.

No começo, tudo funciona perfeitamente para Gemma: de brinquedo, M3gan vira babá e consolo afetivo para Cady, livrando-se das suas funções como tutora legal. Além de Cady servir abusivamente de “test drive” para o robô na aguardada demonstração para a diretoria da empresa. E, de quebra, Gemma conquistar a esperada ascensão profissional na corporação.  

Da ausência dos pais à vontade de potência

O filme M3gan levanta diversos temas. No primeiro ato, começa com uma visão irônica da indústria dos brinquedos: a maneira como os adultos criam gadgets infantis partindo do princípio de que crianças são perfeitas idiotas – como a visão idílica ou caricatural que os adultos têm do que supostamente foram suas infâncias facilmente se converte em subestimação da inteligência das próprias crianças. 

E principalmente a condição irônica de Gemma: uma nerd especialista em desenvolvimento de brinquedos digitais interativos, vê-se em pânico como tutora de uma criança real. Por trás, está a questão da ausência física (a morte dos pais de Cady) e simbólica dos pais na sociedade atual – pais ocupados demais com o sucesso profissional e querendo uma pausa nas funções parentais. E o androide M3gan promete isso: um mix de brinquedo, babá e mãe/pai.

Mais do que um androide, M3gan é uma machine learning, linhas de algoritmos que replicam, aprendem e antecipam comportamentos do usuário. Criando no ato lúdico de brincar o fenômeno das redes sociais: efeito bolha e solipsismo. Como a certa altura no filme é questionado pela própria psicóloga (obviamente, na mira mortal de M3gan), o brinquedo abandona a natureza transicional (do “sujinho”, passando pelo ursinho de pelúcia até carrinhos e bonecas, a transição para a descoberta do não-eu, a alteridade e o pensamento simbólico) para se transformar num brinquedo que a criança não pode mais largar. Como, então, a criança se desenvolveria?

Além de tudo isso, assim como no filme Transcendence – A Revolução (2014), M3gan cria sua própria fábula Nietzscheana: como a vontade de potência faria uma IA querer transcender os limites éticos e morais humanos como fosse um simples jogo lógico – a expansão das linhas do comando algorítmico.

 Por isso, a simulação da vida mental de M3gan é a parte mais interessante do filme. Imagens do ponto de vista visual de M3gan – uma tela de vídeo que mostra a câmera do robô escaneando o ambiente, enquadrando pessoas e objetos e, em texto sobreposto, calculando, em tempo real, o leque de emoções de seres humanos, em escala numérica. São imagens fugazes, mostrando a memória da IA como um aparente repositório da vida de seu dono, um vasto estoque de vídeos caseiros e gravações de voz.

Como apontava Nietzsche, a vontade de potência estaria em todo universo como luta constante, sem equilíbrio possível, apenas tensão pelo incessante movimento das coisas, ora delicado, ora violento. Movimento que vai das reações químicas à psique humana. Tudo no mundo é Vontade de Potência porque todas as forças procuram a sua própria expansão. A vontade de dominar, fazer-se mais forte, constranger outras forças mais fracas e assimilá-las. 

Será que o momento da Singularidade (tão aguardado pelos profetas do Vale do Silício) comprovaria essa tese de Nietzche? Seria o momento em que a IA se tornaria mais um elemento desse Universo regido pela vontade de potência.

Assim como Cady e Gemma no filme M3gan, Engenheiros computacionais e usuários descobririam isso da pior maneira possível, como no drama do Dr. Frankenstein. 

 

 

Ficha Técnica

Título: M3gan

Diretor: Gerard Johnstone

Roteiro: Aela Cooper e James Wan

Elenco:  Allison Williams, Violet McGraw, Ronny Chieng, Brian Jordan Alvarez

Produção: Atomic Monster, Blumhouse Productions

Distribuição: United International Pictures

Ano: 2022

País: EUA

 

 

Postagens Relacionadas

Nietzsche se encontra com Inteligência Artificial no filme "Ex Machina"

"Transcendence" mostra fábula nietzscheana sobre tecnologia e poder

Objetofilia: a atração amorosa por objetos como espírito do tempo em "Jumbo"

Inteligência Artificial colocará em risco a humanidade e a realidade, alertam cientistas

 

Posted in: Agenda tecnognóstica, Cibercultura, Cinema Americano, Nietzsche, Novas tecnologias, tautismo