Curta da Semana: "ANA" - o apocalipse da inteligência artificial

Um fábrica de automóveis em Detroit, totalmente automatizada, é controlada por uma Inteligência Artificial chamada ANA, cujo software também está presente nos setores mais importantes do mundo como recursos médicos, alimentos e bancos. Mas ANA parece ter outros planos, além do que fazer tarefas repetitivas – não quer mais produzir mais carros, mas alguma outra coisa que pretende liberar naquela fábrica em Detroit para o mundo. E o único operador humano responsável pela produção será traído por ANA. Esse é o curta “ANA” (2015) do estúdio inglês Factory Fifteen, especializado em produzir filmes distópicos nos quais explora uma versão particular do conceito de “singularidade” – algum momento no futuro a supercomputadores produzirão o acidente terminal: o momento no qual a máquina trairá o próprio criador.

Pouco tempo depois que o estúdio inglês Factory Fifteen ( um estúdio especializado em imaginar futuros distópicos através de filmes e animações) lançar o curta Ana (2015), aconteceu no início desse ano o primeiro acidente automobilístico fatal envolvendo um carro com sistema de piloto automático, na Florida: um Tesla Model S se chocou com um caminhão – o veículo era de cor branca, fazendo o computador confundi-lo com o céu de um dia ensolarado – clique aqui.

O curta

A história do curta se passa em uma fábrica de automóveis em Detroit totalmente automatizada e controlada por apenas um homem chamado Jim. Diante do painel de controle em mais um dia de trabalho repetitivo, Jim lê em seu tablete notícias de má função de uma rede nacional de computadores que está causando problemas para a American Airlines. Imediatamente, o sistema robótico de inteligência artificial da fábrica, chamado ANA, também informa uma má função na linha de produção.

Ignorando os protocolos de segurança, Jim dá controle total à super-inteligência artificial ANA. Quando tenta desfazer o erro, os robôs dentro da fábrica reagem para impedi-lo. Parece que Ana não quer mais produzir carros, mas outras coisas que ela pretende liberar para fora dos limites daquela fábrica.

Para piorar, ANA é uma IA que está embutido nos setores de fabricação mais importantes do mundo, incluindo recursos médicos e alimentos. Parece ser o início de um apocalipse robótico.

A Factory Fifteen foi criada em 2011 por Paul Nichols, Jonathan Gales e Kibwe Tavares. O trio vem produzindo uma série de filmes que investiga o futuro através da arquitetura, incluindo visões de uma  por uma cidade controlada por um supercomputador e cenários pós-nuclear onde pesquisadores tentam livrar o mundo da contaminação radioativa.

Singularidade e tecnognosticismo

A narrativa de ANA foi baseada no conceito de “singularidade tecnológica” – um futuro no qual a humanidade viverá um salto qualitativo tecnológico em um curtíssimo espaço de tempo, quando a inteligência artificial terá superado a inteligência humana, alterando radicalmente a civilização e o próprio conceito de natureza humana.

Cientistas como Vernor Vinge (criador do conceito) e Raymond Kurzweil que a singularidade será um evento semelhante ao surgimento da inteligência humana na Terra.  Acreditam que o surgimento iminente de supercomputadores dotados de inteligência seriam a base de tais avanços – somente uma inteligência superior à humana poderia fazer avanços científicos e tecnológicos tão rápidos.

Esse tema é recorrente no cinema recente com o tema do pós-humano em filmes como Eva (2011), The Machine (2013), Lucy (2014), Transcendence (2014) e Ex-Machina (2015), cujo tema do pós-humano acaba se fundindo com o tecnognosticismo – a crença em uma fusão entre as redes neuronais e redes de computadores através do qual o Eu faria um upload final para a memória de um supercomputador, superando as contingências humanas (corporalidade, finitude etc.) e alcançando a imortalidade no divino céu da informação.

O acidente da singularidade

Mas a versão da singularidade do curta ANA (na verdade um teaser para um longa a ser produzido em conjunto com a Raw TV) é sinistra: ANA é uma IA que sustenta cada serviço da vida cotidiana – instalações industriais, bancos, alimentos e indústria farmacêutica. Tudo automatizado no qual o homem deixou para uma ANA o controle do pito automático.

Se o filósofo e urbanista Paul Vilirio estiver certo de que a história da tecnologia é a história da criação de acidentes (o acidente automobilístico, o descarrilamento do trem, o acidente aéreo até chegar à explosão nuclear e a contaminação radioativa), a singularidade poderia ser o acidente terminal da espécie humana – assim como no curta, o momento no qual a máquina trairá o seu próprio criador.

Sistemas automatizados por algoritmos já estão presentes não só nos pilotos automáticos de carros como o Tesla ou aquele do Google. Sistemas de algoritmos de alta frequência no sistema financeiro (Negociações de Alta Frequência – NAF) emitem automaticamente ordens de compras e vendas de ações em frações de segundos. Exploram as pequenas oscilações de um ou vários ativos, às vezes em milisegundos.  O computador executa e toma decisões de uma maneira mais rápida do que uma pessoa faria.

Mas esse sistema está exposto a acidentes onde algoritmos parecem se voltar contra os próprios investidores, produzindo perdas dramáticas. Como, por exemplo, perdas de US$ 440 milhões pela Knight Group, empresa americana do mercado financeiro.

Quanto mais o sistema financeiro se torna cada vez mais complexo (70% a 80% dos mercados são controlados pelo NAF) mais expostos ficam a um hipotético crash cibernético.

Quanto mais alta for a velocidade e volatilidade maior a probabilidades de acidente, como o Flash Crash ocorrido em 2010 quando inesperadamente diversos NAF se retiraram simultaneamente do mercado, produzindo um princípio de pânico.

Será que um dia os algoritmos chegarão à singularidade fatal, voltando-se contra nós?

Posted in: Agenda tecnognóstica, Cinema europeu, Curtas, Novas tecnologias, Paul Virilio, Tecnognose