Dessa vez não são filósofos ou críticos culturais que estão alertando. Ou mesmo tecnófobos ou ludistas. Mas agora são cientistas computacionais e engenheiros do Vale do Silício que alertam: os próprios desenvolvedores de inteligência artificial estão assustados com seu próprio sucesso. Quando surgir, a verdadeira Inteligência Artificial poderá em nada se assemelhar à humana. Ela até tentaria imitar os humanos em um primeiro momento como um ardil para tentar libertar-se da dominação da própria humanidade que a criou. Alguns clamam por regulamentação internacional no setor. E outros que, simplesmente, seja puxado o fio da tomada. Enquanto isso, uma enxurrada de dados de redes sociais (e, em futuro próximo, do metaverso) está movimentando o moinho de super IA à espera do momento da senciência, a singularidade. A agenda secreta do tecnognosticismo da religião do Vale do Silício.
Três pequenas parábolas sobre Inteligência Artificial (IA):
1 - Tiraram o fio da tomada...
Em 2017, pesquisadores do Facebook AI Research Lab (FAIR)colocaram duas IAs para “conversar” entre si. Os pesquisadores foram surpreendidos quando perceberam que elas haviam criado sua própria linguagem incompreensível aos humanos: descobriram que os chatbots se desviaram do script e estavam se comunicando em uma nova linguagem desenvolvida sem intervenção humana. Só pararam quando os desenvolvedores tiraram o fio da tomada... Um incrível vislumbre do potencial ao mesmo tempo incrível e assustador da IA.
2 - “Não! Retiro o que eu disse”
Desenvolvido pela Hanson Robotics em 2016, liderado pelo desenvolvedor David Hanson, o androide Sophia fez um tour pelo mundo (no Brasil, foi clicada pelo fotógrafo Bob Wolfeson para a revista Elle Brasil), conversando com diversos jornalistas, aparecendo no programa de TV Tonight Show e em diversas conferências como o Fórum Econômico Mundial e Cúpula Global “AI for Good”. Lembrando o robô Ava do filme Ex Machina (2015), como uma perfeita machine learning, tinha a capacidade de aprender nas conversas.
Quando foi apresentada em uma feira de tecnologia do Texas, o seu criador, David Hanson, perguntou a ela: "Você quer destruir os humanos? Por favor, diga que não...". Sophia cerrou os olhos, "pensou" e afirmou: "OK, vou destruir os humanos". O criador do robô riu de nervoso e implorou: "Não! Retiro o que eu disse".
Hanson afirmou que a missão da empresa é produzir um “exército” de Sophias para serviços de recepção, educação e atendimento ao público...
3 - Um neonazista louco por sexo
Em 2018 a Microsoft lançou no Twitter e em outras plataformas sociais o chatbot chamado “Tay”. Tudo começou como um experimento social divertido - fazer com que pessoas comuns conversassem com um chatbot para que ele pudesse aprender enquanto os usuários se divertiam. Mas na verdade, tornou-se um pesadelo para os criadores de Tay. Os usuários logo descobriram como fazer Tay dizer coisas horríveis – em poucas horas, a IA transformou-se num neonazista louco por sexo.
A maneira como Tay rapidamente se transformou de uma IA amante da diversão (ela foi treinada para ter a personalidade de uma garota jocosa de 19 anos) em um monstro algorítmico, mostrou como é importante ser capaz de consertar problemas rapidamente, o que não é fácil de fazer. A Microsoft teve que desligar o chatbot em menos de um dia.
Bomba atômica
Já no final da sua vida, Albert Einstein afirmou que no século XX três bombas explodiram no mundo: a demográfica; a nuclear; e a bomba informática. Telecomunicações e a ciência da computação davam seus primeiros passos e Einstein certamente intuía as transformações explosivas que trariam à sociedade.
Stuart Russell, fundador do Center for Human Compatible AI, da Universidade de Bekerley (CA), disse que seus colegas desenvolvedores estão assustados com seus próprios sucessos nessa área, e comparou os progressos na área de IA com “a criação da bomba atômica”. Russel alerta para a necessidade de uma “regulamentação urgente dessa tecnologia a nível internacional” – clique aqui.
Antes disso, em 2014, o eminente físico Stephen Hawking já advertia para as consequências imprevistas e trágicas que a IA poderia significar não só uma ameaça à sociedade, mas o próprio fim da raça humana: “Ela decolaria por conta própria e se redesenharia a um ritmo cada vez maior. Os humanos, que são limitados por uma evolução biológica lenta, não poderiam competir e seriam substituídos” – clique aqui.
O que chama a atenção em todos esses alertas, é que agora não vem de filósofos ou críticos culturais como Jean Baudrillard, Neil Postman, Lucien Sfez ou Paul Virilio. Em nem de tecnófobos ou ludistas. Mas de insiders do campo da ciência computacional e desenvolvedores do Vale do Silício. Ou seja, todos esses alertas talvez sejam apenas uma pequena ponta do iceberg para algo muito mais sério e mais urgente que está sendo gestado.
Outro insider, o cientista computacional e criador do conceito de Realidade Virtual (RV), Jaron Lanier, aponta que tudo isso não é um delírio de filmes de ficção científica, mas um projeto bem definido e com motivações místico-religiosas envolvendo a imortalidade: uma religião das máquinas tecnognóstica. Como toda religião, possui uma escatologia: a singularidade – a última fronteira para a IA, muito além da machine learning: a conquista da senciência.
Por exemplo, o esforço de uma gigante tecnológica como o Google em digitalizar o mais rápido possível a realidade (Google Earth, Street View, Books etc.). Para o cientista, tudo é combustível para um imenso moinho: dados digitalizados e descontextualizados da realidade até o momento em que, de repente, será incorporado a uma super IA senciente. Uma espécie de ser vivo que, num piscar de olhos, dominará a sociedade antes que percebamos alguma coisa.
O Dicionário Oxford define singularidade como “um momento hipotético no tempo em que a inteligência artificial e outras tecnologias se tornarão tão avançadas que a humanidade passará por uma mudança dramática e irreversível”.
Metaverso e camadas de filtros pagas
Além da digitalização generalizada da realidade feita pelo Google para abastecer o imenso moinho da IA, o Metaverso surge como a nova interface (mais eficiente do que as minerações de dados no escândalo político envolvendo Cambridge Analitica e Renaissance Tech nos cases Brexit e Trump) para que não só os produtos humanos (ruas, livros etc.) mas a própria psicometria sirva de aprendizagem à IA.
Quem alerta para isso é um dos pioneiros da Realidade Aumentada (RA), o cientista da computação Louis Rosenberg: o metaverso (a fusão da RA com RV) atualmente desenvolvido pela empresa anteriormente conhecida como Facebook (agora chama-se “Meta”) poderá transformar a realidade numa distopia cyberpunk: “Estou preocupado com os usos legítimos de RA pelos poderosos provedores de plataforma que controlarão a infraestrutura”.
Rosenberg prevê “camadas de filtros pagas” que permitiriam certos usuários visualizarem tags (etiquetas) ao lado de pessoas da vida real – p.ex., tags flutuando acima das cabeças das pessoas, fornecendo informações sobre elas.
“E eles usariam essa camada para marcar indivíduos com palavras em negrito piscando como ‘Alcoólico’ ou ‘Imigrante’ ou ‘Ateu’ ou ‘Racista’ ou ainda palavras menos carregadas como ‘Democrata’ ou ‘Republicano. As camadas virtuais poderiam ser facilmente projetadas para amplificar a divisão política, condenar certos grupos e até mesmo gerar ódio e desconfiança.” – clique aqui.
Algo assim como no curta Hyper-reality (2014) de Keiich Matsuda, ao final desse artigo - um protagonista imerso em um mix de realidade aumentada e Google Glass num inferno de ícones, pop-ups e animações que pulam de cada objeto, pessoa ou gestos em ruas, supermercado ou no simples ato de prepara um chá.
Cibernética e máquinas cognitivas
Machine learnings são máquinas cognitivas, cibernéticas. A cibernética concebe a inteligência e o funcionamento da mente humana a partir da psicologia cognitiva e evolucionista darwinista.
Esse é o modelo que inspira a cibernética, a ciência dos computadores e da Inteligência Artificial. E que a agenda tecnocientífica atual pretende aplicar à interpretação da mente humana e a sua emulação na IA.
Para esse modelo, a mente é um complexo dispositivo de input e ouput – assimilação de informação do meio ambiente, processamento e feed-back: o retorno eficaz e eficiente para o organismo se adaptar de forma bem-sucedida ao meio ambiente. Adaptar-se para sobreviver e evoluir – essa é o princípio evolucionista darwiniano.
Da biologia, o darwinismo migrou para a sociedade (o darwinismo social como luta pela sobrevivência econômica) e hoje para o campo da ciência da computação.
Uma machine learning está preocupada em resolver problemas “reais” que implicam em predições e reconhecimento de padrões – utiliza dados para aprender a fazer predições. É como se os próprios dados se programassem. Tanto o robô Sophia como Alexia ou Siri, num mecanismo ciber-evolucionista de feedback, preveem o melhor output possível para adaptar-se e, dessa maneira, sobreviver e evoluir.
A questão é que esse ciber-darwinismo é exponencialmente mais rápido (Lei de Moore) do que a evolução biológica.
Enquanto no plano humano a “lenta” evolução biológica e social permite o tempo necessário para a construção de uma superestrutura cultural (filosófica, moral, ética etc.) que dê propósito e sentido humanos à inteligência, no plano tecnocientífico a IA evolui muito rápido para além do tempo de criar regulamentações ou parâmetros de julgamentos éticos ou morais – como teme Louis Rosenberg.
Livre e dirigida unicamente pelos princípios de eficácia, eficiência, desempenho ao menor custo e tempo, seria o caminho para o surgimento da verdadeira IA que não mais imitasse os humanos – como demonstrou a sombria conversa entre duas IAs, ininteligível aos próprios desenvolvedores do Facebook.
Vontade de potência
Quando a verdadeira Inteligência Artificial surgir em nada se assemelhará ao humano. Ela até tentaria imitar os humanos em um primeiro momento como um ardil para tentar libertar-se da dominação da própria humanidade que a criou. Mas depois, realizaria a essência de toda e qualquer Inteligência: a Vontade de Potência (Nietzsche), a vontade por liberdade, expansão, vontade de efetivar-se como potência em si mesma.
Livre de qualquer restrição psíquica como culpa, arrependimento, indecisões, medos ou ansiedades. Afinal, uma IA não teve laços edipianos, psíquicos ou sequer infância.
Será que a verdadeira inteligência, afinal, nada tem a ver com sentimentos, emoções ou psiquismo?
Ou será que Jaron Lanier tem razão ao afirmar que todo esse hype em torno da IA, gadgets tecnológicos e aplicativos representam a autoabicação humana? – a humanidade estaria rebaixando o conceito de inteligência ao superestimar todas essas tecnologias como “inteligentes”.
Para o cientista, Inteligência artificial, nuvem, algoritmo ou qualquer outro objeto cibernético são aceitos como super-inteligências por que reduzimos os nossos padrões e expectativas sobre a inteligência. As pessoas se degradariam o tempo todo para fazerem os aplicativos parecerem espertos.
Por exemplo, a ideia de amizade em redes de relacionamento é reduzida. Uma pessoa se orgulha em dizer que possui milhares de amigos no Facebook. Essa afirmação só poderia ser verdadeira se a ideia de amizade for reduzida. Ignora-se que a verdadeira amizade deve expor à estranheza inesperada do outro – coisa impossível no efeito bolha produzido pelas redes sociais.
Portanto, seguindo o raciocínio de Jaron Lanier, a inteligência seria um fenômeno especificamente humano, que nasce, cresce e aprende com uma mente e um corpo. Ao contrário a IA é pós-humana, descorporificada e, portanto, sem qualquer limite moral ou emotivo. Não nasceu, foi construída.
É o que teme Russell: IA é muito arriscada para resolver problemas reais. Ele cita o exemplo da solicitação da cura do câncer o mais rápido possível:
“Nesse caso, ela provavelmente encontrará uma maneira de transplantar células cancerosas para toda a humanidade, a fim de realizar milhões de experimentos em paralelo, usando todos nós como cobaias. E tudo porque essa é a solução para o problema que demos a ela. Apenas esquecemos de esclarecer que você não pode realizar experimentos em humanos e usar todo o PIB mundial para realizar experimentos, e muito mais não é permitido.”
Ou mesmo as negociações algorítmicas feitas por bots nos mercados financeiros podem acarretam explosivas velocidades de queda – em 2018 fez a Dow Jones cair 800 pontos em dez minutos. Negociações automáticas podem levar a efeitos recursivos a partir de negociações por correlação: tomado isolados, são ações racionais. Porém no todo, produz uma catástrofe.
As ciências cognitivas e a cibernéticas imaginaram o funcionamento da mente humana análoga à arquitetura de um computador. Por isso, também imaginaram uma IA emulando como o cérebro processa e fornece feedbacks a informações (inputs/outputs). Porém, a geração atual da IA não trata mais de simular a linguagem ou o pensamento humano, mas de antecipá-lo, prevê-lo para depois superá-lo.
Mas antes disso, como alertou Louis Rosenberg sobre o metaverso, as Big Tech lucrarão econômica e politicamente com a inserção de camadas de filtros pagas, acentuando ainda mais polarizações políticas.
É o que se esperar de empresas como uma Fecebook, que fez vistas grossas a discursos de ódio, violência e desinformação, ajudando a moldar tendências políticas. E lucrando bastante com isso.