Entre o lixo psíquico digital e a censura na Internet no documentário "The Cleaners"

Facebook, Google e Twitter, assim como as empresas de tecnologia em geral, passam uma imagem de serem “limpas”. Mas assim como o lixo eletrônico é enterrado longe dos nossos olhos em países africanos, empresas terceirizadas escondem o lixo psíquico das redes sociais. O documentário “The Cleaners” (2018) acompanha trabalhadores terceirizados de Manila (Filipinas) que fazem a moderação dos conteúdos das redes sociais: vídeos terroristas, auto-mutilação, pornografia infantil e suicídio ao vivo são submetidos ao código binário “excluir/ignorar”. Um lixo psíquico tão tóxico que muitos funcionários se matam ou se afastam por sérios transtornos psíquicos. Mas também a terceirização dos serviços de moderação se torna uma forma secreta de censura e filtragem da realidade, modelando nossa percepção do mundo de acordo com os propósitos das gigantes do Vale do Silício. Com a terceirização, elas acabam se eximindo de qualquer responsabilidade, seja legal, política ou humana.

Para o engenheiro de computação e insider do Vale do Silício, Jaron Lanier, as gigantes Facebook, Google e Twitter têm uma agenda tecnológica bem clara: alcançar um ponto de singularidade tal que a Internet se transforme numa entidade autônoma, senciente, onisciente e onipotente. 

Se essa hiper Inteligência Artificial for criada por seres humanos à nossa imagem e semelhança, certamente irá levar consigo não apenas o nosso intelecto. Essa singularidade tecnológica também carregará dentro de si o nosso id, o magma do inconsciente com todas as nossas pulsões, desejos, fantasias. Mas também toda a sombra psíquica: pesadelos, perversões, violência e impulsos instintivos mais nefastos e autodestrutivos.

E, mantendo essa espécie de versão expandida e autônoma do nosso aparelho psíquico, essa hiper Inteligência Artificial deverá obrigatoriamente contar com instâncias de superego – formas de reprimir, denegar ou, simplesmente, excluir da consciência essa lava que sobe do vulcão do inconsciente.

Um serviço que deve ser secreto e anônimo, porque é sujo e, muitas vezes, imoral. Afinal, assim como criamos a melhor imagem de nós mesmos em nossas relações com os outros, também essa hiper IA vai querer mostrar seu melhor lado para os usuários: a hiper IA existe para que cada um compartilhe seus melhores sentimentos e experiências com os outros em qualquer ponto do planeta.

Essa instância secreta do superego digital das gigantes do Vale do Silício já existe: são os “cleaners”, empresas terceirizadas para fazer a moderação dos conteúdos do Facebook, Youtube e Twitter. Em geral, sediadas em lugares pobres e periféricos como em Manila, Filipinas.

Para os candidatos a esse trabalho, conta o glamour de trabalhar em empresas de tecnologias em prédios pós-modernos espelhados e um salário acima da média de um país pobre. Mas o custo psíquico de assistir em média 25 mil fotos e vídeos por dia, para julgar se deve ser ignorado ou excluído, é alto: depressão, suicídio ou apatia emocional. 

Mas, consideram-se importantes, pois são moderadores que protegem a sociedade de ver postagens de crimes, conteúdo sexual impróprio e discursos de ódio. Pelo menos, é o que é inculcado nas cabeças desses empregados durante o treinamento.

O Documentário

É sobre esse tema que trata o documentário The Cleaners (2018), dirigido pelos cineastas, ensaístas e músicos alemães Hans Block e Moritz Riesewieck e com produção-executiva dos brasileiros Fernando Dias e Maurício Dias. 

Sob a aparência que as gigantes tecnológicas criam de que todo o conteúdos das redes são monitorados automaticamente por algoritmos, machine learnings ou motores de busca, empresas como Facebook escondem, por meio da terceirização, de que quem na verdade faz esse trabalho sujo (que muitas vezes implica em censura política) são empresas terceirizadas em regiões periféricas do centro tecnológico do planeta.

Mas o documentário apresenta um quadro ainda mais preocupante: num contexto atual de ascensão das fake news, bolhas virtuais, escândalos de invasão de privacidade das informações como no caso Cambridge Analytica e a polarização política mundial, poderíamos pensar que estes gigantes da Internet empregam exércitos de especialistas altamente treinados para agir como guardiões das nossas sensibilidades.

Mas The Cleaners mostra que não é bem assim: são pessoas comuns, que passam por um rápido treinamento e que terão que trabalhar apenas com as opções “ignorar”/”excluir”, submetidos a uma jornada diária de milhares de fotos e vídeos de pornografia, violência, mortes e suicídios, muitas vezes ao vivo. 

Em questão de segundos, terão que descobrir as complexidades de, por exemplo, a diferença entre pornografia e a charge política de Trump nu, ou fazer o juízo sobre liberdade de expressão e discurso de ódio. Decisões editoriais sutis e altamente contextuais que devem ser tomadas em cerca de oito segundos!

The Cleaners inicia mostrando o perfil sócio cultural de um grupo de moderadores da região da capital das Filipinas, Manila. Seguem-nos nos seus trajetos de casa para o trabalho – famílias pobres que dependem do salário do moderador. 

Muitos deles remexem no lixo para reciclar e ganhar alguns trocados. A ironia é que “os cleaners” são a elite local que estudou para fugir do lixo físico. Para depois sobreviverem remexendo o lixo psíquico da Internet.

Eles são anônimos e propositalmente escondidos por camadas de empresas terceirizadas pela gigantes do Vale do Silício. Essa é mais uma ironia do documentário: empresas de tecnologia têm a imagem de serem “limpas” por desenvolverem uma tecnologia “não poluente”. Mas, assim como o lixo eletrônico altamente poluente de baterias e componentes eletrônicos são enterrados em contêineres em países africanos, da mesma forma o trabalho sujo de remexer o lixo psíquico tóxico é terceirizado por empresas de países do terceiro mundo ou periféricos.

Mostra como uma moderadora católica fundamentalista exclui todo e qualquer nu, independente do contexto, linguagem ou propósito.

Enquanto essa fundamentalista considera seu sofrimento um sacrifício necessário na luta bíblica do Bem contra o Mal, outros moderadores não aguentam: ou se matam (como no caso de um funcionário que se enforcou diante do seu laptop), ou pedem demissão, levando consigo sérios transtornos psíquicos. Claro que a estratégia de terceirização do Vale do Silício também é uma forma de se eximir de toda e qualquer responsabilidade pelos danos ocupacionais.

Censura secreta

Mas tudo isso é apenas o começo. The Cleaners descreve como essa terceirização dos moderadores se transforma num tipo secreto de censura contra os usuários de todo o planeta – mais do que isso, os moderadores involuntariamente acabam modelando a própria realidade ao nosso redor.

Por exemplo, a icônica foto da Guerra do Vietnã (mostrando uma menina nua caminhando numa estrada, com o corpo queimado por Napalm) jamais seria publicada nas atuais redes sociais. Aquela foto de 1972, com impacto suficiente para aumentar os protestos pelo fim da guerra, hoje seria “excluída” – um pequeno exemplo de como o real é filtrado por essas empresas, censurando notícias sob o pretexto de bloquear “conteúdos extremos ou ofensivos”.

Mas, ao mesmo tempo que exclui notícias sobre o mundo real, por outro lado premia feedsde discursos de ódio e selfies de extremistas por angariar mais likese compartilhamentos.

Paradoxalmente, de tanto verem violência, muitos moderadores se tornam apáticos e indiferentes ao discurso de ódio. Como na onda de racismo e genocídio em Mianmar (antiga Birmânia) contra a minoria Rohingya – vídeos de espancamentos, estupros coletivos e incêndios são ignorados. Principalmente devido a uma contradição interna do próprio serviço de moderação: se os moderadores cometem erros, são punidos. Mas se eles não permitirem exibir o suficiente destas imagens extremas durante seu turno, também estão em apuros. 

Acordos com governos de extrema direita

Em The Cleaners são revelados acordos das gigantes da Internet com governos de extrema direita, como no caso da própria Filipinas, sob o governo de Rodrigo Duterte – incentivador de esquadrões da morte para matar milhares de pessoas associadas ao tráfico de drogas, além de se dizer “curado” de se tornar gay. 

Postagens de fotos e vídeos das chacinas policiais e de milícias são excluídas pelos moderadores (para não prejudicar a imagem do Governo), enquanto vídeos pornográficos de uma banda de rock de strippers que apoia explicitamente Duterte são liberadas.

Em estética cyberpunk, figurando a cidade de Manila e as empresas de tecnologia em cenários que lembram o filme Bladerunner,The Cleaners pinta um retrato sombrio de como esse paradigma da terceirização tecnológica e de relações trabalhistas está arruinando a própria democracia – empresas poderosas cinicamente não se responsabilizam por nada, como o documentário apresenta: vemos sessões no Congresso onde senadores questionam CEOs do Facebook, Twitter e Google, nas quais fogem de quaisquer responsabilidades, simplesmente dizendo que algumas decisões dessas empresas de moderação podem ser “tristes”.

Esses CEOs (e seus próprios bilionários empregadores) podem não se responsabilizar por nada ou fazerem ares de surpresos. Mas a questão é que, assim como nos cassinos de Las Vegas, quem banca o jogo nunca perde – todos os “erros” dessas pequenas empresas prestadoras de serviço sempre beneficiam a elite do Vale do Silício.

Essa mínima constatação já seria suficiente para enquadrar legalmente essas empresas.

Abaixo, o documentário com legendas em alemão. Pode ser configurado com legendas geradas automaticamente em português.

Como o documentário possui muitas entrevistas com moderadores filipinos, clique aqui para o documentário com legendas em inglês.

Ficha Técnica

Título: The Cleaners (documentário)

Diretor: Hans Block e Moritz Riesewieck

Roteiro:  Hans Block e Moritz Riesewieck

Elenco:  Mark Zuckerberg, Donald Trump, Nicole Wong, Sarah Roberts, Ed Lingao

Produção: Gebrueder Beetz Filmproduktion, Grifa Filmes

Distribuição: Lighthouse Home Entertainment

Ano: 2018

País: Alemanha/Brasil

Postagens Relacionadas

Em “Brexit” as relações perigosas entre ficção e realidade

Inteligência artificial como novo espelho individualista em “HyperNormalisation”

Alarme do Ciberespaço! Tempo real destruirá a Democracia

Curta da Semana: “Epic Fail” – quando o deserto do real implode os algoritmos das redes sociais

Posted in: Cibercultura, Cinema europeu, Documentário, Niilismo, Novas tecnologias