A mais recente visão distópica da revolução digital é The Social Dilemma. Um documentário, com inserções ficcionais, na minha opinião unilateral e maniqueísta demais. Faltou-lhe a primeira lei do jornalismo, ouvi o outro lado. É uma regra que não tem aplicação universal. Não se houve estupradores, para relatar estupros, por exemplo. Mas, onde o outro lado tem argumentos válidos, ponderáveis, observá-la é uma obrigação moral. Creio que é, também, para todo documentário que se preze, mesmo não sendo feito por jornalistas profissionais. No caso das redes e da sociedade digital, abundam bons argumentos a seu favor, sem romantismo e longe da síndrome de Poliana. A distopia, entretanto ajuda a pensar o mundo criticamente. Tem seu papel na crítica cultural. Como, também, a utopia, que nos ajuda a sonhar com um mundo ideal, estabelecendo um alvo móvel, inalcançavel, mas que nos estimula a lutar por ele.
A ficção científica tem numerosas distopias com robôs e inteligência artificial (IA). O primeiro filme distópico que vi, nesta linha, foi Metropolis, de Fritz Lang, um clássico do cinema expressionista alemão, em um curso com Paulo Emílio Sales Gomes, na Universidade de Brasília, sobre o expressionismo alemão no cinema. Lançado em Berlim, em 1927, durante a República de Weimar, Metropolis assombrou as plateias com Maria, um robô numa metrópole futura que simbolizava o operário mecanizado, dividida entre os industrialistas da cidade de cima e os operários da cidade de baixo. Maria, seduz e engana. Como esquecer o icônico HAL, o computador com IA avançada, Hal 9000, imaginado por Arthur C. Clark em seu extraordinário filme de 1968, dirigido por Stanley Kubrick, 2001: uma odisseia no espaço, que também tem uma versão em livro, no Brasil, está publicado pela Aleph. Foi o primeiro artefato dotado de inteligência artificial a matar seres humanos, que eu saiba. No comando de uma nave espacial ele cria sua própria interpretação das ordens nele programadas e se transforma de maravilha tecnológica em um pesadelo e mortal.
Clark não era apenas um escritor especulativo e via vantagens no avanço da ciência e da tecnologia. Não era contra o avanço científico e tecnológico. Era um visionário, premiado por popularizar a ciência, que conhecia muito bem, tinha formação em matemática e física e, desde a juventude, se interessou por astronomia e viagens espaciais. Naquele tempo, anos 1960, queria apenas tratar atenção da ambivalência de certas inovações, um tema que estava no foco dos debates em torno da ciência. Era o auge da Guerra Fria e da détente nuclear. Discutia-se esta natureza ambivalente dos avanços científicos, o que os americanos chamariam de um mixed blessing, algo que pode servir tanto para o bem, quanto para o mal. O gatilho desta discussão eram os foguetes-mísseis V2 da Alemanha Nazista na 2a Guerra e a bomba atômica, não só por causa de Nagasaki e Hiroshima, mas também pelos testes explosivos, que terminariam banidos pelo Tratado de Não-Proliferação.
Isaac Asimov, outro autor que tinha intimidade com a ciência, era professor de bioquímica da universidade de Boston, tinha graduação e doutorado em ciências pela universidade Columbia. Asimov tratou desta ambivalência das tecnologias sobretudo na robótica, na coletânea de contos I Robot, e das possibilidades de previsões sociopolíticas por meio da aplicação das ciências sociais, na trilogia Foundation, à qual, quase vinte anos depois, adicionou mais dois volumes. Em I Robot, ele criou as “três leis da robótica”, imaginadas como medida de precaução para evitar que os robôs se voltassem contra os humanos. Mas, a capacidade de “aprender” com a Inteligência Artificial permitiu que reinterpretassem a vedação de fazer mal a humano, diante de situações ambíguas nas quais a aplicação das três leis não era inequívoca.
Asimov investiga ficcionalmente os dilemas lógicos e éticos da robótica avançada estão na magistral coletânea de contos, não por acaso, também um cult da literatura de ficção científica, publicada originalmente nas revistas do gênero, entre 1940 e 1950, ano de publicação do livro, no Brasil, saiu recentemente pela Aleph, que também pubicou a trilogia de Fundação. Outro autor de ficção científica, Harlan Ellison escreveu um roteiro, com participação de Asimov, nos anos 1970, para filmar I Robot. O filme deveria sair no ano seguinte ao lançamento do primeiro Star Wars, mas não chegou a ser produzido. A versão de 2004, com Will Smith não tem relação com o script original, nem com a obra de Asimov. O roteiro acabou publicado como seriado na revista Asimov’s Science Fiction, dez anos depois. Saiu como livro, em 1994, uma publicação cult, ilustrada, hoje difícil de encontrar nas livrarias e mesmo nos sebos. Esses detalhes não são ociosos, nem fruto de minha evidente paixão pela ficção científica, eles mostram há quanto tempo se discutem os dilemas morais das inovações da ciência e da tecnologia.
O código de conduta escrito por Asimov, apareceu em numerosas obras de outros autores de ficção. A estética expressionista de Fritz Lang e os dilemas morais da robótica expostos por Asimov influenciaram criadores como Ridley Scott, diretor do cult Blade Runner (1982). Nele, replicantes, andróides nascidos da bioengenharia avançada, também seduzem e matam. No filme, baseado no livro Do Androids Dream of Electric Sheep? (1966), de outro grande autor da ficção científica, Phillip K. Dick, os andróides replicam perfeitamente a figura humana e foram criados para o trabalho escravo, em condições aspérrimas. O livro de Dick tem tradução, publicada pela Aleph, com o título de Blade Runner e o título original como subtítulo. Com data de morte pré-programada para evitar que dominem o mundo, os replicantes se rebelam e são perseguidos pela polícia. Matam e morrem. Na cena final, Roy Batty, o replicante interpretado Rutger Hauer faz um breve monólogo, na verdade um improviso do ator, “Lágrimas na chuva”. É um exemplo esplêndido da ambivalência daqueles seres nem mais mecânicos, nem ainda humanos. No seu adeus, tão celebrado quanto o próprio filme, ele fala do que viu e os humanos desconhecem e lamenta “todos esses momentos se perderão no tempo, como lágrimas na chuva. Hora de morrer”.
A visão do conflito de classes entre capitalistas e proletários, estava presente no espírito daqueles tempos, de polarização entre socialistas e fascistas. Maria, um fembot, robô com formas femininas, é chamada de máquina humana por seu criador, o cientista Rotwang, que enlouquece ao final. No roteiro original, escrito pela então companheira de Lang, Thea Gabriele von Harbou, Maria tinha o sugestivo nome de Futura. Há uma versão em livro, com tradução no Brasil, pela Aleph. A Maria humana, era uma liderança emergente da cidade baixa, que prometia um futuro melhor a seu povo. A robô devia intervir no conflito entre o vilão capitalista, Joh Freder, e os operários, como mediadora. Metropolis é mais uma crítica humanista do progresso que oprime e explora, com influências de sua época e, ao mesmo tempo, uma criação visionária. No prólogo do filme encontra-se a pista da visão de Metropolis sobre o conflito e sobre o progresso técnico: “o mediador entre o cérebro e as mãos tem que ser o coração”.
Os socialistas da época criticaram fortemente essa visão “reformista”, que supunha ser capaz de instilar sentimento e sensibilidade na máquina de exploração capitalista. H. G. Wells, autor de ficção científica e ensaísta do socialismo-fabiano britânico, escreveu que Metropolis era o filme mais tolo possível, “não se pode fazer um retrato socialmente consciente no qual se diz que o intermediário entre as mãos e o cérebro é o coração”. Siegfried Kracauer, famoso crítico alemão da Escola de Frankfurt, achava que Metropolis promovia o fascismo. Em From Caligari to Hitler, escreveu que “ele dá a impressão de que Freder é convertido por seu pai [Joh Fredersen], mas na realidade o industrialista foi mais esperto que o filho”. Goebbels ofereceu, realmente, emprego a Fritz Lang, de mãe judia, que fugiu da Alemanha por causa disso. Fritz Lang era antifascista e um reformista social. Alguns críticos atribuem a admiração de Goebbels e Hitler às inclinações nazistas de Thea. Quando Lang deixou a Alemanha, eles se separaram e ela continuou no país dominado por Hitler e próxima ao governo. Lang depois passaria a odiar o filme por causa dessa associação.
Metropolis é uma interpretação distópica do avanço da mecanização, da exploração do trabalhador e da concentração industrial e urbana, em imagens futuristas impressionantes e muito próximas do art-deco e da estética Bauhaus. O filme é mais inteligente e ambíguo do que tentam nos fazer crer os críticos ideológicos, à esquerda e à direita. Maria, a fembot, é construída à imagem da mãe de Freder, Hel, pela qual tanto seu pai, quanto o inventor Rotwang eram apaixonados. Mas, Joh manda que Rotwang faça seu rosto igual ao de Maria, para que ela desça à cidade baixa e engane os operários, dissolvendo a rebelião que se armava. A sala da caldeira, onde as máquinas operam, que aparece como um gigantesco monstro devorador, se chama Sala do Coração. Frede vê uma explosão matar os operários da sala das máquinas e busca Maria, que prega uma rebelião pacífica. Mas, o pai manda a robô para as catacumbas, personificando Maria, para enganar os trabalhadores. Tem sucesso e os operários enraivecidos explodem a caldeira, provocando catastrófica inundação da cidade baixa. A verdadeira Maria consegue salvar as crianças dos operários e levá-las para local seguro. Os trabalhadores se voltam contra a fembot e a queimam. Frede intermedia as negociações entre eles e o pai. Talvez seja o sucesso da conciliação o aspecto que mais encanta os nazistas, a ideia de que o conflito de classes possa ser contido pela persuasão vinda de cima. Há, contudo, outros elementos inspirados em concepções da esquerda da época. Metropolis é tão ambíguo como a Maria mecatrônica.
Maria, a fembot senciente, que sente e tem impressões, para o bem e para o mal, continua a nos assombrar. Pris, a replicante de Blade Runner, interpretada por Daryl Hannah é violenta, mas ela e Roy têm uma relação terna. A outra replicante, Rachael, interpretada por Sean Young, é uma personagem mais indecifrável. Experimental, ela tem memórias implantadas que a fazem acreditar-se humana. Ela e Decker, o personagem de Harrison Ford, matador de replicantes, desenvolvem uma relação afetiva.
Em Ex-Machina, a ginóide Ava, uma andróide feminina, interpretada por Alicia Vikander, é sedutora, enganadora e matadora. Creio que a mais recente ginóide das telas é Arisa, da série russa Better than Us (Netflix). Arisa (Paulina Adreeva), que usa explicitamente as três leis da robótica de Asiov. Ela é perseguida por vários grupos diferentes, que desejam usá-la para seus próprios fins. Dotada de muitos poderes e algumas fragilidades, ela termina por adotar como sua e a proteger a família do legista Georgy Safranov (Kirill Kyaro). O mundo está robotizado no setor de serviços, mas Arisa é “melhor” que todos. Ela é criada pela empresa Chronos, de Viktor Toropov (Aleksandr Ustyugov), que faz babás bots e sexbots. Arisa é a mais nova versão das ginóides destinadas a dar prazer sexual a seus donos. Mas, quando um empregado tenta fazer sexo com ela a força, a ginóide se revolta e o mata. Ela não respeita a primeira lei da robótica de Asimov, de não fazer mal a humanos. Foi ensinada a desobedecê-la. Na trama, as ambivalências da andróide vão sendo exploradas.
Que as máquinas não fazem só o bem, é notório. Basta ver, além das guerras, a destruição ambiental, as emissões de gases estufa e as mortes por acidentes no trânsito. Elas nos levaram a novos patamares de bem-estar e de mal-estar. Os algoritmos que nos induzem a consumir, polarizar, permanecer por mais tempo que o saudável nas redes, servem para garimpar grandes massas de dados e nos ajudam a resolver problemas complexos, para além do humanamente possível. Por trás de sua “maldade” tecnológica, sempre haverá seres humanos. Da bondade, também. Não há de ser diferente com os robôs, andróides, ginóides e equivalentes. A tecnologia sempre será, por muito tempo, uma mistura complexa de bem e mal. Não é argumento para abandoná-la, mas para regulá-la e se precaver contra o seu mau uso. Não deverá ser diferente com a sociedade digital, a inteligência artificial, a robótica e os andróides que sonham com ovelhas elétricas.
