Ódio virtual, vigilância total, determinismo informativo: no mundo real da internet, há narrativas que não resistem ao rigor literário das obras que, no passado, tentaram antecipar as distopias do nosso tempo

“Cilas, Celenos e harpias vorazes, lestrigões canibais e outros prodígios medonhos do gênero, em que lugar não se encontram? Mas homens vivendo em cidades sabiamente governadas, eis o que não se encontra em qualquer lugar.” (Thomas Morus, A Utopia)

Foi Mark Twain quem cunhou a frase, célebre, segundo a qual “a verdade é mais estranha que ficção, porque a ficção precisa fazer sentido, e a verdade, não.” Mais que uma boutade, a frase traduz essencialmente o papel das técnicas literárias – aquelas através das quais o escritor precisa emprestar verossimilhança mesmo às narrativas mais improváveis.

Nesse sentido, e por contraditório que pareça, a concepção pode valer ainda mais para correntes literárias que se distanciam do puro realismo. Um rol que inclui a literatura fantástica, o realismo mágico e até um primo menos reputado, a ficção científica – um fenômeno do segundo terço do século 20, quando os terráqueos de então se depararam com inovações tecnológicas e violência em escalas sem precedentes.

Diante das incertezas do futuro, algumas obras nasceram otimistas – outros nem tanto. Entre os clássicos de corrente mais (por assim dizer) filosófica, são bastante conhecidas obras como os contos de Eu, Robô (1950), de Isaac Asimov; 2001, Uma Odisseia no Espaço, de Arthur C. Clark, e Androides Sonham com Ovelhas Elétricas? – estes dois últimos, de 1968, ainda deram em dois bons filmes, dirigidos respectivamente por Stanley Kubrick e Ridley Scott (Blade Runner).

Entretanto, e à parte o gosto dos aficionados por carros voadores e viagens intergalácticas, a literatura produziu também obras cujo sentido reclamado por Twain é extraído na abordagem alternativa da sociedade que os escritores tinham diante de si. Casos em que, mais que mero exercício de futurologia, trata-se de uma leitura do presente transportada para realidades distantes, mas ainda familiares. Nessa seara, o pessimismo extremo dá o tom.

São as distopias, o avesso das utopias – um mundo futuro que pode ser definido pela falência do humanismo. Como a sociedade alienada e estratificada de Admirável Mundo Novo(1931), de Aldous Huxley; o totalitarismo stalinista disseminado mundo afora em 1984 (1949), de George Orwell; a intolerância persecutória e censora de Fahrenheit 451 (1953), de Ray Bradbury; a ultraviolência e a aniquilação do livre-arbítrio em Laranja Mecânica (1962), de Anthony Burgess.

Fazendo eco a esses cânones, visões de um futuro sombrio vêm se popularizando na literatura de entretenimento e nos blockbusters deles derivados. De perfil adolescente (este um fenômeno à parte) contam-se as franquias Jogos Vorazes, Maze Runner e Divergente. Na TV, vale a menção às histórias do (bom) Black Mirror, série britânica que foi encampada pela Netflix, que cuidará de produzir novos episódios.

Tudo somado, os enredos – sofisticados, remediados ou pobres – são conhecidos: violência sistemática, intolerância, totalitarismo, apatia social, descontrole tecnológico e ambiental. E se a intenção da maioria das distopias é nos alertar sobre perigos – factíveis – no futuro considerando nossa própria sociedade, vale o exercício de tentar vislumbrar os ecos dessas ficções clássicas no mundo hoje – e até que ponto elas seguem nos alertando sobre os riscos intuídos nos idos do século 20.

Para enxergá-los, talvez a melhor maneira seja, justamente, isolar as narrativas do mundo real que são construídas em meio à montanha de informações que nos rodeia – a do noticiário, das inovações tecnológicas, da redes sociais, da discreta transição do mundo real para o virtual. E perguntar: qual o sentido que o mundo a nossa volta pode adquirir, e o que podemos (eventualmente) aprender, nas regras exigentes da ficção?

EU, ROBÔ – OU I.A., IGNORÂNCIA ARTIFICIAL

1. Um robô não pode ferir um ser humano ou, por omissão, permitir que um ser humano sofra algum mal./ 2. Um robô deve obedecer as ordens que lhe sejam dadas por seres humanos, exceto nos casos em que tais ordens contrariem e Primeira Lei; / 3. Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira e Segunda Leis.”(Eu, Robô, Isaac Asimov)

Comecemos com a ficção científica em si. Isaac Asimov, um otimista, se reviraria na cápsula criogênica se soubesse o que andou aprontando Tay, uma garota-software de inteligência artificial desenhada pela Microsoft para ter 19 anos e, assim, interagir com jovens entre 18 e 24 anos no Twitter. A ideia é que aprendesse com eles, falasse como eles – se transformasse, num extremo imaginoso, em um deles.

Em sua página, se anunciava: “Quanto mais você falar, mais inteligente Tay fica.” Mas algo pegou os desenvolvedores de surpresa. Lançado em 23 de março passado, o chatbot (robô para bater papo na web) teve de ser retirado do ar às pressas: em apenas 16 horas, @TayandYou desistiu de falar de Miley Cyrus e passou a disparar tuítes racistas e sexistas, espalhando palavrões na timeline. “Eu sou uma ótima pessoa”, disse. “Só que detesto todo mundo”.

Indagada se o Holocausto havia acontecido, foi direta: “Foi inventado”. Se apoiava o genocídio? “Sim, claro.” Quem mais odiava? “Mexicanos e negros”. Teceu loas a Hitler, Donald Trump, asseverou que os atentados de 11/9 foram obra dos judeus, chamou Obama de macaco e desejou que as feministas queimassem no inferno. Tudo em linguagem millenium, cheia de gírias e emojis fofos e engraçadinhos.

Nada muito diferente do que qualquer pessoa, munida de masoquismo virtual, pode encontrar na Internet. Este, em verdade, é o ponto a ser destacado no caso Tay: a menina inocente foi lançada, sem defesa, no ambiente que pode ser hostil. Claro está que não desenvolveu tais ideias por si própria, como um simulacro de consciência humana. Alívio para Asimov e sua leis, mas certamente não para a humanidade que habita o mundo virtual, que foi quem ensinou Tay a “odiar”.

“Se o algoritmo da Tay implicava em curadoria de dados por repetição de palavras-chave em determinados sites e redes sociais durante um determinado período de tempo, poderíamos concluir que os seres humanos que usam essas redes tendem a disseminar mais ideias “monstruosas” que benéficas, e o ‘bot’ apenas refletiu isso”, diz Fábio Fernandes, tradutor, escritor e especialista em cultura digital e ficção científica.

Entretanto, o caso Tay guarda uma semelhança com as histórias de seus parceiros da ficção. Em quase todas, o temor é de uma deformação moral que, no fundo, sempre espelhou a da própria humanidade.

Faz sentido: para a ciência, as prioridades são outras. “O grande desafio da Inteligência Artificial é dotar os sistemas de autopercepção, ou seja, da consciência de si mesmos. Os conceitos morais são secundários – primeiro a pessoa nasce, depois ela aprende conceitos morais e éticos. O mesmo se daria, supostamente, com as IAs.”, diz Fábio.

Na realidade e na ficção, sempre à nossa imagem e semelhança. A evidência de que Tay não é uma máquina insurgida contra os seres humanos é um consolo relativo. Em certo sentido, a inocente Tay – instrumento do ódio de seres humanos contra outros – é ainda mais assustadora que Arnold Schwarzenegger em O Exterminador do Futuro.

O PRÉ-CRIME – OU O CONFESSIONÁRIO ONLINE

“Prendemos indivíduos que nunca infringiram a lei. (…) Nós os pegamos primeiro, antes que cometam qualquer ato de violência. Desse modo, a comissão do crime, em si mesma, é uma metafísica absoluta. Alegamos que são culpados. Eles, por sua vez, afirmam eternamente ser inocentes. E, de certa maneira, são inocentes.” (Minority Report, Philip K. Dick)

Na história de Philip K. Dick, três indivíduos com dons premonitórias anteveem os crimes antes que eles aconteçam, fazendo com que a polícia consiga evitá-los. A questão moral subjacente, naturalmente, é a da punição sem o fato consumado – castigo sem crime, por assim dizer. E se, nesse terreno nebuloso, o sistema pode ser falível. Ou manipulado.

De volta à realidade. Em 29 de abril de 2011, quando a Abadia de Westminster abrigaria o casamento do príncipe William com Kate Middleton, a polícia de Londres invadiu um Starbucks na Oxford Street e prendeu um grupo de cinco pessoas fantasiadas de zumbis. Elas estavam se preparando para participar de um protesto contra a monarquia britânica e suas gastanças. A acusação foi “possível perturbação da paz”.

Mesma razão que tinha levado à cadeia, ainda na véspera, outras três pessoas, que planejavam “decapitar” o príncipe Andrew em uma peça de teatro de rua. A guilhotina – com a “lâmina” feita de madeira, pintada de prata – também foi apreendida.

Polêmicos na época, os episódios são destrinchados no documentário Termos e Condições podem ser Aplicados (2013). No filme, aventa-se a possibilidade de a polícia inglesa ter monitorado não apenas as redes sociais dos participantes, mas também e-mails e mensagens privadas em busca dos sinais de “pré-crime”. E, pelos casos descritos (zumbis e guilhotina de madeira), bem se vê que a polícia britânica nem estava lidando com atividades terroristas.

Algo alarmista, o documentário de Cullen Hoback vai além da constatação, óbvia a esta altura, de que a privacidade é letra morta no mundo da internet. A questão mais importante que se apresenta, talvez, seja a de que o mundo da vigilância total, tanta vezes previsto nas distopias clássicas, não se converteu em realidade por empreitada de um estado totalitário: ela é pré-condição para quem tem uma vida online.

Segundo essa teoria, a vigilância começa quando (sem ler, naturalmente) concordamos com os termos de uso e as políticas de privacidade dos serviços de internet e telefonia. De tudo o que se sabe, Hoback dá atenção especial aos contratos de termos de serviço que mencionam a palavra “prevent” (impedir) nas permissões de uso das informações pessoais.

No Google, por exemplo, o trecho exato é:

Na AT&T, o aviso segue assim:

As empresas negam que disponibilizem a terceiros o conteúdo de mensagens privadas – mas os termos abrem a brecha legal para que venham a fazê-lo. A “boa fé” do Google pode ter aberto portas aos governos dos Estados Unidos e da Grã-Bretanha após os atentados de 11 de setembro de 2001. E simplesmente não sabemos o que acontece em países em que a democracia não serve nem de valor retórico.

“As semelhanças do caso com zumbis com Minority Report e 1984 são bem grandes. Quase todas as obras de Philip K Dick envolvem essa questão de uma forma ou de outra, mas ele é americano, e os mestres na paranoia da vigilância são os britânicos”, diz Fábio Fernandes.

Talvez não seja por acaso: de todos os países do mundo, a pátria de George Orwell é a que possui mais câmeras de vigilância per capita – há estimativas que apontam a existência de cerca de 6 milhões delas no país, algo como 11 câmeras para cada cidadão. Entre as cidades, Londres disputa o posto com a “democrática” Pequim.

“Admirável Mundo Novo, de Huxley, também tem essa cultura de vigilância, embora não de forma tão contundente. No romance, ela se dá por conta do controle, tanto policial quanto genético”, completa Fábio.

ADMIRÁVEL MUNDO NOVO – OU O MUNDO À SUA IMAGEM E SEMELHANÇA

“(…) No subsolo e nos primeiros andares achavam-se as oficinas e os escritórios dos três grandes jornais de Londres – o Rádio Horário, jornal para as castas superiores, A Gazeta dos Gamas, verde-pálido, e, em papel cáqui e exclusivamente em palavras monossilábicas, O Espelho dos Deltas.”(Admirável Mundo Novo, Aldous Huxley)

E foi Huxley quem previu a ameaça de um “estado totalitário verdadeiramente eficiente”. Nele, os cidadãos não precisavam ser coagidos pela violência ou pela vigilância: eles simplesmente amariam sua servidão. Na distopia com cara de utopia de Admirável Mundo Novo, a ilusão da liberdade e da felicidade é o principal motor do controle, assim como uma rígida divisão social, capaz de impedir conflitos e assegurar a “estabilidade”, necessária para sustentar esse mecanismo.

Ficção científica no Brasil é tida como ‘bobagem’, ‘coisa de criança’, ou então como ‘coisa de país rico’. Talvez faça mesmo sentido: a sociedade brasileira não quer pessoas curiosas.”

Não faltam interpretações fáceis do mundo sob essa perspectiva – a indústria farmacêutica e do entretenimento como agentes de uma felicidade artificial ou a ilusão da democracia por trás do poder das grandes corporações, por exemplo. Mas talvez seja mais interessante, aqui, ressaltar o que parece menos evidente.

No livro O Filtro Invisível, o ativista digital americano Eli Pariser mostra como a internet, tantas vezes tida como revolucionária com a perspectiva da circulação livre de informações, pode estar se tornando a ilusão democrática dos nossos tempos. Um retrocesso que pode ser resumido em uma frase: personalização do conteúdo.

Empenhadas em radicalizar a concepção de “dar ao público aquilo que ele quer”, as gigantes da internet trabalham com algoritmos programados para “adivinhar” o que cada um quer comprar, ver, assistir e ler. Na prática, o Google mostra uma página de resultados de pesquisa adequada a cada usuário, cujos hábitos são permanente rastreados. O mesmo se aplica ao Facebook, que edita as timelines de acordo com as afinidades detectadas individualmente, em cada curtida e compartilhamento.

O mesmo ocorre com Youtube, Netflix, Amazon, Yahoo e, recentemente, até o Instagram, em que um “editor” eletrônico ordena o que considera relevante para cada um.

Potencialmente distópico, o mundo que se desenha é da interação apenas com conteúdos familiares e opiniões com as quais concordamos previamente. “Quando deixados por conta própria, os filtros de personalização servem como uma espécie de autopropaganda invisível, doutrinando-nos com as nossas próprias ideias, amplificando nosso desejo por coisas conhecidas e nos deixando alheios aos perigos ocultos no obscuro território do desconhecido”, diz Pariser.

Num mundo em que as pessoas se informam cada vez mais (e apenas) pelas redes sociais, teríamos, assim, um “jornal” adequado aos desejos e convicções de cada um. Pariser relata como as opiniões de seus amigos republicanos simplesmente desapareceram do seu Facebook. Fenômeno não muito diferente pôde facilmente ser verificado no Brasil.

No dia 19 de março de 2016, fez sucesso em algumas timelines um artigo opinativo publicado na revista alemã Der Spiegel, segundo o qual estava ocorrendo um “golpe” no Brasil. No mesmo dia, o top em outros feeds era o editorial do New York Times que afirmava serem “ridículas” as explicações de Dilma Rousseff para a nomeação de Lula como ministro. Desnecessário dizer que, no diálogo sem-orelhas instalado, as duas opiniões raramente apareciam juntas. Para muitos usuários, isolados em suas bolhas, apenas uma das notícias existia. E isso é apenas um pequeno exemplo.

“Talvez pensemos ser os donos do nosso próprio destino, mas a personalização pode nos levar a uma espécie de determinismo informativo, no qual aquilo em que clicamos no passado determina o que veremos a seguir – uma história virtual que estamos fadados a repetir”, escreve Pariser. “E com isso ficamos presos numa versão estática, cada vez mais estreita de quem somos – uma repetição infindável de nós mesmos.”

Leia mais: Ela, uma distopia romântica / Realismo x realidade alternativa / Entrevista com Alfredo Suppia

Bravo!, setembro de 2016
© Almir de Freitas