Olivier Jutel entrevista Yasha Levine
Publicado em 31 de agosto de 2018

‘Tudo o que nos venderam sobre a natureza democrática da internet sempre foi um papo de marketing.’ Yasha Levine fala sobre as origens militares da internet, os modelos de dados, governos tecnocráticos e por que o escândalo da Cambridge Analytica foi bom para o Facebook.

Oliver Jutel: Como você viu a recepção do seu livro “Vale da Vigilância” e sua tese central de que a internet é essencialmente uma arma de vigilância?

Yasha Levine: Meu livro chegou numa hora muito boa, justo no momento em que as pessoas estão se tornando consciente do “lado escuro” da internet. Antes de Trump, tudo era bom: a manipulação do Facebook era uma coisa boa quando Obama usou a seu favor. O “Vale da Vigilância” foi lançado dois meses antes que a história da Cambridge Analytica explodisse e tudo o que venho falando é um prenúncio sobre como a manipulação de dados pessoais é central em nossa política e economia. É mais ou menos o que a internet significa, se voltamos 50 anos, lá com a ARPANET. Espero que o livro preencha algumas lacunas em nossa compreensão porque, por mais estranho que pareça, acabamos esquecendo essa história.

A forma como se discute internet frequentemente é como se ela fosse algum tipo de fenômeno imaterial. O que o teu livro faz é explicar as origens materiais, políticas e ideológicas dessa rede. Poderias falar sobre os imperativos militares aos quais ela serviu?

Uma coisa que precisamos entender sobre a internet é que ela nasceu de um projeto de pesquisa que começou durante a Guerra do Vietnã, quando os EUA estavam preocupados com contrainsurgências ao redor do mundo. Esse era um projeto que ajudaria o Pentágono a gerenciar uma presença militar global.

Naquela época, haviam sistemas de computadores sendo conectados, como a ARPANET, que funcionavam como um sistema de aviso preliminar por radar para alertar sobre um possível bombardeio da União Soviética. Ela conectava conjuntos de radares e sistemas de computadores que permitiam que analistas pudessem observar todo o território dos EUA a partir de uma tela a milhares de quilômetros de distância. Isso era novidade, já que todos os sistemas anteriores dependiam de cálculo manual. Uma vez que consegues fazer isso automaticamente, surge uma forma totalmente nova de ver o mundo, porque de repente é possível gerenciar o espaço aéreo e milhares de quilômetros de fronteiras a partir de um terminal de computador. Isso aconteceu no final dos anos 1950 e início dos 1960. A ideia era expandir essa tecnologia, para além dos aviões em direção aos campos de batalhes e às sociedades.

Um dos projetos que a ARPA estava envolvida no Vietnã, durante os anos 1960, foi o “grampo do campo de batalha”, como ele era chamado. Eles lançaram sensores na selva para poder detectar a movimentação das tropas escondidas da detecção aérea. Esses sensores transmitiam informação por rádio e enviavam-na para um centro de controle com um computador IBM que mapeava os movimentos para ajudar a escolher os alvos de bombardeio. Esse projeto acabou sendo a base para a tecnologia de cerca eletrônica usada pelos EUA na fronteira com o México. E ela é usada até hoje.

A internet nasceu desse contexto militar e a tecnologia podia juntar diferentes tipos de redes de computadores e bases de dados. Na época, toda rede de computador era criada do zero em termos de protocolos e dos próprios computadores. A internet viria a ser uma linguagem de rede universal para intercambiar informações.

Parece que existe uma contradição no fundamento ideológico da internet, entre uma paranoia anti-comunista e um otimismo liberal-libertarianista onde a informação libertaria o potencial humano. O que você tem a dizer sobre isso?

Parece uma contradição, mas na realidade, não é. O fantasma do comunismo acabou impulsionando o desenvolvimento da internet. Em círculos militares mais restritos, a esquerda parecia estar tomando conta do mundo, inclusive dentro dos EUA. Depois do Vietnã, a questão da contrainsurgência se colocava da seguinte forma: como pacificar sociedades sem dar a elas o que elas querem? Eles viam o problema como “pessoas não estão sendo devidamente gerenciadas”: elas precisam de certas coisas, existe desigualdade e má distribuição de recursos materiais. O governo dos EUA não estava enfrentando um desafio ideológico ou uma luta anti-colonial; em vez disso, achavam que estavam de frente a um problema tecnocrático de gerenciamento.

E foi a mesma coisa com as redes de computadores, que vieram a se tornar a internet: elas funcionavam como sensores espalhados pela sociedade para monitorar revoltas e demandas. As informações com as quais essas redes eram alimentadas passavam por modelos de computador para mapear os possíveis caminhos que esses sentimentos e ideias tomariam. Aí eles diriam, “beleza, temos um problema aqui; vamos dar um pouco do que as pessoas querem”, ou “Aqui tem um movimento revolucionário, devemos acabar com essa célula”.

Assim, a rede criaria um mundo utópico onde se poderia gerenciar conflitos e revoltas e acabar com elas. Nunca seria preciso entrar num conflito armado, uma vez que você teria uma forma melhor e mais gentil de gerenciamento tecnocrático.

Não tenho como não pensar no tweet de Hillary Clinton sobre a devastação de Flint, em Michigan. ‘Problemas intersetoriais complexos’, como opressão racial e de classe, são colocados em pequenas caixas solucionadoras de problemas para que tecnocratas bonzinhos possam sair com algumas ideias.

Sim, e isso tudo começou lá nos anos 1960. Você mencionou os Democratas. Tem um cara, Ithiel de Sola Pool, que era um cientista social do MIT e um pioneiro no uso de modelagem por computador, fazendo enquetes e simulações para campanhas políticas. Confiando no trabalho de Pool, a campanha presidencial de John F. Kennedy de 1960 foi a primeira a usar modelagem para guiar o discurso e as mensagens para o eleitorado. O que é interessante é que Pool continuou trabalhando, num cargo importante, no primeiro projeto de vigilância da ARPANET, que veio a ser usado no processo de vigilância por dados de milhares de manifestantes anti-guerra estadunidenses no início dos anos 1970.

Ele também era um cara que acreditava que o problema nos conflitos internacionais e domésticos era que os planejadores do governo e empresários não possuíam informação suficiente; que haviam partes do mundo que ainda eram opacas para eles. A maneira de se livrar de revoltas e de ter um sistema perfeito era que não podia haver segredos. Ele escreveu um artigo em 1972 onde afirmava que o maior problema para a paz mundial era o sigilo.

Se pudéssemos projetar um sistema onde os pensamentos e motivações dos líderes e das populações globais fossem transparentes, então a elite que governaria o mundo poderia ter a informação necessária para gerenciar devidamente a sociedade. Mas ele via isso em termos utópicos: isso é melhor que bombardar as pessoas. Se você pode influenciar as pessoas antes que elas se armem com AK-47s e precisem ser bombardeadas, atacadas com gás ou queimadas com napalm, então influenciar é muito melhor.

Quanto nossa própria hiperatividade online, na busca de prazer ou ficar rolando a linha do tempo só mais uma vez, como se fosse uma máquina caça-níquel, como esse comportamento espelha os imperativos e as falhas de se ter uma consciência informacional? É possível coletar patologias e idiossincrasias individuais, mas isso não fracassa nos seus próprios termos?

Se a sua premissa está errada, qualquer que seja a informação que você alimente no modelo, ele sempre dará respostas erradas. A premissa de que “mais informação é igual a melhor gerenciamento” ou a uma sociedade melhor é onde tudo vai por água abaixo. Vários desses modelos cibernéticos e sistemas de computadores que supostamente dariam aos gerentes uma melhor visão do mundo possuem pontos cegos, ou são sutilmente manipulados, ao mesmo tempo que dão às pessoas que os usam um senso de que estão totalmente no controle.

Isso foi o que aconteceu com Hillary Clinton. Sua campanha contava com as melhores mentes da modelagem de dados e, até o último momento, seus números lhes diziam que tudo sairia muito bem. Eles nem estavam mais interagindo com o mundo real, apenas com seu modelo. O problema não era o eleitorado, mas sua ideia de como o eleitorado se comportaria. Eles estavam fundamentalmente errados.

A ideia de que quanto mais dados você tiver, melhor você entenderá o mundo é errada: no fundo, dados são apenas uma representação daquele mundo e essa representação é moldada por pressuposições e valores específicos. Pegue o exemplo do plano de “grampear” o campo de batalha. Os Viet Congs sabiam o que estava acontecendo e viram os sensores. Eles podiam enganar o sistema. Eles criaram vibrações e dirigiram caminhões vazios a esmo para forçar um ataque aéreo na selva vazia, permitindo assim que o verdadeiro comboio conseguisse passar. O sistema era manipulado, mas os planejadores achavam que ele funcionava perfeitamente e, assim, pensavam que estavam aniquilando o inimigo. Mas, na verdade, eles estavam bombardeando uma selva sem ninguém.

Um dos pontos legais da pesquisa para esse livro foi descobrir que tanto o pessoal que impulsionou esse sistema quanto aqueles que se opunham a ele haviam superestimado a efetividade dessas redes. Pegue Donald Trump e a Cambridge Analytica. Para as pessoas que estão horrorizadas com Trump, a Cambridge Analytica dá a elas uma forma de explicar como ele se elegeu. Elas pegam toda a sua ansiedade e colocam-na sobre essa companhia que, supostamente, zumbificou o eleitorado através de postagens no Facebook.

Quando a rede produz uma realidade social que não gostamos, é como se ela tivesse sido infectada por um alienígena ou um vírus. É parecido com o anti-comunismo extremo nesse sentido.

Veja bem: isso é exatamente o que o Facebook quer que seus anunciantes acreditem que o seu negócio é capaz. Se você consegue convencer o eleitorado a votar no Trump apenas vasculhando seus perfis e mostrando às pessoas meia dúzia de propagandas direcionadas, então, se você é um anunciante ou quer tocar uma campanha política, tudo o que precisa fazer é colocar todas as suas fichas no Facebook. É nesse nível que supõe-se que ele seja tão poderoso. Colocar toda a culpa na Cambridge Analytica é ajudar o Facebook. Ela está vendendo o Facebook: acesse sua base de usuários, contrate alguns deles e venda propaganda direcionada. Quem se opõe ao Facebook acha que ele é mais poderoso que realmente é.

A Wired veio com uma história interessante sobre o Facebook dizendo que os anúncios foram vendidos mais baratos para Trump do que para Clinton devido ao tipo de engajamento de usuário que os conteúdos de Trump geravam. Os eleitores de Trump costumavam se exaltar bastante online. Será que o Facebook privilegia emoções mais explosivas e o lado perverso da política?

Sim, eles querem que as pessoas fiquem na sua plataforma o máximo de tempo possível. Raiva, indignação, ódio são emoções que mantêm as pessoas online. Posso dizer como um usuário do Twitter que essa regra é real! Se você está emocionalmente ligado com alguma coisa, então você se engajará com ela.

Mas o que você está descrevendo não é algo exclusivo do Facebook. Dá pra dizer que as últimas notícias deram mais tempo na tv pro Trump, cobrindo cada uma de suas falas ridículas, por causa da incrível audiência delas. Como Facebook, tudo tem a ver com audiência, porque tudo tem a ver com a grana da propaganda. Mas isso é um detalhe. A gente imagina a internet como a nuvem, desconectada do espaço físico. Mas ela é propriedade privada, onde não temos nenhum direito como usuários. Nós existimos nos datacenters e nos cabos das grandes corporações. Não temos nenhum direito naquele espaço, não existe nenhum direito de estar na internet. Essas empresas criam as regras e não temos como recorrer. Para aquelas pessoas da esquerda que pensam sobre isso, é claramente um espaço tóxico. A internet se tornou um meio para o Capital ter ainda mais controle sobre nossas vidas.

Como seria uma abordagem holística, de esquerda, que preza pelo público a essa forma de poder oligárquico?

Essa talvez seja a questão mais difícil de nosso tempo. Não dá para focar na reforma da internet sem ter em conta o ambiente cultural no qual ela existe. Essa é uma reflexão sobre nossos valores e sobre nossa cultura política. A internet é dominada por grandes corporações, agências de inteligência e espiões porque, de modo geral, nossas sociedades são dominadas por essas forças.

Não dá para começar pela internet. É preciso começar mais embaixo: na política, na cultura. É uma análise brutal, sinto muito. Nossa concepção de política hoje é muito crua. Estamos restritos a pensar que “é preciso regular algo”, “é preciso passar algumas leis”. Não deveríamos começar por aí, mas sim com princípios. O que significa ter tecnologias de comunicação numa sociedade democrática? Como elas poderiam ajudar a criar um mundo democrático? Como esse mundo democrático pode controlar essas tecnologias? Como podemos simplesmente parar de adotar uma posição defensiva? O que significa ter uma postura ativa? Precisamos pensar nisso para ter uma cultura política que afirme “é isso que queremos que a tecnologia faça para a sociedade”.

Tudo o que nos venderam sobre a natureza democrática da internet sempre foi uma conversa de vendedor, algo que foi enxertado na tecnologia. Vender a internet como uma tecnologia da democracia quando ela é propriedade de grandes corporações é ridículo. A única resposta que eu tenho é que precisamos descobrir que tipo de sociedade nós queremos, e que tipo de papel a tecnologia terá nela.