Pela primeira vez na história, acompanhamos um genocidio transmitido em tempo real, repercutido e viralizado em formato multiplataforma: se tornou um laboratório sobre como a datificação tem permeado todos os âmbitos de nossas vidas.
Na avaliação de Sérgio Amadeu, sociólogo e doutor em ciência política pela Universidade de São Paulo (USP), as grandes empresas de tecnologia têm usado dados da população para treinamento e organização de tecnologia militar.
“É uma porta muito frágil entre redes sociais, dados coletados dos países e o tratamento militar desses dados para uma doutrina de ataque que não é mais de guerra, é de extermínio”, afirma o pesquisador.
Com o lançamento do seu mais recente livro, As big techs e a guerra total: O complexo militar-industrial-dataficado, ao Visões Populares , Amadeu discute o impacto das Big Techs no cotidiano da sociedade e como elas impactam a democracia e a soberania nacional.
Confira a entrevista completa:
Brasil de Fato – O que mais te chamou atenção ao pesquisar sobre Big Techs?
Sérgio Amadeu – Faz uns cinco anos que eu tenho pesquisado inteligência artificial, que é uma expressão muito equivocada, utilizada para assustar. Eu pesquiso as implicações sociais e econômicas dela. Tenho estudado como os dados são armazenados e por que eles são o insumo do que chamamos de inteligência artificial.
Eu descobri um documento da Amazon, que hoje é a maior empresa provedora de nuvem do mundo. Me chamou a atenção o uso de um termo, que a princípio associei a segurança digital, uma coisa que todo mundo faz. As instituições e empresas têm técnicos de segurança para evitar ataques, destruição de arquivos, para dar segurança aos sistemas em geral.
Porém, eu descobri que não era uma nova tradução de segurança digital, era mesmo um departamento da Amazon que trabalha a questão militar, ou seja, a defesa em uma ideia de defesa militar, nacional.
Comecei a ir atrás, por curiosidade, e descobri um mundo onde as grandes empresas que estão mediando nossas relações e interações estão envolvidas na organização do aparato militar norte-americano hoje. Não só norte-americano, como também com as forças de defesa de Israel.
Coletei documentos e informações, conversei com algumas pessoas de fora do país e comecei a ver que, de fato, existia uma mudança muito grande nisso que se chama complexo militar industrial norte-americano.
Sem soberania digital, não teremos soberania nacional
Foi aí que decidi fazer um livro, porque entendi que as pessoas precisavam saber essas informações, que estão dispersas. Não tem nenhuma informação sigilosa nesse livro, mas quando você junta as informações, dá uma noção efetivamente do quanto essas grandes corporações de tecnologia estão usando dados de pessoas para organizar ações militares.
Dois meses atrás, o exército norte-americano nomeou quatro ex-diretores desses grupos como oficiais superiores do exército americano. Isso só vem para confirmar essa relação que Donald Trump também mostra claramente quando assume a presidência americana.
Ele trouxe as empresas e as colocou na linha de frente, como carro chefe não só da economia americana, mas também dos negócios de guerra dos Estados Unidos, da geopolítica norte-americana. O meu livro trata dessa mudança que acontece no complexo militar industrial, mas também da sede das Big Techs por estar em todos os ramos das atividades econômicas, inclusive nos negócios da guerra.
Você chama esse processo de “guerra de dados em um complexo-militar-industrial-dataficado”, que é também o subtítulo do livro. Em resumo, como podemos explicar isso?
Os dados são informações quantificadas. Essas informações estão sendo coletadas o tempo todo, de cada pessoa, por diversas empresas. Nas redes sociais, como isso funciona: tudo o que fazemos dentro do Facebook, do YouTube ou do X, por exemplo, é capturado por sistemas algorítmicos, ou seja, existem softwares que vão coletando essas informações. As pessoas não sabem disso, porque é invisível.
Empresas como o Facebook e o Google coletam os dados para fazer o nosso perfil de comportamento. Com esse perfil, são feitos testes aos quais não temos acesso. Tudo isso é fechado, opaco, invisível para o usuário. Só que eles se tornaram empresas gigantescas, justamente porque concentraram as informações de cada pessoa.
Isso permite que essas empresas encontrem a melhor forma de atingir as pessoas com publicidade, conteúdos, serviços e produtos. Elas viraram o maior destino de verbas publicitárias do mundo. O dinheiro delas vem de vender o nosso perfil para quem tem dinheiro para nos acessar.
Esses dados se juntam com dados sobre obras, livros, sites, máquinas, etc, e eles têm aí um conjunto de dados muito importante que é a fonte principal para treinar modelos de inteligência artificial.
O primeiro laboratório de IA de alvos humanos foi a Faixa de Gaza
Treinar um modelo é colocar um conjunto de dados para que algoritmos de extração de padrões trabalhem esses dados até extrair o padrão. Com isso, eles montam modelos que têm os nossos padrões.
Isso passa a ser usado para formar público alvo para publicidade ou para convencer as pessoas, obviamente, para quem paga, como a extrema direita, que tem muito dinheiro. As desinformações, por exemplo, atingem de modo certeiro pessoas já frágeis a essa cooptação, por que as Big Techs vendem o acesso a esses públicos.
O complexo militar industrial sempre usou informações e dados, nós sabemos, mas os dados tornaram-se um elemento crucial da guerra. Passa a se precisar de muitas informações, em tempo real, e, por isso, os data centers rodam com máquinas de alto processamento.
O complexo industrial militar, até por causa da doutrina neoliberal, não vai fazer grandes data centers só para eles. Eles trouxeram os sistemas que já estão rodando para dentro do complexo militar industrial. Portanto, é um complexo militar industrial dataficado, ou seja, baseado completamente em dados.
As Big Techs estão lá com os seus funcionários, com as suas infraestruturas e é por isso que eles nomearam esses diretores como oficiais. Isso é uma coisa muito perigosa, porque é uma porta muito frágil entre redes sociais, dados coletados dos países e o tratamento militar desses dados para uma doutrina de ataque que não é mais de guerra, é de extermínio. Não é mais de combate, é de caçada.
Nessa lógica, é possível vislumbrar, por exemplo, casos que em Estados autoritários possam utilizar o auxílio das Big Techs?
Tive contato com um livro, lançado em 2021, com um nome fictício, de um general de brigadas. Neste livro, ele defende que, assim como o Facebook organiza alvos para que a publicidade atinja essas pessoas, “nós temos que ter antes de começar a guerra”. Dizendo, portanto, que é necessário usar inteligência de máquina e o aprendizado profundo, que são técnicas de IA, para ter alvos aos quais se atinge mesmo antes das primeiras batalhas.
O primeiro laboratório de IA de alvos humanos foi a Faixa de Gaza. Eles executaram isso. A guerra começa em 2023, mas essa doutrina já estava escrita. E, na verdade, os jornalistas israelenses confirmaram isso. A unidade de ataque cibernético 8200, junto com as Big Techs, organizaram projetos para atingir pessoas em suas casas, fora da área de combate.
A tecnologia guarda os traços ideológicos e culturais de quem a faz
Isso justifica um pouco esse lançamento de muitas bombas, mísseis, drones que destroem muitos lugares em Gaza. Foi, no começo, para eliminar 37 mil pessoas que eles tinham rastreado um padrão de quem seria um militante ou simpatizante do Hamas.
Eu trago no livro que, em 2017, o Google foi contratado para participar de um projeto que visava analisar o conjunto de imagens que os drones norte-americanos captavam, em áreas de interesse americano.
O Google participa do projeto Maven e isso gerou um escândalo dentro da empresa e um abaixo-assinado de mais de 3 mil trabalhadores contra. Eles alertavam que era um risco muito grande programar sistemas informacionais para vigiar e matar pessoas. O Google recua e a Amazon pega o projeto e continua.
Você defende que o Brasil invista em uma soberania digital, só que o caminho até que criar mecanismos para gerir nossos próprios dados, sem auxílio das Big Techs, sobretudo as estadunidenses, ainda é longo. Existe uma forma mais segura de fazer uso das plataformas que já estão no país?
O Brasil, quando começou a informatização do setor público, ainda tinha pessoas nacionalistas na estrutura do Estado. Estou falando isso porque o Brasil, nos anos 60, quando trouxe os mainframes, computadores de grande porte, construiu empresas de informática e dados públicos para tentar dominar essa tecnologia, controlá-la e criar uma base de técnicos.
Logo depois, nos anos 80, veio a onda neoliberal defendendo que o Estado não podia cuidar de nada, a não ser dar dinheiro para empresas. Com isso, essas empresas começaram a ser sucateadas. Apesar disso, nós somos um dos poucos países do mundo que tinha empresas públicas de dados, porque queríamos dominar essas tecnologias. Isso se perdeu. Essa doutrina implica em ser cada vez mais dependente das tecnologias norte-americanas e algumas chinesas.
É possível ter outro modelo. Temos uma massa de universidades que dependem muitas vezes de projetos com as Big Techs. Eu fico até ofendido com isso. Isso é um problema de política e de ideologia, não se trata de bem e mal, se trata de doutrina.
Um exemplo: existe um projeto da USP com a IBM para registrar as línguas dos povos originários. Ou seja, estamos treinando os algoritmos de aprendizado de máquina deles para manipularem como quiserem essas línguas de povos originários. E esses povos originários não ficam com o direito de manipular seus próprios dados porque não têm a máquina. Isso é gravíssimo, é um sequestro da cultura dos povos originários.
Mesmo regulando as redes sociais, é melhor criar alternativas
Um país do tamanho do Brasil, com a criatividade e inventividade que nós temos, precisa direcionar essa cultura inventiva às tecnologias. Com nossas universidades e empresas, dá para fazer rápido uma inversão. Não dá para fazer amanhã, mas dá sim para migrar muitas coisas amanhã e outras a médio prazo, desde que a gente tenha uma política pública para isso. O argumento contrário é a falta de dinheiro, mas como vamos sustentar esse país assim, se não estivermos dentro da disputa tecnológica, criando com a nossa marca?
A tecnologia guarda os traços ideológicos e culturais de quem a faz. Se as mulheres, os negros e os pobres, começarem a fazer códigos, os próprios códigos vão ficar diferentes, as coisas terão outras visões, outras cosmotécnicas. Não adianta falar que tudo é neutro, tudo é europeu, limpinho. Isso é uma ideia equivocadíssima. Temos capacidade técnica e tecnológica para desenvolver soluções rápidas.
E, para isso, o Estado é fundamental. As empresas privadas estão dentro do ecossistema das Big Techs e não vão bater de frente com essas mega empresas. O Estado tem que abrir caminho. Nunca foi fácil fazer tecnologia no Brasil e, hoje, a Petrobras é líder mundial de extração de petróleo em águas profundas.
A Embraer é uma empresa de aviação que eles diziam: “ah, a Embraer está falida”, argumentos falaciosos, muito errados. É uma mescla da ideia de que não há o que fazer, um pouco de desconhecimento e os lobbies que atuam dentro do Estado para manter os contratos bilionários das Big Techs.
O operador do comitê gestor da internet no Brasil, há algum tempo, já construiu um data center aqui em São Paulo. Não é de IA, mas é o maior ponto de troca de tráfego da internet do mundo, hospedado aqui. A gente sabe fazer infraestrutura, temos fabricantes de hardware aqui, podemos fazer sistemas de gestão de data center, tudo com tecnologia nossa. O único ponto complexo são os chips.
Existe alguma IA que seja menos danosa hoje?
O uso do ChatGPT e do Deep Seek é muito parecido, assim como de outras IAs. Temos diversos chats disponíveis hoje e eles são úteis, mas trazem muitos problemas para a criatividade, consomem dados, violam privacidade, etc.
O Deep Seek especificamente sofria a restrição de placas da Nvidia para fazer o processamento e o treinamento necessário de inteligência artificial. Eles apostaram em matemática e outra arquitetura e fizeram uma coisa muito similar ao Chat GPT, usando 13% do poder computacional que o GPT usou. Segue a mesma ideia de redes neurais e está desenvolvendo um grande modelo de linguagem.
Podemos treinar um modelo com dados do Brasil. Somos um país com uma população grande e muitos recursos. A gente podia ter empresas nacionais e ter treinamento, ao invés de as universidades, como é hoje, entregarem até a caixa postal delas para o Google ou para a Microsoft. Poderíamos ter cinco data centers do MEC para as universidades aderirem. Não temos uma política do governo federal que entenda que, sem soberania digital hoje, não teremos soberania nacional e, para ter soberania digital, é preciso infraestrutura sob o nosso controle.
Um país do tamanho do Brasil, com a criatividade e inventividade que nós temos, precisa direcionar essa cultura inventiva às tecnologias
Um gestor público uma vez falou para mim: “eu não quero problema com o Tribunal de Contas, por isso, eu compro da Big Tech, vem aquele monte de certidão, o contrato, e está resolvido”. Ele não está preocupado se vai entregar os dados do Brasil, se vai nos tornar vulneráveis ou se não vamos nos desenvolver. Ele não está nem aí. Isso é uma mentalidade equivocadíssima: tecnologia não é só meio para o Estado, tecnologia é finalidade também.
O Brasil estaria usando o poder de compra para gerar desenvolvimento. Eles só usam para pagar Big Tech. Nessa gestão houve uma tentativa de melhorar o programa de IA, o plano estratégico científico, investindo dinheiro para ciência, para termos supercomputadores. Mas avançamos naquilo que é a massa de dados das universidades, no que resolve o problema da gestão pública? Não. Eles estão na linha de ser barriga de aluguel da Big Tech.
No último domingo, vimos eclodir em todo o Brasil diversas manifestações contra o pedido de anistia aos golpistas do 8 de janeiro e contra a PEC da Blindagem. Uma parte da mobilização de público para o ato foi feita nas redes sociais. É possível dizer que a esquerda opera nas brechas do que é possível em um algoritmo que claramente tem um lado?
Isso é inegável, as manifestações foram convocadas pelas redes sociais, principalmente. Algumas peças foram feitas com a IA do Google, por exemplo a do “Hugo não se importa”, que é maravilhosa, e outras, usando tokens que emulam humanos mas que não são e explorando frases fortes como “aí, escravo do trabalho, eu vou enganar você”. Tem que fazer aquilo mesmo, tem que disputar dentro dessas redes sociais.
Nós não podemos ser ingênuos, vamos ter que ocupar esse espaço, mas sabendo que é um espaço que não é nosso. Essas redes digitais não são nosso terreno. Tentamos regular para garantir uma maior democracia. Muitas vezes conseguimos, outras vezes não. Mas mesmo regulando, é melhor começar a criar alternativas também.
