Por Oriana Rivas
A empresa Geedge Networks “está desenvolvendo uma tecnologia que criaria perfis de cidadãos chineses e, em seguida, utilizaria inteligência artificial para identificar quem poderia representar um risco político”.
A China é um país mundialmente famoso por diversos motivos: sua cultura, seu sistema econômico, o regime comunista que a governa e sua enorme extensão territorial (9.596.961 quilômetros quadrados, para ser exato, o que a torna o terceiro maior país do planeta). Mas o gigante asiático também se caracteriza por ter mais de 700 milhões de câmeras de vigilância instaladas em todo o seu território. Esse número representa aproximadamente dois terços de todas as câmeras de circuito fechado de televisão (CFTV) do mundo. E é justamente aproveitando esse sistema que o comunismo chinês está desenvolvendo um programa de inteligência artificial (IA) capaz de detectar futuros oponentes políticos.
Em outras palavras, não se trata apenas de monitorar dissidentes, mas também de prever quem poderá se tornar um no futuro. A empresa que desenvolve esses “novos produtos” chama-se Geedge Networks e tem um histórico de fornecer a criminosos em Mianmar uma versão comercial do “Grande Firewall” da China para “rastrear, prender, torturar e matar civis”, de acordo com relatos de organizações independentes.
No caso dessa nova ferramenta de previsão e vigilância baseada em IA, pesquisadores da Universidade Vanderbilt, citados pelo New York Times, descobriram que a Geedge Networks, em colaboração com seu braço de pesquisa financiado pelo regime comunista chinês, o MESA Lab, “está desenvolvendo uma tecnologia que geraria perfis de cidadãos chineses e, em seguida, usaria inteligência artificial para identificar aqueles que possam representar um risco político”.
A China exporta programas de vigilância em massa
Brett J. Goldstein, diretor do Laboratório de Problemas Complexos do Instituto de Segurança Nacional da Universidade Vanderbilt, fez um comentário interessante à mídia americana: “Sem mecanismos de controle, o que a China está fazendo com seus próprios cidadãos é uma prévia do que pode acontecer em qualquer lugar onde essas ferramentas sejam usadas sem supervisão.”
O raciocínio do especialista é sólido. Atualmente, países como Venezuela e Nicarágua têm servido como campo de testes para regimes autoritários no que diz respeito ao uso da tecnologia como meio de propaganda e controle. Tanto o chavismo quanto o sandinismo contaminaram as conversas nas redes sociais, usando dinheiro e contas falsas para promover temas alinhados ao seu modelo político. Daniel Ortega recebe inclusive apoio de Pequim, já que a nação asiática financia uma máquina de propaganda digital em favor do ditador, como revelado no ano passado pelo observatório ProBox em conjunto com o site Expediente Público e o jornal La Prensa.
Esses precedentes pintam um quadro sombrio para as liberdades, agora agravado pela inteligência artificial. Informações adicionais divulgadas pela Wired detalham como a Geedge Networks exportou seu software de segurança de rede para países como Etiópia, Cazaquistão, Mianmar e Paquistão, permitindo que eles realizassem vigilância em massa em redes móveis.
Cientistas preparam lista de pessoas com “informações prejudiciais”
Nos primeiros meses de 2024, os pesquisadores da empresa estavam trabalhando no desenvolvimento de perfis comportamentais com base em dados de telecomunicações, mídias sociais e localização. Modelos de IA estavam sendo usados ”para classificar pessoas e ‘detectar informações prejudiciais'”. Esse eufemismo é comumente usado pelo Partido Comunista Chinês para identificar dissidência política ou outros materiais que o regime deseja eliminar.
Assim como os campos do emprego, da educação e da fertilidade estão passando por profundas transformações devido ao desenvolvimento contínuo da IA, a China pretende estender essas tecnologias à esfera política para garantir a manutenção do poder pelo regime. O que antes era considerado ficção científica nos filmes agora está se tornando realidade. De fato, segundo o New York Times, em uma reunião realizada em 5 de fevereiro de 2024, pesquisadores “discutiram como criar perfis de indivíduos para ‘identificar suas intenções’ e ‘descobrir informações prejudiciais’, de acordo com documentos da reunião”.
No entanto, a Geedge Networks não respondeu aos pedidos de comentários sobre essa tecnologia, enquanto cidadãos do mundo permanecem alheios ao risco a curto prazo para sua liberdade de pensamento e expressão.