China enfrenta um problema familiar às ditaduras ao longo da história: como encontrar um equilíbrio entre a inovação que impulsiona o crescimento, que prospera numa sociedade livre, e a paranóia de um Estado autoritário. O seu líder, Xi Jinping, quer que o país se torne uma economia hiperavançada. O seu governo está a promover agressivamente a comercialização de tecnologias de ponta de que gosta, desde veículos eléctricos à computação quântica.
Ao mesmo tempo, aperta os parafusos daqueles que desaprova. Em 2021, regulamentou uma indústria em expansão de aulas particulares online, levando-a ao esquecimento quase da noite para o dia, aparentemente por receio de que as elevadas propinas estivessem a tornar a educação das crianças tão cara que os chineses se afastassem da ideia de paternidade. Em 22 de dezembro, o governo deu um golpe duro na indústria de videogames, introduzindo regras para, entre outras coisas, limitar quanto os jogadores podem gastar em compras no jogo – e, portanto, quanto os desenvolvedores podem ganhar. O valor de mercado da Tencent, uma das empresas mais inovadoras da China que também possui um grande negócio de jogos, caiu 12%.
Em nenhum lugar essa tensão é mais clara do que na tecnologia mais avançada de 2023 – a inteligência artificial (IA). Em muitos países, o comando de IA é visto como economicamente e estrategicamente importante. Os políticos de todo o mundo preocupam-se com o facto de as máquinas se tornarem desonestas ou, mais realisticamente, serem dominadas por criadores de travessuras humanas. Em Pequim, a preocupação adicional é que a tecnologia, que prospera com dados ilimitados e, no seu actual estágio de desenvolvimento, em espaços não regulamentados, possa revelar-se subversiva se não for controlada. Está, portanto, ativamente empenhada em reforçar a sua “grande firewall” para o IA idade.
Em 2000, Bill Clinton, então presidente dos Estados Unidos, comparou a tentativa da China de controlar a Internet a uma “tentativa de pregar gelatina na parede”. Hoje a geleia parece firme no lugar. Os serviços ocidentais de Internet, desde o Facebook e a pesquisa do Google até ao Netflix, não estão disponíveis para a maioria dos chineses (excepto aqueles que estão dispostos a correr o risco de utilizar “redes privadas virtuais” ilegais). Nas plataformas locais, qualquer conteúdo indesejável é excluído, seja preventivamente pelas próprias plataformas, por meio de algoritmos e exércitos de moderadores, ou posteriormente, assim que for detectado pelos censores governamentais. A repressão tecnológica em 2020 fez com que os poderosos gigantes tecnológicos da China, como a Tencent e a Alibaba, se aproximassem do governo, que tem assumido pequenas participações nas empresas e um grande interesse nas suas operações quotidianas.
O resultado é uma economia digital higienizada, mas ainda assim próspera. O superaplicativo da Tencent, WeChat, que combina mensagens, mídias sociais, comércio eletrônico e pagamentos, gera sozinho centenas de bilhões de dólares em transações anuais. Xi agora espera conseguir um ato de equilíbrio semelhante com IA. Mais uma vez, alguns especialistas estrangeiros prevêem uma situação gelatinosa. E mais uma vez, o Partido Comunista está a construir ferramentas para provar que estão errados.
Os esforços do partido começam com as regras mais rígidas do mundo para equivalentes chineses do ChatGPT (que é, previsivelmente, proibido na China) e outros produtos “generativos” voltados para o consumidor. IA. Desde março, as empresas tiveram que registrar junto às autoridades quaisquer algoritmos que fizessem recomendações ou pudessem influenciar as decisões das pessoas. Na prática, isso significa basicamente qualquer software desse tipo voltado para consumidores. Em Julho, o governo emitiu regras exigindo que todos IA-conteúdo gerado para “defender os valores socialistas” – por outras palavras, nada de canções obscenas, slogans anti-partido ou, Deus me livre, zombar do Sr. Xi. Em setembro publicou uma lista de 110 serviços cadastrados. Somente seus desenvolvedores e o governo conhecem todos os detalhes do processo de registro e os critérios precisos envolvidos.
Em outubro, um comitê de padrões para segurança da informação nacional publicou uma lista de diretrizes de segurança que exigem uma autoavaliação detalhada dos dados usados para treinar sistemas generativos.IA modelos. Uma regra exige o teste manual de pelo menos 4.000 subconjuntos do total de dados de treinamento; pelo menos 96% deles devem ser qualificados como “aceitáveis”, de acordo com uma lista de 31 riscos de segurança formulados de forma vaga. O primeiro critério para conteúdo inaceitável é qualquer coisa que “incite a subversão do poder do Estado ou a derrubada do sistema socialista”. Os chatbots devem recusar-se a responder a 95% das consultas que gerariam conteúdo inaceitável (qualquer uma que conseguisse seria, presumivelmente, censurada ex post). Eles também devem rejeitar no máximo 5% das perguntas inofensivas.
Qualquer coisa produzida por algoritmos não registrados será bloqueada e seus criadores punidos. Em maio, um homem na província de Gansu foi preso depois de usar o ChatGPT produzir textos e imagens de um falso acidente de trem e publicá-los nas redes sociais. Ele pode ter sido o primeiro chinês a ser detido por espalhar IA-desinformação gerada. Ele não será o último.
Esta estratégia pesada retardou a adoção de iniciativas generativas voltadas para o consumidor. IA no país. Ernie Bot, desenvolvido pela Baidu, outra empresa de tecnologia, estava pronto na época do ChatGPTdesde o lançamento, mas só foi lançado nove meses depois, em agosto – eras, dada a rapidez com que a tecnologia está evoluindo. Ainda é desajeitado na hora de expressar sua devoção ao partido. Quando lhe são feitas perguntas delicadas sobre Xi, censura obedientemente, não oferecendo resposta e eliminando a pergunta.
Socialistas modelo
Com mais trabalho o partido poderá conseguir fazer IA modelos em não apenas bons comunistas, mas também em fluentes. Isso evitaria a necessidade de censura ex post, diz Luciano Floridi, da Universidade de Yale. No entanto, as autoridades não parecem ter pressa em chegar lá. Em vez disso, estão a promover as aplicações empresariais da tecnologia.
Ao contrário do consumidor IAempreendimento IA enfrenta poucas restrições ao desenvolvimento, observa Mimi Zou, da Oxford Martin School, um instituto de pesquisa. Como explica Steven Rolf, do Digital Futures at Work Research Centre, um grupo de reflexão britânico, isto tem o efeito de canalizar capital e trabalho para longe de coisas como chatbots de consumo e para a aprendizagem automática para as empresas. Isto, o governo parece apostar, permitirá à China alcançar e até mesmo ultrapassar a América em IA sem o incômodo de lidar com ameaças potencialmente subversivas. IA-conteúdo gerado.
Em maio, a cidade de Shenzhen, no sul do país, anunciou que lançaria um projeto de 100 bilhões de yuans (US$ 14 bilhões) IAfundo de investimento focado em investimentos, o maior do gênero no mundo. Vários governos municipais lançaram fundos de investimento semelhantes. Muito desse dinheiro vai para empresas como a Qi An Xin, que oferece soluções generativas IA que gerencia riscos de segurança de dados para empresas. A empresa afirma que o bot pode fazer o trabalho de 60 especialistas em segurança, 24 horas por dia. Antes de abrir o capital em 2020, recebeu grandes investimentos de empresas estatais, como muitas startups semelhantes.
Para que esta estratégia funcione, a empresaIA as empresas precisam do tipo certo de matéria-prima. Uso de chatbots pelo consumidor IA modelos treinados em áreas da Internet pública. As aplicações corporativas precisam de dados corporativos, muitos dos quais estão guardados dentro das empresas. Assim, o outro pilar da estratégia da China é transformar os dados empresariais num bem público. O Estado não quer ser proprietário dos dados, mas – tal como acontece com outros factores – controlar os canais através dos quais eles fluem.
Para esse fim, o governo está promovendo o intercâmbio de dados. O objetivo é permitir que as empresas negociem informações, agrupadas em produtos padronizados, sobre todas as áreas da vida comercial, desde a atividade em fábricas individuais até dados de vendas em lojas individuais. As pequenas empresas terão acesso ao conhecimento antes reservado aos gigantes da tecnologia. Bancos e corretoras terão uma visão em tempo real da economia.
As cidades chinesas começaram a lançar intercâmbios de dados há cerca de uma década. Agora existem cerca de 50 na China. E eles estão finalmente ganhando velocidade. A troca de dados de Xangai (SDE), lançado em 2021, começou a negociar uma série de novos produtos de dados. Em uma de suas primeiras transações, ICBC, um banco, comprou informações do setor energético. Isto pode ser utilizado para avaliar o consumo de energia das empresas e, porque reflete os níveis reais de atividade, para criar perfis de crédito alternativos para as empresas. SDE vende dados obtidos por satélite sobre a produção de aço no centro da China e sobre violações ambientais cometidas por empresas de mineração. Outro produto fornece dados em tempo real sobre médicos, enfermeiros e leitos hospitalares em todo o país, a fim de ajudar as empresas médicas a tomar decisões de negócios. O SDE também está experimentando o uso de dados como garantia para empréstimos.
Em grande escala, a dataficação da indústria poderá proporcionar um impulso económico significativo, afirma Tom Nunlist, da Trivium, uma consultora em Pequim. E mais dados podem chegar às bolsas em breve. Em Agosto, o governo central encarregou as empresas estatais de pensarem sobre como valorizar os seus dados. Nos últimos meses, equipas de auditores têm tentado encontrar formas de o fazer, com vista a adicionar esses dados aos balanços das empresas como activos intangíveis. Eles devem apresentar um relatório até 1º de janeiro (embora o prazo pareça provavelmente não ser cumprido, dada a natureza sem precedentes da tarefa).
A aposta do governo nas empresas IA não está isento de problemas, no entanto. A indústria automobilística é um exemplo disso. Em 2022, cerca de 185 milhões de veículos nas estradas chinesas tinham ligação à Internet e um plano nacional prevê a produção em massa de carros semiautónimos até 2025. Para que isso aconteça, as empresas que desenvolvem algoritmos de condução autónoma precisam de muitos dados para treinar os seus sistemas. Uma empresa chamada WICV está construindo uma plataforma para os dados que começam a vazar dos carros.
Por agora, WICV retorna os dados de um carro para a montadora que o construiu, então BYD obtém dados de BYDs, Nio de Nios e assim por diante. Mas o plano é que os dados sejam eventualmente negociados em bolsas, onde poderão ser comprados por outros desenvolvedores de sistemas autônomos. Para que isso aconteça, porém, os dados de condução devem primeiro ser “dessensibilizados”, explica Chu Wenfu, WICVfundador da empresa, eliminando detalhes biométricos e de geolocalização que poderiam ajudar os malfeitores a rastrear os movimentos de pessoas específicas.
O potencial desse rastreamento assusta as autoridades chinesas. Um grande motivo pelo qual eles reprimiram a Didi Global dias após a oferta pública inicial da empresa de carona em Nova York em 2021 foi, como mais tarde descobriu, o medo de que os dados sobre as 25 milhões de viagens diárias da Didi, incluindo informações de geolocalização vinculadas aos passageiros, pudessem cair nas mãos das autoridades americanas. O governo chinês está a mapear preventivamente vastas áreas da China onde a recolha de dados pode representar potencialmente uma ameaça à segurança nacional.
Muitas montadoras, incluindo as ocidentais, como BMW, não têm outra escolha senão associar-se a empresas apoiadas pelo Estado para lidar com informações de condução e garantir que as regras locais de conformidade de dados sejam seguidas. Por precaução, algumas montadoras estão abandonando certos recursos, como permitir que os motoristas assistam a imagens ao vivo de dentro e de fora do carro em seus telefones. Afinal, algumas dessas filmagens poderiam capturar inadvertidamente algo sensível.
É pouco provável que tais compromissos entre inovação e segurança se limitem aos automóveis. Outros dados industriais e empresariais também necessitarão provavelmente de dessensibilização antes de poderem ser negociados em grande escala nas bolsas. Isso retardará o desenvolvimento das empresas IA, mesmo que os algoritmos permaneçam livres. É um preço que o partido parece disposto a pagar pela sua paranóia. ■