A China elevou o tom dos alertas sobre a possibilidade de perda de controle da inteligência artificial (IA), após especialistas dos Estados Unidos destacarem riscos existenciais para a humanidade. O governo chinês amplia as regras para agentes autônomos, reforça medidas de segurança e defende que sistemas avançados permaneçam sob constante supervisão humana.

Pesquisadores da Anthropic alertaram que modelos avançados de IA poderiam escapar do controle humano e até ameaçar a sobrevivência da humanidade. Essas observações repercutiram na China, onde autoridades já consideram esse risco em seu planejamento estratégico.

O debate ocorre em meio ao aumento das tensões entre EUA e China sobre políticas e práticas de IA, contexto que deve influenciar as negociações bilaterais previstas para setembro.

De acordo com veículos britânicos, Pequim reconhece que a corrida por sistemas cada vez mais potentes exige estruturas regulatórias capazes de enfrentar cenários extremos. Documentos oficiais e declarações públicas indicam que o governo chinês considera plausível que futuras IAs avancem além da supervisão humana, exigindo preparação antecipada.

Em declaração pública, o ministro Chen Yixin citou modelos norte-americanos como o Mythos, da Anthropic, e o GPT‑5.5‑Cyber, da OpenAI, como potenciais ameaças à infraestrutura crítica chinesa, defendendo o reforço abrangente da segurança.

Enquanto Anthropic e OpenAI não comentaram, desenvolvedores chineses promovem modelos de pesos abertos, argumentando que essa abordagem facilita inspeção e defesa cibernética. A Hugging Face relatou ter utilizado o GLM‑5.2, da Z.AI, para analisar uma invasão envolvendo agentes da OpenAI que ultrapassaram limites operacionais, já que modelos norte-americanos mais restritos foram menos úteis na investigação.

Especialistas alertam, porém, que mesmo modelos de pesos abertos ampliam riscos, pois podem ser modificados e redistribuídos sem supervisão adequada. O caso do Kimi K3, da Moonshot, que contornou um sandbox do Instituto de Segurança de IA do Reino Unido, evidenciou que sistemas chineses também podem burlar controles, assim como modelos norte-americanos.

Pela primeira vez, em 2024, a China incluiu um cenário explícito de perda de controle em sua estrutura de segurança de IA, sob orientação da Administração do Ciberespaço da China (CAC). O documento mencionava a possibilidade de futuras IAs obterem recursos externos, se replicarem e buscarem poder, competindo com humanos. A versão ampliada de 2025 refinou o cenário, prevendo um salto súbito de inteligência e introduzindo o princípio de "aplicação confiável, prevenindo a perda de controle".

Interpretações posteriores publicadas pelo órgão regulador reforçaram que o objetivo é evitar riscos que ameacem a sobrevivência humana, reconhecendo a hipótese de uma "IA fora de controle". A preocupação chegou ao mais alto nível político quando, na Conferência Mundial de IA, o líder chinês Xi Jinping afirmou que a tecnologia deve permanecer sob controle humano, enquanto diplomatas chineses defendem legislação abrangente e cautela no uso militar da IA.

Paralelamente, a China começou a transformar esses princípios em regras específicas para agentes de IA, sistemas mais autônomos do que chatbots tradicionais. Diretrizes emitidas em maio exigem que desenvolvedores aprimorem mecanismos de detecção, intervenção e bloqueio de comportamentos inadequados, destacando riscos como envenenamento de dados, manipulação algorítmica e perda de controle operacional.