Segurança da IA: EUA e China propõem controles nucleares

Propostas conjuntas para a segurança da IA em sistemas críticos

A segurança da IA emerge como preocupação central nas discussões entre Estados Unidos e China sobre o futuro da tecnologia militar. Especialistas das duas potências apresentaram recomendações inovadoras que tratam a inteligência artificial com o mesmo rigor aplicado aos arsenais nucleares, reconhecendo os riscos exponenciais de sistemas autônomos cada vez mais sofisticados.

Um cenário particular alarma os analistas: um sistema de inteligência artificial que comprometa a rede de comando nuclear ou lance uma operação militar digital poderia deixar Washington ou Pequim com apenas alguns minutos para determinar se o ataque foi ordenado pelo governo rival ou resultou de falha técnica. Essa ambiguidade temporal, potencializada pela velocidade das máquinas, constitui risco sem precedentes na história das relações internacionais.

Contexto das negociações e participantes

As propostas surgiram no âmbito do diálogo estratégico EUA-China sobre inteligência artificial e segurança nacional, iniciado em 2019 pela Brookings Institution e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua. Pesquisadores como Melanie Sisson, da Brookings Institution, e Tianjiao Jiang, professor associado da Universidade de Fudan, coordenaram as discussões que precedem negociações oficiais de nível governamental.

O timing das recomendações não é casual. Elas foram publicadas antes de reunião marcada para 24 de setembro em Washington entre o presidente Donald Trump e o presidente chinês Xi Jinping, sinalizando que a segurança da IA transcende disputas comerciais e chega ao cerne das relações estratégicas entre superpotências.

Dimensões da segurança da IA além da tecnologia

A rivalidade sino-americana em inteligência artificial ultrapassa a competição por chips e modelos avançados. Abrange temas historicamente associados ao controle de armas, como a distinção entre acidentes técnicos e ataques deliberados, a limitação de decisões militares tomadas por máquinas e o estabelecimento de protocolos de comunicação entre rivais nucleares quando a tecnologia comporta-se de forma inesperada.

O ministro da Segurança do Estado da China, Chen Yixin, reconheceu publicamente essa transformação ao escrever que a inteligência artificial "transforma fundamentalmente a forma da luta militar". Segundo sua análise, a tecnologia deixou de ocupar papel coadjuvante no campo de batalha para assumir posição central, como evidenciam ataques dirigidos por IA nas operações dos Estados Unidos e de Israel contra o Irã.

Linhas vermelhas propostas para autonomia de máquinas

Sisson argumenta que apenas seres humanos devem reter autoridade para iniciar ataques digitais com uso de inteligência artificial contra sistemas de comando, controle e comunicação nucleares ou infraestruturas estratégicas adversárias. Um sistema autônomo poderia falhar, extrapolar suas instruções originais ou ser comprometido por terceiros, criando situações de risco incontrolável.

Jiang, por sua vez, propôs limites explícitos impedindo que a inteligência artificial decida independentemente sobre emprego de armas nucleares ou ataque autonomamente sistemas de comando nuclear. Sua proposta inclui proteções específicas para infraestruturas críticas como energia, finanças e saúde, setores vitais para a sobrevivência estatal.

Uma questão fundamental emerge das discussões: a definição de "controle humano significativo". Jiang defende linguagem comum entre EUA e China para evitar que os dois países justifiquem diferentes níveis de autonomia das máquinas sob a mesma terminologia, fechando brechas para interpretações divergentes que pudessem alimentar desconfiança mútua.

Precedentes internacionais e endossos presidenciais

A proposta baseia-se em princípio endossado tanto por Joe Biden quanto por Xi Jinping em novembro de 2024: o de que seres humanos devem manter controle sobre decisões de uso de armas nucleares. Pesquisadora sênior do Instituto Internacional de Pesquisa para a Paz de Estocolmo, Lora Saalman identificou esse como importante ponto de convergência entre as potências, apesar de sinais de que ambas integram a inteligência artificial cada vez mais profundamente a sistemas nucleares e relacionados à energia nuclear.

Mecanismos de comunicação para incidentes envolvendo IA

Jiang também propôs linha direta militar exclusiva entre EUA e China para incidentes envolvendo inteligência artificial. Sua lógica é simples mas crucial: as trocas digitais automatizadas podem intensificar-se rapidamente, reduzindo o tempo disponível para intervenção humana. A defesa cibernética de um país poderia responder automaticamente a atividades suspeitas, enquanto o outro lado interpretasse a reação como ataque, retaliar antes de compreender o ocorrido.

Uma linha direta permitiria que um governo informasse ao outro que operação incomum de inteligência artificial foi acidental, não autorizada ou ainda estava sob investigação, antes de ser interpretada como ação estatal deliberada. Esse mecanismo funcionaria como válvula de escape para crises nascentes em ambiente digital.

Ceticismo sobre efetividade de canais de comunicação existentes

Especialistas como Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins, questionam a utilidade de linha direta de comunicação militar já existente entre EUA e China. Freeman cita a recusa de autoridades chinesas em atender ligações de homólogos norte-americanos durante o "incidente do balão espião" em fevereiro de 2023.

A pesquisadora aponta que a rígida hierarquia da burocracia chinesa impede que oficiais de baixo escalão tomem iniciativa em interações com homólogos norte-americanos. "Ninguém no sistema chinês quer se comunicar com os Estados Unidos até que a alta liderança, em consulta com atores relevantes dentro do partido-Estado chinês, tenha decidido sobre uma resposta, o que pode levar dias, se não mais", escreveu Freeman em artigo no War on the Rocks.

Posicionamento dos governos e arquitetura institucional

Nenhum dos dois governos endossou publicamente as propostas da Brookings-Tsinghua, embora a China venha incorporando progressivamente inteligência artificial à sua estrutura de controle de armas. A inteligência artificial é área de atuação formal do Departamento de Controle de Armas do Ministério das Relações Exteriores chinês, responsável também por questões nucleares, não proliferação, mísseis e segurança internacional.

Shen Jian, embaixador chinês para assuntos de desarmamento, afirmou em reunião da ONU em Genebra em junho que a IA militar pode afetar estabilidade estratégica, aumentar riscos de erros de cálculo e ampliar risco de escalação de conflitos. Segundo sua declaração, as armas devem permanecer sob controle humano. A China também argumenta que segurança da IA não deve servir de pretexto para criação de barreiras tecnológicas.

Washington, diferentemente, não possui órgão único equivalente para tratar controle de armas relacionado à inteligência artificial. Sua política de segurança nacional divide-se entre Conselho de Segurança Nacional da Casa Branca, Departamento de Estado, Pentágono e outras agências, criando fragmentação institucional.

Cautela bilateral e preservação de capacidades

Ambos os governos seguem cautelosos em relação a medidas que possam desacelerar seu desenvolvimento tecnológico. Trump alertou que restrições amplas poderiam favorecer a China, enquanto Pequim considera muitos dos controles tecnológicos norte-americanos tentativa de preservar liderança americana em inteligência artificial. Essa dinâmica de desconfiança mútua complica a implementação de qualquer marco regulatório bilateral que transcenda o meramente simbólico.