EUA e China propõem controles de IA para segurança nuclear

Propostas de especialistas para segurança de IA nuclear

Pesquisadores dos Estados Unidos e da China apresentaram recomendações inovadoras sobre segurança de IA nuclear, alertando que sistemas de inteligência artificial interferindo em redes de comando nuclear ou operações militares digitais poderiam deixar Washington ou Pequim com apenas minutos para determinar se o outro governo foi responsável por um ataque. As propostas, desenvolvidas por especialistas que participam de diálogos oficiais entre os dois países, buscam preparar ambos os governos para cenários de crise tecnológica crescente envolvendo sistemas cada vez mais poderosos e autônomos.

Os especialistas em segurança recomendam que os dois governos implementem medidas preventivas robustas para mitigar riscos de mal-entendidos e escaladas não intencionais. As propostas incluem limitações rígidas para sistemas nucleares dirigidos por IA, manutenção de controle humano sobre ataques digitais de grande impacto e estabelecimento de uma linha direta exclusiva para incidentes envolvendo inteligência artificial autônoma.

Contexto das negociações e diálogo bilateral

As recomendações foram divulgadas antes das negociações oficiais sobre IA entre os dois países e de uma reunião marcada para 24 de setembro em Washington, entre o presidente dos Estados Unidos, Donald Trump, e o presidente chinês, Xi Jinping. Melanie Sisson, pesquisadora sênior da Brookings Institution, e Tianjiao Jiang, professor associado da Universidade de Fudan, coordenaram essas propostas através do diálogo EUA-China sobre IA e segurança nacional, uma iniciativa promovida desde 2019 pela Brookings Institution e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua.

As propostas evidenciam que a rivalidade entre EUA e China em inteligência artificial sistemas nucleares extrapola a disputa tradicional por chips avançados e modelos de aprendizado profundo. A competição agora abrange temas historicamente vinculados ao controle de armas, como evitar confusões entre acidentes e ataques reais, limitar decisões militares tomadas por máquinas autônomas e estabelecer protocolos efetivos de comunicação entre rivais dotados de arsenais nucleares quando a tecnologia apresenta comportamentos inesperados.

Perspectiva chinesa sobre transformação militar

Chen Yixin, ministro da Segurança do Estado da China, expressou em comunicação oficial que a inteligência artificial "transforma fundamentalmente a forma da luta militar". Segundo sua análise, a tecnologia deixou de ocupar papel secundário nos cenários de combate e ascendeu a posição central, citando exemplos de operações dirigidas por IA nas campanhas militares dos Estados Unidos e de Israel contra o Irã como evidência dessa transformação estratégica.

Limites e controle humano significativo

Sisson argumenta que apenas seres humanos devem deter autoridade para iniciar ataques digitais utilizando IA contra sistemas de comando, controle e comunicação nucleares de outro país ou infraestruturas estratégicas críticas. Sua fundamentação baseia-se no reconhecimento de que um sistema autônomo poderia sofrer falhas, extrapolar suas instruções programadas ou ser comprometido por agentes maliciosos. Simultaneamente, o país alvo de um possível ataque enfrentaria dificuldades substantivas para determinar se a ação foi acidental ou ordenada deliberadamente pelo país rival.

Tianjiao Jiang propôs limites explícitos e vinculantes para impedir que a IA decida de forma independente sobre o emprego de armas nucleares ou lance ataques autônomos contra sistemas de comando nuclear. Jiang também defendeu proteções robustas para infraestruturas essenciais, incluindo redes energéticas, sistemas financeiros e infraestrutura de saúde, reconhecendo a cascata de consequências que falhas nessas áreas poderiam provocar.

Definição comum de controle humano

Uma das propostas mais significativas envolve estabelecer uma definição comum e vinculante de "controle humano IA" entre os dois países, evitando interpretações divergentes que possibilitassem justificar diferentes níveis de autonomia das máquinas sob a mesma nomenclatura. Essa harmonização conceitual baseia-se em um princípio endossado pelo então presidente norte-americano Joe Biden e por Xi Jinping em novembro de 2024: o reconhecimento de que seres humanos devem preservar o controle supremo sobre decisões relacionadas ao uso de armas nucleares.

Lora Saalman, pesquisadora sênior associada do Instituto Internacional de Pesquisa para a Paz de Estocolmo, publicou análise em fevereiro indicando que esse princípio representava um importante ponto de convergência entre EUA e China. Porém, sinais preocupantes sugerem que ambos os países vêm integrando inteligência artificial de forma progressivamente profunda em sistemas nucleares e infraestruturas conectadas à energia nuclear.

Comunicação em crises automáticas aceleradas

Jiang também propôs implementação de uma linha direta militar exclusiva entre os Estados Unidos e a China direcionada especificamente para incidentes envolvendo inteligência artificial. Sua justificativa fundamenta-se na observação de que trocas digitais automatizadas podem intensificar-se rapidamente, reduzindo drasticamente o tempo disponível para intervenção e deliberação humana.

Cenários problemáticos poderiam incluir situações nas quais a IA defensiva de um país responderia automaticamente a atividades suspeitas detectadas em suas redes. O outro lado, por sua vez, poderia interpretar essa reação automática como um ataque real e retaliar antes de compreender completamente o que ocorreu. Uma linha direta exclusiva permitiria que um governo informasse rapidamente ao outro que uma operação incomum de IA foi acidental, não autorizada ou ainda permanecia sob investigação, prevenindo que fosse tratada como ação estatal deliberada.

Desafios práticos de implementação

Contudo, especialistas como Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins, expressam ceticismo quanto à utilidade prática da linha direta de cooperação EUA China IA para crises militares já existente entre os países. Freeman aponta a recusa de autoridades chinesas em atender ligações de homólogos norte-americanos durante o "incidente do balão espião" em fevereiro de 2023 como evidência dessas limitações operacionais.

A estrutura hierárquica rígida da burocracia chinesa adicionalmente impede que oficiais de escalão inferior tomem iniciativas em interações com equivalentes norte-americanos sem aprovação dos níveis superiores. Freeman escreveu que "ninguém no sistema chinês quer se comunicar com os Estados Unidos até que a alta liderança, em consulta com os atores relevantes dentro do partido-Estado chinês, tenha decidido sobre uma resposta, o que pode levar dias, se não mais".

Posições governamentais e desenvolvimentos recentes

Nenhum dos dois governos endossou publicamente as propostas da iniciativa Brookings-Tsinghua até o momento. Entretanto, evidências indicam que a China vem incorporando progressivamente inteligência artificial à sua estrutura de controle de armas e governança nuclear. A inteligência artificial constitui uma área formal de atuação do Departamento de Controle de Armas do Ministério das Relações Exteriores da China, órgão responsável igualmente por questões ligadas a armas nucleares, não proliferação, mísseis e outros temas de segurança internacional.

Shen Jian, embaixador chinês para assuntos de desarmamento, afirmou durante reunião da Organização das Nações Unidas em Genebra em junho que a IA militar pode afetar significativamente a estabilidade estratégica entre potências, aumentar os riscos de erros de cálculo críticos e ampliar o potencial de escalada de conflitos. Segundo sua declaração, as armas devem permanecer sob controle humano permanente. A China simultaneamente argumenta que regulamentações de segurança da IA não devem servir como pretexto para criação de barreiras tecnológicas discriminatórias.

Estrutura regulatória norte-americana

Washington não possui um órgão único equivalente especificamente dedicado ao controle de armas relacionado a armas autônomas e inteligência artificial. A política de segurança nacional relativa a essa temática distribui-se entre o Conselho de Segurança Nacional da Casa Branca, o Departamento de Estado, o Pentágono e múltiplas outras agências governamentais, criando potenciais fragmentações e inconsistências de coordenação.

Ambos os governos mantêm postura cautelosa em relação a medidas que possam desacelerar seu desenvolvimento tecnológico nos campos de inteligência artificial. Donald Trump alertou que restrições amplas poderiam favorecer indevidamente a China, enquanto Pequim considera muitos dos controles tecnológicos implementados pelos Estados Unidos como tentativa de preservação da liderança tecnológica norte-americana, estabelecendo dinâmica de desconfiança mútua que complica negociações construtivas sobre segurança de IA.