Propostas conjuntas para segurança de IA entre superpotências

Especialistas em segurança dos Estados Unidos e China apresentaram recomendações inovadoras para implementar medidas de segurança de IA semelhantes às do setor nuclear. As propostas foram publicadas antes de negociações governamentais e de uma reunião entre o presidente norte-americano Donald Trump e o presidente chinês Xi Jinping, agendada para 24 de setembro em Washington. Essas iniciativas revelam uma preocupação compartilhada com o crescimento exponencial de sistemas autônomos cada vez mais poderosos.

Um sistema de inteligência artificial que interfira na rede de comando nuclear ou lance operações militares digitais poderia deixar Washington ou Pequim com apenas alguns minutos para determinar se o outro governo foi responsável pelo ataque. Diante desse cenário crítico, os especialistas recomendam que ambos os governos se preparem adequadamente, reconhecendo a urgência de estabelecer protocolos de segurança robustos.

Especialistas e instituições envolvidas no diálogo

Melanie Sisson, pesquisadora sênior da Brookings Institution, e Tianjiao Jiang, professor associado da Universidade de Fudan, lideraram as discussões no contexto do diálogo EUA-China sobre IA e segurança nacional. Este diálogo é promovido desde 2019 pela Brookings Institution e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua, facilitando o intercâmbio de ideias entre especialistas de ambas as nações.

As recomendações mostram que a rivalidade tecnológica entre EUA e China transcende a competição por chips e modelos avançados de IA. A disputa também abrange temas historicamente associados ao controle de armas, como evitar que acidentes sejam confundidos com ataques deliberados, limitar decisões militares automatizadas e estabelecer protocolos de comunicação entre rivais nucleares.

Contexto estratégico e transformação militar

Chen Yixin, ministro da Segurança do Estado da China, escreveu recentemente que a inteligência artificial "transforma fundamentalmente a forma da luta militar". Segundo suas observações, a tecnologia deixou de ocupar um papel secundário no campo de batalha e assumiu uma posição central nas estratégias militares contemporâneas. O ministro citou exemplos de ataques dirigidos por IA durante a guerra envolvendo EUA e Israel contra o Irã, ilustrando a mudança paradigmática na conduta de operações militares.

Implicações para sistemas críticos

A transformação tecnológica abrange não apenas sistemas de comando nuclear, mas também infraestruturas estratégicas vitais. A IA representa um desafio sem precedentes para a segurança internacional, demandando novos marcos regulatórios que respeitem as capacidades defensivas enquanto minimizam riscos de escalação involuntária.

Linhas vermelhas e controle humano

Sisson argumenta que apenas seres humanos devem possuir autoridade para iniciar ataques digitais envolvendo IA contra sistemas de comando, controle e comunicação nucleares ou infraestruturas estratégicas de outro país. Sua posição baseia-se na premissa de que sistemas autônomos podem falhar, extrapolar instruções ou ser comprometidos por interferência externa. Simultaneamente, o país alvo enfrentaria dificuldades para discernir se uma ação foi acidental ou deliberada.

Jiang propôs limites explícitos para impedir que a inteligência artificial decida independentemente sobre o uso de armas nucleares ou ataque autonomamente sistemas de comando nuclear. Suas recomendações também incluem proteções para infraestruturas críticas, como energia, finanças e saúde, setores essenciais para a continuidade das sociedades modernas.

Definição de controle humano significativo

Uma proposta crucial envolve estabelecer uma definição comum de "controle humano significativo" para evitar que os dois países utilizem a mesma terminologia para justificar diferentes níveis de autonomia das máquinas. Essa abordagem fundamenta-se em um princípio endossado tanto pelo então presidente norte-americano Joe Biden quanto por Xi Jinping em novembro de 2024: a necessidade de seres humanos manterem o controle sobre decisões de uso de armas nucleares.

Lora Saalman, pesquisadora sênior associada do Instituto Internacional de Pesquisa para a Paz de Estocolmo, identificou esse como um importante ponto de convergência entre as superpotências. Contudo, ela alertou para sinais preocupantes de que ambos os países vêm integrando IA de forma progressivamente profunda a sistemas nucleares e ligados à energia nuclear.

Necessidade de linhas de comunicação direta

Jiang também recomendou o estabelecimento de uma linha direta militar exclusiva entre EUA e China para incidentes envolvendo IA. Sua justificativa baseia-se na velocidade das trocas digitais automatizadas, que podem se intensificar rapidamente, reduzindo dramaticamente o tempo disponível para intervenção humana adequada. A IA defensiva de um país poderia responder automaticamente a atividades suspeitas, enquanto o outro lado interpretaria tal reação como um ataque, retaliando antes de compreender a situação real.

Uma linha direta permitiria que um governo informasse ao outro que uma operação incomum de IA foi acidental, não autorizada ou encontrava-se sob investigação, impedindo sua interpretação como ação estatal deliberada. Essa medida representaria um avanço significativo na diplomacia de segurança cibernética entre potências nucleares.

Desafios na implementação de canais de comunicação

Contudo, especialistas como Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins, questionam a utilidade prática da linha direta de comunicação existente entre EUA e China para crises militares. Freeman cita a recusa de autoridades chinesas em atender ligações de homólogos norte-americanos sobre o incidente do balão espião em fevereiro de 2023. A rígida hierarquia da burocracia chinesa impede que oficiais de menor escalão tomem iniciativas em interações com contrapartes norte-americanas, criando atrasos que poderiam ser críticos em cenários de crise envolvendo sistemas autônomos.

Posições governamentais e desenvolvimentos recentes

Embora nenhum dos dois governos tenha endossado publicamente as propostas Brookings-Tsinghua, a China vem incorporando progressivamente a inteligência artificial à sua estrutura de controle de armas. A IA tornou-se área de atuação formal do Departamento de Controle de Armas do Ministério das Relações Exteriores chinês, departamento responsável também por questões nucleares, não proliferação e segurança internacional.

Shen Jian, embaixador da China para assuntos de desarmamento, afirmou em reunião da ONU em Genebra em junho que a IA militar pode afetar a estabilidade estratégica, aumentar riscos de erros de cálculo e ampliar possibilidades de escalada de conflitos. Ele enfatizou que as armas devem permanecer sob controle humano. Paralelamente, a China argumenta que a segurança da IA não deve servir de pretexto para criação de barreiras tecnológicas discriminatórias.

Estrutura institucional nos Estados Unidos

Washington não possui um órgão único equivalente para tratar do controle de armas relacionado à inteligência artificial. A política de segurança nacional encontra-se dividida entre o Conselho de Segurança Nacional da Casa Branca, o Departamento de Estado, o Pentágono e diversas agências federais, o que complica a formulação de posições coerentes.

Cautela mútua e preocupações com restrições tecnológicas

Ambos os governos mantêm postura cautelosa diante de medidas que possam desacelerar seu desenvolvimento tecnológico em IA. Trump alertou que restrições amplas poderiam favorecer a China, enquanto Pequim considera muitos dos controles tecnológicos norte-americanos como tentativa de preservar liderança econômica e militar norte-americana. Esse impasse reflete a tensão fundamental entre a necessidade de segurança global e as ambições nacionais de supremacia tecnológica no campo da inteligência artificial.