EUA e China propõem controles de IA para segurança nuclear

Propostas de segurança para IA no contexto nuclear

Especialistas em defesa dos Estados Unidos e China apresentaram recomendações inovadoras sobre como implementar medidas de segurança para IA semelhantes às utilizadas no setor nuclear. As propostas surgem em um contexto de crescente preocupação com sistemas de inteligência artificial cada vez mais poderosos e autônomos que poderiam interferir em redes de comando nuclear ou executar operações militares digitais, deixando qualquer um dos governos com apenas minutos para decidir se o outro país foi responsável por um ataque.

Os especialistas participam de um diálogo oficial entre EUA e China e ajudam a orientar discussões governamentais sobre o tema. Segundo eles, ambas as nações devem se preparar para cenários em que sistemas de IA possam afetar decisões críticas de segurança nacional. As recomendações foram divulgadas antes de negociações programadas em nível governamental e de um encontro agendado para 24 de setembro em Washington entre o presidente norte-americano Donald Trump e o presidente chinês Xi Jinping.

Elementos principais das recomendações

As propostas incluem três componentes fundamentais para garantir a segurança. Primeiro, estabelecer limites rígidos para sistemas de inteligência artificial que poderiam acessar infraestruturas nucleares. Segundo, manter controle humano sobre ataques digitais de grande impacto que utilizem IA. Terceiro, criar uma linha direta exclusiva para incidentes envolvendo sistemas autônomos de inteligência artificial.

Melanie Sisson, pesquisadora sênior da Brookings Institution, e Tianjiao Jiang, professor associado da Universidade de Fudan, foram os principais formuladores dessas ideias. Ambos participam do diálogo EUA-China sobre IA e segurança nacional, promovido desde 2019 pela Brookings e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua.

A transformação da guerra pela inteligência artificial

O ministro da Segurança do Estado da China, Chen Yixin, destacou recentemente que a inteligência artificial "transforma fundamentalmente a forma da luta militar". Segundo ele, a tecnologia deixou de ter um papel secundário no campo de batalha e agora ocupa uma posição central nas operações militares contemporâneas. O ministro citou exemplos de ataques dirigidos por IA na guerra dos Estados Unidos e Israel contra o Irã como evidência dessa transformação.

As propostas de segurança para IA refletem uma preocupação legítima: a rivalidade entre EUA e China não se limita mais apenas à disputa por chips e modelos de inteligência artificial avançados. Ela abrange agora temas tradicionais do controle de armas, como evitar que acidentes sejam confundidos com ataques deliberados, limitar decisões militares tomadas por máquinas e estabelecer protocolos de comunicação entre rivais nucleares quando a tecnologia se comporta de forma inesperada.

Autoridade humana em operações críticas

Sisson argumenta que apenas seres humanos devem ter autoridade para iniciar ataques digitais que utilizem IA contra sistemas de comando, controle e comunicação nucleares de outro país ou infraestruturas estratégicas críticas. Um sistema autônomo de inteligência artificial poderia falhar, extrapolar suas instruções originais ou ser comprometido por adversários. Simultaneamente, o país alvo do ataque enfrentaria dificuldades para determinar se a ação foi acidental ou ordenada pelo rival.

Jiang propôs limites explícitos para impedir que a IA decida de forma independente sobre o uso de armas nucleares ou ataque autonomamente sistemas de comando nuclear. Ele também defendeu proteções específicas para infraestruturas críticas, incluindo setor de energia, instituições financeiras e sistemas de saúde públicos.

Definindo controle humano significativo

Um ponto crucial nas recomendações é a necessidade de definir uma linguagem comum sobre "controle humano significativo". Jiang argumenta que sem uma definição compartilhada, os dois países poderiam usar a mesma expressão para justificar diferentes níveis de autonomia das máquinas, criando falsos entendimentos sobre o que cada nação permite.

Essa proposta se baseia em um princípio endossado pelo então presidente dos Estados Unidos, Joe Biden, e por Xi Jinping em novembro de 2024: o de que seres humanos devem manter o controle sobre decisões relacionadas ao uso de armas nucleares. Lora Saalman, pesquisadora sênior associada do Instituto Internacional de Pesquisa para a Paz de Estocolmo, identificou esse como um importante ponto de convergência entre Washington e Pequim, apesar de sinais indicando que ambos os países estão integrando a IA de forma cada vez mais profunda em sistemas nucleares.

Linha direta para incidentes de inteligência artificial

Outra proposição central é a criação de uma linha direta militar exclusiva entre Estados Unidos e China para incidentes envolvendo IA autônoma. Jiang explica que as trocas digitais automatizadas podem intensificar-se rapidamente, reduzindo o tempo disponível para intervenção humana adequada.

Nesse cenário, a IA defensiva de um país poderia responder automaticamente a atividades suspeitas. O outro lado, por sua vez, poderia interpretar essa reação como um ataque e retaliar antes de compreender o que realmente aconteceu. Uma linha direta permitiria que um governo informasse ao outro que uma operação incomum de inteligência artificial foi acidental, não autorizada ou ainda estava sob investigação, evitando uma escalada desnecessária.

Desafios na implementação prática

Especialistas como Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins, questionam a utilidade prática da linha direta de comunicação para crises militares já existente entre EUA e China. Freeman cita a recusa de autoridades chinesas em atender às ligações de seus homólogos norte-americanos durante o "incidente do balão espião" em fevereiro de 2023 como exemplo de limitação dessa ferramenta.

A rígida hierarquia da burocracia chinesa também representa um obstáculo significativo. Oficiais de baixo escalão na China têm dificuldade em tomar iniciativa em interações com homólogos norte-americanos. "Ninguém no sistema chinês quer se comunicar com os Estados Unidos até que a alta liderança, em consulta com os atores relevantes dentro do partido-Estado chinês, tenha decidido sobre uma resposta, o que pode levar dias ou mais", segundo Freeman.

Posicionamento dos governos

Nenhum dos dois governos endossou publicamente as propostas da Brookings-Tsinghua até o momento. Porém, a China vem incorporando cada vez mais a inteligência artificial à sua estrutura de controle de armas. A IA é uma área de atuação formal do Departamento de Controle de Armas do Ministério das Relações Exteriores da China, que também administra questões relacionadas a armas nucleares, não proliferação de mísseis e outros temas de segurança internacional.

Shen Jian, embaixador da China para assuntos de desarmamento, afirmou em reunião da ONU em Genebra em junho que a IA militar pode afetar a estabilidade estratégica, aumentar riscos de erros de cálculo e ampliar possibilidades de escalada de conflitos. Segundo ele, as armas devem permanecer sob controle humano em todas as circunstâncias.

Washington, por sua vez, não possui um órgão único equivalente para tratar do controle de armas relacionado à IA. A política de segurança nacional é dividida entre o Conselho de Segurança Nacional da Casa Branca, o Departamento de Estado, o Pentágono e outras agências governamentais.

Cautela sobre restrições tecnológicas

Ambos os governos mantêm postura cautelosa em relação a medidas que possam desacelerar seu desenvolvimento tecnológico. Trump alertou que restrições amplas poderiam favorecer a China no cenário competitivo global. Pequim, por outro lado, considera muitos dos controles tecnológicos impostos pelos Estados Unidos como tentativas de preservar a liderança norte-americana em tecnologia e inteligência artificial.

As propostas de segurança para IA representam um esforço importante para estabelecer guardrails em uma área cada vez mais crítica para a segurança nacional e internacional. Ainda que os governos não tenham adotado formalmente as recomendações, o debate continua evoluindo em direção a um consenso sobre a necessidade de regulamentação responsável da inteligência artificial em contextos militares e nucleares.