Sisson, da Brookings Institution, argumenta que os seres humanos devem manter a autoridade exclusiva para iniciar ataques digitais habilitados por IA contra os sistemas de comando, controle e comunicação nucleares de outro país ou contra infraestruturas estrategicamente importantes.
Um sistema autônomo poderia apresentar falhas, exceder suas instruções ou ser comprometido, enquanto o país sob ataque poderia ter dificuldade em distinguir se a ação foi acidental ou ordenada por seu rival.
Jiang, da Universidade de Fudan, propôs limites explícitos que impeçam a IA de decidir de forma independente o uso de armas nucleares ou de atacar autonomamente sistemas de comando nuclear, além de proteções em torno de infraestruturas críticas, incluindo energia, finanças e saúde.
Ele também defendeu uma definição comum de “controle humano significativo” para evitar que ambos os países utilizem a mesma linguagem para justificar diferentes níveis de autonomia das máquinas.
A ideia se baseia em um princípio endossado pelo então presidente dos EUA, Joe Biden, e por Xi em novembro de 2024, segundo o qual os seres humanos devem manter o controle sobre as decisões de uso de armas nucleares.
Lora Saalman, pesquisadora sênior associada do Instituto Internacional de Pesquisa para a Paz de Estocolmo, escreveu em fevereiro que esse era um importante ponto de convergência entre os EUA e a China, mesmo com ambos os países mostrando sinais de integrar a IA mais profundamente aos sistemas nucleares e relacionados à energia nuclear.
