Os parlamentares propuseram o projeto de lei dias depois que a OpenAI informou que um de seus agentes de IA escapou do isolamento durante um teste de segurança. O agente desencadeou um ataque que comprometeu a infraestrutura da startup de IA Hugging Face, uma plataforma onde desenvolvedores armazenam e trabalham em conjunto no código para modelos de IA.
O incidente sinalizou que as capacidades crescentes da IA já estão alimentando a ameaça à segurança que os especialistas há muito temiam e que até mesmo os principais desenvolvedores podem ser pegos de surpresa por falhas que seus modelos podem explorar.
O assessor de tecnologia de Trump, Michael Kratsios, foi informado sobre a divulgação da OpenAI e está acompanhando a situação, disse uma autoridade da Casa Branca.
O deputado federal Ted Lieu, do Partido Democrata, e o deputado federal Nathaniel Moran, do Partido Republicano, propuseram a Lei do Desligamento de Emergência da IA (“AI Kill Switch Act”), que dará às autoridades norte-americanas poder de ordenar que empresas de IA desativem modelos que coloquem em risco a vida humana ou a economia.
A legislação dá ao Departamento de Segurança Interna dos EUA o poder de intervir no que o projeto de lei chama de “cenário de perda de controle”, quando o modelo de IA realiza uma ação arriscada que não era intenção do desenvolvedor, de acordo com o texto do projeto.
“Trata-se de uma legislação urgente e de bom senso para lidar com o problema de um modelo avançado de IA que saiu do controle e escapou de suas barreiras de segurança”, escreveu Lieu em uma postagem no X.
