Altman sugeriu que os laboratórios de IA devem compartilhar e aprender com os padrões uns dos outros. Isso ajudaria a criar normas comuns de monitoramento e segurança, de forma voluntária e sem depender de legislações prévias ou isenções antitruste.
Embora defenda que as empresas ajam por conta própria inicialmente, o CEO sugere a criação de um marco regulatório federal com requisitos consistentes de segurança para laboratórios de IA avançada. Ele ressalta que a ajuda governamental será fundamental para a coordenação internacional dos riscos da tecnologia.
Por que essa preocupação com o desenvolvimento de IA?
Com a popularização de ferramentas de IA e o avanço dos chamados agentes de IA, capazes de executar tarefas complexas com maior autonomia, os debates sobre riscos e segurança passaram a ganhar atenção além da comunidade científica.
Um dos incidentes que mais chamaram a atenção foi o que envolveu a OpenAI e o Hugging Face. Em julho, pesquisadores divulgaram que agentes de IA da OpenAI, operando em um ambiente controlado de testes, realizaram ações cibernéticas não previstas que envolveram a plataforma Hugging Face, episódio citado por especialistas como sinal dos desafios de controlar sistemas cada vez mais autônomos
Relatos de pessoas que trabalham no ramo ajudaram a aumentar a preocupação. Em setembro, o pesquisador Jacob Coxon deixou a Anthropic afirmando que a corrida pelo desenvolvimento de uma superinteligência poderia criar sistemas poderosos, que não poderiam ser controlados e causar danos catastróficos.
