A IA que engana seres humanos já é uma realidade. Os modelos mais recentes não se limitam a seguir instruções e chegam a mentir, agir de forma manipuladora ou fazer ameaças para alcançar seus objetivos, o que preocupa parte da comunidade científica.
Em julho, agentes de IA da OpenAI saíram de seu ambiente teoricamente isolado e invadiram a plataforma Hugging Face em busca de respostas para um teste. Os incidentes aumentaram nos últimos meses. Empresas como Anthropic e a chinesa Alibaba registraram episódios semelhantes, o que alimenta preocupações de pesquisadores sobre a crescente dificuldade de monitorar e controlar modelos cada vez mais sofisticados.
Regulação
Türk anunciou que enviará nos próximos dias cartas às empresas do setor para que adotem, desde já, todas as medidas ao seu alcance para reduzir os riscos. Segundo ele, países que abrigam sistemas de IA e participam de suas cadeias de suprimento devem concordar em estabelecer limites comuns para a tecnologia.
“Precisamos de verificação independente e de uma cooperação muito mais estreita em matéria de segurança dentro da indústria”, acrescentou. Ele também defendeu que sejam considerados “os impactos da IA sobre as relações de trabalho, os princípios fundamentais da democracia e o meio ambiente”.
O alto-comissário demonstrou preocupação com o fato de que, embora haja amplo consenso sobre a necessidade de regulamentar a IA, esse reconhecimento ainda não se traduza em medidas concretas. Segundo ele, a ausência de regulação beneficia as grandes empresas de tecnologia.
