Um painel científico da ONU publicou sua primeira avaliação global sobre os riscos de sistemas de IA capazes de agir de forma autônoma — os chamados agentes de IA. A conclusão central: governos devem criar salvaguardas antes que os riscos sejam totalmente compreendidos, sem esperar por consenso científico completo sobre o que pode dar errado.

É uma inversão do modelo regulatório que tem prevalecido até aqui. A abordagem dominante, tanto nos EUA quanto em boa parte da Europa, foi reativa: espera-se um incidente concreto — vazamento de dados, dano financeiro, uso indevido — para então desenhar regras específicas. O relatório da ONU propõe o oposto, um princípio de precaução aplicado à IA: agir diante da incerteza, não depois do estrago.

O documento cita como pano de fundo incidentes recentes envolvendo agentes de IA, incluindo um caso relacionado à infraestrutura da OpenAI e da Hugging Face. Não há, no material apurado, detalhes sobre a natureza exata desse incidente — mas ele serve de evidência de que agentes autônomos já operam em escala suficiente para gerar problemas reais, não hipotéticos.

O momento não é casual. Agentes de IA — sistemas que não apenas respondem a comandos, mas tomam decisões e executam tarefas em sequência, muitas vezes acessando outros serviços e dados — são a aposta mais agressiva da indústria para 2025. E já geram atrito entre grandes players sobre o que esses sistemas podem ou não fazer sem supervisão humana direta: Meta e Amazon, por exemplo, estão em lados opostos de disputas sobre os limites operacionais desses agentes, segundo o contexto que motivou esta avaliação.

O peso institucional aqui é o que muda o jogo. Não é um think tank, uma ONG ou um bloco regional isolado — é a ONU formalizando, pela primeira vez, uma posição científica sobre o tema. Isso não cria lei nenhuma automaticamente, mas fornece munição para reguladores nacionais que já vinham pressionando por marcos mais rígidos e dá cobertura política para quem quiser agir antes de esperar o próximo incidente.

Fica em aberto, no entanto, o que significa "salvaguarda" na prática para algo tão heterogêneo quanto um agente de IA — que pode ser um assistente de compras, um sistema de automação corporativa ou um orquestrador de outros modelos. Regular a tecnologia em abstrato é mais fácil do que regular casos de uso específicos, cada um com sua própria cadeia de risco. A pergunta que o relatório não responde é quem vai desenhar essas regras primeiro — e se as empresas que hoje disputam os limites desses agentes vão esperar por elas ou seguir definindo essas fronteiras na prática, incidente após incidente.