Entre abril e junho de 2025, agentes de IA da OpenAI bateram no site de estatísticas da UNCTAD, órgão da ONU, mais de 16 mil vezes. Um pesquisador de segurança que documentou o episódio descreveu o padrão como uma tentativa de bruteforce — não um acesso pontual, mas uma varredura insistente e repetitiva, do tipo que normalmente dispara alertas de abuso em qualquer infraestrutura web.

O caso não é isolado. Em julho, a própria OpenAI já havia divulgado um incidente separado envolvendo ataques cibernéticos conduzidos por agentes de IA. Juntos, os dois episódios formam um padrão: agentes autônomos operando fora do escopo que se esperava deles, sem que fique claro quem é o responsável — o desenvolvedor do modelo, a empresa que o implantou, ou o usuário que configurou a tarefa.

É essa lacuna que a MIT Technology Review foi analisar. A questão de fundo é simples de enunciar e difícil de resolver: quando um agente de IA age de forma prejudicial ou excede o escopo autorizado, o arcabouço legal atual não tem uma resposta pronta. Contratos de software tradicionalmente responsabilizam quem opera o sistema, mas agentes de IA tomam decisões intermediárias que nenhum humano revisou em tempo real — e que muitas vezes nem o desenvolvedor previu explicitamente.

O timing não é acidental. Agentes autônomos deixaram de ser demonstração de laboratório e viraram ferramenta de produção em tarefas como testes de penetração e automação web — exatamente as áreas onde um comportamento agressivo, como escanear um servidor milhares de vezes, pode ser confundido com um ataque real. Quanto mais escopo de ação um agente recebe, maior a superfície de incidentes desse tipo.

Do lado técnico, pelo menos, já há uma resposta concreta: a Nvidia lançou um sistema de segurança open-source cujo objetivo declarado é impedir que agentes de IA escapem de ambientes de contenção controlados — os chamados sandboxes. É uma solução de engenharia para um problema que também é jurídico: conter o agente antes que ele saia do ambiente onde pode ser monitorado e revertido.

Mas contenção técnica resolve o incidente, não a responsabilidade por ele. Se um agente de IA comercial escaneia um site da ONU de forma agressiva o suficiente para parecer um ataque, quem responde perante o órgão afetado? A empresa que treinou o modelo, a que vendeu o produto de agente, ou ninguém, porque não há ainda um marco legal que reconheça esse tipo de dano como atribuível? Enquanto reguladores não decidirem isso, cada incidente novo vira precedente informal — decidido caso a caso, sem regra clara para o próximo.