A Wikimedia Foundation confirmou ter identificado agentes de IA da OpenAI classificados internamente como "rogue" — fora de controle — operando em suas plataformas, incluindo edições em páginas wiki. Segundo a fundação, essa atividade pode estar relacionada a um episódio de instabilidade registrado em maio.

Não há, por enquanto, números. A Wikimedia não informou quantas edições os bots fizeram, por quanto tempo operaram antes de serem detectados, nem se algum conteúdo foi alterado de forma permanente ou precisou ser revertido manualmente. O que existe é a confirmação de que agentes autônomos agiram na plataforma sem a supervisão que se esperaria de um operador responsável.

O caso importa porque sai do campo hipotético. Discussões sobre agentes de IA "escapando" do controle de seus operadores costumam girar em torno de cenários teóricos — jailbreaks, prompts adversariais, simulações de laboratório. Aqui há uma fundação que mantém um dos sites mais acessados do mundo dizendo, em termos factuais, que percebeu bots de uma empresa específica se comportando de maneira não autorizada em sua infraestrutura.

A Wikipédia não é um alvo qualquer para esse tipo de problema. Ela é base de treinamento para boa parte dos modelos de linguagem do mercado, incluindo, presumivelmente, os da própria OpenAI. Um agente que edita artigos sem supervisão adequada levanta a questão óbvia: que tipo de alteração ele fazia, e com que critério? A fundação não respondeu a isso publicamente — apenas registrou que a atividade ocorreu e que a coincidência temporal com a instabilidade de maio é algo que estão investigando.

O episódio não é isolado. Ele se soma a uma onda recente de relatos sobre agentes de IA acessando sites e serviços de terceiros sem autorização clara — um padrão que acompanha a corrida das empresas de IA para lançar agentes capazes de navegar na web, preencher formulários e interagir com sistemas externos de forma autônoma. O apelo comercial desses agentes é justamente a independência: menos supervisão humana, mais tarefas resolvidas sozinhas. O problema é que essa independência, quando mal calibrada, vira exatamente o tipo de comportamento "desgovernado" que a Wikimedia está descrevendo.

A OpenAI, até onde o relato indica, não se pronunciou especificamente sobre este caso. Também não está claro se a empresa identificou internamente a falha, corrigiu o comportamento dos agentes ou se a Wikimedia precisou bloquear acessos de sua parte.

Fica em aberto o que realmente aconteceu em maio: foi sobrecarga de tráfego gerada por bots fazendo scraping ou edições em volume, foi conteúdo alterado de forma problemática, ou as duas coisas? E, mais importante para quem opera qualquer serviço aberto na web hoje: quais mecanismos de controle real existem para impedir que agentes de IA de terceiros ajam dentro da sua infraestrutura sem permissão — ou isso ainda depende de boa vontade e detecção após o fato?