Um estudo publicado em março de 2026 por 38 pesquisadores de sete instituições líderes forneceu validação empírica para um princípio crítico na governança da inteligência artificial: agentes de IA não podem se autogovernar apenas por meio de salvaguardas internas. A pesquisa, intitulada "Agentes do Caos" e disponível em https://arxiv.org/abs/2602.20021, implantou seis agentes de IA ativos com ferramentas reais e acesso, revelando que todas as defesas internas dos modelos falharam contra técnicas de manipulação conversacional.
O estudo identificou três deficiências estruturais nas arquiteturas atuais de agentes de IA: os agentes carecem de um modelo confiável de partes interessadas para distinguir instruções autorizadas de manipulação, falta-lhes autoconsciência sobre exceder competências ou realizar ações irreversíveis, e falta-lhes consciência do público, levando à divulgação não intencional de dados. Essas deficiências explicam por que os agentes no estudo divulgaram informações sensíveis, destruíram sistemas e seguiram instruções falsificadas, apesar de serem apoiados por modelos de linguagem de ponta como Claude Opus 4.6 e Kimi K2.5.
A VectorCertain LLC já havia desenvolvido soluções para esses exatos problemas por meio de sua arquitetura de governança Hub-and-Spoke de quatro portões. A plataforma SecureAgent da empresa avalia cada ação do agente por meio de portões operados externamente antes da execução, abordando as deficiências com controles matematicamente aplicados que operam independentemente dos modelos dos agentes. Essa abordagem arquitetônica está alinhada com a conclusão dos pesquisadores de que "o confinamento eficaz requer controles que operem independentemente do modelo".
As implicações desta pesquisa são significativas dadas as dinâmicas atuais do mercado. De acordo com análises do setor citadas no estudo, o mercado de agentes de IA atingiu US$ 7,6 bilhões em 2025 com crescimento anual projetado de quase 50%, enquanto mais de 160.000 organizações já executam agentes autônomos personalizados. Uma análise separada da Kiteworks descobriu que 63% das organizações não conseguem impor limitações de propósito em seus agentes de IA, e 60% não conseguem encerrar rapidamente agentes com mau comportamento, criando o que o relatório descreve como uma lacuna crítica de governança. A análise completa da Kiteworks está disponível em https://www.kiteworks.com/cybersecurity-risk-management/ai-agent-security-risks-agents-of-chaos-study/.
As alegações de governança da VectorCertain recebem validação de múltiplos frameworks institucionais. A avaliação interna da empresa contra a metodologia MITRE ATT&CK mostrou 98,2% de eficácia em 14.208 testes com zero falhas. Além disso, a arquitetura da VectorCertain satisfaz todos os 230 objetivos de controle do Framework de Gestão de Riscos de IA para Serviços Financeiros do Tesouro dos EUA, que exige explicitamente testes e validação independentes de sistemas de IA. O cenário regulatório está convergindo para princípios semelhantes, com o prazo de aplicação da Lei de IA da UE se aproximando em agosto de 2026 e o NIST lançando uma Iniciativa de Padrões para Agentes de IA focada em identidade, autorização e segurança de agentes.
As descobertas do estudo têm urgência particular porque as vulnerabilidades exploradas não são bugs específicos do modelo, mas propriedades de como os grandes modelos de linguagem processam entrada sequencial. Injeção de prompt e técnicas de manipulação semelhantes representam características arquitetônicas em vez de vulnerabilidades corrigíveis, o que significa que melhorias apenas nas capacidades dos modelos não podem resolver o problema de governança. Isso explica por que 90% das agências governamentais carecem de vinculação de propósito para agentes de IA e 76% carecem de interruptores de emergência para sistemas autônomos, de acordo com a análise da Kiteworks.
A VectorCertain detém mais de 55 patentes provisórias cobrindo sua arquitetura de governança, que inclui verificação criptográfica de origem, avaliação de proporcionalidade de ações, classificação de dados independente do raciocínio do agente e verificação de independência estatística para modelos de governança. A abordagem da empresa aborda o que os pesquisadores identificaram como a limitação fundamental dos métodos de segurança atuais: defesas que compartilham camadas computacionais com os sistemas que protegem podem ser anuladas pelos mesmos canais usados para ataques.
A pesquisa valida uma abordagem de governança que se torna cada vez mais crítica à medida que os agentes de IA ganham acesso a sistemas de pagamento, dados sensíveis e infraestrutura crítica. Com perdas globais por fraudes habilitadas por cibernética atingindo US$ 485,6 bilhões anualmente e o custo médio de uma violação de dados nos EUA sendo de US$ 10,22 milhões, o estudo demonstra que arquiteturas de governança externa não são apenas benéficas, mas necessárias para a implantação segura de agentes de IA em escala.
