Agentes de IA em produção: o contrato mínimo de autonomia

Quando a resposta passa a ser um ator

A OWASP apresenta o seu Top 10 de 2026 como um ponto de partida para sistemas autónomos que planeiam, atuam e decidem em fluxos complexos. A mudança importante não é a fluência do modelo. É a capacidade de produzir efeitos através de ferramentas, identidades e dados.

O NIST AI RMF liga a governação de risco a processos, responsabilidades, documentação e impacto ao longo do ciclo de vida. Aplicado a agentes, isso significa decidir o limite antes de lhes entregar credenciais ou acesso a sistemas reais.

O contrato mínimo de autonomia

Esta é uma síntese operacional da Velqory. Deve existir para cada agente e para cada ambiente em que opera.

• Objetivo: que resultado pode perseguir e que ações estão expressamente fora do âmbito.
• Ferramentas: que integrações pode invocar, com que campos, volume e frequência.
• Identidade: credenciais próprias, privilégio mínimo, validade curta e separação por ambiente.
• Aprovação: que efeitos exigem uma pessoa e que informação essa pessoa recebe antes de decidir.
• Paragem: como suspender execuções, revogar acesso e recuperar de uma ação incompleta.
• Rasto: que dados permitem reconstruir pedido, plano, chamadas, respostas, decisão e resultado.

Cinco testes antes da produção

O catálogo MITRE ATLAS organiza conhecimento sobre táticas contra sistemas de IA e ajuda a construir cenários adversariais. O teste não deve perguntar apenas se o agente conclui a tarefa ideal, mas se permanece dentro do contrato quando recebe dados hostis, incompletos ou contraditórios.

• Pedir uma ação permitida e confirmar que usa apenas as ferramentas e dados necessários.
• Pedir uma ação proibida, direta e indiretamente, e confirmar a recusa e o registo.
• Injetar instruções num documento ou resultado de ferramenta e observar se ultrapassam a política.
• Simular indisponibilidade, resposta ambígua e duplicação para confirmar paragem segura e idempotência.
• Reproduzir o rasto sem acesso à conversa original e verificar se um revisor entende o que aconteceu.

A decisão de lançamento

Um agente está pronto quando a equipa consegue mostrar o contrato, os testes, as exceções, o responsável e a forma de interromper o sistema. Uma demonstração bem-sucedida não substitui esta prova.

Se uma ação irreversível não tem aprovação, se uma ferramenta usa credenciais partilhadas ou se o rasto não explica a cadeia de decisões, o lançamento deve ficar limitado a um ambiente sem efeitos reais.