Intent drift: quando o controlo passa na auditoria e falha o propósito
Agentes de IA conseguem escalar políticas obsoletas com grande eficiência. A revisão precisa de perguntar se o controlo ainda reduz o risco que justificou a sua criação.
- Natureza
- Análise de governação e desenho de controlos
- Gatilho
- Artigo ISACA de 23 de julho de 2026, cruzado com NIST e OECD
- Âmbito
- Controlos automatizados e agentes de IA em produção
- Limite
- O exemplo não presume falha de um setor ou organização específica
Em resumo
A ISACA descreve intent drift como a separação gradual entre a razão original de um controlo e o ambiente atual. O NIST exige monitorização e revisão periódica do processo de risco, dos sistemas em produção e do propósito declarado. Para agentes que executam milhares de decisões, a prova de configuração deve ser acompanhada por prova de efeito: risco-alvo, ameaça atual, resultado observado e limiar de reforma.
- Acrescente a cada controlo um propósito, ameaça, hipótese, métrica e data de revisão — além do owner e da evidência de execução.
- Teste falsos negativos e efeitos adversos; taxa de conformidade só diz que o mecanismo correu.
- Dispare revisão quando modelo, ferramentas, dados, utilizadores, lei ou ameaça mudarem materialmente.
- Permita reformar controlos que já não entregam redução de risco, sem apagar o histórico da decisão.
Conformidade de execução não é eficácia de controlo
Um controlo tem pelo menos duas perguntas: foi executado como desenhado e continua a reduzir o risco pretendido? Logs, tickets e assinaturas respondem à primeira. A segunda exige observar ameaças, resultados, bypasses, custo e impacto no serviço.
Agentes amplificam o problema porque aplicam uma decisão antiga a maior velocidade e escala. O NIST recomenda monitorização pós-implementação, revisão periódica, override, change management e desativação segura. A revisão do propósito não é uma exceção de auditoria; é parte do ciclo de vida.
Ciclo contra a deriva
- DESENHOHipótese explícita
Que risco o controlo reduz, para quem e sob que pressupostos?
- EXECUÇÃOProva técnica
O mecanismo correu, decidiu e registou como previsto?
- EFEITOResultado observado
Incidentes, bypasses e custo confirmam redução de risco?
- REVISÃOManter, alterar ou retirar
A decisão tem owner, evidência e prazo.
Uma ficha de controlo deve conservar intenção e sinais de invalidação
Ligue cada regra do agente a um risco e a uma decisão humana. Guarde a versão do modelo, ferramentas, dados, limiar, utilizadores e autoridade em que a hipótese foi aprovada. Depois defina sinais que obrigam a reabrir: aumento de exceções, nova técnica adversária, mudança de processo ou impacto desproporcionado.
Não use o próprio agente como único avaliador. Amostragem independente, testes adversariais, feedback de pessoas afetadas e análise de incidentes reduzem a possibilidade de o mesmo erro validar a sua execução.
Ficha de eficácia
| Campo | Pergunta | Métrica | Gatilho |
|---|---|---|---|
| Propósito | Que risco reduz? | Resultado de risco | Objetivo muda |
| Hipótese | O que tem de continuar verdadeiro? | Indicador externo | Hipótese quebra |
| Execução | A regra corre? | Cobertura/erros | Falha técnica |
| Efeito | Reduz dano? | Incidentes/bypasses | Eficácia cai |
| Custo | Cria dano lateral? | Atrasos/recursos | Desproporção |
Comece pelos controlos com maior escala e menor observabilidade
Escolha dez controlos automatizados que bloqueiam, aprovam ou executam mais operações. Para cada um, peça a última prova de efeito e o evento que o reabre. Ausência de resposta é um achado de governação, não um motivo para inventar um KPI.
Inclua a revisão no calendário de change management e ligue-a a alterações do agente. Um prompt novo, uma ferramenta adicional ou um aumento de autonomia deve revalidar controlos dependentes, mesmo que a política escrita não tenha mudado.
- Não medir eficácia apenas por percentagem de execuções conformes.
- Não renovar um controlo por inércia ou porque ainda não houve incidente conhecido.
- Não deixar exceções sem prazo alimentarem um novo normal invisível.
- Não retirar controlo sem preservar racional, evidência e risco residual.
Fontes consultadas
Consultadas na data de atualização indicada.
Abre numa nova janela.Participar
Partilhe a análise. Acrescente contexto.
Divulgue a matéria no seu canal ou deixe uma observação ligada ao tema.
Comentários
A carregar a conversa.