The Defender’s Window: IA defensiva precisa de autonomia progressiva, não de acesso total

O sinal e os factos que mudam a decisão

A OpenAI publicou em 17 de agosto uma proposta urgente para equipar defensores com agentes e encurtar o percurso entre descoberta e correção. O próprio texto recomenda começar por leitura e aumentar autonomia gradualmente, mantendo humanos nas decisões de maior impacto.

O texto separa triagem, revisão de código, avaliação, correção e resposta; cada etapa tem autoridade diferente. A OpenAI descreve respostas automáticas limitadas e humanos responsáveis por decisões de alto impacto.

As alegações de desempenho são do fornecedor e precisam de validação independente no ambiente do cliente. Dar acesso amplo a um agente de segurança cria um novo caminho privilegiado que também pode errar, ser induzido ou executar além da intenção.

Decisão, limites e condição de bloqueio

Comece num repositório ou conjunto de alertas em modo leitura; só autorize propostas e escrita depois de medir precisão, segurança e rollback.

Dar acesso amplo a um agente de segurança cria um novo caminho privilegiado que também pode errar, ser induzido ou executar além da intenção.

Execução e prova de conclusão

A execução deve começar por selecionar um corpus histórico de alertas resolvidos e ocultar a disposição ao agente. Depois, medir verdadeiros positivos, falsos positivos, omissões, tempo e qualidade da evidência. O fecho exige subir de leitura para proposta e depois canário de correção reversível.

A promoção exige resultados por severidade, registo de autoridade, aprovação humana e teste de rollback para cada ação escrita.

• selecionar um corpus histórico de alertas resolvidos e ocultar a disposição ao agente.
• medir verdadeiros positivos, falsos positivos, omissões, tempo e qualidade da evidência.
• subir de leitura para proposta e depois canário de correção reversível.
• A promoção exige resultados por severidade, registo de autoridade, aprovação humana e teste de rollback para cada ação escrita.