Semana de capacidades críticas: um go/no-go de IA precisa de limites antes do modelo

O sinal e os factos que mudam a decisão

Entre 17 e 24 de agosto, anúncios sobre agentes defensivos, possível capacidade cyber crítica, processamento privado e novos ambientes de avaliação mostraram que capacidade e risco estão a mudar ao mesmo tempo. A decisão útil hoje é fixar limites do sistema antes da próxima troca de modelo.

A OpenAI marcou como preliminar a avaliação Astra e anunciou reforço de safeguards antes de avançar. Private Safety Processing foi anunciado como preview/teste e rollout futuro, não como controlo universal já ativo.

NIST TEVV-Athlon permanece rascunho em consulta, útil para estruturar avaliação sem ser norma final. Uma avaliação centrada no fornecedor ignora como ferramentas, rede, persistência e utilizadores ampliam o efeito real.

Decisão, limites e condição de bloqueio

Aprovar o sistema por finalidade, autoridade, dados, ambiente e capacidade testada; o identificador do modelo é apenas um componente.

Uma avaliação centrada no fornecedor ignora como ferramentas, rede, persistência e utilizadores ampliam o efeito real.

Execução e prova de conclusão

A execução deve começar por fixar finalidade, tarefas proibidas, ferramentas, dados, autonomia e stop conditions. Depois, testar desempenho, abuso, falha de dependência e revogação no ambiente real. O fecho exige separar promoção de modelo, capacidade e autoridade em decisões diferentes.

O go/no-go conserva cenário, versão, configuração, resultados, limitações, aprovação, validade e gatilhos de revisão.

• fixar finalidade, tarefas proibidas, ferramentas, dados, autonomia e stop conditions.
• testar desempenho, abuso, falha de dependência e revogação no ambiente real.
• separar promoção de modelo, capacidade e autoridade em decisões diferentes.
• O go/no-go conserva cenário, versão, configuração, resultados, limitações, aprovação, validade e gatilhos de revisão.