Supervisão humana de IA: o gate que precisa de autoridade, tempo e prova

Supervisão é uma capacidade do sistema e da organização

O provider deve desenhar o sistema de alto risco para que pessoas o supervisionem efetivamente. O deployer deve escolher pessoas competentes e dar-lhes autoridade e apoio. A fronteira atravessa produto, procedimento, trabalho e governação.

A supervisão deve ser proporcional aos riscos, autonomia e contexto. Uma saída recomendatória sobre uma pessoa pode exigir informação adicional e segunda revisão; uma ação reversível de baixo impacto pode ter outro gate. O rótulo humano não substitui esta análise.

O gate deve falhar em teste antes de ser confiado em produção

Construa cenários com saída correta, saída errada mas convincente, dado em falta, conflito de instruções, indisponibilidade e pressão de tempo. Observe a pessoa e o sistema: a taxa de discordância, isoladamente, não prova qualidade.

Escrever um contrato de supervisão para cada decisão material

Documente objeto, população, frequência, impacto, informação apresentada, alternativa, autoridade, tempo máximo, modo degradado e destino da escalada. Ligue o contrato à versão do sistema e às instruções de utilização.

Meça condições de trabalho, não apenas interface: carga, metas, turnos, idioma, acessibilidade e incentivo alteram a eficácia. Se ninguém consegue cumprir o gate durante o pico real, o desenho falhou.

• Impedir processamento automático quando faltam dados essenciais.
• Registar alterações humanas sem usar concordância como alvo de desempenho.
• Testar com pessoas reais da função e cenários representativos, sem dados pessoais desnecessários.
• Reabrir o gate após mudança material de modelo, dados, finalidade, população ou processo.