Infraestrutura de IA personalizada
Aprovação humana para agentes de IA: escada do rascunho à autonomia
Defina níveis de aprovação humana por etapas: o agente rascunha primeiro e ganha mais autoridade de escrita só com histórico supervisionado sólido.

Aprovação humana para agentes de IA funciona melhor como uma escada, e não como um interruptor de ligar e desligar. O agente começa em modo de rascunho, em que toda ação relevante espera que uma pessoa nomeada a aprove, e ganha autoridade de escrita mais ampla um degrau por vez. Cada subida exige um escopo escrito, um critério de sucesso mensurável e evidências, vindas do trabalho supervisionado, de que o agente executou aquela tarefa específica com confiabilidade.
Principais pontos
- Comece cada agente em um degrau somente de rascunho, com uma pessoa nomeada aprovando cada ação relevante.
- Defina cada degrau pelas ações que ele permite, pelos sistemas que pode tocar e pela ação de maior impacto que pode executar sem perguntar.
- Promova um agente somente com base no próprio registro supervisionado, avaliado contra um critério escrito antes do teste começar.
- Torne o rebaixamento tão fácil quanto a promoção, e ensaie-o para que a reversão seja rotina, e não emergência.
- Mantenha identidade, credenciais, canais e memória sob controle da empresa em todos os degraus, inclusive no topo.
Por que uma configuração única de aprovar ou negar falha
A maioria das empresas começa com uma de duas configurações: o agente pergunta antes de cada ação, ou roda sem supervisão. As duas falham pelo mesmo motivo. Um sistema que pergunta sobre tudo ensina as pessoas a clicar em sim sem ler, e um sistema que nunca pergunta não oferece evidência sobre onde o julgamento dele é fraco. A escada resolve isso ao dividir a autoridade em etapas, cada uma com um propósito estreito e uma condição clara de saída.
A escada também reproduz a forma como a confiança funciona em uma equipe. Um analista novo escreve relatórios que o gestor revisa, depois envia relatórios de rotina sozinho e só cuida de condições com fornecedores depois de um longo histórico de trabalho sólido. Um agente deve seguir a mesma sequência. Seus erros merecem mais cautela do que os de uma pessoa, porque ele pode repetir um mesmo equívoco em muitos registros antes que alguém perceba. A orientação da Anthropic sobre como construir agentes eficazes vai na mesma direção: comece com padrões simples e acrescente autonomia somente onde a tarefa realmente exigir. A lógica vale também para agentes de superinteligência, cujo alcance tende a crescer mais rápido do que a maioria das equipes espera, de modo que o desenho da aprovação importa mais à medida que a capacidade aumenta.
Como definir os degraus da escada?
Quatro degraus cobrem a maioria dos agentes de negócio. Escreva-os antes que o agente toque em qualquer sistema real.
- Degrau 1, rascunho: o agente prepara saídas como respostas, atualizações de registro, orçamentos ou resumos em uma área de preparação. Uma pessoa nomeada revisa e envia ou salva cada uma.
- Degrau 2, escrita supervisionada: o agente escreve diretamente em um sistema, dentro de um modelo restrito, e uma pessoa aprova cada escrita antes que ela seja confirmada.
- Degrau 3, autonomia limitada: o agente age sozinho em uma classe definida de casos de rotina, com revisões por amostragem e uma parada automática quando um limite de erro é atingido.
- Degrau 4, autonomia delegada: o agente atua em uma classe mais ampla de casos, com revisões periódicas de permissão e um processo formal de incidentes. Mesmo aqui, credenciais e memória continuam sob controle da empresa.
Cada degrau precisa de três campos escritos: as ações que permite, os sistemas e dados que pode tocar e o seu limite. Expresse o limite em unidades operacionais da sua empresa, como um segmento de clientes, uma categoria de reembolso ou um número de registros por dia, para que um dono não técnico consiga ler e julgar. Para entender como funcionam os primeiros meses de um agente gerenciado, veja o que esperar do início de um agente de IA gerenciado. Se o seu caso envolve limites mais rígidos para sistemas mais fortes, veja também limites de aprovação humana para agentes de IA mais fortes: guia prático.
Que evidências devem garantir o próximo degrau?
A promoção deve se apoiar no registro supervisionado do agente, e não em uma demonstração ou na promessa de um fornecedor. Combine o critério antes de o teste começar, porque um critério escrito depois dos resultados tende a se ajustar a eles. Use esta lista antes de qualquer promoção:
- Um critério de sucesso descrito em termos de negócio, como rascunhos aceitos apenas com ajustes de redação, ou chamados encerrados sem escalonamento.
- Uma amostra de casos supervisionados longa o bastante para incluir a variedade comum da tarefa, além das entradas incomuns que costumam causar problemas.
- Um registro completo de entradas, ações e decisões do revisor, para que o histórico possa ser auditado depois. Os conceitos de observabilidade da OpenTelemetry descrevem os rastros que tornam isso possível.
- Uma lista de falhas em que cada uma é classificada como inofensiva, custosa ou inaceitável pelo dono daquele processo.
- Um revisor que não construiu o agente e que assina a promoção por escrito.
- Uma condição de nova verificação: qualquer mudança no modelo subjacente, em uma ferramenta conectada ou na fonte de dados reabre as evidências do degrau atual.
Cenário ilustrativo: um agente de suporte subindo de degrau
Cenário ilustrativo: um distribuidor regional, apresentado aqui como exemplo hipotético, usa um agente para responder dúvidas sobre entregas. Na primeira fase, ele rascunha respostas que um coordenador envia. O critério combinado é que os revisores aceitem os rascunhos apenas com ajustes de redação e que nenhuma resposta prometa uma data de entrega que o sistema de logística não mostre. Depois de casos suficientes, incluindo atrasos, pedidos parciais e mudanças de endereço, o coordenador percebe que o agente lida bem com mudanças de endereço, mas interpreta mal envios fracionados. A equipe promove o agente ao degrau 3 somente para consultas de status de envio único, e os envios fracionados continuam em rascunho. Depois que a lógica de envio fracionado é corrigida e testada em rascunho, essa classe de caso entra em uma segunda decisão, separada. A promoção ficou estreita, reversível e ligada a uma falha nomeada.
Passo a passo: subir ou descer um agente de degrau
- Escreva a definição do degrau, com as ações permitidas, os sistemas e os limites, antes de mudar qualquer coisa.
- Rode o agente no degrau atual até que o critério se mantenha em um conjunto variado de casos.
- Revise a lista de falhas com o dono do processo e classifique cada uma delas.
- Restrinja a promoção a uma única classe de caso sempre que possível, em vez de ampliar tudo de uma vez.
- Aplique a mudança de permissão na forma mais estreita, usando credenciais com escopo e não contas compartilhadas.
- Mantenha as revisões por amostragem ativas nos primeiros casos após a mudança.
- Registre a decisão, as evidências, o revisor e o gatilho de reversão no registro de mudanças do agente. O processo para propor e aprovar essas mudanças está descrito em como solicitar e aprovar mudanças em um agente de IA gerenciado.
- Defina antecipadamente os gatilhos de rebaixamento, como um erro custoso, uma ação fora do escopo escrito ou uma mudança nos dados que o agente recebe.
- Ensaie um rebaixamento, para que a equipe saiba restaurar o degrau anterior com rapidez.
Quais permissões continuam humanas em todos os degraus?
A aprovação é tanto um problema de desenho de permissões quanto um problema de qualidade. A orientação de autorização da OWASP favorece verificar o acesso em cada requisição e conceder apenas o acesso de que a tarefa precisa. Por isso, as credenciais de um agente devem carregar apenas os escopos que o degrau atual exige. Mantenha esses escopos estreitos e revise-os em uma agenda fixa, seguindo os passos de como revisar permissões dos agentes de IA.
Textos vindos de e-mails, páginas da web ou documentos também podem tentar dar instruções a um agente, risco que cresce com a autonomia. Chamadas de ferramenta disparadas por conteúdo não confiável devem passar pelo mesmo controle que qualquer outra escrita, e a autoridade do agente não deve aumentar porque um documento pediu isso. O NIST AI Risk Management Framework trata governança, medição e gestão como atividades contínuas, o que combina com uma escada revisada periodicamente, e não definida uma única vez.
A abordagem gerenciada da Be Human incorpora a escada já no primeiro projeto. Esse projeto define um papel útil, a memória e as ferramentas de que ele precisa, seus limites de aprovação e um critério de sucesso observável, tudo escrito nos termos da própria empresa. Durante a operação gerenciada, a Be Human acompanha o registro do agente, executa avaliações recorrentes, revisa permissões, trata incidentes e propõe mudanças que passam pelas mesmas etapas de aprovação de tudo o mais na escada. A empresa mantém a propriedade da identidade, dos canais, das credenciais e da memória, de modo que uma mudança de degrau nunca dependa das configurações de um único fornecedor.
Como manter a escada honesta com o tempo
Escadas saem do lugar. Uma atualização de modelo, uma nova ferramenta ou uma mudança no perfil de clientes podem fazer um agente que passou no trimestre passado falhar neste. Agende uma revisão de permissões e uma revisão de evidências em um ritmo fixo, e trate qualquer mudança no modelo ou nas ferramentas como motivo para verificar novamente o degrau atual. Mantenha o registro de mudanças legível para a pessoa responsável pelo processo, para que ela veja quem aprovou cada etapa e por quê. Ao longo de vários ciclos de revisão, esse registro mostra quais degraus se sustentam e quais ainda precisam de mais evidências. Se você não tem certeza de qual tarefa deve começar no primeiro degrau, faça o diagnóstico gratuito de IA da Be Human para encontrar a primeira tarefa que vale a pena entregar a um agente.
Perguntas frequentes
Quantos degraus de aprovação um agente de negócio precisa? A maioria dos agentes de negócio funciona bem com três ou quatro degraus, começando com acesso somente para rascunho. Menos degraus tornam as promoções grandes demais para revisar, e mais degraus acrescentam burocracia sem acrescentar controle. Escolha o número que permite que cada etapa seja estreita e reversível.
Quem deve decidir se um agente sobe de degrau? O dono do processo, que convive com os resultados, deve propor a mudança, e um revisor que não construiu o agente deve confirmá-la por escrito. A equipe de engenharia continua responsável pelos controles técnicos, mas não deve decidir sozinha sobre o risco de negócio. A decisão e as evidências pertencem ao registro de mudanças.
E se o agente cometer um erro depois de promovido? Aplique o gatilho de rebaixamento que você escreveu antes da promoção, restaure o degrau anterior e registre a falha com a causa. Depois, decida se a correção pertence às instruções do agente, às suas ferramentas, às suas permissões ou ao seu conjunto de avaliação. Promova de novo somente depois que a correção for testada no degrau em que a falha ocorreu.
Um agente pode pular degraus se tiver bom desempenho desde o início? Pular degraus elimina o registro supervisionado que justifica o passo seguinte, por isso raramente vale a economia de tempo. Um resultado inicial forte ainda precisa de uma amostra variada e da assinatura de um revisor antes de uma autoridade mais ampla. Se os primeiros resultados forem excelentes, as evidências vão mostrar isso rapidamente, e a promoção vai exigir menos esforço.
Seu próximo passo
Descubra primeiro onde um agente de IA cabe na sua empresa.
Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.
Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.


