Ir para conteúdo
be-human.ai
← Voltar ao blog

Supervisão humana

Aprovação humana para agentes de IA: uma escada para ganhar autonomia

Defina níveis de aprovação humana para agentes de IA conforme valor, reversibilidade e impacto no cliente. Amplie a autonomia só com evidência.

Capa tipográfica do Be Human com o título: Aprovação humana para agentes de IA: uma escada para ganhar autonomia
Ilustração conceitual criada com IA · Be Human

A aprovação humana para agentes de IA funciona melhor como uma escada de permissões, e não como um interruptor de liga e desliga. Cada degrau define o que o agente pode fazer sozinho, e o degrau de cada ação depende de três fatores: quanto valor está em jogo, se a ação pode ser desfeita e quantos clientes sentem o resultado. O agente só sobe de degrau quando os registros das suas decisões mostram que ele deu conta do degrau atual de forma confiável.

Principais pontos

  • Uma única regra de aprovação ou atrasa o trabalho de rotina ou deixa passar ações arriscadas. Posicione cada ação pelo risco que ela carrega, e não pela ferramenta que ela usa.
  • Avalie toda ação em três eixos: valor em jogo, reversibilidade e impacto no cliente. A posição mais alta entre os três define o degrau.
  • Comece todo agente novo no degrau de observação, em que ele rascunha e uma pessoa executa a ação.
  • Amplie a autonomia somente com base em registros e revisões por amostragem, e reduza-a de novo após um incidente.
  • Escreva os limites na sua própria política. Os valores exatos são uma decisão de negócio, não um padrão do fornecedor.

Por que uma única regra de aprovação falha

A maioria das equipes começa com uma de duas regras. Ou uma pessoa aprova tudo o que o agente faz, ou o agente passa a agir sem aprovação depois de um teste curto que pareceu bom. As duas falham pelo mesmo motivo: a verificação não acompanha a consequência. A aprovação total transforma o agente em uma ferramenta de rascunho mais lenta, e os revisores passam a clicar em tudo sem ler. A ausência total de aprovação, depois de um teste breve, dá ao agente a mesma autoridade sobre uma resposta de rotina e sobre um reembolso de um pedido contestado.

O NIST AI Risk Management Framework organiza o trabalho de risco em torno de governar, mapear, medir e gerenciar. Uma escada de níveis de aprovação é uma forma prática de transformar essa estrutura em permissões diárias que a equipe de operações consegue ler, auditar e alterar.

Três perguntas que posicionam uma ação na escada

Faça três perguntas sobre cada ação que o agente pode executar. Responda cada uma considerando o pior resultado realista, e não o resultado típico.

  • Valor em jogo: qual é o máximo que essa ação pode comprometer ou custar para a empresa? Inclua reembolsos, créditos, pedidos de compra, compromissos contratuais e qualquer gasto que o agente possa disparar. Financeiro e o dono do processo devem definir os limites.
  • Reversibilidade: a ação pode ser desfeita por completo, em parte ou não pode ser desfeita? Um rascunho de resposta é totalmente reversível. Uma mensagem já entregue no celular do cliente não é. Um pagamento já liquidado exige um processo de estorno próprio, com aprovação própria.
  • Impacto no cliente: quantas pessoas veem o resultado e quão sensível ele é? Uma nota interna é diferente de uma mudança que afeta todas as contas de uma lista compartilhada ou de uma mensagem que expõe dados pessoais.

Use a posição mais alta entre as três. Uma ação pequena e reversível que alcança muitos clientes não é uma ação de baixo risco. Se a ação toca dados pessoais, verifique também as regras que se aplicam a eles. Para empresas brasileiras, o texto LGPD e agentes de IA nas empresas: o que verificar antes de usar reúne as perguntas que precisam ser respondidas antes de um agente tratar esses dados.

Quatro degraus que você pode adotar

Uma escada de quatro degraus serve para a maioria dos agentes de pequenas e médias empresas. Você pode renomear os degraus para combinar com a sua operação, mas mantenha a ordem e a lógica.

  • Degrau um, observar: o agente reúne informações e prepara rascunhos. Uma pessoa revisa cada rascunho e executa a ação.
  • Degrau dois, agir com revisão posterior: o agente executa ações de baixo valor e reversíveis dentro de limites fixos. Uma pessoa analisa uma amostra dos resultados em uma cadência definida e pode desfazer qualquer um deles.
  • Degrau três, agir com pré-aprovação: o agente prepara a ação com o raciocínio e os registros de apoio. Uma pessoa nomeada aprova cada instância antes que o sistema a execute.
  • Degrau quatro, dupla checagem: ações de valor alto, efeitos irreversíveis ou alcance amplo entre clientes exigem duas pessoas nomeadas como aprovadoras, ou uma verificação de uma segunda área. Use esse degrau quando um único erro for caro demais para desfazer.

Qualquer ação fora de todos os degraus não é delegada. Trate isso como padrão, para que novas ferramentas comecem sem nenhuma permissão até alguém posicioná-las na escada. A pergunta sobre quais ações merecem dupla checagem é tratada com mais profundidade em Aprovação humana para agentes de IA: onde as pessoas assinam.

Cenário ilustrativo: um agente de atendimento, quatro tipos de pedido

O cenário a seguir é ilustrativo e não descreve um cliente real. Uma loja online usa um agente para responder mensagens de clientes. Ele pode ler o histórico de pedidos, rascunhar respostas e usar um pequeno conjunto de ferramentas.

Um cliente pede a troca do endereço de entrega antes de o pacote sair do armazém. A mudança é reversível até a expedição, afeta apenas um cliente e tem registro claro. O agente a executa no degrau dois, e uma pessoa confere uma amostra dessas mudanças toda semana.

Um segundo cliente pede reembolso dentro da política de devolução padrão. Dinheiro sai da empresa, então o agente prepara o reembolso com o registro do pedido e a cláusula da política, e um líder de suporte aprova no degrau três.

Um terceiro cliente pede uma exceção ao prazo de devolução em um pedido de valor alto. É uma exceção de política com valor maior, então o agente encaminha o caso a um gestor com um resumo e não oferece nenhum desfecho ao cliente.

Por fim, o agente propõe uma mensagem para todos os clientes sobre um atraso na entrega. A mensagem alcança muita gente e não pode ser recolhida. Ela fica no degrau quatro. O texto é fixado antes, e duas pessoas nomeadas aprovam o envio.

Mesmo agente, quatro pedidos, quatro posicionamentos. A escada é o que mantém o trabalho de rotina rápido enquanto o trabalho com consequências espera por uma pessoa.

Um plano para definir limites na sua empresa

Trabalhe estes passos com o dono de cada processo, e não apenas com a equipe técnica.

  • Liste cada ação que o agente poderia executar no seu primeiro papel, uma linha por ação, incluindo as ferramentas que ele chamaria.
  • Para cada ação, escreva o pior compromisso ou custo realista, se ela pode ser desfeita e quem veria o resultado.
  • Atribua um degrau usando a resposta mais alta entre as três perguntas. Marque qualquer ação que toque dados pessoais para uma verificação de privacidade antes do lançamento.
  • Aplique o degrau no sistema, e não em uma frase dentro do prompt. A OWASP Authorization Cheat Sheet recomenda negar acesso por padrão e verificar permissões a cada requisição, que é o comportamento de que a escada precisa. Para mapear quais permissões cada ferramenta já tem, veja Mapeamento de permissões de agentes de IA: ferramentas, registros e ações.
  • Nomeie o aprovador de cada degrau, o aprovador substituto e a janela de tempo em que ele deve responder.
  • Defina, antes do lançamento, o critério de sucesso do primeiro papel, como a proporção de rascunhos aceitos sem edição em uma amostra, e liste os eventos que disparam uma pausa automática.
  • Decida com antecedência quem pode rebaixar um degrau e em quais condições.

Que evidência sobe o agente e que evidência o desce

A evidência deve vir de registros que o sistema grava no momento de cada ação: as entradas usadas, as ferramentas chamadas, o resumo do raciocínio, quem aprovou e o resultado. Conceitos como rastros e logs, descritos na OpenTelemetry observability primer, dão um vocabulário prático para construir esses registros. Sem eles, o gestor não consegue dizer se o agente foi confiável ou apenas teve sorte. Para decidir o que registrar, veja Registros de decisões de IA: o que explicar depois.

A promoção deve exigir um período sustentado no degrau atual, sem ações não autorizadas e sem erro amostrado que o dono do processo considere relevante. O rebaixamento deve ser rápido. Qualquer ação não autorizada, uma reclamação de cliente rastreada até o agente ou uma mudança em suas ferramentas ou dados o devolve ao degrau inferior até que a causa seja revisada. O raciocínio por trás da promoção gradual está em Níveis de autonomia de agentes de IA: libere cada etapa após evidência.

Mantenha um caminho de pausa que funcione durante um incidente. Parar novas ações não deve apagar registros nem o trabalho em fila. Os passos estão em Como parar um agente de IA com segurança sem apagar sua memória.

Como a abordagem gerenciada da Be Human aplica a escada

A Be Human desenha, implementa e opera infraestrutura de IA personalizada para empresas, com agentes que mantêm identidade, memória, canais, ferramentas, permissões e contexto operacional sob controle humano. Um primeiro projeto define um papel útil, a memória e as ferramentas que ele precisa, seus limites de aprovação e um critério de sucesso observável, para que cada degrau seja escrito nas permissões do agente desde o início. As operações gerenciadas podem incluir monitoramento, avaliações periódicas, revisão de permissões, resposta a incidentes e melhorias controladas. As evidências dessas atividades são o que decide as promoções, e o mesmo processo de revisão pode rebaixar um degrau quando uma ferramenta, uma fonte de dados ou uma política muda. O serviço é remoto, em inglês e em português. Se você ainda não sabe qual tarefa merece o primeiro degrau, o diagnóstico gratuito de IA da Be Human pode ajudar a encontrar a primeira tarefa que vale entregar a um agente.

Perguntas frequentes

Toda ação precisa de aprovação humana no início? Nem toda, mas a maioria deve começar no degrau de observação, em que uma pessoa executa a ação depois de revisar um rascunho. Ações reversíveis de baixo valor podem passar para agir com revisão depois que o dono do processo verificar os primeiros resultados amostrados. Qualquer ação que não esteja na escada continua indisponível para o agente.

Quem define os limites de valor de cada degrau? O líder financeiro e o dono do processo devem defini-los, com base na tolerância a risco e nas políticas da própria empresa. Padrões de fornecedores são, no máximo, um ponto de partida, e raramente combinam com um negócio específico. Escreva os limites na política, revise-os em um calendário fixo e registre cada mudança.

O que acontece se um agente agir fora do seu degrau? Trate como incidente. Pause o agente, preserve os registros e o trabalho em fila, descubra como a permissão permitiu a ação e devolva o agente a um degrau inferior até que a causa seja corrigida. Registre a decisão para que a revisão possa ser explicada depois.

Chegar a um degrau superior significa que o agente é confiável? Significa que a evidência se ajusta àquele degrau, o que é mais restrito do que confiança geral. Um agente pode ser confiável em rascunhos de reembolso e ainda não estar pronto para enviar mensagens a todos os clientes. Mantenha as permissões específicas e avalie cada degrau pelo seu próprio histórico.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →