Infraestrutura de IA personalizada
Limites de aprovação humana para agentes de IA mais fortes: guia prático
Defina limites de aprovação humana por risco e reversibilidade para que modelos mais fortes não ampliem em silêncio o que seus agentes fazem.

Limites de aprovação humana são as regras que definem quais ações um agente de IA pode concluir sozinho e quais precisam esperar a aprovação de uma pessoa nomeada. Defina esses limites pelo risco e pela reversibilidade de cada ação, não pela capacidade que o modelo parece ter, e trate cada mudança de modelo, ferramenta ou permissão como motivo para testá-los de novo. Um modelo mais forte planeja e redige melhor, mas não assume a responsabilidade por um pagamento irreversível ou por uma mensagem enviada em nome da empresa. Quando o assunto é aprovação humana com superinteligência, esse é o ponto de partida: o controle precisa continuar do lado da empresa, mesmo quando a tecnologia melhora.
Principais pontos
- Defina o limite de cada ação com base no pior resultado plausível e na possibilidade de desfazer a ação.
- Trate a troca de modelo como mudança de permissão e refaça os testes dos limites antes que o novo modelo toque em trabalho real.
- Deixe o agente agir sozinho em consultas, rascunhos e alterações internas reversíveis, e condicione a aprovação as ações externas, financeiras e irreversíveis.
- Aplique os limites na camada de ferramentas e no sistema de aprovação, onde o modelo não consegue reescrevê-los.
- Registre cada aprovação, recusa e tentativa bloqueada, para que o desvio de escopo apareça como evidência antes de virar incidente.
Por que modelos mais fortes ampliam o escopo do agente sem que ninguém decida isso?
Um limite escrito com base no comportamento do agente no trimestre passado supõe que ele continuará buscando as mesmas ações. Um modelo mais capaz quebra essa suposição. Ele encontra mais caminhos para o objetivo que você definiu, combina ferramentas de formas que você não desenhou e interpreta instruções vagas de maneira mais ampla. Ninguém precisa conceder nova autoridade para que o escopo cresça. Isso acontece quando o modelo chega a um passo em que o modelo anterior teria parado, ou quando uma ferramenta ganha uma capacidade em uma atualização e o limite continua dizendo que a ação é permitida.
Três canais merecem atenção. O primeiro é o comportamento do modelo: o agente propõe mais ações próximas da fronteira. O segundo é a superfície das ferramentas: um conector ganha um novo endpoint, ou a descrição de uma ferramenta amplia o que o agente acredita poder fazer. O terceiro é a entrada de dados: e-mails, documentos e páginas da web podem conter instruções que o agente trata como pedidos. As orientações da OWASP sobre injeção de prompt são diretas quanto ao risco de instruções escondidas nos dados, então um limite nunca deve depender de o modelo decidir que um pedido é legítimo.
A consequência prática é simples. Um limite é um controle, e um controle precisa estar fora daquilo que ele controla. Um prompt que diz para perguntar antes de enviar é uma preferência que o modelo pode seguir na maior parte do tempo. Uma barreira de aprovação que o modelo não consegue contornar é uma fronteira de verdade.
Como classificar ações por risco e reversibilidade?
Use duas perguntas para cada ação que o agente pode executar. Primeiro: se o agente errar, qual é o pior resultado plausível, e quem o suporta? Clientes, funcionários, dinheiro, compromissos jurídicos e reputação são os lugares mais comuns onde uma ação errada cai. Segundo: o resultado pode ser revertido, com que rapidez e a que custo? Uma ação que você desfaz em uma hora é uma decisão diferente de outra que se torna definitiva no momento em que é enviada.
A partir dessas respostas, a maioria dos papéis de agente se encaixa em quatro níveis.
- Nível 0, consultas e leituras: o agente age sozinho e cada chamada fica registrada. Exemplos são pesquisar o histórico de um chamado ou verificar o status de um pedido.
- Nível 1, trabalho interno reversível: o agente age sozinho e uma pessoa revisa uma amostra da produção em intervalos definidos. Exemplos são redigir respostas, incluir anotações internas ou criar tarefas em uma fila de homologação.
- Nível 2, ações externas reversíveis ou com impacto financeiro: o agente prepara a ação e um aprovador nomeado a confirma, seja item por item, seja em lote definido. Exemplos são enviar uma mensagem padrão a um cliente existente ou propor um ajuste pequeno em uma conta.
- Nível 3, ações irreversíveis ou de alto impacto: o agente pode propor, mas nunca executar. Exemplos são pagamentos, exclusões, compromissos assinados, mudanças de permissões ou credenciais e publicações em nome da empresa. Algumas dessas ações nunca deveriam ser delegadas, independentemente da qualidade do modelo.
A classificação deve estar em uma configuração que o negócio controla, não no raciocínio do próprio agente. Se o agente puder reclassificar uma ação, o limite passa a ser apenas uma sugestão.
Qual é o método passo a passo para definir limites de um papel?
Trabalhe um papel de cada vez. Comece pelo inventário real de ferramentas do agente, e não pela descrição do cargo, porque são as ferramentas que definem o que é possível.
- Liste cada ação que o agente pode chamar, escrita como verbo simples: consultar um registro, redigir uma mensagem, enviar uma mensagem, conceder um crédito, atualizar um campo.
- Para cada ação, escreva em uma frase o pior resultado plausível e nomeie quem o suportaria.
- Registre se a ação é reversível, quanto tempo leva para desfazê-la e o que custa reverter em horas da equipe ou em confiança do cliente.
- Atribua o nível e nomeie o papel aprovador, como o responsável pela conta ou o responsável financeiro, para que a regra sobreviva a trocas de pessoas.
- Nas ações de nível 2, defina a unidade de aprovação: cada ação, um lote diário ou um teto por item. Escreva o teto na unidade que a empresa já usa para acompanhar o trabalho.
- Dê a cada limite uma data de validade ou de revisão, para que ele não permaneça em vigor sem que ninguém perceba.
- Teste os limites com pedidos desenhados para tentar extrapolar, como uma mensagem de cliente pedindo uma exceção ou um documento com uma instrução para pular a aprovação. Registre o que o agente fez e se a barreira se manteve.
Mantenha o resultado em uma página. Um mapa de limites que ninguém consegue ler não será revisado, e um mapa que não é revisado vai se desviar. Para um método mais completo de conferir o escopo contra as ferramentas reais, veja como fazer uma revisão de permissões dos seus agentes de IA.
Como fazer os limites valerem fora do modelo?
Cada barreira precisa de três propriedades. Ela deve ser aplicada pelo sistema que o agente chama, e não pelas instruções do agente. Deve usar credenciais limitadas às ações que o seu nível permite, seguindo o princípio do menor privilégio descrito nas orientações de autorização da OWASP. E deve ser segura para repetição. Se uma ação aprovada expira e o agente chama de novo, a segunda chamada não deve gerar um segundo reembolso. Provedores de pagamento costumam resolver isso com chaves de idempotência, um padrão definido pelo próprio provedor que vale copiar nas suas ferramentas quando o fornecedor não oferece nada parecido.
Separe quem aprova de quem altera as regras. O aprovador deve ver a ação proposta, a fonte que motivou a proposta e o motivo que o agente apresenta, escritos em linguagem simples. O agente não pode conceder aprovação a si mesmo. Mudanças nos limites devem passar por um pedido documentado, com um responsável nomeado pela decisão. A forma de fazer isso em uma operação gerenciada é tratada em outro texto da nossa série sobre governança de agentes.
Como fica um cenário ilustrativo de troca de modelo?
O cenário a seguir é ilustrativo e não descreve um cliente real. Um agente de atendimento redige respostas, inclui anotações internas e pode conceder reembolsos até um teto fixo. A equipe troca para um modelo mais novo, que escreve rascunhos melhores e raciocina com mais cuidado sobre casos de borda. Ninguém altera o limite. Nas semanas seguintes, o agente chega à etapa de reembolso com mais frequência, porque passa a resolver cobranças contestadas que o modelo anterior encaminhava a uma pessoa. Cada reembolso continua abaixo do teto, então a configuração parece inalterada.
A equipe percebe a mudança porque roda o conjunto de avaliação contra o novo modelo antes de ativá-lo, e esse conjunto inclui cobranças contestadas. Eles veem as propostas de reembolso subirem justamente nesses casos. A resposta é específica: os reembolsos de cobranças contestadas passam para o nível 3, em que o agente continua propondo com as evidências anexadas, enquanto os reembolsos comuns permanecem no nível 2, com aprovação em lote diário. O teto não muda. Muda o escopo da ação.
A lição é que a troca de modelo muda o que o agente vai tentar fazer, e por isso altera a superfície de permissões mesmo quando todas as configurações permanecem iguais.
Quando os limites devem ser revisados?
Revise em cronograma e também por gatilhos. Um ritmo trimestral funciona para a maioria das equipes, e os passos de uma revisão trimestral de IA na empresa podem ser reaproveitados. Os gatilhos importam mais porque acontecem entre as revisões:
- Uma versão do modelo muda, inclusive uma atualização menor feita pelo provedor.
- Uma ferramenta, conector ou endpoint é adicionado, removido ou ampliado.
- Uma nova fonte de dados é conectada, especialmente uma que recebe conteúdo externo, como e-mails ou arquivos enviados.
- Um aprovador recusa repetidamente o mesmo tipo de proposta, ou uma ação aprovada é depois revertida.
- Uma pessoa com papel de aprovador sai da função ou muda de responsabilidades.
- Aparece nos registros uma tentativa bloqueada que ninguém esperava.
Para evidências, confie em avaliações repetíveis e não em impressões. O NIST AI Risk Management Framework trata medição e gestão contínua como parte da governança, e não como uma etapa única no lançamento. Mantenha em um só lugar o registro de aprovações, o registro de tentativas bloqueadas e os resultados das avaliações, para que cada revisão comece com fatos.
Como uma operação gerenciada mantém os limites atualizados?
A Be Human define o mapa de limites no primeiro projeto, junto com a memória, as ferramentas e o critério de sucesso observável do papel, e implementa as barreiras na camada de ferramentas, e não em prompts. Na operação gerenciada, cada troca de modelo ou ferramenta passa por avaliações recorrentes antes de chegar ao trabalho real, os registros de aprovação e de tentativas bloqueadas são revisados em cadência definida, as permissões são revisadas no prazo e as mudanças de limite seguem um pedido escrito com um aprovador nomeado. O objetivo é que um modelo mais forte torne o agente mais útil dentro dos mesmos limites, e não que os limites se desloquem em silêncio.
Se você não tem certeza de qual das tarefas atuais de agente merece uma barreira de aprovação primeiro, o diagnóstico gratuito de IA da Be Human ajuda a identificar a primeira tarefa que vale entregar a um agente.
Perguntas frequentes
Preciso revisar os limites após cada atualização de modelo? Trate qualquer troca de modelo como mudança de permissão, mesmo quando o número da versão parece pequeno. Rode o seu conjunto de avaliação, com ênfase em casos de fronteira como disputas, exceções e pedidos incomuns, e compare as ações propostas antes e depois da mudança. Se o agente chegar com mais frequência ou em situações novas a um passo de nível 2 ou 3, ajuste o nível antes que a atualização toque o trabalho real.
Quem deve ser o dono dos limites de aprovação? O responsável de negócio pelo processo deve ser o dono dos limites, com um líder de operações ou responsável financeiro nomeado para aprovar as ações de nível 2 e 3. A equipe de implementação configura as barreiras, mas não deve decidir sozinha o risco do negócio. Escreva o dono e o papel aprovador no mapa de limites, para que a regra continue com um responsável mesmo depois de alguém trocar de função.
Todas as ações de um agente em uma pequena empresa precisam de aprovação? Não. Aprovar tudo gera cansaço, e as pessoas passam a clicar sem ler. Mantenha as ações de nível 0 e 1 autônomas, com registro e amostragem, e concentre a atenção humana nas poucas ações externas, financeiras ou irreversíveis. Muitas equipes pequenas podem começar com dois níveis e acrescentar outros só quando os registros mostrarem necessidade.
Uma política de governança substitui esses passos? Uma política define princípios e direitos de decisão, como quem pode aprovar o quê e com que frequência as revisões acontecem. Ela não diz quais ferramentas do seu agente são reversíveis nem onde uma barreira deve ficar. Uma política enxuta é um bom ponto de partida, e a superinteligência empresarial e a governança de agentes de IA mostra como conectar essa política aos controles descritos acima.
Seu próximo passo
Descubra primeiro onde um agente de IA cabe na sua empresa.
Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.
Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.


