Infraestrutura de IA personalizada
Limites de aprovação para agentes de IA: amplie devagar e com evidência
Defina limites de aprovação pelo risco de cada ação e amplie-os só com evidência registrada. Método prático para ganhar autonomia aos poucos.

Defina limites de aprovação pelo risco de cada ação, não pelo quanto o agente parece capaz. Comece toda classe de ação com aprovação obrigatória, direcione pagamentos, mensagens para clientes e mudanças irreversíveis a uma pessoa nomeada, e amplie um limite somente quando os registros mostrarem que o agente tratou aquela classe corretamente durante um período de revisão definido.
Principais pontos
- Classifique cada ação do agente por reversibilidade, impacto financeiro, exposição de dados e visibilidade externa antes de escolher um limite.
- Comece cada classe de ação em aprovação obrigatória, e não em execução autônoma.
- Amplie um limite somente com evidência registrada e revisões documentadas, nunca com a confiança que o próprio agente demonstra.
- Trate cada ampliação como uma mudança escrita e reversível, com dono e regra de reversão.
- Reteste os limites em um calendário fixo e sempre que o modelo, as ferramentas ou as permissões mudarem.
Por que um agente mais capaz não ganha mais autoridade
Um modelo melhor escreve rascunhos mais fortes e lida com entradas mais bagunçadas, o que torna tentador deixá-lo agir com mais frequência. Mas a autoridade pertence ao sistema inteiro: o modelo, as ferramentas que ele pode chamar, as credenciais que essas ferramentas usam, o contexto que ele lê e as pessoas que revisam o trabalho. Quando qualquer uma dessas partes muda, a evidência acumulada sob o sistema antigo deixa de valer. Uma atualização de modelo é, portanto, uma nova questão de confiança, e não uma recompensa pela versão anterior.
O NIST AI Risk Management Framework trata o risco como algo a mapear, medir e gerenciar ao longo de toda a vida de um sistema, e não como algo resolvido uma única vez no lançamento. Aplique a mesma lógica às aprovações. Um limite é uma afirmação de que uma classe de ações é segura em condições específicas, e essa afirmação perde validade quando as condições mudam.
Como separar as ações do agente em classes de risco?
A maioria dos donos começa pela pergunta: o que o agente pode fazer? Essa pergunta é ampla demais para ser respondida bem. Divida o alcance do agente em classes de ação e avalie cada classe em quatro pontos: dá para desfazer, movimenta dinheiro ou compromissos, expõe dados pessoais ou confidenciais, e alguém fora da empresa vê o resultado?
- Interno e reversível: resumir, etiquetar, redigir notas internas. Candidato a autonomia antecipada quando a evidência estiver limpa.
- Interno, mas com consequências: mudar um status em um sistema de registro, atribuir trabalho a uma equipe. Mantenha uma verificação humana até que a evidência seja forte.
- Visível ao cliente: respostas, alterações de agendamento, atualizações de conta. Comece com aprovação, porque erros chegam a pessoas de fora da empresa.
- Movimenta dinheiro ou tem efeito contratual: reembolsos, faturas, descontos, pedidos de compra. Aprovação obrigatória, com qualquer teto de valor definido pelo dono do negócio, e não pelo agente.
- Irreversível ou sensível: exclusões, exportações de dados, mudanças em direitos de acesso, qualquer coisa que toque dados pessoais regulados. Aprovação obrigatória, e ampliação somente após uma revisão separada.
Plano passo a passo para definir os primeiros limites
Use a mesma sequência para cada agente e mantenha-a em uma página só, para que o operador e o aprovador leiam as mesmas regras.
- Passo 1: liste cada ação que o agente pode executar hoje, incluindo chamadas de ferramentas que ele alcança mas normalmente não usa.
- Passo 2: atribua cada ação a uma classe de risco e nomeie um aprovador humano responsável por classe.
- Passo 3: deixe todas as classes em aprovação obrigatória durante o primeiro período de revisão, sem exceções para casos que pareçam óbvios.
- Passo 4: escreva o critério de sucesso de cada classe em termos simples: como é uma ação correta e quem decide.
- Passo 5: registre cada ação proposta, a decisão do aprovador, o resultado final e qualquer correção feita depois.
- Passo 6: revise o registro em uma cadência fixa e documente uma decisão por classe: ampliar, manter ou apertar.
- Passo 7: amplie uma classe por vez, com a regra de reversão escrita antes de a mudança entrar em vigor.
O que conta como evidência antes de um limite mudar?
Evidência não é o resumo que o agente faz sobre o próprio desempenho. É um registro que uma pessoa nomeada pode inspecionar. Evidência útil tem três partes. Volume significa casos suficientes na classe para mostrar um padrão, e não apenas uma semana boa. Variedade significa incluir os casos difíceis, como clientes incomuns, registros incompletos e instruções conflitantes. Desfecho significa que a ação se sustentou depois que um humano ou um sistema posterior a examinou.
Monte um conjunto de testes fixo para cada classe e rode-o antes e depois de cada mudança de modelo ou ferramenta. O guia de avaliações da OpenAI descreve o método geral de definir o comportamento esperado e pontuar as saídas contra ele, e a mesma disciplina funciona para decisões de aprovação. Mantenha os casos de teste separados dos exemplos usados para moldar o agente, para que a pontuação diga algo de fato.
Cenário ilustrativo: uma empresa de serviços usa um agente para preparar recomendações de reembolso para a equipe de suporte. Durante o primeiro período de revisão, todo reembolso precisa de aprovação. O aprovador registra se cada recomendação foi aceita, editada ou rejeitada, e por quê. Quando o registro está limpo em toda a classe, incluindo os casos difíceis, a equipe amplia apenas os reembolsos de menor valor para execução, com teto fixo e relatório diário. Reembolsos maiores continuam sob aprovação. Quando o fornecedor do modelo lança uma atualização depois, a equipe roda o conjunto de testes antes que a nova versão toque em qualquer reembolso.
Onde os limites devem ser aplicados?
Um limite escrito apenas nas instruções do agente é uma sugestão. O modelo pode interpretá-lo mal, uma nova entrada pode substituí-lo, e uma mensagem hostil pode tentar convencê-lo do contrário. A aplicação deve ficar onde a ação acontece: na ferramenta, na credencial e no sistema de registro. Dê a cada agente uma identidade própria, conceda apenas os escopos que suas classes aprovadas exigem, e faça a ferramenta verificar a autorização no servidor a cada chamada. A orientação de autorização da OWASP defende o mesmo ponto: o sistema que guarda o recurso deve tomar a decisão de acesso, e não quem faz a chamada.
Coloque a etapa de aprovação dentro da ferramenta. Uma ação em classe com aprovação obrigatória deve criar uma solicitação pendente que um humano conclui, e não uma escrita direta da qual o agente possa se arrepender depois. O registro deve mostrar quem aprovou, quando e sob qual versão das regras. A revisão trimestral de permissões é o ponto de checagem natural para confirmar que os escopos ainda correspondem às classes aprovadas.
A Be Human desenha essa camada como parte de um serviço gerenciado de agentes. As classes de ação, os aprovadores, os escopos e os registros de cada agente são definidos por escrito antes da entrada em produção, revisados em uma agenda regular e alterados apenas por meio de pedidos controlados. O contexto operacional permanece sob controle do cliente, para que a empresa possa inspecionar, exportar e alterar as regras sem depender de um único fornecedor de modelo.
Como ampliar um limite sem perder o controle?
Ampliar é uma mudança, e deve ser tratada como tal. Escreva um pedido curto que nomeie a classe de ação, o período de evidência, o aprovador que deu o aval, o novo nível e a condição que devolveria a classe para aprovação obrigatória. Inclua a regra de reversão: qual sinal dispara o retorno e quem pode acioná-lo sem esperar por uma reunião. Um modelo consistente mantém o registro legível entre agentes, e a estrutura de limites de aprovação humana para agentes de IA mais fortes se encaixa bem nesse processo.
Amplie uma classe por vez. Se duas classes mudam juntas, você não consegue saber qual mudança causou um erro posterior. Mantenha um único dono para cada decisão, mesmo quando várias pessoas contribuem com evidências.
Quando apertar e com que frequência reverificar?
Os limites devem se mover nos dois sentidos. Aperte imediatamente depois de um erro grave, de um quase incidente envolvendo dados sensíveis, de uma mudança inexplicada nas taxas de aprovação ou de uma alteração no modelo, nas ferramentas ou nas permissões que o conjunto de testes não cobria. Apertar exige um gatilho claro e uma pessoa nomeada que possa agir, não uma revisão longa.
Reverifique cada classe em um calendário fixo, mesmo quando nada parecer errado. Registros silenciosos podem significar que o agente está indo bem, ou que ninguém está lendo as aprovações. O tempo de revisão também é evidência. Se as aprovações são carimbadas em segundos, o limite não foi testado, apenas ignorado.
Se ainda não está claro qual deve ser a primeira ação que um agente executa sem pedir permissão, o diagnóstico gratuito de IA da Be Human é um bom ponto de partida.
Perguntas frequentes
Como saber se um limite pode ser elevado com segurança? Verifique se a classe tem um histórico limpo em casos suficientes, incluindo os difíceis, e se as decisões do aprovador foram revisões genuínas. Confirme que a regra de reversão está escrita e que a ferramenta aplica o novo nível. Se algum desses pontos faltar, mantenha o limite onde está.
Um modelo mais capaz deve começar com limites mais altos? Não. Um modelo mais forte pode mudar a forma como as falhas acontecem, então a nova versão deve começar sob as mesmas regras de aprovação da anterior e ser ampliada com base na própria evidência. Rode o conjunto de testes contra a nova versão antes que ela toque em ações reais.
Quem deve ser dono das decisões de aprovação? Um dono de negócio nomeado por classe de ação é a resposta certa, geralmente a pessoa que carrega a consequência de uma ação errada. O operador mantém os registros e os testes, mas o dono do negócio assina o limite. A responsabilidade compartilhada costuma deixar ninguém responsável no momento em que algo dá errado.
O que fazer quando trocamos de modelo ou de ferramentas? Trate a mudança como um sistema novo. Rode o conjunto de testes para as classes afetadas, revise as permissões de qualquer ferramenta nova e mantenha aprovação obrigatória nas classes que o conjunto de testes não cobre, até que exista evidência. Documente a mudança para que o histórico de limites continue legível, e considere como os passos de revisão de permissões de agentes de IA se aplicam à nova ferramenta.
Seu próximo passo
Descubra primeiro onde um agente de IA cabe na sua empresa.
Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.
Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.


