Infraestrutura de IA personalizada
Limites de tokens e de gasto para agentes de IA mais potentes
Defina limites de tokens e de gasto por agente e tarefa para que modelos mais potentes não gerem custo sem teto. Método com alertas e aprovações.

Um orçamento de tokens limita quantos tokens um agente pode consumir em uma tarefa, e um teto de gasto limita quanto dinheiro o agente, ou a equipe que o opera, pode gastar em um período fixo. Defina os dois para cada agente e para cada tipo de tarefa, aplique-os na infraestrutura em volta do modelo e não apenas no prompt, e decida com antecedência quem pode aumentá-los e o que o agente faz ao atingir o teto. Modelos mais potentes tornam isso mais importante, porque cada chamada custa mais e o agente faz muitas chamadas antes de uma pessoa ver qualquer resultado.
Principais pontos
- Aplique os limites na infraestrutura em volta do modelo, não apenas no prompt.
- Dê a cada agente um teto de gasto por período e a cada tipo de tarefa um limite de tokens por execução.
- Configure um alerta abaixo de cada limite rígido para que um responsável nomeado perceba o desvio antes de o trabalho parar.
- Meça o custo por resultado concluído, para que o orçamento reflita o valor do trabalho entregue.
- Decida antes o que acontece ao atingir o limite: concluir parcialmente, trocar para um modelo menor ou pedir aprovação.
Por que o custo sem limite é um problema de desenho
Um agente não gasta uma vez por requisição. Ele lê o contexto, chama um modelo, chama uma ferramenta, lê o resultado e, com frequência, chama o modelo de novo. Uma nova tentativa depois de uma ferramenta falhar pode reenviar o histórico completo da conversa, e um documento longo acrescentado ao contexto encarece todas as chamadas seguintes. Quando um modelo é mais capaz, as equipes tendem a dar a ele tarefas mais longas e mais etapas, o que multiplica o efeito. A fatura do fornecedor chega depois que o trabalho terminou, por isso ela não consegue interromper uma execução que já está em loop.
A lista OWASP Top 10 para aplicações com LLM classifica o consumo sem controle como uma categoria de risco, descrevendo a inferência descontrolada que pode esgotar recursos e inflar o custo. A resposta prática é a mesma que equipes experientes já usam com qualquer serviço medido: cotas, limites de taxa e tetos aplicados no ponto em que as requisições são feitas, com alertas que chegam a uma pessoa.
Os orçamentos ficam úteis quando estão ligados a resultados. A orientação sobre economia unitária da FinOps Foundation trata o custo como valor por unidade de produção do negócio. Em um agente, essa unidade pode ser uma fatura conciliada, uma proposta redigida ou um chamado de suporte resolvido. O custo por unidade mostra se uma execução cara valeu a pena e oferece uma base fixa para comparar um modelo novo com o que você já usa.
Plano passo a passo para definir limites
Use esta sequência para um agente antes de estendê-la a outros.
- Liste todas as tarefas que o agente executa e marque quais chamam um modelo, quais chamam ferramentas externas e quais leem documentos longos.
- Para cada tipo de tarefa, registre o resultado que ela produz e o custo normal de uma execução boa, medido em uma amostra de execuções reais.
- Defina um teto de tokens por execução acima da faixa normal, mas baixo o suficiente para que um loop descontrolado pare cedo.
- Defina um teto de gasto do agente para o período, com uma reserva separada para trabalho urgente, para que o volume de rotina não o bloqueie.
- Configure um alerta abaixo de cada teto rígido e envie-o a um responsável nomeado que possa agir no mesmo dia.
- Defina a ação no limite: concluir com um resultado parcial claramente identificado, trocar para um modelo menor ou parar e pedir aprovação.
- Registre cada chamada ao modelo com o agente, a tarefa, o modelo e a contagem de tokens, para que cada limite possa ser auditado depois.
Registre os limites em um único lugar, como o registro operacional do agente, para que quem o mantém consiga lê-los sem abrir o código. Um limite que existe apenas em um arquivo de configuração é difícil de revisar e fácil de esquecer.
Como os limites mudam entre modelos e tarefas?
Nem toda etapa precisa do modelo mais potente. Classificação, extração de campos e formatação costumam funcionar bem em modelos menores, enquanto etapas de julgamento, como escolher um caminho de exceção ou avaliar uma cláusula de contrato, merecem o modelo mais forte. Dê a cada nível o seu próprio teto. Uma tarefa que envia a maior parte das chamadas a um modelo pequeno pode ter um orçamento total generoso, enquanto uma etapa que chega ao modelo grande deve ter um limite mais apertado por chamada e um motivo registrado para cada escalonamento.
O contexto é a segunda alavanca. Recursos oferecidos pelos fornecedores, como o cache de prompt, podem reduzir o custo de prefixos longos repetidos, mas só quando esse prefixo permanece estável, por isso as instruções permanentes do agente não devem mudar a cada chamada. A recuperação de informações funciona pelo mesmo motivo. Buscar apenas os trechos que respondem a uma pergunta custa menos do que carregar um arquivo inteiro em cada requisição. Confira as regras atuais de cache e de preço na documentação do seu fornecedor antes de montar um orçamento que dependa delas.
Cenário ilustrativo: um laço de repetição que não termina
Cenário ilustrativo: um agente redige respostas a perguntas de fornecedores e consulta o status de pedidos por meio de uma ferramenta. Em uma tarde, a ferramenta passa a devolver erros de tempo esgotado. O agente tenta de novo, e cada nova tentativa acrescenta ao contexto as mensagens de erro anteriores e a conversa inteira, de modo que cada tentativa fica maior que a anterior. Sem um teto por execução, a execução continua até que alguém perceba a fatura ou a fila parada. Com os controles descritos acima, a execução para no teto de tokens, salva o estado no registro da tarefa, alerta o responsável nomeado e aguarda. O responsável vê o motivo do tempo esgotado e corrige a conexão. O orçamento cumpriu seu papel, e o defeito real estava na ferramenta, algo que um orçamento maior teria escondido.
Quando um limite mais alto se justifica?
Aumente um limite somente quando as evidências sustentam o trabalho que ele vai permitir. Um pedido consistente inclui o custo observado por tarefa concluída, os resultados de avaliações recorrentes sobre uma amostra fixa de tarefas reais e uma descrição clara do novo trabalho que o aumento possibilita. Rode a mesma avaliação antes e depois da mudança, para que a comparação se apoie em resultados medidos e não em impressões. O guia de avaliações da OpenAI descreve essa abordagem geral de testar o comportamento do modelo contra critérios definidos, e as orientações da Anthropic sobre avaliação de agentes destacam o mesmo ponto ao avaliar resultados reais.
Trate cada aumento como uma solicitação de mudança com um aprovador nomeado e mantenha o limite anterior registrado. Um orçamento que cresce toda vez que uma execução bate no teto normalmente está escondendo um defeito, e esse é o momento de inspecionar o rastreamento em vez de adicionar folga. Para o mecanismo de aprovação de mudanças, veja Como solicitar e aprovar mudanças em um agente de IA gerenciado. Para entender como os limites de aprovação devem acompanhar a evolução dos agentes, veja Limites de aprovação humana para agentes de IA mais fortes.
Como a Be Human trata limites em operações gerenciadas
Nas operações gerenciadas da Be Human, os limites de tokens e de gasto são registrados no contexto operacional do agente, ao lado de suas permissões e do escopo de memória, para que o agente trabalhe dentro dos tetos declarados e a infraestrutura ao redor os faça valer. O monitoramento acompanha o gasto e o uso de tokens por tarefa e por agente, e gera alertas antes que um limite seja atingido. Avaliações recorrentes verificam se um modelo mais forte vale o custo em cada tipo de tarefa. A revisão de permissões confirma quem pode alterar um limite, e a resposta a incidentes cobre execuções que atingem um teto de forma inesperada. Quem recebe esses alertas e com que rapidez precisa agir está descrito em Quem supervisiona um agente de IA na empresa: revisão diária.
Comece com uma tarefa com orçamento definido
Escolha a tarefa com o resultado mais claro, uma entrada estável e um custo que você já consegue observar, e dê a ela o conjunto completo de limites antes de adicionar uma segunda tarefa. Orçamentos são mais fáceis de definir quando você já sabe como o trabalho se comporta em um dia normal, e uma primeira tarefa que roda bem torna o próximo orçamento mais fácil de justificar. Se você não tem certeza de qual tarefa deve vir primeiro, faça o diagnóstico gratuito de IA da Be Human para encontrar a primeira tarefa que vale entregar a um agente.
Faça o diagnóstico gratuito de IA da Be Human para encontrar a primeira tarefa que vale entregar a um agente.
Perguntas frequentes
O limite de faturamento do fornecedor basta para controlar o custo do agente? Não. O limite do fornecedor bloqueia a conta, geralmente depois que o gasto já aconteceu, e costuma valer para todas as cargas de trabalho ao mesmo tempo. Um agente precisa de tetos no nível da execução, da tarefa e do agente, para que um processo com defeito não consuma o orçamento destinado a todo o resto. O limite do fornecedor é uma última linha de defesa útil, não o controle principal.
O teto de gasto deve ser definido por agente ou por tarefa? Use os dois. O teto da tarefa impede que uma única execução entre em loop, e o teto do agente limita o que um fluxo de trabalho inteiro pode gastar em um período. Cada teto deve ter um alerta abaixo dele e um responsável que receba o alerta e saiba o que fazer.
O que deve acontecer quando o orçamento acaba no meio de uma tarefa? Decida isso antes da implantação, não durante um incidente. As opções habituais são concluir com um resultado parcial claramente identificado como incompleto, trocar para um modelo menor nas etapas restantes ou parar e pedir aprovação. A escolha certa depende de um resultado incompleto poder causar dano caso alguém aja sobre ele sem conferir.
Um modelo mais potente sempre exige um orçamento maior? Não. Um modelo mais potente muitas vezes conclui a tarefa em menos etapas, o que pode compensar o custo mais alto por chamada. Compare o custo por tarefa concluída entre modelos, na mesma amostra, antes de alterar qualquer orçamento, e reserve os maiores tetos para as etapas em que a qualidade do julgamento muda de fato o resultado.
Seu próximo passo
Descubra primeiro onde um agente de IA cabe na sua empresa.
Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.
Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.


