Ir para conteúdo
be-human.ai
← Voltar ao blog

Testes e confiabilidade

Orçamento de tokens para agentes de IA: limites que param loops

Defina limites de tokens, passos e tempo por execução para agentes de IA, saiba o que fazer em cada limite e pare loops antes que o custo cresça.

Capa tipográfica do Be Human com o título: Orçamento de tokens para agentes de IA: limites que param loops
Ilustração conceitual criada com IA · Be Human

Um orçamento de tokens para agentes de IA é um limite rígido de quantos tokens, chamadas de modelo e ações em ferramentas uma única execução pode consumir antes de precisar parar. Defina o limite por execução, e não apenas por dia ou por conta, e associe a cada limite uma resposta definida: pausar, criar um checkpoint ou entregar o caso a uma pessoa. Orçamento sem ação de parada é apenas um relatório sobre um loop que já terminou.

Principais pontos

  • Limite cada execução em quatro eixos: total de tokens, turnos do modelo e chamadas de ferramentas, tempo decorrido e chamadas idênticas repetidas.
  • Um limite precisa interromper a execução e preservar o estado, não apenas enviar um aviso.
  • Defina os primeiros limites a partir do custo observado em tarefas concluídas e deixe margem para casos longos legítimos.
  • Acompanhe o custo por tarefa concluída junto do gasto bruto, para que um loop apareça como problema de proporção e não só como uma conta maior.
  • Trate cada limite atingido como caso para revisão, porque ele aponta falha no desenho da tarefa, instrução pouco clara ou problema em ferramenta.

Por que um limite de gasto diário não protege você

Um limite de gasto diário ou mensal avisa que a conta está alta depois que o dinheiro já foi gasto. Um agente que repete uma consulta, relê o mesmo documento ou tenta de novo uma etapa que falhou não parece perigoso em nenhum turno isolado. Cada turno costuma reenviar um contexto cada vez maior, então o custo sobe mais rápido do que a contagem de passos sugere. A lista OWASP Top 10 para aplicações com LLM trata o consumo sem limites como uma categoria de risco própria, o que lembra que o controle de custo pertence ao desenho do agente, e não apenas ao relatório financeiro.

Os limites por execução antecipam a decisão. Eles respondem a uma pergunta mais estreita e mais útil: quanto este trabalho pode consumir antes que uma pessoa olhe para ele? Essa pergunta continua respondível mesmo quando o agente se comporta bem no conjunto.

Escolha os quatro limites e o que cada um protege

Cada limite protege contra uma falha diferente, por isso nenhum substitui os outros.

  • Limite de tokens: total de tokens de entrada e saída em todas as chamadas de modelo de uma execução. Controla o custo e detecta contexto que não para de crescer.
  • Limite de passos: número máximo de turnos do modelo e de chamadas de ferramentas. Interrompe um agente que planeja, age e replaneja sem convergir.
  • Limite de tempo: tempo máximo de relógio. Detecta espera por uma ferramenta lenta ou travada, que pode manter a execução aberta sem gerar tokens.
  • Limite de repetição: a mesma ferramenta chamada com os mesmos argumentos mais vezes do que um pequeno número definido previamente. Detecta diretamente o padrão de loop.

Registre esses valores na telemetria das execuções. As convenções semânticas do OpenTelemetry para IA generativa descrevem atributos de uso de modelo e de tokens, então a contagem pode ser lida por execução, e não deduzida de uma fatura no fim do mês.

Como definir os primeiros limites

Use esta sequência para cada tipo de tarefa.

  • Selecione uma amostra de execuções recentes que terminaram corretamente e registre tokens, passos, chamadas de ferramentas e tempo decorrido de cada uma.
  • Agrupe as execuções por tipo de tarefa. Uma dúvida sobre reembolso e uma conciliação mensal nunca devem compartilhar o mesmo limite.
  • Parta da faixa superior das execuções concluídas normais e acrescente uma margem que você consiga explicar a um colega em uma frase.
  • Defina um nível de alerta abaixo do limite máximo, para que a execução possa ser observada antes de ser interrompida.
  • Reexecute casos passados com os novos limites em modo de teste, para ver com que frequência trabalho legítimo seria interrompido.
  • Revise com o responsável pela tarefa a primeira semana de limites atingidos em operação real e ajuste uma vez, de forma deliberada.

Equipes de operações financeiras costumam medir o custo em relação a um resultado de negócio, e não a um total bruto. A orientação da FinOps Foundation sobre economia unitária segue essa lógica, a mesma por trás de medir o custo por tarefa concluída. Um limite definido assim é mais fácil de defender, porque está ligado ao que o trabalho deveria produzir.

Cenário ilustrativo: um agente responde perguntas sobre notas fiscais de fornecedores pesquisando em um repositório de documentos. Uma resposta normal leva algumas buscas e uma resposta final. Certa tarde, uma busca retorna vazia por causa de um erro de permissão, e o agente continua pesquisando com termos levemente diferentes. Um limite de repetição na ferramenta de busca interrompe a execução quando a mesma chamada falha sem mudar nada, e o caso segue para um colaborador com a pergunta e as buscas já tentadas.

O que deve acontecer quando um limite é atingido

Um limite sem resposta definida apenas transfere o problema para uma revisão posterior. Decida a resposta antes de o limite entrar em vigor.

  • Nível de alerta atingido: registre a execução e continue somente se as etapas restantes forem de leitura.
  • Limite de tokens ou de passos atingido: pare antes da próxima chamada de modelo, grave um checkpoint do estado até ali e marque a execução como incompleta.
  • Limite de repetição atingido: pare e não tente de novo automaticamente, pois a mesma entrada provavelmente produzirá o mesmo loop.
  • Limite de tempo atingido: encerre a espera, libere os bloqueios e coloque o caso em fila para uma pessoa ou para uma nova tentativa posterior.
  • Qualquer limite atingido durante uma ação de escrita: verifique quais ações foram concluídas antes da parada. Um desenho de ferramenta idempotente impede que uma nova tentativa repita trabalho que já aconteceu.

A orientação de engenharia da Anthropic sobre como construir agentes eficazes destaca um ponto relacionado: loops autônomos precisam de condições de parada explícitas, e essas condições devem ser testadas antes que alguém dependa delas. O desenho das condições de parada merece atenção própria, e o guia sobre condições de parada que funcionam aprofunda o tema.

Mantenha os limites de orçamento separados da detecção de loops

Os limites de orçamento são grosseiros. Eles param qualquer execução que custe demais, esteja o agente travado ou não, e só disparam depois que o custo já cresceu. A detecção de loops observa o padrão: passos consecutivos que não trazem informação nova, a mesma ferramenta chamada com entradas idênticas ou o mesmo plano repetido sem mudança de estado. Use os dois. O orçamento é a rede de segurança que sempre vale, e a verificação de padrão dá um motivo de parada mais cedo e mais claro.

Guarde o motivo de cada parada em um formato que o operador leia sem abrir os logs. Uma execução interrompida deve se explicar em uma linha, dizendo qual limite foi atingido, qual ferramenta se repetiu e qual foi o último resultado útil. Para alertas agregados de todas as execuções, alertas de custo para agentes de IA em loop mostram como pegar um agente em loop antes que o total vire um problema.

Como a abordagem gerenciada da Be Human trata os limites

Em um projeto da Be Human, os limites são escritos na definição operacional do agente, ao lado da memória, das ferramentas, dos limites de aprovação e do critério de sucesso. Assim, o dono do negócio enxerga os limites e eles não ficam escondidos em uma configuração técnica. A operação gerenciada acompanha os limites atingidos como parte do monitoramento, revisa se eles ainda cabem no mix atual de tarefas nas revisões de permissão e de qualidade, e altera os limites por um processo controlado quando muda um modelo, uma ferramenta ou um fluxo de trabalho. O objetivo não é o menor gasto possível. O objetivo é que cada parada seja explicável e que cada limite seja uma decisão de negócio deliberada.

Revise cada limite atingido como evidência

Um limite atingido é informação, e ela é mais útil quando alguém a lê com regularidade. Uma vez por semana, passe pelas execuções interrompidas e separe-as em três grupos. Algumas tarefas precisavam de mais espaço, e só essas devem mudar o limite. Outras falharam porque a instrução não era clara, então o agente precisa de uma regra mais precisa. As demais falharam porque uma ferramenta devolveu algo que o agente não conseguia usar, então a ferramenta ou sua mensagem de erro precisa de ajuste. Aumentar o limite para esconder o segundo ou o terceiro grupo só adia a correção real. Mude os limites em pequenos passos, registre cada alteração e verifique na revisão seguinte se ela ajudou. Uma rotina repetível para isso está descrita no checklist semanal de manutenção de agentes de IA gerenciados.

Se você não tem certeza de qual dos seus fluxos deve receber um orçamento de tokens primeiro, o diagnóstico gratuito de IA da Be Human ajuda a encontrar a primeira tarefa que vale entregar a um agente.

Perguntas frequentes

O que é um orçamento de tokens para agentes de IA? É o número máximo de tokens de entrada e saída que uma execução do agente pode consumir somando todas as suas chamadas de modelo. Ele funciona melhor junto dos limites de passos, de tempo e de repetição, e com uma ação definida para cada limite. Definido por execução, impede que um caso travado se esconda dentro de um total mensal saudável.

Como defino o primeiro limite de tokens de um agente? Meça uma amostra de execuções recentes concluídas do mesmo tipo de tarefa e comece pela faixa superior dos casos normais, acrescentando uma margem que você consiga justificar. Teste o limite em modo de teste, com casos reexecutados, antes de ele poder interromper trabalho real. Revise a primeira semana de limites atingidos e ajuste uma vez, registrando o motivo por escrito.

O que o agente deve fazer quando atinge o limite? Ele deve parar antes da próxima chamada de modelo, salvar um checkpoint do que já fez e do que falta, e marcar a execução como incompleta. Se a causa for uma chamada repetida com a mesma entrada, não deve tentar de novo automaticamente. O caso deve ir para uma pessoa com contexto suficiente para escolher o próximo passo.

Um orçamento de tokens basta para parar um loop? Não. O orçamento para qualquer execução cara, inclusive as legítimas, e só reage depois que o custo já cresceu. Combine-o com uma verificação de padrão que procure chamadas repetidas e passos que não trazem informação nova, para que os loops sejam detectados cedo e explicados com clareza.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →