Tipos de falha de agentes de IA: dez categorias para registrar
Dez tipos de falha de agentes de IA, da ferramenta errada à memória desatualizada, com o que registrar em cada um para achar padrões e corrigir a causa.

A maioria das falhas de agentes de IA se encaixa em um conjunto pequeno de tipos que se repetem: o agente escolhe a ferramenta errada, passa argumentos ruins, recupera o trecho errado, confia em uma memória que deixou de ser verdadeira ou continua rodando quando deveria ter parado. Uma taxonomia de trabalho com dez categorias permite que a equipe classifique cada falha do mesmo jeito desde o primeiro dia, e assim os registros mostram padrões para corrigir, e não uma coleção de casos isolados.
Principais pontos
- Classifique cada falha do agente com uma categoria de uma lista fixa, e não apenas com uma nota livre.
- Registre os mesmos campos centrais em todas as categorias para comparar incidentes ao longo das semanas.
- Separe falhas de ação (ferramentas, efeitos duplicados) das falhas de conhecimento (recuperação, memória, entrada).
- Dê às falhas de controle, como excesso de permissão e loops, um responsável e uma revisão próprios.
- Registre as versões do prompt, do modelo, da ferramenta e do índice em cada execução para rastrear falhas ligadas a mudanças.
Por que uma taxonomia comum vale mais que casos isolados
Quando um agente erra, o primeiro relato costuma descrever o sintoma: o agente enviou o orçamento errado, ou respondeu com uma política antiga. Essas descrições são corretas e quase inúteis para planejar. Duas pessoas podem ler o mesmo incidente e discordar sobre a causa ser o modelo, o prompt, os dados de origem ou uma ferramenta que devolveu um erro pouco claro. Uma lista compartilhada de categorias obriga a fazer a pergunta que importa: que tipo de falha foi essa e onde ela começou?
Taxonomias também tornam visíveis as falhas raras. Um reembolso duplicado isolado parece azar. Vários efeitos colaterais duplicados, classificados da mesma forma em fluxos diferentes, apontam para uma proteção que falta em uma ferramenta compartilhada. As categorias abaixo são um conjunto de trabalho. Renomeie-as para o seu negócio, mas mantenha as fronteiras estáveis por alguns meses para que as tendências façam sentido. Para uma visão mais ampla de como esses modos de falha se conectam, leia modos de falha de agentes de IA: uma taxonomia para operação.
Falhas de ação: ferramenta errada, argumentos errados e efeitos duplicados
As três primeiras categorias cobrem o que o agente faz. Cada uma deixa um rastro diferente, por isso cada uma precisa de um campo de registro próprio.
- Ferramenta errada. O agente seleciona uma ferramenta que não consegue responder ou executar o pedido, como uma ferramenta de busca quando a tarefa exige uma escrita, ou o contrário. Registre as ferramentas disponíveis, a ferramenta escolhida e o tipo de pedido.
- Argumentos errados. A ferramenta certa recebe valores errados, como um identificador trazido de uma conversa anterior ou uma data em formato incorreto. Registre os nomes dos argumentos e um resumo com dados pessoais ocultados, e não o dado bruto, salvo se a sua política permitir.
- Efeito colateral duplicado. Uma repetição, um tempo esgotado ou uma instrução repetida produz a mesma mudança duas vezes. Registre a referência do pedido ou a chave de idempotência e se o provedor informou um sucesso anterior.
Descrições de ferramentas são uma causa comum de falhas de ferramenta errada e de argumentos errados. As notas de engenharia da Anthropic sobre como escrever ferramentas para agentes defendem nomes claros, parâmetros precisos e descrições escritas para o modelo, e não apenas para o desenvolvedor que criou a ferramenta. Efeitos duplicados são mais difíceis. APIs de pagamento como a da Stripe documentam requisições idempotentes, para que uma chamada repetida não repita a ação. As ferramentas de escrita do seu agente precisam da mesma disciplina, e os registros devem mostrar se ela estava presente. O guia de ações idempotentes detalha o caso do reembolso.
Falhas de conhecimento: recuperação ruim, memória desatualizada e entrada mal lida
As três categorias seguintes cobrem o que o agente sabe quando age. São fáceis de confundir, porque a resposta parece segura em todos os casos.
- Recuperação ruim. A pergunta está certa, mas os trechos devolvidos são de uma versão errada da política, de um documento sem relação ou de nenhum, e mesmo assim o agente responde. Registre a consulta, as fontes devolvidas e se a resposta as citou.
- Memória desatualizada. Um fato armazenado era verdadeiro quando foi salvo e deixou de ser, como um fornecedor que mudou as condições ou um cliente que pediu outro contato. Registre o item de memória, a data da última confirmação e a tarefa que o usou.
- Entrada mal lida. Uma tabela, uma página digitalizada ou uma longa troca de e-mails é lida na ordem errada, ou uma coluna sai deslocada. Registre o tipo de arquivo, a seção referenciada e os valores que o agente de fato usou.
O movimento-chave é separar, no registro, a recuperação da geração. Se a fonte certa foi recuperada e ignorada, o problema está em como o agente usa o contexto. Se a fonte nunca foi recuperada, o problema está no índice, na consulta ou nas permissões da fonte. Essas duas correções têm responsáveis diferentes, e uma única entrada de "resposta errada" esconderia essa diferença.
Falhas de controle: excesso de permissão, loops e escalonamento perdido
As falhas de controle importam mais para a confiança, porque mostram se os limites de aprovação que você desenhou são os limites que o agente de fato respeita.
- Excesso de permissão. O agente tenta uma ação fora do limite de aprovação, seja por ter sucesso porque a permissão era mais ampla do que o previsto, seja por ser bloqueado e tentar um contorno. Registre tanto as tentativas quanto as ações bloqueadas, junto com o resultado da verificação de permissão no momento da ação. As orientações de autorização da OWASP são claras ao dizer que o acesso deve ser checado no ponto da ação, por isso o resultado da checagem pertence ao registro.
- Loop ou tarefa travada. O agente repete etapas sem progresso, muitas vezes chamando a mesma ferramenta com os mesmos argumentos. Registre o número de etapas, as chamadas repetidas e a condição de parada que disparou ou deixou de disparar. O guia de condições de parada descreve condições que funcionam na prática.
- Escalonamento perdido. O agente deveria ter passado uma decisão para uma pessoa e não passou, ou passou um pacote ilegível de trabalho parcial. Registre o gatilho de escalonamento, se ele disparou e quanto tempo a pessoa levou para responder.
Trate essas três como controles operacionais com responsáveis nomeados. Quando a mesma pessoa revisa o registro de loops e o de permissões, os problemas tendem a aparecer mais cedo, porque os padrões ficam lado a lado.
Falhas de mudança: deriva silenciosa após atualizações e edições
A décima categoria é a mais difícil de ver. A qualidade pode cair depois de uma atualização do modelo, de uma edição no prompt, de um novo lote de documentos ou de uma mudança no formato da resposta de uma ferramenta, e nenhum evento isolado anuncia isso. Um agente que resolveu bem uma tarefa no mês passado pode resolvê-la um pouco pior agora sem exibir erro algum.
Registre, em cada execução, as versões de tudo o que pode mudar: o prompt, o nome do modelo, o esquema da ferramenta e o índice de recuperação. Sem esses campos, uma queda de qualidade não pode ser associada a uma causa. Depois, rode um conjunto fixo de tarefas em cada versão e compare os resultados. As checagens de detecção de deriva descrevem testes simples que pegam mudanças lentas antes que os usuários percebam. As convenções semânticas do OpenTelemetry para IA generativa são uma referência útil quando a sua equipe técnica decidir como nomear esses campos.
Um plano de registro para a primeira semana e um caso ilustrativo
Use esta sequência para começar a registrar as categorias sem construir um grande sistema antes.
- Escreva as dez categorias em uma página, com um exemplo de uma linha para cada uma e uma definição simples de onde está a fronteira em relação às outras.
- Nomeie um responsável para o grupo de ação, para o de conhecimento, para o de controle e para o de mudança, mesmo que uma pessoa acumule vários papéis.
- Adicione campos centrais a toda execução do agente: identificador da tarefa, data e hora com fuso horário, versão do agente, chamadas de ferramenta com argumentos resumidos, decisão de aprovação, resultado e, quando houver falha, a categoria.
- Torne a categoria um campo obrigatório no formulário de revisão, com a opção "indefinida" para que os revisores não precisem adivinhar.
- Faça uma revisão curta por semana com o responsável pelo fluxo e registre uma decisão para cada categoria que se repetir.
- Depois de algumas semanas, ordene as categorias por frequência e por impacto, e corrija primeiro a de maior impacto e menor custo, como uma descrição de ferramenta mais clara ou uma condição de parada que estava faltando.
Cenário ilustrativo: um distribuidor regional usa um agente para rascunhar respostas a e-mails sobre o status de pedidos. Depois de duas semanas, a planilha de revisão mostra recuperação ruim em mensagens sobre envios fracionados. A etapa de recuperação devolveu apenas a primeira linha do pedido, então o rascunho informou uma data de entrega para um pedido que chegaria em duas partes. A correção foi mudar a forma como os registros de envio eram indexados, e não reescrever o prompt. Sem a categoria, a equipe provavelmente teria editado o prompt várias vezes sem tocar na causa.
Como a operação gerenciada mantém as categorias em uso
O modelo gerenciado da Be Human trata a taxonomia como parte do registro operacional do agente, e não como um documento escrito uma vez e arquivado. Em um primeiro projeto, cada categoria é mapeada para as ferramentas, os armazenamentos de memória e os limites de aprovação do papel específico, e cada uma recebe um responsável nomeado e os campos de que precisa. O monitoramento revisa os registros classificados em uma agenda recorrente, a revisão de permissões verifica se os limites de aprovação ainda correspondem ao uso real, e a resposta a incidentes usa as mesmas categorias para definir a severidade. Mudanças em prompts, ferramentas ou memória passam por um caminho controlado, com registro do que mudou e da versão em execução, para que falhas ligadas a mudanças possam ser rastreadas em vez de adivinhadas. A Be Human entrega isso remotamente, em inglês ou português, dentro do escopo do único papel que o projeto define.
Se ainda não estiver claro qual dos seus fluxos deve receber primeiro um agente com registro, o diagnóstico gratuito de IA da Be Human pode ajudar a identificar a primeira tarefa que vale entregar a um agente.
Perguntas frequentes
Preciso das dez categorias no primeiro dia? Não necessariamente, mas a lista é mais útil quando já está completa desde o início. Comece pelas categorias que combinam com as ferramentas e os dados que o seu primeiro agente realmente usa, e mantenha as outras como opções definidas no formulário de revisão. Categorias sem uso custam pouco, enquanto incluir uma categoria depois faz os registros antigos ficarem classificados de forma inconsistente.
O próprio agente deve classificar suas falhas ou deve ser um revisor? Use os dois, mas deixe o revisor dar a classificação final. O agente pode sinalizar que uma etapa falhou ou que uma checagem de permissão foi negada, o que dá aos revisores um ponto de partida. Decidir por que a falha aconteceu costuma ser melhor feito por uma pessoa que conhece o fluxo, e a opção "indefinida" evita que palpites entrem nas contagens.
E se uma falha se encaixar em duas categorias? Registre uma categoria principal, aquela em que a correção seria feita, e anote a categoria secundária em separado. Por exemplo, uma memória desatualizada que causou um argumento errado pertence primeiro à memória desatualizada, porque atualizar a memória resolve a causa raiz. Regras consistentes para escolher a categoria principal importam mais do que a escolha exata.
Esta taxonomia é um padrão que devo adotar como está? Não. É um conjunto de trabalho pensado para gerar padrões que a equipe consiga agir, e não um padrão da indústria. Renomeie as categorias para combinar com a sua operação, mantenha as fronteiras estáveis por tempo suficiente para ver tendências e revise-as apenas quando uma falha recorrente claramente não couber em nenhuma delas.
Seu próximo passo
Descubra primeiro onde um agente de IA cabe na sua empresa.
Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.
Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.


