Ir para conteúdo
be-human.ai
← Voltar ao blog

Testes e confiabilidade

Modos de falha de agentes de IA: classifique cada erro antes de corrigir

Classifique cada falha de agente de IA pela causa (entrada, contexto, raciocínio, ferramenta, autoridade ou processo) antes de escolher a correção.

Capa tipográfica do Be Human com o título: Modos de falha de agentes de IA: classifique cada erro antes de corrigir
Ilustração conceitual criada com IA · Be Human

Uma falha de agente de IA é qualquer execução cujo resultado não atinge o critério de sucesso da tarefa, seja o erro visível para o cliente ou escondido em um registro. O primeiro passo mais útil é classificar cada falha pela causa (entrada, contexto, raciocínio, ferramenta, autoridade ou processo) antes que alguém edite um prompt, troque de modelo ou altere uma permissão. Equipes que pulam essa etapa costumam corrigir o sintoma que viram, e a mesma falha volta em outra forma.

Principais pontos

  • Atribua a cada falha uma causa principal, escolhida em uma lista curta e fixa, antes de escolher a correção.
  • Muitos erros que parecem problema de prompt são, na verdade, problemas de entrada, contexto, ferramenta ou autoridade.
  • Falhas silenciosas precisam de checagens próprias, porque nada na interface as acusa.
  • Registre a causa no mesmo registro do resultado, para que os padrões apareçam ao longo de semanas e não sejam um palpite.
  • Mude a camada mais cedo que estava errada, e não a camada que era mais fácil de editar.

O que conta como falha de agente?

Uma falha é a distância entre o que a tarefa exigia e o que o agente produziu ou fez. As falhas visíveis são as mais fáceis de perceber: uma mensagem de erro, uma recusa, uma resposta enviada à pessoa errada. As falhas silenciosas são mais difíceis de pegar: uma tarefa marcada como concluída com um total errado, um registro atualizado com dados antigos ou um rascunho que lê bem, mas ignora a política aplicável. Uma taxonomia útil precisa cobrir as duas, porque a causa define a correção, e o barulho da falha não define nada.

A unidade de análise deve ser uma execução de uma tarefa. Para cada execução, guarde a entrada, a memória ou os documentos que o agente usou, todas as chamadas de ferramenta com seus argumentos e respostas, a saída e o status final. Sem esse registro, a classificação vira opinião. A abordagem de detecção de falhas silenciosas depende do mesmo registro, porque não é possível checar um erro discreto que não foi capturado.

O NIST AI Risk Management Framework organiza o trabalho de risco em IA em funções de governar, mapear, medir e gerenciar. Uma taxonomia de falhas é uma peça pequena e prática dessa etapa de medir e gerenciar: ela mostra onde o risco aparece de fato na sua operação.

Seis causas que cobrem a maior parte das falhas

A maioria das falhas se encaixa em uma de seis causas. A lista é curta de propósito, para que duas pessoas revisando a mesma execução cheguem ao mesmo rótulo.

  • Entrada: o pedido estava incompleto, malformado, ambíguo ou em um formato que o agente não foi preparado para ler. Exemplo: um documento digitalizado com uma página faltando.
  • Contexto: o agente tinha informação errada, desatualizada ou ausente, seja da memória, de documentos recuperados ou de mensagens anteriores.
  • Raciocínio: a entrada e o contexto estavam corretos, mas o modelo chegou a uma conclusão errada, pulou uma etapa ou aplicou mal uma regra.
  • Ferramenta: um sistema externo falhou, expirou ou devolveu dados inesperados, ou o agente o chamou com argumentos errados.
  • Autoridade: o agente agiu além do que tinha permissão para fazer, ou foi bloqueado de uma ação que deveria conseguir executar.
  • Processo: a tarefa estava mal definida, sem critério de sucesso claro, com instruções conflitantes ou sem um encaminhamento definido para uma pessoa.

Duas regras mantêm os rótulos consistentes. Primeiro, atribua a camada mais cedo da cadeia que estava errada. Se a ferramenta devolveu um preço errado e o agente, depois, escreveu uma frase correta sobre ele, a causa principal é a ferramenta. Segundo, quando duas causas realmente se aplicam, registre as duas e marque a primeira como principal. A causa secundária costuma apontar para um controle que você ainda precisa ter.

Como classificar uma falha passo a passo?

Execute as verificações nesta ordem. A ordem importa porque raciocínio é o rótulo que as pessoas usam primeiro e o que mais se atribui cedo demais.

  • Passo 1: puxe o registro completo da execução, e não apenas a mensagem final. Se faltam partes do registro, anote essa lacuna como problema de observabilidade antes de classificar.
  • Passo 2: compare a entrada com o que a tarefa espera. Se a entrada já estava errada ou incompleta, classifique como entrada e pare.
  • Passo 3: compare o contexto usado pelo agente com a fonte da verdade. Uma tabela de preços desatualizada ou uma nota de memória sobre uma política antiga é falha de contexto, mesmo quando o raciocínio parecia correto.
  • Passo 4: refaça as chamadas de ferramenta. Confirme que o sistema externo devolveu o que o agente relatou. Se o sistema expirou, devolveu um erro que o agente ignorou ou recebeu argumentos errados, a causa é ferramenta. A sua política de repetição deve definir o que o agente faz em cada um desses casos.
  • Passo 5: confira o registro de permissões. O agente tentou algo fora do seu escopo, ou foi bloqueado de algo que deveria fazer? Qualquer uma das duas situações é falha de autoridade.
  • Passo 6: só classifique como raciocínio quando os passos de 1 a 5 não explicarem o erro. Então, examine as instruções e os exemplos que o agente recebeu.
  • Passo 7: pergunte se uma pessoa competente, lendo a tarefa, conseguiria produzir um resultado correto a partir dela. Se dois revisores discordariam sobre a saída certa, classifique como processo.

Escreva o rótulo, a causa principal, a causa secundária, se houver, e uma frase de evidência. Essa frase é o que torna o registro útil para quem não esteve na revisão.

Qual correção segue cada causa?

O valor da classificação está em estreitar a correção. Cada causa aponta para uma camada diferente, e mudar a camada errada raramente elimina o erro.

  • Entrada: endureça as regras de recebimento, adicione uma checagem de formato ou faça o agente fazer uma pergunta de esclarecimento antes de começar. Deixe as instruções de raciocínio como estão.
  • Contexto: corrija o documento de origem, restrinja o escopo da recuperação ou remova a nota de memória desatualizada. Confirme a mudança no registro da próxima execução.
  • Raciocínio: acrescente uma regra mais clara, um exemplo resolvido ou um caso que falhou ao conjunto de avaliação, e rode esses casos de novo. Trocar o modelo é uma opção posterior, não o primeiro movimento.
  • Ferramenta: conserte a integração, defina tempos limite e torne as escritas seguras para repetir. As orientações da Anthropic sobre como construir agentes eficazes favorecem ferramentas simples e bem definidas, e uma ferramenta de comportamento pouco claro costuma produzir falhas que parecem erros de raciocínio.
  • Autoridade: revise a permissão concedida. Restrinja-a se estiver ampla demais, ou adicione uma etapa de aprovação para ações com consequências. Não amplie permissões para encerrar um erro.
  • Processo: reescreva o critério de sucesso, defina quem decide os casos de borda e estabeleça o encaminhamento para uma pessoa. Uma regra de escalonamento humano deve enviar a decisão necessária, e não a bagunça bruta.

Como fica uma falha classificada? (Cenário ilustrativo)

Este é um cenário ilustrativo, não o relato de um caso real. Uma equipe de operações comerciais usa um agente para redigir propostas a partir de um formulário de pedido e de uma tabela de preços. Uma proposta sai com um desconto que não corresponde à lista aprovada.

O formulário estava completo, então a entrada não é o problema. A consulta de preço devolveu o valor atual, então a ferramenta não é a causa. A memória do agente ainda guardava uma tabela de descontos de um trimestre anterior, então a causa principal é contexto. O agente também tinha permissão para enviar propostas sem revisão, o que é uma questão de autoridade como causa secundária, porque deixou o número errado chegar ao cliente.

A correção segue a ordem. Primeiro, o agente lê descontos apenas do sistema de registro, e a nota de memória desatualizada é removida. Segundo, propostas acima de um nível de desconto acordado passam para uma pessoa aprovar. O registro agora mostra uma causa principal, uma causa secundária e um controle que pegaria o próximo erro mesmo se o contexto falhasse de novo.

Como uma abordagem gerenciada mantém a classificação confiável?

No modelo gerenciado da Be Human, cada agente roda com um registro operacional que captura entradas, referências de memória, chamadas de ferramenta, verificações de permissão e resultados. Assim, a causa pode ser lida na execução, em vez de reconstruída de memória. O monitoramento e as avaliações recorrentes procuram falhas silenciosas que ninguém reportou, e as revisões de permissão confirmam se a autoridade de cada agente ainda corresponde ao seu papel. As mudanças passam por melhorias controladas que nomeiam a causa que tratam, para que a equipe veja se a correção moveu a camada que deveria mover. Os detalhes do que capturar estão em o que registrar na observabilidade de agentes de IA.

Por onde a equipe deve começar?

Escolha um agente que já tenha trabalho real e anote as últimas falhas dele, mesmo as pequenas. Classifique cada uma com as seis causas e os passos acima, depois procure a causa que mais aparece e a correção que teria evitado o maior número de erros. Essa mudança única costuma ser um primeiro projeto melhor do que uma reescrita ampla. Se você ainda não sabe qual tarefa vale a pena entregar a um agente, faça o diagnóstico gratuito de IA da Be Human para encontrar a primeira tarefa que vale essa entrega.

Perguntas frequentes

Em que a taxonomia de falhas difere de uma lista de bugs? Uma lista de bugs registra o que deu errado, enquanto uma taxonomia registra por que deu errado, usando um vocabulário fixo. Esse vocabulário permite que pessoas diferentes classifiquem a mesma execução do mesmo jeito, e é isso que torna as tendências visíveis. Uma lista de bugs pode crescer sem limite, mas uma taxonomia com seis causas continua pequena o bastante para ser usada todos os dias.

Uma mesma falha pode ter mais de uma causa? Sim, e o método trata isso pedindo uma causa principal e, quando for o caso, uma causa secundária. A causa principal é a camada mais cedo da cadeia que estava errada, e ela determina a primeira correção. A causa secundária costuma ser um controle ausente, como uma etapa de aprovação, que teria contido o dano.

Quem deve classificar as falhas? A pessoa responsável pelos resultados do agente deve revisar cada classificação, porque ela consegue julgar se o impacto no negócio e a causa estão certos. Engenheiros ou operadores podem preparar o rótulo a partir do registro da execução, mas o responsável decide se a correção vale a pena. Revisar uma amostra de execuções toda semana mantém o trabalho proporcional, e um método de amostragem semanal pode definir quantas execuções ler.

Preciso de ferramentas especiais para começar a classificar falhas? Não. Uma planilha ou documento compartilhado, com uma linha por execução com falha, os seis rótulos de causa, campos de causa principal e secundária e uma frase de evidência, já basta para começar. Ferramentas ficam úteis depois, quando houver execuções rotuladas suficientes para enxergar padrões, e devem tornar o mesmo registro mais fácil de ler, sem substituir o hábito de classificar antes de corrigir.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →