Falhas silenciosas em agentes de IA: como detectar erros discretos
Aprenda a detectar falhas silenciosas em agentes de IA: etapas puladas e valores errados que o agente reporta como sucesso. Checagens práticas.

Uma falha silenciosa acontece quando um agente de IA entrega um resultado fluente e confiante depois de pular uma etapa obrigatória ou gravar um valor errado, e nada no fluxo dispara um alarme. Você identifica essas falhas com checagens que não dependem do relato de sucesso feito pelo próprio agente: evidência para cada etapa, conciliação com o sistema de registro, regras de validação de valores e revisão humana por amostragem. Este artigo mostra como montar essas checagens para agentes de negócio, começando pelos casos que mais importam.
Principais pontos
- Uma falha silenciosa é um resultado errado que parece bem-sucedido, então monitorar apenas erros não a encontra.
- Exija evidência para cada etapa e verifique essa evidência fora do resumo do próprio agente.
- Concilie contagens, totais e identificadores com o sistema de registro depois de cada lote.
- Amostre saídas por risco, incluindo as respostas em que o agente está mais confiante, e não apenas as que ele sinaliza.
- Escreva cada checagem como uma regra com nome e dono, para que uma pessoa consiga ler, rodar de novo e alterá-la.
Por que a resposta confiante esconde o problema
Um modelo de linguagem foi feito para produzir texto completo e plausível. Quando uma etapa é pulada ou um valor está errado, a saída muitas vezes parece tão finalizada quanto uma correta. A execução termina, nenhuma exceção é lançada, nenhum tempo limite estoura, e a mensagem final lê-se como um resumo de trabalho concluído. Da posição de quem opera, o sistema parece saudável.
Na prática, falhas silenciosas costumam aparecer em três formas:
- Etapa pulada: o agente nunca chama a ferramenta que salvaria um registro, enviaria um aviso ou verificaria uma permissão, mas ainda descreve a tarefa como concluída.
- Valor errado: o agente copia um valor, data, nome ou identificador do campo errado, ou arredonda e reformata o dado de um jeito que o sistema seguinte não aceita.
- Entrada desatualizada: o agente trabalha com um documento antigo, uma tabela de preços desatualizada ou um registro em cache e apresenta o resultado como atual.
Nenhuma dessas falhas aparece se você ler apenas a resposta final. A solução não é pedir ao agente que seja mais cuidadoso. A solução é criar checagens que não dependam do autorrelato, porque o autorrelato é exatamente o que não pode ser confiável numa falha silenciosa.
Encontre a etapa pulada antes que o cliente encontre
Comece listando as etapas que uma tarefa precisa cumprir, em ordem, e qual prova cada uma deixa. Um fluxo de reembolso, por exemplo, precisa ler o pedido, verificar elegibilidade, chamar a ferramenta de pagamento, gravar um registro e enviar a confirmação. Cada ação deve produzir um artefato: uma chamada de ferramenta com resultado, um identificador de registro, um identificador de mensagem. A narrativa do agente não é um artefato.
Depois, confira os artefatos. Para cada tarefa concluída, confirme que as chamadas esperadas aparecem nos logs, que cada uma retornou status de sucesso e que apareceram na ordem certa. Uma chamada ausente é o sinal mais claro de etapa pulada, e é fácil de detectar quando você compara os logs com uma lista de etapas obrigatórias. Conceitos de observabilidade como traços, spans e logs estruturados tornam isso possível. Diagnosticar um sistema exige registrar o que ele fez, não apenas o que ele informou. Para orientação sobre o que registrar, veja Observabilidade de agentes de IA: o que registrar?
Uma regra prática: uma tarefa só está concluída quando a evidência exigida existe. Se o agente informa conclusão sem a evidência, marque a tarefa como não verificada e envie-a para uma fila de revisão em vez de deixá-la fechar.
Concilie as saídas com o sistema de registro
A conciliação é a forma mais confiável de pegar valores errados. A ideia é simples: compare o que entrou em um lote com o que saiu, usando uma fonte independente que o agente não controla. Se o agente processou uma lista de notas fiscais, o número de notas na origem deve bater com o número de atualizações registradas. Os totais devem bater. Os identificadores devem bater. As datas devem cair no período esperado.
Cenário ilustrativo: um agente atualiza status de pagamentos a partir de uma planilha de pagamentos de clientes todas as manhãs. O resumo dele diz que todas as linhas foram processadas e que o lote está limpo. Uma etapa de conciliação conta as linhas da planilha, conta as mudanças de status no sistema contábil e compara a soma dos valores dos dois lados. As contagens diferem em uma unidade. O agente pulou uma linha cuja data estava em um formato que ele não reconheceu, e nunca marcou essa linha como exceção. A checagem pega a lacuna antes que a equipe financeira monte um relatório sobre dados incompletos.
A conciliação funciona melhor quando roda depois de cada lote e quando a tolerância é explícita. Defina antes qual diferença é aceitável, se houver alguma. Em muitas tarefas de negócio, a diferença aceitável é zero, e qualquer divergência abre um chamado.
- Compare a contagem de registros entre entrada e saída.
- Compare os totais de todo campo numérico que deveria fechar.
- Compare identificadores, para que duplicidades e omissões apareçam.
- Compare intervalos de datas com o período que a tarefa deveria cobrir.
- Guarde o resultado da conciliação junto ao lote, para que um dono possa consultá-lo depois.
Valide valores com regras que o agente não controla
Alguns valores errados podem ser pegos sem comparar com outro sistema, apenas verificando se o valor é possível. Essas regras são baratas, rápidas e fáceis de explicar a um revisor não técnico. Incluem checagens de formato, como data no padrão esperado ou identificador com o tamanho correto; checagens de faixa, como um desconto que não pode passar do limite da política; e checagens de campo cruzado, como uma data de entrega que não pode ser anterior à data do pedido.
Verificações de referência também importam. Se o agente cita um cliente, o nome deve existir na tabela de clientes. Se cita uma política, o identificador deve ser de uma política real. Um valor que falha nessas checagens não é necessariamente errado, mas não é seguro agir sobre ele sem uma pessoa olhando.
Mantenha essas regras em linguagem simples, ao lado do código ou da configuração que as implementa. Quando uma regra disparar, a mensagem deve dizer qual campo falhou e por quê, para que o dono decida se a regra ou a saída está errada.
Amostre o trabalho que você acha que está bom
Checagens automáticas não julgam todos os problemas de qualidade. Uma resposta pode estar bem formatada, conciliada e ainda assim enganosa no tom ou incompleta no conteúdo. Para isso é preciso revisão humana, mas revisar tudo raramente é viável. A amostragem é a resposta usual, e o desenho da amostra importa.
Um erro comum é revisar apenas as saídas que o agente marcou como incertas. As falhas silenciosas vivem no outro grupo. O agente está confiante nessas respostas, então nada provoca uma revisão. Inclua uma fatia aleatória de saídas não marcadas em cada ciclo de revisão e dê mais peso à amostra nas tarefas em que um erro custaria mais. Comece com uma amostra pequena, olhe o que encontrou e ajuste. Para definir esse número de forma baseada em risco, veja Quantas saídas de IA revisar por amostragem: um método por risco.
Os revisores precisam de um guia curto de pontuação: a saída completou todas as etapas obrigatórias, os valores estão corretos em relação à fonte e um cliente ou colega seria induzido a erro? Mantenha esse guia estável, para que as tendências ao longo das semanas signifiquem algo.
Um plano passo a passo para incluir checagens de falha silenciosa
Você não precisa construir tudo de uma vez. Esta sequência funciona para a maioria dos agentes de negócio:
- Passo um: escolha uma tarefa que mexa com dinheiro, registros de clientes ou compromissos externos, e anote suas etapas obrigatórias em ordem.
- Passo dois: defina a evidência que cada etapa deve deixar, como o resultado de uma chamada de ferramenta ou um identificador de registro, e confirme que os logs a capturam.
- Passo três: escreva uma regra de conclusão que exija toda a evidência e envie as tarefas sem ela para uma fila de revisão.
- Passo quatro: adicione uma checagem de conciliação que compare contagens e totais de entrada com o sistema de registro, e rode-a após cada lote.
- Passo cinco: adicione de três a quatro regras de valor para formato, faixa e referência, cada uma com um motivo em linguagem simples.
- Passo seis: inicie uma amostragem semanal de saídas não marcadas, pontuadas com um guia curto, e registre o que encontrar.
- Passo sete: revise os resultados depois de duas ou três semanas, aperte as regras que pegaram problemas reais e aposente as que nunca disparam.
Para um conjunto mais longo de casos de teste a rodar contra essas checagens, veja Monte um conjunto de testes de referência para sua IA. Testar as checagens com entradas ruins conhecidas confirma que elas de fato disparam.
Como a Be Human trata falhas silenciosas em operações gerenciadas
A Be Human desenha agentes para que cada tarefa tenha, antes de entrar em operação, suas etapas obrigatórias, sua evidência e sua fonte de conciliação definidas. Na operação gerenciada, a equipe acompanha essas checagens, roda avaliações recorrentes com um conjunto fixo de casos reais, revisa amostras em uma agenda definida e atualiza as regras quando o negócio muda. Revisões de permissão garantem que o agente só atue dentro dos limites de aprovação, e a resposta a incidentes define quem investiga quando uma checagem falha. O objetivo é um agente cujos relatos de sucesso possam ser verificados, e não um em que a confiança simplesmente seja aceita.
Por onde começar
Uma checagem de falha silenciosa só é útil na medida da tarefa que protege, então comece pelo fluxo em que um erro discreto custaria mais. Escolha um, escreva suas etapas e evidências, e adicione a conciliação antes de qualquer outra coisa. O AI Risk Management Framework do NIST oferece um vocabulário útil para decidir quanta checagem um risco merece. Se você não tem certeza de qual tarefa merece esse trabalho primeiro, faça o diagnóstico gratuito da Be Human para identificar a primeira tarefa que vale entregar a um agente.
Perguntas frequentes
Qual a diferença entre falha silenciosa e erro comum? Um erro comum produz um sinal visível, como uma exceção, uma requisição rejeitada ou um tempo limite, que alguém pode notar. Uma falha silenciosa termina sem nenhum defeito aparente, então a única forma de achá-la é comparar o resultado com uma fonte independente. Trate qualquer execução que informe sucesso sem evidência como não verificada até uma checagem confirmar.
Por que não posso simplesmente pedir ao agente que revise o próprio trabalho? Pedir que o agente se verifique usa o mesmo processo que gerou o erro, então ele pode repetir o mesmo engano com a mesma confiança. Checagens independentes, como conciliação com o sistema de registro, logs de chamadas de ferramenta e testes de valor baseados em regras, não dependem do julgamento do agente. Um segundo modelo ou uma revisão humana podem agregar valor, mas as evidências mais fortes vêm de fontes que o agente não consegue editar.
Com que frequência devo rodar checagens de falha silenciosa? Rode checagens estruturais, como presença de evidência e conciliação, depois de cada lote ou tarefa, sempre que isso for viável, porque são baratas e suas falhas pedem resposta rápida. Rode a revisão humana por amostragem em uma agenda regular, semanal no início, e ajuste a frequência conforme o que as revisões encontram. O ritmo certo depende de quanto custaria um erro silencioso naquela tarefa.
As checagens de falha silenciosa deixam os agentes mais lentos? Elas acrescentam algum tempo de processamento, mas a maioria lê dados que o agente já produziu e os compara com uma fonte que já está disponível. O compromisso mais importante é operacional: uma tarefa sinalizada esperando na fila de revisão é mais lenta do que uma que fechou em silêncio e estava errada. Defina o tamanho da fila de revisão e o responsável antes do lançamento, para que as checagens gerem um atraso controlado em vez de um acúmulo não planejado.
Seu próximo passo
Descubra primeiro onde um agente de IA cabe na sua empresa.
Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.
Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.


