Pós-incidente para falha de agente de IA: modelo sem culpados
Modelo de pós-incidente sem culpados para falhas de agente de IA. Registre gatilho, chamadas, memória e o controle que deveria ter parado a execução.

Um pós-incidente de agente de IA é uma revisão escrita e sem culpados de uma execução que produziu um resultado errado, prejudicial ou inseguro. Ele registra o gatilho, as chamadas de ferramenta e o estado da memória que o agente usou, e nomeia o controle que deveria ter interrompido a execução antes que o dano se espalhasse. O objetivo é mudar o sistema para que a mesma falha seja captada mais cedo, e não decidir quem teve a culpa.
Principais pontos
- Faça um pós-incidente para qualquer execução que tenha causado uma ação externa errada, exposto dados privados ou exigido reparo manual, e não apenas para paradas do sistema.
- Reconstrua a execução em ordem: gatilho, contexto, cada chamada de ferramenta com entradas e saídas, leituras e gravações de memória e a ação final.
- Trate o estado da memória como evidência. Registre o que o agente sabia no momento em que agiu, incluindo fatos desatualizados ou conflitantes.
- Sempre nomeie o controle que deveria ter parado a execução e depois verifique se ele existia, se estava configurado corretamente e se de fato foi acionado.
- Feche cada revisão com uma ou duas mudanças concretas, cada uma com um responsável e um teste que comprove que a mudança funciona.
Quando uma falha merece um pós-incidente completo
Nem todo erro exige uma revisão completa. Uma nova tentativa sem consequências, que terminou sem problemas, pode ser registrada em uma única linha no log da execução. Um pós-incidente completo vale o tempo gasto quando uma das situações abaixo é verdadeira:
- O agente enviou uma mensagem, alterou um registro, emitiu uma reserva ou assumiu um compromisso com um cliente ou fornecedor.
- O agente leu ou expôs informações às quais não deveria ter acesso.
- Uma pessoa precisou desfazer, corrigir ou pedir desculpas por um trabalho produzido pelo agente.
- A mesma falha já apareceu antes, mesmo quando o sintoma visível parecia diferente.
- O agente continuou executando depois de um sinal que deveria tê-lo interrompido.
Defina a severidade antes de começar a revisão. A severidade determina quem participa, com que rapidez a revisão precisa acontecer e se o agente deve ser pausado enquanto a equipe investiga. Um pós-incidente que demora uma semana para começar perdeu grande parte das evidências, especialmente os detalhes de memória e de log que desaparecem rapidamente.
O modelo de pós-incidente, campo por campo
Mantenha uma página por incidente e preencha todos os campos. Quando a evidência não existir, escreva desconhecido e explique o que seria necessário para saber. Essa lacuna também é um achado, porque mostra qual decisão de registro ou de memória precisa ser revista.
- Identificador do incidente, nome e papel do agente, ambiente (teste ou produção) e a janela exata de horário da execução.
- Resumo: um parágrafo simples descrevendo o que aconteceu em termos de negócio, sem atribuir culpa a uma pessoa.
- Gatilho: a entrada, o agendamento, o evento ou a mensagem que iniciou a execução, com sua origem.
- Impacto: o que mudou no mundo externo, quem foi afetado e como a falha foi descoberta.
- Chamadas de ferramenta: uma lista ordenada de cada chamada, com sistema de destino, parâmetros, resposta e se houve nova tentativa.
- Estado da memória: os itens de memória e de contexto disponíveis em cada ponto de decisão, com suas fontes e horários.
- Controle de parada: o controle que deveria ter interrompido a execução, o limite configurado e se ele foi acionado.
- Fatores contribuintes: condições que tornaram a falha provável, como instruções ambíguas, um registro desatualizado ou uma verificação de status ausente.
- Ações corretivas: mudanças, cada uma com responsável, método de verificação e data de revisão.
- Questões em aberto: o que a equipe ainda não consegue explicar e quem vai investigar.
A estrutura é intencionalmente próxima de uma entrada de runbook. Equipes que já mantêm notas operacionais para seus agentes costumam achar o pós-incidente mais fácil de escrever, e os campos servem como checklist para incidentes futuros. Para uma visão mais ampla das anotações que valem a pena manter, veja a rotina mensal de revisão de agentes de IA.
Reconstrua o gatilho e cada chamada de ferramenta
Comece pelo gatilho, e não pelo sintoma. Uma reclamação sobre uma fatura errada pode ter origem em um e-mail recebido que continha instruções que o agente tratou como dado, e não como conteúdo a resumir. Anote a entrada exata, de onde veio e quando chegou. Se o gatilho foi um agendamento ou um webhook, registre também o identificador do evento.
Depois, liste as chamadas de ferramenta na ordem em que aconteceram. Para cada uma, registre o sistema de destino, os parâmetros enviados, a resposta recebida e qualquer nova tentativa. Uma lacuna comum aparece quando a chamada tem sucesso no nível técnico, mas o resultado de negócio está errado, por exemplo uma gravação que retorna sucesso e atualiza o registro errado. Registre essa lacuna de forma explícita, porque ela aponta para uma etapa de verificação ausente, e não para uma falha da ferramenta.
A reconstrução depende de logs que compartilham um mesmo identificador de execução entre etapas de raciocínio, chamadas de ferramenta e gravações externas. O material introdutório sobre OpenTelemetry explica os conceitos gerais de traces, logs e métricas que tornam esse tipo de reconstrução possível. Se uma chamada de ferramenta não tem nenhuma entrada de log, essa ausência deve se tornar a primeira ação corretiva. O que capturar em cada etapa é tratado em observabilidade de agentes de IA: o que registrar.
Registre o estado da memória no momento da falha
A memória costuma ser a parte menos examinada de um incidente, e com frequência é a causa. Para cada ponto de decisão, registre quais itens de memória foram recuperados, de qual armazenamento, com que horário e se o agente os usou na saída. Registre também os itens importantes que não foram recuperados. Não se pode culpar um agente por ignorar um fato que nunca recebeu, mas a revisão deve explicar por que esse fato não estava no contexto dele.
Cenário ilustrativo: um agente de agendamento confirma uma sala de reunião que uma nota da facilities havia liberado poucos dias antes. A nota antiga foi recuperada e usada. Um cancelamento mais recente tinha sido guardado em outro campo do cliente e nunca foi recuperado. O pós-incidente registra os dois fatos. A ação corretiva não é rotular o agente como descuidado, mas acrescentar a regra de consultar o status atual de um recurso antes de confirmá-lo, e testar essa regra com o mesmo cenário.
Snapshots de memória podem conter dados pessoais de clientes ou colaboradores. Limite quem pode ler o pós-incidente, guarde-o com as mesmas regras de acesso dos registros de origem e remova detalhes que a revisão não precisa. Um pós-incidente útil identifica o item de memória pelo identificador e descreve seu conteúdo em termos gerais.
Encontre o controle que deveria ter parado a execução
Todo pós-incidente deve responder diretamente a uma pergunta: qual controle deveria ter parado isto, e por que não parou? Os controles em sistemas com agentes incluem portões de aprovação para ações sensíveis, escopos de permissão em cada ferramenta, limites de passos e de custo, idempotência nas gravações, filas de mensagens não processadas para tarefas que não conseguem terminar e escalonamento humano quando a confiança é baixa. Verifique cada um contra a execução.
- A ação estava em uma categoria que exige aprovação, e a aprovação realmente aconteceu antes da gravação?
- As credenciais do agente permitiam a gravação feita, e elas deveriam ter permitido?
- Existia limite de passos ou de custo para essa tarefa, e o valor estava definido em um nível que pegaria esta execução?
- A gravação era idempotente, ou uma nova tentativa repetiu a ação?
- Um alerta foi disparado, e a pessoa que o recebeu tinha autoridade para pausar o agente?
- Uma pessoa conseguiria pausar o agente sem perder a fila, a memória ou o trabalho pendente?
Se nenhum controle existia, nomeie o controle ausente como causa raiz. Se um controle existia, mas estava configurado de forma frouxa demais, nomeie o limite. Se ele foi acionado, mas ninguém agiu, nomeie a passagem de responsabilidade. Cada um desses casos leva a uma correção diferente, e confundi-los está entre os motivos mais comuns para incidentes se repetirem.
As novas tentativas merecem atenção especial. A Stripe documenta chaves de idempotência definidas pelo provedor como forma de tornar requisições repetidas seguras, e o mesmo princípio vale para qualquer gravação feita por um agente. Sem isso, um timeout seguido de nova tentativa pode duplicar uma reserva ou uma mensagem. O padrão é explicado em chamadas idempotentes em agentes de IA.
Transforme achados em mudanças que se sustentem
As ações corretivas devem ser testáveis. Frases como tenha mais cuidado ou revise com mais frequência não podem ser verificadas e costumam desaparecer na revisão seguinte. Ações melhores são específicas: exigir uma checagem de status antes de confirmar um recurso, colocar uma categoria de gravação atrás de uma etapa de aprovação, reduzir o limite de gasto de uma tarefa, incluir o cenário que falhou no conjunto de testes ou encaminhar um caso específico para uma pessoa em vez de deixar o agente decidir.
Cada ação precisa de um responsável e de um método de verificação. Antes de fechar o incidente, reexecute a execução que falhou com a mudança, ou com a cópia segura mais próxima dela, e confirme que o resultado é diferente. Registre esse resultado no pós-incidente. Quando a correção envolve passar uma decisão para uma pessoa, torne a passagem precisa: envie a decisão e as evidências necessárias para tomá-la, e não a conversa inteira. O padrão é descrito em escalonamento humano em falhas de agentes de IA.
Na operação gerenciada da Be Human, pós-incidentes fazem parte da rotina, e não são algo escrito depois de uma semana ruim. Cada agente é configurado com um papel definido, um escopo de memória, uma lista de ferramentas, limites de aprovação e um critério de sucesso observável, de modo que quem revisa já sabe o que o agente podia fazer. O monitoramento mantém os registros de execução de que as revisões dependem, a resposta a incidentes segue uma sequência escrita, e as revisões de permissão verificam se os controles que deveriam parar uma execução ainda correspondem às regras de negócio atuais. Mudanças no comportamento dos agentes são feitas em etapas controladas e testadas com os casos da revisão.
Mantenha a revisão sem culpados, curta e útil
Escreva sobre o sistema, e não sobre a pessoa que configurou ou sobre quem deixou passar o alerta. Use o nome do agente e o nome do controle, e descreva as decisões pelo que se sabia na época. A busca por culpados tende a produzir relatórios vagos, e relatórios vagos produzem correções vagas. Uma revisão curta, com evidências específicas, é mais útil do que uma longa que evita a questão central.
Depois da revisão, guarde o pós-incidente onde a equipe que opera o agente vai lê-lo, e classifique-o por tipo de falha para que os padrões fiquem visíveis. O NIST AI Risk Management Framework descreve a gestão de riscos de IA ao longo do ciclo de vida, incluindo monitoramento e resposta, e oferece um vocabulário comum que facilita comparar essas revisões ao longo do tempo. Um único pós-incidente corrige uma execução. Uma coleção deles mostra onde os controles estão mais fracos. Se você quer encontrar a primeira tarefa que vale a pena passar para um agente, faça o diagnóstico gratuito de IA da Be Human.
Perguntas frequentes
Quem deve escrever o pós-incidente de um incidente com agente? O responsável pelo papel do agente deve redigi-lo, porque essa pessoa conhece o comportamento esperado e as regras de negócio. Engenheiros ou operadores que conseguem ler os logs devem contribuir com as seções de chamadas de ferramenta e de memória. Alguém de fora do fluxo de trabalho imediato deve revisar o rascunho em busca de culpados e de controles ausentes.
Precisamos de um pós-incidente se o próprio agente percebeu e corrigiu o erro? Sim, se o erro chegou a um sistema externo, a um cliente ou a um registro do qual outras pessoas dependem. A autocorreção é evidência de que um controle funcionou, mas a revisão ainda deve perguntar por que a primeira ação aconteceu e se a correção poderia ter falhado. Uma nota curta basta quando nada saiu do ambiente interno.
Como tratar dados pessoais dentro dos snapshots de memória durante uma revisão? Restrinja o acesso às pessoas que precisam da evidência, guarde o pós-incidente no mesmo local com controle de acesso dos registros de origem e descreva os itens de memória pelo identificador, e não pelo conteúdo completo. Remova os dados pessoais de que as conclusões não dependem. Suas obrigações de proteção de dados valem para a própria revisão, e não apenas para o uso do agente em produção.
Como saber que uma ação corretiva realmente funcionou? Reexecute o cenário que falhou com a mudança, ou com uma cópia segura dele, e registre o novo resultado no pós-incidente. Depois, acompanhe as execuções comparáveis seguintes por um período razoável, em busca do mesmo padrão de falha. Se a falha voltar, reabra o incidente em vez de abrir um novo.
Seu próximo passo
Descubra primeiro onde um agente de IA cabe na sua empresa.
Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.
Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.


