Ir para conteúdo
be-human.ai
← Voltar ao blog

Supervisão humana

Decisões de IA precisam de registro: o que explicar depois

Um registro de decisões de IA deve guardar o gatilho, o contexto, a permissão, a aprovação e o resultado de cada ação, para explicar depois.

Capa tipográfica do Be Human com o título: Decisões de IA precisam de registro: o que explicar depois
Ilustração conceitual criada com IA · Be Human

Um registro de decisão de IA é uma entrada curta e estruturada, escrita para cada ação relevante que um agente executa. Ele informa o que disparou a ação, quais informações e permissões o agente usou, quem aprovou ou qual regra permitiu que ele agisse sozinho, o que mudou e o que aconteceu depois. Sua função é permitir que a empresa explique essa ação mais tarde a um cliente, a um auditor ou a um órgão regulador, sem depender da memória de ninguém nem de registros brutos que ninguém consegue ler.

Principais pontos

  • Registre a decisão, e não apenas a saída: o gatilho, as informações usadas, a permissão aplicada, a aprovação e o resultado.
  • Escreva cada registro no momento da ação, em linguagem simples, ligado à versão das instruções e das ferramentas do agente que estava ativa.
  • Ajuste o nível de detalhe ao risco e remova dados pessoais antes que eles se espalhem pelos logs.
  • Teste a recuperação: escolha uma ação passada e verifique se alguém que não participou consegue explicá-la em poucos minutos.

O que é um registro de decisão e o que ele não é

A maioria das empresas já tem parte da matéria-prima. Uma conversa de chat mostra as palavras trocadas, um log de sistema mostra que uma solicitação foi enviada, e um sistema de cobrança ou de chamados mostra o estado final. Nenhum desses, sozinho, responde à pergunta que alguém vai fazer cedo ou tarde: por que o agente fez aquilo, com base em quê, e quem foi responsável por deixar isso acontecer?

O registro de decisão fica acima dessas fontes e as conecta em um único relato de uma ação. A documentação do OpenTelemetry sobre conceitos de observabilidade descreve logs, traces e métricas como sinais complementares. A mesma lógica vale aqui: o registro de decisão é o resumo legível, com referências de volta aos sinais detalhados quando alguém precisar verificar uma afirmação.

Os campos que todo registro precisa

Comece com uma lista fixa de campos para cada tipo de ação. O conjunto mínimo abaixo cobre a maior parte dos agentes de negócio.

  • Identificador e horário da ação: uma referência única e o momento em que a ação foi executada, registrado em um mesmo padrão de horário em todos os sistemas.
  • Agente e versão: o nome do papel, a versão das suas instruções e as ferramentas disponíveis naquele momento.
  • Gatilho: a mensagem do cliente, o pedido de um colaborador, o evento de sistema ou a agenda que iniciou a ação.
  • Contexto usado: referências aos documentos, cadastros de clientes ou entradas de memória que o agente leu, por identificador e não por cópia do conteúdo.
  • Permissão usada: a ferramenta, o tipo de ação e o escopo concedido, como somente leitura ou alteração até um limite declarado.
  • Decisão e motivo: o que o agente escolheu fazer e um resumo curto e claro das verificações que fez.
  • Aprovação: a pessoa que aprovou, o horário da aprovação ou a regra escrita que permitiu a ação sem aprovação.
  • Resultado: o que mudou no sistema do cliente ou no sistema interno, e se essa mudança foi confirmada pelo próprio sistema.
  • Exceções: recusas, escalonamentos, erros, novas tentativas e qualquer ação que foi bloqueada.

Mantenha o motivo como resumo das verificações, e não como despejo de texto gerado. Um motivo útil soa assim: o pedido foi encontrado, o prazo de devolução foi conferido com a versão da política em vigor, e o valor está abaixo do limite que não exige aprovação. Essa frase pode ser verificada. Um parágrafo de justificativa gerada, em geral, não pode.

Quanto detalhe guardar e o que deixar de fora

O detalhe deve seguir o risco. Uma ação que apenas rascunha uma nota interna precisa de menos campos do que uma ação que altera um pagamento, envia uma mensagem a um cliente ou edita um registro financeiro, trabalhista ou de saúde.

Os registros também podem virar um problema de privacidade. Se cada prompt e cada documento recuperado for copiado para um log, o log se transforma em uma segunda cópia dos seus dados mais sensíveis. Guarde referências e resumos curtos por padrão, e mantenha o conteúdo integral apenas onde houver necessidade documentada. A remoção de dados deve acontecer antes do armazenamento, e não depois. O guia sobre redação de dados pessoais em logs de agentes de IA explica como manter detalhe de auditoria sem vazar dados pessoais.

A retenção é uma decisão jurídica, e não um padrão técnico. Guarde os registros pelo tempo que seus contratos, as obrigações do seu setor e qualquer disputa em aberto exigirem, e esteja pronto para congelá-los quando uma disputa começar. A preparação de equipes de compliance mostra quais provas guardar agora, sem manter tudo indefinidamente: provas para guardar em compliance de IA.

Plano passo a passo antes do lançamento

A ordem abaixo mantém o trabalho pequeno o bastante para terminar antes que o agente toque clientes ou dinheiro de verdade.

  • Passo 1: liste todas as ações que o agente pode executar, desde o acesso somente leitura até alterações que afetam dinheiro, clientes ou colaboradores.
  • Passo 2: marque quais ações precisam de aprovação humana antes de rodar e quais podem rodar sozinhas sob uma regra escrita. O artigo sobre aprovação humana para agentes de IA mostra onde as pessoas costumam assinar.
  • Passo 3: defina os campos do registro para cada tipo de ação, partindo da lista acima, e remova qualquer campo que ninguém vá ler.
  • Passo 4: decida onde os registros são guardados, quem pode lê-los e quem pode exportá-los. Aplique as mesmas regras de acesso que você usa para dados de clientes. As orientações de autorização da OWASP são uma boa referência para delimitar quem vê o quê.
  • Passo 5: versione as instruções do agente e as definições das ferramentas, para que cada registro aponte para as regras que estavam ativas naquele dia.
  • Passo 6: execute uma ação de teste para cada tipo e depois abra o registro como um revisor que não participou. Esse revisor consegue dizer o que aconteceu e por quê, sem perguntar ao construtor?
  • Passo 7: atribua um responsável e uma agenda de revisão. Registros que ninguém revisa são apenas armazenamento.

Cenário ilustrativo: uma resposta de reembolso contestada

O cenário a seguir é ilustrativo e não descreve uma empresa real. Um agente responde mensagens de clientes sobre entregas atrasadas. Depois, um cliente escreve que o agente prometeu um reembolso que nunca foi pago.

Sem registro de decisão, a equipe reconstrói a conversa a partir de uma janela de chat e tenta adivinhar qual política o agente leu. Com o registro, a equipe encontra uma entrada para a conversa. O gatilho foi a mensagem do cliente. O agente leu o status da entrega e a política de reembolso na versão vigente naquela data. Ofereceu um reembolso dentro do limite permitido sem aprovação, e o registro mostra que a oferta foi enviada. A etapa de pagamento falhou depois e foi registrada como erro. Agora a equipe consegue explicar o que o agente disse, o que ele podia fazer e onde a falha aconteceu, e pode decidir a correção com base em evidências, e não em lembranças.

Revisar os registros para que continuem úteis

Os registros precisam de um ritmo de revisão. No início da operação, confira semanalmente uma pequena amostra de ações. Quando os padrões estiverem estáveis, uma amostra mensal costuma bastar. Procure três coisas: ações executadas sem a aprovação que as regras exigiam, ações bloqueadas que deveriam ter sido permitidas e registros com campos faltando. O NIST AI Risk Management Framework é uma referência útil para tratar essas revisões como parte da gestão contínua de riscos, e não como um exercício único.

As ações bloqueadas merecem atenção própria, porque mostram o que o agente tentou fazer e onde seus limites o detiveram. O guia sobre revisão de ações bloqueadas de agentes de IA descreve uma forma prática de fazer isso.

Quando você alterar as instruções ou as ferramentas do agente, registre uma nota no histórico de mudanças com link para a nova versão. Explicações posteriores dependem, com frequência, de saber o que o agente recebeu como orientação no dia da ação, e não do que ele recebe hoje.

Como a Be Human trata registros de decisão em operações gerenciadas

Em um projeto com a Be Human, o esquema de registros é definido já no primeiro trabalho, junto com o papel único do agente, a memória e as ferramentas de que ele precisa, os limites de aprovação e um critério de sucesso observável. As permissões são delimitadas por ferramenta, os logs são configurados com os campos acordados para cada tipo de ação, e as regras de remoção de dados são aplicadas antes do armazenamento. Na operação gerenciada, a equipe faz revisões periódicas de uma amostra de registros, mantém as integrações que os produzem, revisa permissões quando as responsabilidades mudam e usa os mesmos registros na resposta a incidentes para estabelecer o que aconteceu.

Se você não tem certeza de qual das suas tarefas atuais deve ganhar um registro de decisão primeiro, faça o diagnóstico gratuito de IA da Be Human para descobrir a primeira tarefa que vale entregar a um agente.

Perguntas frequentes

Os registros de decisão precisam ser guardados para sempre? Não. A retenção depende dos seus contratos, das obrigações do seu setor e de qualquer disputa pendente. Defina os prazos com orientação jurídica qualificada e documente a regra. Guarde os registros pelo tempo suficiente para responder a perguntas razoáveis sobre ações que afetaram clientes ou dinheiro, e congele-os quando uma disputa começar.

Uma conversa de chat basta como registro de decisão? A transcrição é uma boa evidência do que foi dito, mas raramente mostra qual permissão foi usada, qual regra autorizou a ação ou o que mudou em outro sistema. Trate a transcrição como uma entrada que o registro de decisão referencia. O registro deve ser legível por alguém que nunca esteve na conversa.

Quem deve poder ler os registros de decisão? O acesso deve seguir o princípio usado para qualquer registro empresarial sensível: as pessoas que precisam da informação para supervisionar, dar suporte, auditar ou responder a incidentes. Mantenha essa lista curta, revise-a com regularidade, aplique os mesmos controles de identidade usados para dados de clientes e registre quem abriu os próprios registros.

Uma equipe pequena pode começar sem ferramentas especializadas? Sim. Um formulário estruturado ou uma planilha podem conter os campos dos primeiros tipos de ação, desde que as entradas sejam feitas no momento da ação e revisadas. Passe para a captura automatizada quando o volume tornar o preenchimento manual pouco confiável, porque a decisão importante no início é a lista de campos e o responsável, e não o software.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →