Ir para conteúdo
be-human.ai
← Voltar ao blog

Contexto e memória

Procedência de fatos na memória de IA: rastreie cada fato até a fonte

Adicione fonte, autor e data a cada fato da memória do agente de IA para que revisores vejam de onde ele veio e se ainda está válido.

Capa tipográfica do Be Human com o título: Procedência de fatos na memória de IA: rastreie cada fato até a fonte
Ilustração conceitual criada com IA · Be Human

Tags de procedência anexam uma fonte, um autor e uma data a cada fato que um agente de IA guarda em memória. Assim, o agente e os revisores humanos conseguem rastrear qualquer afirmação lembrada até o documento, a mensagem ou a pessoa de onde ela saiu. Sem essas tags, a memória parece verdade definitiva, mesmo quando ninguém sabe dizer de onde ela veio ou se ainda vale. Escrever as tags no momento em que o fato entra na memória é a forma mais simples de manter essa memória verificável.

Principais pontos

  • Um fato de memória sem fonte é uma afirmação não verificada, mesmo quando o agente a apresenta com confiança.
  • Registre fonte, autor e data quando o fato entra na memória, e não em uma limpeza feita depois.
  • Use as tags para decidir qual fato prevalece quando duas memórias divergem e para mostrar à equipe de onde veio cada resposta.
  • Revise as tags em uma agenda fixa, porque um fato correto quando foi escrito pode ficar desatualizado sem que ninguém edite a memória.
  • Mantenha os campos das tags poucos e fixos, para que um revisor consiga conferi-los em segundos.

O que uma tag de procedência registra

Uma tag útil responde a quatro perguntas sobre um fato: de onde ele veio, quem o colocou ali, quando a informação original foi escrita e quando ela foi armazenada. As duas últimas datas são diferentes. Uma política pode ter sido redigida meses antes de o agente tomar conhecimento dela, e essa diferença importa quando alguém pergunta se a resposta está atual. Mantenha os campos separados para que o revisor não precise adivinhar.

O campo de fonte deve apontar para uma referência estável, como o identificador do documento com sua versão, o ID de um registro no sistema de origem ou uma conversa que uma pessoa consiga abrir. Escrever apenas "o manual da empresa" não basta, porque o manual muda. O campo de autor deve nomear uma pessoa ou uma integração identificada, nunca o próprio assistente. Quando o agente resume uma conversa, esse resumo é um fato derivado, e o autor precisa deixar isso explícito.

O NIST AI Risk Management Framework trata documentação e transparência como parte da gestão de riscos de IA. As tags de procedência são uma forma pequena e prática dessa documentação dentro da memória de um agente. Elas não provam que um fato está correto. Elas tornam possível conferi-lo.

Escreva a tag quando o fato entrar na memória

Tags adicionadas depois tendem a ser palpites. O momento mais barato para registrar a procedência é aquele em que o fato é escrito, enquanto a fonte ainda está diante da pessoa ou do processo que o registrou. Uma regra de escrita que funciona para a maioria das equipes tem seis partes:

  • Não armazene um fato que não tenha campo de fonte. Guarde-o como nota pendente, que um revisor precisa resolver.
  • Registre a fonte como referência estável, com o identificador e a versão do documento ou o ID do registro.
  • Registre o autor como uma pessoa ou uma integração identificada, com permissão para escrever aquele tipo de fato.
  • Registre duas datas: a data em que a fonte foi escrita e a data em que o fato foi armazenado.
  • Marque o fato como primário (copiado da fonte), derivado (resumido ou inferido pelo agente) ou confirmado (conferido por alguém da equipe).
  • Defina uma data de revisão para fatos que descrevem horários, políticas, condições de serviço ou escalas, já que são os que mudam com mais frequência.

A regra sobre fatos derivados é a mais importante. Um agente que resume a conversa da semana passada e guarda o resumo como fato primário transformou a própria interpretação em fonte. Mantenha os fatos derivados visíveis como derivados e não deixe que sejam o único apoio para um compromisso. Se um agente perde contexto entre sessões, a causa costuma estar em como os fatos são escritos, por isso vale olhar contexto desatualizado em agentes de IA junto com a procedência.

Como o agente usa as tags ao responder

A procedência só tem valor se o agente a ler no momento da resposta. Ele deve tratar cada fato recuperado como portador de suas tags, e o comportamento deve seguir um guia de decisão simples:

  • Se o fato é primário, a fonte está atual e a data de revisão não venceu, responda e cite a fonte e a data quando a resposta depender dela.
  • Se o fato é derivado, ou se a fonte é mais antiga que a janela de revisão, responda apenas com uma ressalva clara ou peça ao responsável que confirme antes de usá-lo.
  • Se o fato não tem fonte alguma, não o apresente como informação oficial da empresa. Encaminhe-o para revisão.
  • Se dois fatos com tags entram em conflito, aplique uma regra de precedência escrita, como fato primário confirmado sobre fato derivado e fonte mais recente sobre fonte mais antiga, e registre o conflito para um responsável resolver.

Este último ponto merece uma regra escrita antes que o primeiro conflito apareça. Equipes que pulam essa etapa costumam acabar com um agente que escolhe o fato recuperado primeiro. A abordagem descrita em memórias conflitantes em agentes de IA explica como definir essa precedência. Para respostas que vão para clientes, a citação da fonte precisa ser específica o suficiente para que alguém da equipe abra o mesmo documento em menos de um minuto, padrão descrito em respostas de IA com fontes para empresas.

Uma ressalva: a tag não torna um fato verdadeiro. Ela torna o fato mais fácil de contestar, e esse é todo o objetivo.

Um cenário ilustrativo

O cenário a seguir é ilustrativo e não descreve um cliente real. Uma empresa de serviços de campo tem um agente que responde a perguntas de clientes sobre garantia. A memória do agente guarda um fato sobre o prazo da garantia, marcado com o documento de termos de onde ele saiu, o gerente de operações que o confirmou e a data em que o documento foi escrito.

Mais tarde, a empresa publica uma nova versão dos termos. O novo documento é escrito em uma data posterior, e o gerente de operações confirma a mudança no prazo. A memória passa a ter dois fatos sobre o mesmo assunto. Pela regra de precedência, vence o fato confirmado do documento mais novo, e o fato antigo é marcado como substituído, não apagado. O agente responde com o fato novo e cita a versão atual. Ele também registra a mudança, para que um revisor veja quando a resposta mudou e por quê.

Sem as tags, o agente teria duas afirmações confiantes e nenhuma forma de escolher entre elas, e a pessoa que atende o telefone não teria como saber qual delas o cliente já havia recebido.

O que os revisores devem conferir

Um revisor não precisa ler cada fato da memória. Uma checagem curta e repetível pega a maior parte dos problemas de procedência:

  • Cada fato tem uma referência de fonte que abre o texto ou o registro real.
  • A versão da fonte é a atual, ou o fato está marcado como substituído com um link para o que o substituiu.
  • O campo de autor nomeia uma pessoa ou integração autorizada a escrever aquele tipo de fato.
  • Fatos derivados não são o único apoio para preços, políticas, compromissos de serviço ou horários.
  • Fatos que passaram da data de revisão foram confirmados, corrigidos ou removidos.
  • Conflitos no registro têm um responsável e uma data de resolução.

Faça essa checagem em uma agenda fixa, e não apenas depois de uma reclamação. O método para auditar o que um agente lembra está descrito em auditoria de memória de agente de IA, e ele combina bem com a checagem de procedência, porque as tags dão ao revisor algo concreto para inspecionar.

Como a Be Human trata a procedência em operações gerenciadas

Em um projeto com a Be Human, as regras de procedência fazem parte da primeira definição do agente: quais fontes podem criar memória, quais campos de tag são obrigatórios, quem pode escrever e quem aprova mudanças. As operações gerenciadas mantêm essas regras funcionando ao longo do tempo. Isso inclui avaliações recorrentes que amostram fatos da memória e conferem suas tags, revisões de permissão que confirmam quem pode escrever cada tipo de fato e resposta a incidentes quando um fato com fonte ausente ou errada chega a uma resposta para cliente. O sucesso é definido por um critério observável combinado no início, como a proporção de respostas que citam uma fonte atual, e é medido, não prometido. A Be Human não garante resultados, mas faz da procedência uma rotina de operação, e não apenas uma configuração feita uma vez. Se você não tem certeza de quais fatos da empresa um agente deve ser confiável para lembrar, faça o diagnóstico gratuito de IA da Be Human para identificar a primeira tarefa que vale entregar a um agente.

Perguntas frequentes

Uma tag de procedência torna um fato de memória verdadeiro? Não. A tag não verifica o conteúdo do fato. Ela registra de onde ele veio, quem o colocou ali e quando, para que uma pessoa ou uma verificação posterior possa julgar se ele continua correto. O valor está em tornar os erros rastreáveis e corrigíveis, em vez de invisíveis.

O agente deve guardar seus próprios resumos de conversas como memória? Pode, mas esses resumos devem ser marcados como derivados e mantidos separados dos fatos primários. Um resumo é uma interpretação da conversa, não a conversa em si. Trate-o como uma pista a ser confirmada antes de sustentar qualquer compromisso, preço, política ou horário.

Quanto detalhe de fonte uma tag deve conter? O suficiente para que alguém da equipe abra o texto ou o registro exato em um minuto, e nada além disso. Um identificador estável do documento com a versão, mais um link ou ID de registro, costuma bastar. Trechos longos copiados para as tags deixam a memória mais pesada e mais difícil de revisar, então mantenha o trecho curto e aponte para o original.

O que acontece com os fatos com tags quando um documento de origem é substituído? Os fatos que dependem da versão antiga devem ser marcados como substituídos, e não apagados em silêncio, e ligados ao fato que os substitui. Isso mantém o histórico visível para auditorias e permite que o agente responda com a versão atual. Uma revisão agendada deve identificar fatos cuja fonte mudou, para que a substituição seja rotina, e não uma emergência.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →