Ir para conteúdo
be-human.ai
← Voltar ao blog

Contexto e memória

Recuperação de memória para agentes de IA: quais notas vêm primeiro

Ordene as notas de um agente de IA por atualidade, origem e responsável, para ele ler primeiro o registro mais confiável. Inclui plano de pontuação e revisão.

Capa tipográfica do Be Human com o título: Recuperação de memória para agentes de IA: quais notas vêm primeiro
Ilustração conceitual criada com IA · Be Human

O ranking de recuperação de memória decide quais notas guardadas um agente de IA lê primeiro quando responde a uma pergunta ou prepara uma ação. Para um agente da empresa, a regra prática é pontuar cada nota pelo quão atual ela é, de onde veio e quem responde por ela, e então carregar primeiro os registros com maior pontuação. Feito com cuidado, isso impede que o agente trate uma observação antiga de chat como se fosse uma política aprovada.

Principais pontos

  • Ordene as notas por três sinais juntos: data da última confirmação, qualidade da origem e um responsável nomeado.
  • Coloque dados de sistema de registro e documentos aprovados acima das correções da equipe, e ambos acima de resumos de conversa e inferências do agente.
  • Nota sem responsável ou sem data de confirmação deve carregar em posição mais baixa, e nunca deve substituir silenciosamente um registro mais novo e com dono.
  • O ranking é uma ordem de partida, não um veredito final. Conflitos de alto risco exigem decisão humana e uma regra escrita.
  • Teste o ranking com perguntas reais, registre cada resultado errado no topo e ajuste a regra de pontuação em um calendário fixo de revisão.

Por que a ordem das notas muda a resposta

Recuperação não devolve uma nota só. Ela devolve um conjunto de candidatos, e o agente monta a resposta com o que cabe no seu contexto de trabalho. A janela de contexto é limitada, então o conjunto é cortado, e os candidatos que sobram costumam ser os que parecem mais relevantes na superfície. Uma nota antiga sobre o preço de um fornecedor e outra confirmada na semana passada podem ser encontradas pela mesma pergunta, com redações parecidas. Se nada no sistema disser qual é mais confiável, o agente tende a escolher a que soa mais segura, o que não é a mesma coisa que estar correta.

Por isso, a qualidade da recuperação é em parte um problema de ordenação. A equipe de engenharia da Anthropic descreve engenharia de contexto como a escolha do menor conjunto de informações de alto sinal que dá ao modelo a melhor chance de se comportar corretamente. O ranking é a etapa que define o que conta como alto sinal. Sem ele, o agente trata cada frase guardada como igualmente confiável, e sua equipe passa o tempo corrigindo respostas que vieram de notas certas, mas foram colocadas na frente de notas melhores.

Três sinais para ordenar: atualidade, origem e responsável

A atualidade deve medir quando uma informação foi confirmada pela última vez, e não quando a nota foi criada. Uma nota antiga que alguém revalidou recentemente é mais confiável que uma nota nova copiada de um rascunho. Para informações que mudam, como preços, horário de funcionamento, intervalos de manutenção ou escalas da equipe, adicione uma data de validade para que a nota perca posição quando precisar de revisão.

A origem responde de onde veio a informação. Uma ordem que funciona para a maioria das empresas é esta: dados do sistema de registro (a ferramenta de agendamento, o razão contábil, o contrato assinado) em primeiro; documentos internos aprovados com número de versão em segundo; correções da equipe já revisadas em terceiro; resumos de conversa e inferências do agente por último. Cada classe deve ser rotulada no armazenamento de memória para que o ranking leia o rótulo em vez de adivinhar pelo texto.

O responsável responde quem deve prestar contas se a nota estiver errada. Toda nota de política ou voltada ao cliente deve citar uma pessoa ou equipe. Quando o responsável sai ou muda de função, as notas dele devem ser marcadas para redistribuição; caso contrário, elas mantêm a posição enquanto ninguém responde por elas. Uma nota sem dono ainda pode servir como contexto de fundo, mas não deve ficar acima de um registro com dono sobre o mesmo assunto.

Como montar a regra de pontuação

Você não precisa de um modelo complexo para começar. Uma regra transparente, que um gerente lê em um minuto, é mais útil que uma regra engenhosa que ninguém consegue explicar. O plano a seguir funciona em uma primeira implantação:

  • Etapa 1: Liste os tipos de pergunta que o agente vai tratar, como elegibilidade para reembolso, alterações de agendamento ou termos de garantia, e nomeie o responsável por cada tema.
  • Etapa 2: Para cada tema, identifique o sistema de registro e os documentos aprovados que o cobrem, e marque-os como a classe de origem mais alta.
  • Etapa 3: Defina um intervalo de revisão para cada classe de informação e guarde a data da última confirmação em cada nota.
  • Etapa 4: Estabeleça uma ordem simples: primeiro a classe de origem, depois se a nota está dentro do intervalo de revisão, depois se tem responsável nomeado, e por fim a atualidade como critério de desempate.
  • Etapa 5: Tire do topo as notas vencidas e marque-as para revisão, em vez de excluí-las em silêncio.
  • Etapa 6: Escreva a regra em uma página, aprove-a com os responsáveis e versione-a como qualquer outro documento operacional.

Mantenha a regra curta o bastante para que um líder de operações consiga aplicá-la à mão em uma amostra de dez notas. Se a regra precisar de um diagrama para ser explicada, provavelmente é complexa demais para a primeira versão.

Cenário ilustrativo: uma política de reembolso e uma observação de chat

O cenário a seguir é ilustrativo e não descreve um cliente real. Uma pequena empresa de serviços tem um documento de política de reembolso aprovado, atualizado pelo gerente de operações, e um resumo de conversa antigo no qual um técnico prometeu uma exceção a um cliente. Um cliente pergunta se é possível reembolsar uma visita cancelada. Sem ranking, as duas notas combinam com a pergunta, e o agente pode citar a exceção como se fosse política.

Com a regra acima, a política aprovada fica em primeiro lugar, porque é um documento com versão, responsável nomeado e confirmação recente. O resumo de conversa fica por último, porque é um resumo, não tem responsável e está fora do intervalo de revisão. O agente responde com base na política, e a nota da exceção é encaminhada ao gerente de operações, que decide se ela deve virar uma regra documentada. O cliente recebe uma resposta consistente, e o gerente recebe um registro claro do desencontro, em vez de um palpite silencioso.

Onde o ranking deve parar: conflitos e aprovação humana

O ranking funciona bem para ordenar notas que, em geral, concordam. Não é uma forma confiável de resolver uma contradição real, sobretudo quando a resposta afeta dinheiro, segurança, uma obrigação regulatória ou dados pessoais do cliente. Quando duas notas bem ranqueadas discordam, o agente deve dizer isso, citar as duas e encaminhar a questão ao responsável. As regras de tratamento de conflitos em Memórias conflitantes em agentes de IA: qual fato prevalece? explicam como decidir qual fato deve prevalecer e quem aprova.

O NIST AI Risk Management Framework trata a medição e a gestão de riscos de IA como trabalho contínuo, o que combina com esse padrão. A regra de ranking é um controle entre vários e deve ficar dentro de um processo documentado, com responsáveis, datas de revisão e uma forma de registrar decisões. O ranking também precisa de proteção contra entradas maliciosas. A orientação da OWASP sobre injeção de prompt explica que conteúdo recuperado de fontes armazenadas ou externas pode trazer instruções que o agente não deve seguir. Uma nota que parece autoritativa só porque está bem ranqueada ainda deve ser tratada como dado, não como comando que altera permissões ou ações do agente.

Como verificar se o ranking funciona

Teste o ranking como você testaria um funcionário novo na prática. Escreva uma lista de perguntas reais, tiradas de chamados ou e-mails recentes, e para cada uma registre qual nota o agente usou e se ela era o registro correto, atual e com responsável. Esta é uma verificação de recuperação, separada de saber se a resposta final soa bem. Uma resposta pode estar bem escrita e, mesmo assim, vir da nota errada.

Mantenha um registro curto de erros. Cada erro deve indicar a pergunta, a nota que ficou no topo, a nota que deveria ter ficado em primeiro e o motivo. A maioria dos erros cai em poucos padrões: falta de responsável, nota vencida que não foi marcada, resumo que superou um documento, ou pergunta que precisava de duas fontes e recebeu uma só. Corrija a regra ou a nota e rode as mesmas perguntas de novo. Repita após qualquer mudança na base de conhecimento e no calendário de revisão combinado com os responsáveis. Para manter o próprio conteúdo atualizado, veja Manutenção da base de conhecimento de IA: responsáveis e rotina.

Como a Be Human trata isso em operações gerenciadas

A Be Human projeta a memória e as ferramentas de que um agente precisa para um papel útil e define a regra de ranking como parte desse desenho: as classes de origem, os responsáveis, os intervalos de revisão e os limites de aprovação para conflitos. Em operações gerenciadas, a Be Human pode executar as verificações recorrentes de recuperação, revisar notas vencidas ou sem dono com a sua equipe, manter as integrações que alimentam a memória e ajustar a regra por meio de mudanças controladas, registradas e aprovadas. O agente mantém sua identidade, memória e permissões sob o seu controle, e o ranking é algo que sua equipe consegue ler, questionar e alterar.

Se você não tem certeza de quais notas do seu agente deveriam estar no topo hoje, o diagnóstico de IA da Be Human pode ajudar a identificar a primeira tarefa que vale entregar a um agente.

Perguntas frequentes

Em que o ranking de recuperação de memória difere da busca? A busca encontra notas que combinam com uma consulta, enquanto o ranking decide a ordem em que as notas encontradas são apresentadas ao agente e quanto de cada uma cabe no seu contexto de trabalho. As duas importam, mas é no ranking que a confiabilidade é decidida, porque uma nota relevante, porém desatualizada ou sem dono, ainda pode levar a uma resposta errada. Uma boa configuração usa a busca para reunir candidatos e uma regra escrita para ordená-los.

A nota mais recente deve sempre vencer? Não. A atualidade ajuda apenas quando a nota mais nova é confirmada por um responsável ou vem de uma classe de origem mais alta. Um resumo de conversa recente pode ser menos confiável que uma política aprovada mais antiga, então a atualidade deve ser o critério de desempate final, e não a primeira regra. Datas de validade para informações com prazo são um uso mais seguro da atualidade.

Precisamos de um banco de dados vetorial ou de um grafo de conhecimento para ordenar notas? Não necessariamente. Ordenar por classe de origem, status de revisão, responsável e data pode ser feito com os metadados guardados junto de cada nota, qualquer que seja o armazenamento. Estruturas mais ricas podem ajudar depois, mas uma primeira versão funciona com rótulos claros e uma regra curta que as pessoas consigam ler e checar.

Com que frequência a regra de ranking deve ser revisada? Revise-a no mesmo calendário do conteúdo que ela governa, com uma verificação extra após qualquer mudança grande em políticas, funções da equipe ou integrações. Mantenha um registro dos erros de recuperação para que cada revisão parta de exemplos reais, e não de memória. As mudanças devem ser versionadas e aprovadas pelos responsáveis nomeados, para que o comportamento do agente possa ser rastreado até uma decisão tomada por alguém.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →