Ir para conteúdo
be-human.ai
← Voltar ao blog

Contexto e memória

Janela de contexto vs memória persistente: o que fica fora do prompt

Uma janela de contexto maior cabe mais texto numa tarefa, mas não substitui a memória da empresa. Veja quais fatos ficam fora do prompt e quem os governa.

Capa tipográfica do Be Human com o título: Janela de contexto vs memória persistente: o que fica fora do prompt
Ilustração conceitual criada com IA · Be Human

Uma janela de contexto é o texto que um modelo consegue ler em uma única requisição: suas instruções, descrições de ferramentas, trechos recuperados, a mensagem atual e parte do histórico recente. Memória persistente é o registro da empresa que um agente consulta ao longo de dias, canais e membros da equipe, com um dono nomeado, uma fonte e uma regra para correção ou expiração. Uma janela maior não substitui a memória persistente, porque a janela é montada de novo para cada tarefa e não consegue decidir qual fato está atual, quem pode vê-lo ou quem aprovou a mudança.

Principais pontos

  • A janela de contexto é o espaço de trabalho de uma requisição. Ela é montada novamente em cada tarefa e não leva o conhecimento da empresa adiante por conta própria.
  • A memória persistente guarda fatos que precisam de dono, fonte, versão e regra para correção ou expiração.
  • Uma janela maior facilita colar texto demais. Carregar mais texto não é o mesmo que carregar os fatos certos.
  • Mantenha permissões, limites de aprovação e fatos institucionais governados em registros e ferramentas que o modelo não consegue reescrever dentro de uma conversa.
  • Avalie um agente pela capacidade de concluir uma tarefa definida com fatos atuais, não pela quantidade de texto que ele consegue segurar.

Por que uma janela maior continua esquecendo

A maioria das equipes percebe esse limite como esquecimento. O agente responde bem a uma pergunta em um dia e, alguns dias depois, em outro canal, não encontra a exceção que um gestor havia combinado. A reação natural é aumentar a janela ou colar a pasta inteira de políticas nas instruções. Isso ajuda com um documento longo, mas não resolve o problema de base, por três motivos.

Primeiro, a janela começa vazia em cada tarefa. Nada nela sobrevive a não ser que alguém a escreva de novo, então a continuidade depende totalmente do que o seu sistema carrega. Segundo, uma janela guarda texto, não autoridade. Uma política colada de um arquivo do trimestre passado parece exatamente igual à política publicada hoje, e o modelo não tem um meio embutido de saber qual deve prevalecer. Terceiro, mais texto dilui a atenção. As orientações da Anthropic sobre engenharia de contexto tratam a janela como um recurso limitado que precisa de curadoria, e não como um depósito. Um bom ponto de partida sobre como o conteúdo recuperado entra em uma requisição está em o que é janela de contexto em IA e por que o agente esquece.

Quais fatos devem morar fora do prompt

Fatos que sobrevivem a uma única tarefa pertencem à memória governada ou ao sistema de origem que o agente consulta. Na prática, isso inclui o papel e os limites do agente, políticas da empresa com versão e dono, registros de clientes e trabalhos com seu histórico, limites de aprovação, as ferramentas que o agente pode acionar e em que condições, decisões com seus motivos e o glossário de termos internos que a equipe usa todos os dias.

Algum material deve ficar nas instruções porque é curto e necessário em quase toda tarefa. Regras de tom, a estrutura obrigatória de uma resposta e a instrução para escalar quando um registro estiver faltando são bons exemplos. O teste é simples. Se a regra é curta, estável e necessária em todo lugar, ela fica nas instruções. Se muda, tem dono ou vale apenas para certos clientes ou equipes, ela não pertence ali.

Um guia de decisão para cada fato

Use esta lista antes de escrever qualquer fato em um prompt:

  • Se o agente precisa dele em quase toda tarefa e ele raramente muda, mantenha uma versão curta nas instruções.
  • Se ele descreve um cliente, trabalho, ativo ou acordo que deve durar além de uma conversa, guarde-o como registro de memória governada, com fonte e dono.
  • Se é um documento com autoridade, como uma política assinada ou uma descrição de serviço aprovada, mantenha o documento no seu sistema de registro e deixe o agente buscar a versão atual pelo identificador.
  • Se é uma permissão, um limite de aprovação ou um teto de gasto, aplique-o na camada de ferramentas e nas regras de acesso. A memória pode informar o agente, mas nunca deve ser o único controle.
  • Se é uma preferência de trabalho de um membro da equipe, limite-a a essa pessoa ou equipe, e não à empresa inteira.
  • Se ninguém consegue dizer quem é o dono, não guarde ainda. Registre primeiro como pergunta em aberto.

Cenário ilustrativo: uma dúvida sobre devolução após uma mudança de política

O cenário a seguir é ilustrativo, não o relato de um caso real. Um agente de atendimento de uma loja de móveis recebe a pergunta se uma cadeira comprada recentemente ainda pode ser devolvida. A equipe de políticas alterou o prazo de devolução há pouco tempo. Se alguém tivesse colado nas instruções uma versão antiga do documento, o agente responderia com segurança a partir de uma versão desatualizada, e nada na conversa revelaria o erro.

A abordagem governada funciona de outro jeito. A política de devolução fica guardada como documento com identificador, versão publicada e dono nomeado. O agente busca a versão atual, cita esse identificador na resposta e escala quando a compra cai em uma categoria de exceção que o registro ainda não cobre. Uma pessoa da equipe consegue ver exatamente qual versão foi usada e conferir em segundos. O modelo não ficou mais inteligente. O fato apenas passou a ter um lugar fora do prompt, com um dono que pode alterá-lo. A prática de citar a versão exata do documento está descrita em cite a versão exata do documento: fontes que a equipe confere em segundos.

Um plano para separar contexto de trabalho e memória

Siga esta sequência para um papel antes de expandir para outros:

  • Escreva em uma frase a tarefa que o agente precisa concluir e liste as decisões que ele toma no caminho.
  • Liste os fatos que cada decisão exige e marque cada um como instrução, memória governada, documento-fonte ou valor de sistema em tempo real.
  • Dê a cada fato governado um dono, uma fonte, a data da última revisão e uma regra de correção.
  • Defina quem pode criar, corrigir ou expirar cada registro. O agente pode propor mudanças, mas uma pessoa nomeada ou um processo revisado deve aprová-las.
  • Estabeleça uma regra de carregamento: para cada tarefa, carregue apenas os registros que a decisão exige e registre quais foram carregados.
  • Teste o papel com perguntas cujas respostas mudaram recentemente e confira se a resposta usa o registro atual e diz isso.

A regra de carregamento é a mais importante. Equipes que a pulam acabam carregando tudo de novo e reencontram o mesmo problema de diluição. Um tratamento mais profundo sobre como escolher o que carregar em cada tarefa está em orçamento de contexto para agentes de IA: o que carregar e o que pular.

Como a Be Human trata isso em operações gerenciadas

A Be Human trata a camada de memória como parte do primeiro projeto, e não como um detalhe depois. Um primeiro projeto define um papel útil, a memória e as ferramentas que esse papel precisa, seus limites de aprovação e um critério de sucesso observável. Os fatos da empresa são separados em instruções, registros governados e documentos-fonte, cada um com um dono. As permissões ficam na camada de ferramentas, para que o acesso do agente possa ser revisado sem ler suas conversas. Nas operações gerenciadas, a mesma estrutura é mantida ao longo do tempo por meio do acompanhamento do que o agente carrega e responde, avaliações recorrentes contra o critério definido, revisões de permissão, manutenção das integrações e mudanças controladas quando uma política ou um sistema muda. O objetivo é que a empresa consiga apontar de onde veio cada fato e quem pode alterá-lo. O NIST AI Risk Management Framework é uma referência útil para atribuir essas responsabilidades.

O que a janela nunca deve decidir

Texto que entra na janela vindo de fora, como um e-mail, uma página da web ou a mensagem de um cliente, pode conter instruções. Trate esse texto como dado, não como autoridade. As orientações da OWASP sobre injeção de prompt explicam por que instruções escondidas em conteúdo recuperado podem afastar um agente do comportamento previsto, e por isso permissões e aprovações devem morar em sistemas que o modelo não consegue editar. Antes de confiar a um agente com contexto longo um trabalho real, verifique o seguinte:

  • O agente consegue alterar suas próprias permissões, regras de dono ou registros de memória a partir de uma conversa?
  • Cada trecho recuperado tem um identificador, para que a resposta possa citar sua fonte?
  • Os limites de aprovação são aplicados pela própria ferramenta, e não apenas descritos no prompt?
  • Existe uma pessoa nomeada que revisa correções e expirações?
  • Suas avaliações incluem perguntas cuja resposta correta mudou recentemente?

Essas verificações separam uma janela grande de uma memória governada. Se você não tem certeza de quais dos seus fatos pertencem a cada grupo, faça o diagnóstico gratuito de IA da Be Human para descobrir a primeira tarefa que vale entregar a um agente.

Perguntas frequentes

Uma janela de contexto maior significa que meu agente não precisa mais de memória persistente? Não. Uma janela maior permite que o agente leia mais texto durante uma tarefa, mas ele continua começando vazio na tarefa seguinte e não consegue saber qual documento está atual nem quem o aprovou. A memória persistente oferece continuidade, responsabilidade e controle de versão, o que a janela sozinha não oferece.

Posso colar todos os documentos da empresa no prompt e dispensar o resto? Pode, mas o agente passará a enfrentar uma mistura grande de texto atual, desatualizado e contraditório, sem prioridade clara. Carregue apenas os documentos que uma decisão específica exige e mantenha os documentos com autoridade no sistema de origem, para que o agente busque a versão atual pelo identificador.

Quais fatos devo tirar do prompt primeiro? Comece pelos fatos que mudam, têm dono e afetam decisões reais, como versões de política, registros de clientes, limites de aprovação e correções feitas pela equipe. Mantenha as regras operacionais curtas e estáveis nas instruções e aplique as permissões na camada de ferramentas, e não em texto.

Como saber se o agente usou o fato certo? Peça que ele informe a fonte e a versão em que se baseou e teste com perguntas cujas respostas mudaram recentemente. Se a resposta citar um registro desatualizado ou não conseguir nomear uma fonte, a memória ou a regra de carregamento precisa de revisão antes que o agente assuma mais trabalho.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →