Ir para conteúdo
be-human.ai
← Voltar ao blog

Infraestrutura de IA personalizada

Superinteligência sem memória da empresa: por que modelos capazes esquecem

Um modelo mais capaz segue sem o histórico da sua empresa. Veja como projetar, assumir e revisar a memória que os agentes precisam antes de agir.

Capa tipográfica do Be Human com o título: Superinteligência sem memória da empresa: por que modelos capazes esquecem
Ilustração conceitual criada com IA · Be Human

Um modelo mais capaz não conhece a sua empresa. Ele consegue raciocinar com mais cuidado sobre um problema que nunca viu, mas o histórico de clientes, os motivos por trás de cada exceção e as aprovações que seus gerentes deram ao longo do caminho não fazem parte do modelo. A memória da empresa precisa ser projetada, assumida e revisada pelo próprio negócio. Caso contrário, o agente continuará começando do zero, por mais forte que o modelo fique.

Principais pontos

  • Capacidade do modelo e memória da empresa são ativos separados. Um modelo mais forte raciocina melhor, mas não herda o histórico operacional da sua empresa.
  • A memória da empresa tem quatro partes a projetar: registros, decisões, procedimentos e limites.
  • Cada fonte de memória precisa de um dono nomeado, que possa corrigi-la, datá-la e aposentá-la.
  • Busque fatos governados no momento do uso, em vez de torcer para que o modelo tenha absorvido essas informações durante o treinamento.
  • Revise a memória em um calendário fixo, da mesma forma que revisa as permissões, porque notas desatualizadas ou plantadas por terceiros geram respostas erradas com muita confiança.

Por que um modelo mais capaz ainda começa do zero

O conhecimento geral de um modelo vem do treinamento com grandes volumes de material. Ele não contém o desconto que o seu maior cliente negociou, o fato de um fornecedor ter mudado os prazos de entrega recentemente, nem o motivo pelo qual a equipe de atendimento deixou de oferecer a extensão de garantia. Esses fatos vivem em um CRM, em uma pasta compartilhada, em uma ferramenta de chamados, em uma caixa de entrada e, o mais importante, na cabeça das pessoas que trabalham ali há anos.

A capacidade muda a forma como o modelo interpreta o que recebe. Ela não muda o que ele recebeu. Quando uma sessão termina, o contexto de trabalho termina junto, a menos que algo registre o resultado e o encaminhe adiante. As orientações de engenharia da Anthropic sobre engenharia de contexto tratam a janela de contexto como um recurso limitado, que precisa ser selecionado para cada tarefa. Para líderes, essa é uma referência útil: a pergunta não é quanto um modelo consegue guardar, mas quais fatos devem estar diante dele neste momento.

As quatro partes da memória da empresa a projetar

  • Registros: clientes, pedidos, contratos, versões de produto e históricos de incidentes, cada um com um sistema de registro oficial e um dono nomeado.
  • Decisões: exceções concedidas, o motivo informado, quem aprovou e quando a exceção expira.
  • Procedimentos: o manual de cada função, o caminho de escalonamento e uma descrição clara do que significa uma tarefa concluída.
  • Limites: o que o agente pode ler, gravar, enviar, reembolsar ou prometer, e qual pessoa aprova cada ação.

A maioria das empresas já tem a primeira e a terceira partes em algum lugar, ainda que espalhadas. A segunda e a quarta são as que costumam faltar. Um agente que consegue ler todos os registros, mas não tem um histórico de decisões, vai repetir uma exceção que um gerente já tinha recusado. Um agente sem limites claros pode agir com base em um fato que nunca deveria ter tido permissão para alterar. Como estruturar essas fontes para que um agente consiga usá-las é um tema que aparece em como transformar documentos dispersos em memória da empresa.

Recuperação, ajuste fino ou um registro simples: guia de decisão

As equipes costumam perguntar se o conhecimento da empresa deve ser colocado no modelo pelo treinamento ou fornecido no momento da pergunta. Para a maioria dos fatos operacionais, a melhor resposta é fornecê-los no momento do uso. A comparação da AWS entre recuperação de informação e ajuste fino deixa clara a principal troca: a recuperação mantém os fatos atualizados e rastreáveis, enquanto o ajuste fino molda comportamento, tom e habilidades específicas. Use este guia antes de decidir.

  • Recupere de uma fonte governada quando o fato mudar, como a versão de uma tabela de preços, uma política ou uma agenda de entregas. Mostre a fonte em toda resposta.
  • Faça ajuste fino apenas quando precisar de um estilo consistente ou de uma habilidade estreita que a recuperação não consegue oferecer, e somente se puder repetir esse trabalho quando as regras mudarem.
  • Leia de um sistema de registro oficial quando o fato precisar ser exato e auditável, como um contrato assinado ou o status de um pagamento. O agente consulta a ferramenta para obter a resposta; ele não a memoriza.
  • Mantenha uma decisão humana quando a memória autorizaria dinheiro, compromissos ou alterações na conta de um cliente. A memória pode informar essa decisão, mas não deve tomá-la sozinha.

Cenário ilustrativo: a exceção que ficou em uma caixa de entrada

Cenário ilustrativo, não é um caso real: o gerente de vendas de um distribuidor regional aprova, por e-mail, uma janela de entrega fora do padrão para um cliente atacadista. Algumas semanas depois, outro gestor de contas pede a um agente que prepare uma cotação para o mesmo cliente. O agente enxerga a tabela de preços, mas não a troca de e-mails, então cota as condições padrão. O cliente se lembra da aprovação anterior e contesta a cotação. Nenhum sistema quebrou. A aprovação simplesmente não tinha um lugar durável, uma data de validade nem um caminho até o contexto do agente.

A correção é pequena. Registre a exceção como uma decisão, com o aprovador, o escopo e uma data de expiração. Torne esse registro legível para a função que faz cotações. Exija que uma pessoa renove a exceção, em vez de deixá-la valer indefinidamente sem que ninguém olhe para ela. Quem pode aprovar esses registros é uma questão de governança, e uma carta de governança para empresas pequenas ajuda a resolver isso antes de o primeiro agente entrar em operação.

Passo a passo: dê ao agente uma memória que você possa auditar

  • Passo 1: escolha uma função e liste as perguntas que ela precisa responder corretamente toda semana. Só depois decida de que memória essa função precisa.
  • Passo 2: para cada fato que a função usa, nomeie o sistema de registro e o dono. Se não existir dono, essa lacuna é o seu primeiro achado.
  • Passo 3: marque cada item de memória com a fonte, a data da última verificação e uma regra de validade. Fatos sem data não devem chegar ao agente.
  • Passo 4: separe o acesso de leitura do acesso de escrita. Deixe o agente propor novos registros de decisão, mas exija que uma pessoa nomeada aprove qualquer coisa guardada como fato durável.
  • Passo 5: aplique o princípio do menor privilégio a cada ferramenta. O agente deve ler apenas os registros que sua função exige, seguindo os princípios das orientações de autorização da OWASP.
  • Passo 6: registre quais itens de memória informaram cada resposta, para que um resultado errado possa ser rastreado até um registro desatualizado, e não a um comportamento inexplicável do modelo.
  • Passo 7: crie um conjunto pequeno de avaliações recorrentes, com perguntas cujas respostas corretas você já conhece. Revise as falhas antes de ampliar o escopo do agente.

Proteja a memória contra informações plantadas e desatualizadas

A memória também é uma superfície de ataque. Textos que o agente lê em e-mails, páginas da web ou documentos enviados podem conter instruções que tentam sobrepor seu comportamento. As orientações da OWASP sobre prevenção de injeção de prompt recomendam tratar conteúdo não confiável como dado, e não como instrução. Essa disciplina importa ainda mais quando o agente pode escrever na própria memória. Uma única nota plantada dizendo que um cliente está pré-aprovado para crédito poderia persistir e ser repetida por muito tempo. Exigir aprovação humana para gravações duráveis, marcar cada item com sua origem e manter fontes não confiáveis fora do registro de decisões são defesas simples, que não dependem de o modelo ser esperto.

Revise a memória como você revisa as permissões

A memória se deteriora. Preços mudam, funcionários saem, produtos são descontinuados, e uma regra que era verdadeira no lançamento pode ficar errada sem que ninguém perceba. Trate a revisão da memória como uma tarefa operacional permanente, e não como um projeto pontual. A cada trimestre, confirme que cada fonte ainda tem dono, que decisões vencidas foram renovadas ou encerradas e que as falhas do agente remetem a registros específicos. Os passos em como fazer uma revisão de permissões dos agentes de IA se aplicam diretamente, porque a memória que um agente pode ler faz parte das suas permissões.

Como a Be Human trata isso na operação gerenciada

A Be Human começa com uma função e define os registros, decisões, procedimentos e limites que essa função precisa. Cada fonte recebe um dono, e cada ação que exige aprovação é descrita por escrito antes de o agente rodar. A memória, as ferramentas e as permissões do agente continuam sob o controle da empresa. Na operação gerenciada, a Be Human monitora o que o agente lê e grava, executa avaliações recorrentes com respostas conhecidas, mantém as integrações, revisa permissões, responde a incidentes e propõe mudanças controladas, que a empresa aprova antes de entrarem em vigor. Se você não tem certeza de qual fonte de memória sua equipe precisa primeiro, o diagnóstico gratuito de IA da Be Human indica a primeira tarefa que vale entregar a um agente.

Perguntas frequentes

Um modelo mais capaz se lembra do histórico da minha empresa? Não. A capacidade geral de um modelo não inclui seus registros de clientes, aprovações anteriores ou decisões operacionais, a menos que esses fatos sejam armazenados e fornecidos a ele. A memória precisa ser projetada como parte do sistema ao redor do modelo, com donos e regras de acesso.

Devemos treinar o modelo com nossos documentos internos? Normalmente, não para fatos que mudam. A recuperação a partir de fontes governadas mantém as respostas atualizadas e rastreáveis, enquanto o treinamento serve melhor a um estilo consistente ou a habilidades específicas. Reserve o treinamento para os casos em que a recuperação não resolve o problema.

Quem deve ser o dono da memória da empresa? Um dono de negócio nomeado para cada fonte, e não apenas a equipe de IA. Essa pessoa decide o que é considerado verdadeiro, aprova correções e aposenta itens desatualizados, enquanto a equipe técnica mantém as conexões funcionando.

Como saber se o agente está usando a memória certa? Registre as fontes usadas em cada resposta e execute avaliações recorrentes com perguntas cujas respostas corretas você já conhece. Quando uma resposta estiver errada, o registro deve mostrar se a causa foi um registro desatualizado, um registro ausente ou uma instrução mal escrita.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →