Ir para conteúdo
be-human.ai
← Voltar ao blog

Contexto e memória

Regras de escrita para memória compartilhada de IA: donos e histórico

Defina permissões de escrita, donos dos fatos e registro de mudanças para a memória compartilhada de agentes de IA. Um erro não vira verdade da empresa.

Capa tipográfica do Be Human com o título: Regras de escrita para memória compartilhada de IA: donos e histórico
Ilustração conceitual criada com IA · Be Human

A memória compartilhada de uma equipe de agentes de IA só funciona quando cada fato armazenado tem um dono nomeado, uma lista curta de agentes autorizados a escrevê-lo e um registro de mudanças que mostra quem alterou, a partir de qual fonte e por qual motivo. Sem esses controles, um agente que interpreta mal um e-mail de fornecedor ou a anotação de um cliente pode salvar o erro como verdade da empresa, e todos os outros agentes vão recuperar essa informação com a mesma confiança. As regras abaixo mostram como definir permissões de escrita, donos dos fatos e registro de mudanças antes que a memória compartilhada cresça.

Principais pontos

  • Dê a cada fato compartilhado um único dono responsável, que pode aceitar, corrigir ou aposentar a informação.
  • Separe leitura de escrita e deixe a maioria dos agentes escrever apenas na própria memória de rascunho.
  • Exija referência de fonte e data e hora para qualquer registro que saia da memória de rascunho.
  • Mantenha um registro de mudanças somente para acréscimo, para que um registro ruim possa ser rastreado e revertido rapidamente.
  • Trate fatos conflitantes como sinal de parada para aquele campo, e não como algo a ser média.

Por que a memória compartilhada precisa de regras de escrita

Ler e escrever carregam riscos diferentes. Um agente que recupera um fato errado produz uma resposta errada, que uma pessoa pode perceber. Um agente que grava um fato errado altera a entrada de todas as respostas futuras, inclusive as de outros agentes que nunca viram a conversa original. Por isso, a memória compartilhada amplifica erros de um jeito que um chat isolado não faz.

A maioria dos problemas começa com um resumo que parece razoável. Um agente termina uma ligação e registra que o cliente prefere entregas às quintas-feiras. Essa linha passa a conviver com os termos contratuais já verificados. Depois, um agente de agendamento trata a preferência como compromisso. Ninguém decidiu que aquilo era um fato, e ninguém consegue ver facilmente de onde ele veio.

A solução não é impedir que os agentes escrevam. É separar a memória em níveis com regras de escrita diferentes, para que o custo de um erro dependa do nível em que ele cai.

Defina os donos dos fatos antes de qualquer escrita

Dono do fato é a pessoa ou função responsável por um domínio: as condições de fornecedores para o responsável por compras, a política de entrega para o gerente de operações, as especificações de produto para o líder técnico. O dono não é o agente. Os agentes podem propor registros, mas é o dono que decide se o registro vira verdade verificada da empresa. O NIST AI Risk Management Framework trata a responsabilização clara como parte da gestão de riscos de IA, e a definição de donos é a forma mais prática dessa ideia para memória compartilhada.

Comece com um registro curto, e não com uma ontologia completa. Para cada domínio, anote o dono, o substituto, os campos que ele aprova (por exemplo, prazos de entrega, regras de preço ou condições de garantia) e a periodicidade de revisão. Se um domínio não tem um dono disposto a responder perguntas sobre ele, esse domínio não deve alimentar a memória compartilhada ainda. Parece rigoroso, mas evita a situação mais comum: um fato que todos usam e ninguém é responsável por.

Os donos também definem quais evidências são aceitáveis. Um contrato assinado, uma tabela de preços atual ou um documento de política com número de versão podem ser verificados. Uma mensagem de um representante comercial em uma conversa é útil como pista, mas não é verificada até que um dono a confirme em uma fonte atual.

Defina permissões de escrita por nível de memória

As permissões de escrita devem seguir o nível da memória, e não o cargo do agente. Um modelo prático tem quatro níveis:

  • Memória de rascunho: o agente pode escrever livremente, os registros expiram e outros agentes não os recuperam por padrão.
  • Notas da equipe: o agente pode escrever com referência de fonte, e o registro fica visível para agentes do mesmo fluxo, mas marcado como não verificado.
  • Fatos verificados: somente a aprovação do dono do fato pode criar ou alterar um registro. Os agentes enviam as mudanças propostas para uma fila de revisão.
  • Registros restritos: nenhum agente escreve. Pessoas atualizam esses registros, e os agentes só os leem quando o papel deles permite.

O padrão deve ser a negação. As diretrizes de autorização da OWASP deixam o ponto geral claro: a decisão de acesso deve ser verificada a cada requisição, conforme as regras de permissão, e não presumida a partir da interface por onde o usuário entrou. Na memória, essa verificação pertence à própria camada de memória, para que um agente não consiga escrever em fatos verificados apenas porque alcança o armazenamento. Acesso à memória de IA por função aprofunda como mapear funções para níveis.

Mantenha o mapa de permissões curto o suficiente para ser lido em uma única sessão. Se um revisor precisa de mais de uma página para entender quem pode escrever o quê, as regras vão se afastar do que o sistema realmente faz.

Crie um registro de mudanças que responda quem, o quê e por quê

Cada escrita em notas da equipe ou em fatos verificados deve gerar uma entrada no registro. Os campos mínimos são: identificador da entrada, nome do campo ou fato, valor anterior, novo valor, autor (identidade do agente ou pessoa nomeada), referência da fonte, aprovador, quando exigido, data e hora, e um motivo em uma linha.

O registro deve ser somente para acréscimo. Agentes e seus operadores podem adicionar entradas, mas não editar nem apagar. Se uma entrada estava errada, a correção é uma nova entrada que referencia a original. Isso mantém o histórico íntegro e permite responder perguntas como quando um prazo de entrega mudou e qual agente o alterou, sem reconstruir os eventos de memória.

A prática de observabilidade oferece um vocabulário útil. A introdução à observabilidade do OpenTelemetry descreve a telemetria como os dados que ajudam a entender o que um sistema fez e por quê. A mesma ideia vale para a memória: cada evento precisa de contexto suficiente para ser rastreado depois. Guarde o registro de mudanças onde a equipe de operações já revisa os eventos do sistema, e não dentro da memória do próprio agente, onde um agente com defeito poderia alterar o próprio histórico.

Cenário ilustrativo: um agente de orçamentos registra que o prazo de um fornecedor é menor do que o indicado na tabela de preços atual, com base em uma mensagem de chat de um representante comercial. Pelas regras acima, a entrada vai para notas da equipe, com a referência do chat anexada e marcada como não verificada. O dono de compras confere as condições assinadas do fornecedor, encontra um prazo maior e aprova a correção. O registro mostra a proposta original, o motivo da rejeição e o valor verificado, de modo que o comportamento do agente de orçamentos possa ser revisado sem suposições.

Implante as regras de escrita em quatro etapas

Não configure tudo de uma vez. Comece com um domínio que já gera disputas ou retrabalho e siga esta ordem:

  • Nomeie o dono do fato e o substituto desse domínio, e registre os campos que ele vai aprovar.
  • Mapeie os níveis de memória para esses campos e defina a permissão de escrita de cada nível, negando escritas por padrão.
  • Ative o registro de mudanças para toda escrita, inclusive propostas rejeitadas, e confirme que os operadores conseguem pesquisar por nome de campo.
  • Revise as primeiras duas semanas de entradas com o dono, verificando quais propostas foram aceitas, quais foram rejeitadas e se algum agente escreveu onde não deveria.

Somente depois que esse ciclo funcionar você deve estender as regras a um segundo domínio. Cada novo domínio traz seu próprio dono, seus próprios padrões de evidência e seus próprios modos de falha.

O que fazer quando memórias entram em conflito ou uma escrita ruim já está em uso

Os conflitos precisam de uma regra antes de acontecer. Quando duas fontes dão valores diferentes para o mesmo campo verificado, o sistema não deve escolher automaticamente o valor mais recente nem calcular uma média entre os dois. Deve marcar o campo como contestado, encaminhar os dois valores ao dono e segurar as respostas de alto risco que dependem desse campo até que o dono decida. As regras de decisão sobre qual fato prevalece estão em Memórias conflitantes em agentes de IA: qual fato prevalece?.

Quando uma escrita ruim já foi usada, aja nesta ordem: interrompa novas recuperações do campo se o risco for alto, use o registro de mudanças para listar cada entrada derivada do valor errado, restaure o valor verificado anterior com uma nova entrada no registro e revise as permissões do autor. Se um agente escreveu fora do próprio nível, reduza as permissões dele antes de investigar a causa. Uma pausa que interrompe ações e preserva registros e filas de trabalho costuma ser o primeiro movimento certo. O padrão de interruptor de emergência para agentes de negócio mostra como fazer isso sem perder evidências, embora ainda não tenhamos um guia publicado sobre o tema.

A revisão periódica pega o que as verificações em tempo real deixam passar. Leia o registro por autor, e não apenas por campo. Um agente que propõe muitas correções no mesmo domínio pode estar trabalhando com uma fonte desatualizada, e esse padrão é mais útil do que qualquer entrada isolada. O guia de auditoria de memória de agentes de IA oferece uma estrutura de revisão que você pode repetir a cada ciclo.

Como a Be Human trata a memória compartilhada em operações gerenciadas

A Be Human desenha a memória compartilhada com esses controles desde o primeiro projeto. A primeira fase define um papel útil, a memória e as ferramentas de que ele precisa, os donos dos fatos, os níveis de escrita, os limites de aprovação e um critério de sucesso observável, para que as regras sejam escritas antes de a memória crescer. Em operações gerenciadas, a equipe acompanha a atividade de escrita, faz revisões recorrentes do registro de mudanças com os donos nomeados, revisa permissões quando funções ou sistemas mudam e trata incidentes, como uma escrita ruim chegar a uma resposta voltada ao cliente. Mudanças nas próprias regras também passam pelo mesmo registro, para que a empresa veja como a política de memória evoluiu.

Se sua equipe ainda está decidindo quais fatos nunca devem ser escritos sem um dono, o diagnóstico gratuito de IA da Be Human pode ajudar a encontrar a primeira tarefa que vale a pena entregar a um agente.

Perguntas frequentes

Uma única memória compartilhada pode atender todos os agentes da empresa? Pode, desde que a camada compartilhada guarde apenas fatos verificados e as anotações de trabalho de cada agente fiquem separadas. Por padrão, os agentes leem da camada compartilhada e só escrevem nela pelas permissões do seu nível. Contexto específico de uma tarefa pertence à memória de rascunho, que expira.

Quem deve ser o dono de um fato que um agente aprendeu em uma conversa? O dono é a pessoa responsável por aquele domínio, como o responsável por compras para condições de fornecedores ou o gerente de operações para a política de entrega. O agente pode propor o fato com a fonte, mas é o dono quem decide se ele se torna verificado. Se ninguém for responsável, o fato permanece em notas da equipe até que alguém assuma.

A etapa de aprovação e o registro de mudanças deixam os agentes mais lentos? Escritas em fatos verificados são bem menos frequentes do que leituras, então a aprovação costuma acrescentar pouco atraso ao trabalho diário. Um registro somente para acréscimo é barato de manter. A lentidão que realmente importa vem dos agentes tentando conciliar fatos contraditórios quando nenhum dono foi nomeado.

O que deve acontecer quando uma entrada ruim já está em uso? Se o campo for de alto risco, interrompa novas recuperações dele, use o registro de mudanças para encontrar cada entrada derivada do valor errado e restaure o valor verificado anterior com uma nova entrada no registro. Depois, revise as permissões do autor e a causa, para que o mesmo erro seja mais fácil de reconhecer da próxima vez.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →