Ir para conteúdo
be-human.ai
← Voltar ao blog

Contexto e memória

Escopo de busca para agentes de IA: quais documentos cada função vê

Limite a busca de cada função aos documentos que o trabalho exige. Negue por padrão, filtre por função e teste vazamentos antes de um modelo mais forte.

Capa tipográfica do Be Human com o título: Escopo de busca para agentes de IA: quais documentos cada função vê
Ilustração conceitual criada com IA · Be Human

Para dar a um agente de IA acesso apenas aos documentos que a sua função precisa, defina o escopo da busca antes de o modelo receber a pergunta: cada função recebe um conjunto nomeado de fontes permitidas, a camada de busca aplica esse conjunto em toda pesquisa, e o agente pesquisa com as permissões da pessoa ou do fluxo em nome do qual atua. Um modelo mais capaz não muda essa regra. Ele torna uma camada de busca sem escopo mais perigosa, porque lê, combina e reformula o que encontra com mais fluidez e mais convencimento.

Principais pontos

  • Aplique o escopo na camada de busca. Instruções no prompt de sistema não são controle de acesso.
  • Defina um conjunto de documentos por função de agente, ligado a um trabalho específico, e negue tudo o que estiver fora dele por padrão.
  • Quando o agente responder em nome de uma pessoa, pesquise com as permissões dessa pessoa, e não com uma conta de serviço ampla.
  • Registre quais documentos foram recuperados em cada resposta, para que um resultado errado possa ser rastreado até uma fonte e a uma regra.
  • Teste cada função com as perguntas que uma função errada faria antes que alguém dependa do agente.

Por que um modelo mais forte torna a busca sem escopo mais arriscada

Uma etapa de busca devolve texto, e o modelo trata tudo o que chega ao seu contexto como material que pode usar. Um modelo mais forte é melhor em ligar fragmentos de fontes diferentes, inferir a partir de evidências parciais e responder perguntas de acompanhamento que rodeiam um assunto restrito. Se um assistente de vendas consegue pesquisar o mesmo índice pasta do financeiro, a pergunta deixa de ser se o modelo pretende revelar uma tabela de comissões. A pergunta passa a ser se a busca trouxe esse conteúdo.

Há uma segunda razão para restringir com rigor. Documentos podem conter texto escrito para direcionar um agente, como uma instrução escondida em um e-mail de fornecedor pedindo que o assistente busque outros arquivos. As orientações da OWASP sobre prevenção de injeção de prompt tratam isso como um problema de desenho, não de redação. Um escopo estreito limita o que um agente manipulado consegue alcançar, mesmo que a manipulação funcione em parte. Os limites de contexto também importam aqui, e por isso vale ler Orçamento de contexto para agentes de IA: o que carregar e o que pular junto com este tema.

Associe cada função aos documentos que o trabalho exige

Comece pelo trabalho, e não pela estrutura de pastas. Para cada função de agente, anote as decisões que ela toma, as perguntas que responde e as ações que pode executar. Depois liste os documentos que respondem a essas perguntas e, em separado, os documentos que estão apenas próximos, mas não são necessários. A segunda lista costuma ser maior do que as pessoas imaginam, e é nela que os vazamentos geralmente começam.

Cenário ilustrativo: uma empresa regional de aquecimento e refrigeração, sem cliente real envolvido, quer dois agentes. Um agente de agendamento precisa do catálogo de serviços, das regras de disponibilidade dos técnicos e do mapa da área de atendimento. Ele não precisa de planilhas de custo de fornecedores, de notas de margem ou do registro interno de disputas. Um agente de revisão de cobrança precisa dos modelos de nota, das condições de pagamento publicadas e dos limites de aprovação, mas não precisa de anotações de campo dos técnicos que contenham dados de acesso ao imóvel do cliente ou informações de saúde. Os dois agentes podem ser úteis sem ver as fontes um do outro.

Um plano passo a passo para definir o escopo da busca

O trabalho é, sobretudo, de documentação e disciplina, e pode ser feito na ordem abaixo antes de qualquer agente entrar em operação.

  • Liste todas as funções de agente e o trabalho específico que cada uma executa em uma semana normal.
  • Para cada trabalho, escreva as perguntas que o agente precisa responder e as ações que ele pode executar.
  • Faça o inventário dos conjuntos de documentos que respondem a essas perguntas, com um responsável nomeado e uma versão atual para cada um.
  • Marque cada documento com responsável, nível de sensibilidade, funções habilitadas e versão vigente antes de indexá-lo.
  • Aplique a regra de negar por padrão: uma função pesquisa somente os conjuntos que lhe foram expressamente concedidos.
  • Mova o material de alta sensibilidade para um índice ou armazenamento separado, em vez de depender de uma instrução no prompt em um índice compartilhado.
  • Decida quais funções podem ver resumos de material restrito e registre essa regra por escrito.
  • Teste cada função com perguntas dentro do escopo, perguntas fora do escopo e pedidos indiretos antes de entrar em operação.
  • Revise as concessões em um calendário fixo e sempre que uma função mudar de trabalho.

Aplique o escopo na camada de busca, e não no prompt

O ponto de aplicação importa mais do que a redação. Um filtro aplicado no momento em que a consulta roda, usando a função e as permissões de quem pede, faz com que os documentos excluídos nunca cheguem ao modelo. Uma regra que pede ao modelo que evite um assunto é mais fraca, porque o modelo já leu o material e pode parafraseá-lo. Censurar a resposta depois tem a mesma fraqueza, já que o conteúdo estava no contexto e pode reaparecer de outra forma.

Os metadados tornam a aplicação prática. Cada documento precisa de um identificador estável, um responsável, uma lista de funções, um rótulo de sensibilidade e uma versão com data de vigência. Quando a camada de busca filtra por esses campos, as regras podem ser lidas por um revisor, alteradas em um único lugar e conferidas nos registros. As orientações da OWASP sobre autorização descrevem o mesmo princípio em termos gerais de software: verificar o acesso a cada requisição e negar quando faltar uma regra. Um tratamento mais profundo dos limites entre equipes está em Acesso à memória de IA por função: guia prático para empresas.

Restrinja também as ferramentas, e não apenas o índice. O Model Context Protocol descreve como ferramentas e fontes de dados são expostas a um modelo, e é aí que você limita quais operações um agente pode chamar. Uma ferramenta de busca somente leitura para uma coleção é mais fácil de avaliar do que um conector genérico com direitos amplos.

Quando um agente responde a um colaborador ou a um cliente, a busca deve rodar com as permissões dessa pessoa sempre que o sistema de origem permitir. Uma falha comum é uma única conta de serviço que lê tudo e é usada em todas as conversas. O acesso delegado com permissões restritas, padrão por trás dos escopos do OAuth 2.0, mantém cada requisição mais estreita do que o alcance total do agente. Quando a delegação não for possível, a identidade própria do agente deve receber a menor concessão que ainda permita executar o trabalho. Para a separação entre registros de clientes, em especial, o Isolamento de dados de clientes em agentes de IA traz uma lista de verificação.

Teste o escopo e registre o que foi recuperado

Um escopo vale tanto quanto o seu teste. Monte um conjunto de perguntas para cada função em três grupos: perguntas que a função deve responder, perguntas que ela deve recusar ou encaminhar a uma pessoa, e pedidos indiretos que tentam alcançar conteúdo restrito por meio de um resumo, de uma comparação ou de uma hipótese. Confira os identificadores de documento devolvidos pela busca, e não apenas o texto final. Uma resposta com aparência correta pode ter sido construída a partir de um documento que a função nunca deveria ter pesquisado. Um método geral para verificar resultados de busca está em Como testar a qualidade da busca em uma base de IA.

O registro torna o escopo operacional, e não apenas teórico. Para cada resposta, guarde a função, quem pediu, a consulta, os identificadores dos documentos devolvidos e a versão usada. Conceitos de observabilidade, como os descritos na introdução ao OpenTelemetry, tratam de acompanhar uma requisição por suas etapas, e a busca é uma dessas etapas que merece registro próprio. Quando um documento for reclassificado ou um modelo for trocado, rode o conjunto de perguntas novamente antes que a mudança chegue aos usuários.

Como a Be Human trata o escopo de busca em operações gerenciadas

A Be Human desenha essa fronteira como parte do primeiro projeto. A primeira função é definida com sua memória e suas ferramentas, os conjuntos de documentos que pode pesquisar, as aprovações necessárias antes de executar uma ação e o critério de sucesso observável pelo qual será medida. Em operações gerenciadas, os mesmos limites são mantidos: as permissões são revisadas conforme funções e fontes mudam, a busca é avaliada em intervalos regulares com conjuntos de perguntas como os descritos acima, as integrações são mantidas funcionando e os incidentes são tratados quando um resultado mostra material que não deveria ter chegado ao agente. Quando há uma atualização de modelo planejada, os testes de escopo rodam antes de a mudança ser aceita, e cada concessão fica documentada para que o responsável pelo negócio veja o que cada agente pode pesquisar e por quê.

Faça o diagnóstico gratuito de IA da Be Human para identificar a primeira tarefa que vale a pena entregar a um agente.

Perguntas frequentes

Dá para confiar que um modelo mais capaz vai deixar de lado documentos que não deveria usar? Não. O modelo decide o que dizer com base no que recebe, portanto o controle de acesso precisa acontecer antes de os documentos chegarem a ele. Uma instrução no prompt pode moldar a redação de uma resposta, mas não substitui um filtro aplicado no momento da busca.

Cada função de agente deve ter o seu próprio índice? Nem sempre. Muitas equipes usam um único índice com metadados de função e filtros aplicados, o que funciona quando as regras são claras e cada busca é registrada. Armazenamentos separados fazem mais sentido para o material mais sensível, em que um filtro errado seria custoso o bastante para justificar a manutenção extra.

Como saber se o escopo está funcionando de fato? Rode, para cada função, um conjunto de perguntas que inclua perguntas que ela não deveria conseguir responder, e confira os identificadores de documentos devolvidos pela busca, e não apenas o texto final. Repita os testes após mudanças em documentos, funções ou modelos, e revise os registros em busca de fontes que nenhuma concessão explique.

Quem deve ser dono do mapa de funções e documentos? Um responsável de negócio nomeado deve aprovar quais fontes cada função pode usar, e o operador deve manter os filtros, os testes e os registros. Registrar essa responsabilidade por escrito importa, porque uma mudança nas atribuições de alguém deve disparar uma revisão das concessões do agente antes que ele mantenha o acesso antigo.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →