Ir para conteúdo
be-human.ai
← Voltar ao blog

Infraestrutura de IA personalizada

Mapeamento de permissões de agentes de IA: quem faz o quê, por escrito

Registre as permissões de cada agente de IA por papel e sistema, com responsáveis, regras de aprovação e passos de revogação que você pode revisar.

Capa tipográfica do Be Human com o título: Mapeamento de permissões de agentes de IA: quem faz o quê, por escrito
Ilustração conceitual criada com IA · Be Human

O mapeamento de permissões de agentes de IA é a prática de registrar, para cada agente, os papéis em que ele atua, os sistemas e ações a que ele tem acesso, as ações que exigem a aprovação de uma pessoa identificada e os passos exatos que removem cada concessão. O resultado é um registro escrito e curto, que um dono ou líder de operações consegue ler de uma vez, questionar linha por linha e alterar sem precisar ler código. Cada permissão desse registro deve ter um motivo, um responsável e um caminho de revogação.

Principais pontos

  • Dê a cada agente um único papel, um responsável e um propósito escrito antes de conceder qualquer acesso.
  • Mapeie as permissões por sistema e por ação, para que o registro descreva o que o agente realmente faz, e não o nome da ferramenta.
  • Separe os direitos em leitura, rascunho, escrita e gasto, e exija aprovação nominal de uma pessoa para tudo que toque em dinheiro, clientes ou compromissos externos.
  • Guarde o registro em um lugar com controle de versão e teste cada revogação antes de precisar dela com urgência.
  • Revise o registro em uma agenda fixa e depois de cada incidente, troca de ferramenta ou mudança de equipe.

Por que a lista de permissões é o primeiro documento a escrever

Agentes acumulam acesso sem alarde. Um piloto se conecta a uma pasta compartilhada, depois ganha uma caixa de e-mail para arquivar anexos, depois um conector de CRM para ler o histórico de contatos, e por fim um token para uma etapa de relatório. Cada acréscimo parece pequeno isoladamente. Com o tempo, ninguém na empresa consegue dizer com segurança quais sistemas o agente lê, quais ele pode alterar e quem aprovou cada concessão. O mapeamento de permissões fecha essa lacuna antes que ela vire problema.

As permissões vão além dos logins. Incluem concessões de conectores, contas de serviço, tokens de API, direitos em pastas compartilhadas, bases de memória que guardam cópias de registros da empresa e os canais pelos quais o agente pode enviar mensagens. A orientação da OWASP sobre autorização é útil aqui: o acesso deve ser negado por padrão e verificado a cada requisição, e não presumido porque um membro confiável da equipe configurou o agente. O registro é o lugar onde esses padrões ficam visíveis e podem ser revisados.

Os campos que todo registro de permissão precisa ter

Escreva cada concessão como um registro com os mesmos campos, para que os registros possam ser comparados lado a lado. Um registro útil contém:

  • Papel: a função que o agente exerce, em uma frase, como responder perguntas sobre status de pedidos fila de suporte.
  • Responsável: uma pessoa nomeada que aprova alterações e recebe alertas sobre o uso da concessão pelo agente.
  • Sistema e objeto: o sistema, pasta, tabela, caixa de e-mail ou canal exato, e não um rótulo vago como o CRM.
  • Ações: leitura, rascunho, criação, atualização, exclusão, envio ou gasto, cada uma listada separadamente.
  • Regra de aprovação: se a ação roda sozinha, se precisa de um aprovador nomeado ou se não é permitida de forma alguma.
  • Caminho de revogação: onde a concessão fica, quem pode removê-la e em quanto tempo a remoção passa a valer.
  • Evidências: onde ficam os registros de atividade do agente e quem os revisa.

Um método em oito passos para montar o mapa

  • Escreva o trabalho do agente em uma frase e nomeie o responsável. Se a frase exigir um segundo trabalho, divida o agente em dois.
  • Liste todas as conexões que o agente usa hoje ou planeja usar, incluindo contas, tokens, pastas, caixas de entrada, bases de dados e armazenamentos de memória.
  • Divida cada conexão nas ações que o trabalho exige e elimine qualquer ação que o trabalho não precise.
  • Marque quais ações rodam sozinhas, quais precisam de aprovação e quais são proibidas, com base no critério do responsável, e não nas configurações padrão da ferramenta.
  • Registre o caminho de revogação de cada concessão, incluindo quem detém a credencial que faz a concessão funcionar.
  • Teste uma revogação em um ambiente de baixo risco e observe quão rápido o agente perde o acesso.
  • Envie o registro a cada responsável e peça confirmação por escrito de que o registro corresponde ao entendimento que ele tem do trabalho.
  • Coloque o registro sob controle de mudanças, para que qualquer nova concessão exija um registro atualizado antes de ser ativada.

Cenário ilustrativo: um assistente de orçamentos para uma pequena empresa de instalações

Este cenário é ilustrativo e não descreve um cliente específico. Uma pequena empresa de instalações quer um agente que redija orçamentos a partir da tabela de preços, leia as anotações de obra e envie orçamentos de rotina aos clientes. O registro do dono poderia ser assim. O agente lê a tabela de preços vigente em uma pasta compartilhada, somente leitura. Ele lê o histórico de contatos e obras no CRM, também somente leitura. Ele cria orçamentos em rascunho em uma pasta própria e pode enviar um orçamento ao cliente somente quando o valor total e qualquer desconto estiverem dentro dos limites definidos antecipadamente pelo dono. Um desconto acima desse limite vai para o líder de operações aprovar. O agente não tem acesso à emissão de notas, à conta bancária ou à pasta de folha de pagamento, e sua memória guarda a versão da tabela de preços e as anotações de obra, mas nenhum dado bancário.

O caminho de revogação fica escrito ao lado de cada concessão. O token do CRM indica quem pode revogá-lo e o prazo esperado para a remoção surtir efeito. Antes de entrar em operação, o dono remove a permissão de envio em uma cópia de teste e confirma que o agente não consegue mais enviar. Depois, um pedido para incluir acesso à emissão de notas vira uma mudança visível no registro, e não uma ampliação silenciosa do que o agente já faz.

Separando os direitos de leitura, rascunho, escrita e gasto

Quatro níveis tornam o registro mais fácil de analisar. Os direitos de leitura trazem o menor risco direto, mas ainda podem expor registros sensíveis, por isso devem ficar limitados às pastas ou tabelas que o trabalho exige. Os direitos de rascunho permitem que o agente prepare algo que uma pessoa vai conferir antes que produza efeito. Os direitos de escrita alteram registros. Os direitos de gasto movimentam dinheiro ou comprometem a empresa com algo. A maioria das falhas evitáveis acontece quando uma concessão de leitura é tratada como inofensiva, ou quando uma concessão de escrita é acrescentada por conveniência e nunca mais revisada.

A injeção de prompt torna essa separação ainda mais importante. Um agente que lê e-mails recebidos ou páginas da web pode ser conduzido por textos que não deveria obedecer. A orientação da OWASP sobre injeção de prompt aponta para controles fora do modelo, portanto o registro deve limitar o que o agente pode fazer, não importa o que ele seja instruído a fazer. Os limites de aprovação são o controle prático nesse caso, e devem ser elevados com cautela e somente com evidências do comportamento real do agente, como descrito em limites de aprovação humana para agentes de IA mais fortes.

A revogação precisa acontecer no sistema que emitiu a concessão. Revogue o token, remova o vínculo de papel ou desative a conta de serviço. Pedir ao agente que pare não é revogação, porque ele pode continuar com uma credencial válida. As regras de parada pertencem a um roteiro curto que nomeia o gatilho, a pessoa que age e os sistemas a desligar.

O NIST AI Risk Management Framework organiza o trabalho de risco de IA em funções de governar, mapear, medir e gerenciar. O mapeamento de permissões é uma peça concreta desse trabalho: ele identifica o que o sistema consegue alcançar, quem responde por isso e como a organização pode retirar o acesso.

Como a operação gerenciada mantém o mapa atualizado

Um registro escrito uma única vez fica desatualizado. Defina uma revisão trimestral e acrescente revisões depois de qualquer incidente, de cada novo conector ou token, de qualquer troca de fornecedor de ferramenta e de qualquer mudança de equipe que altere quem responde por um agente. Os registros de atividade devem identificar o agente como um ator próprio, separado da pessoa que o configurou, para que os revisores vejam o que o agente fez com cada concessão. Uma revisão compara o registro com o que os sistemas realmente concedem, remove direitos não utilizados e registra as evidências. Os passos dessa revisão estão no checklist prático de revisão trimestral de permissões de agentes de IA.

A abordagem gerenciada da Be Human escreve o registro de permissões como parte do primeiro projeto, vincula cada concessão a um papel definido, mantém memória e ferramentas restritas a esse papel e direciona as aprovações a pessoas nomeadas. Durante o período de operação, revisões recorrentes de permissões conferem o registro com os sistemas em produção, e qualquer mudança em uma concessão passa pelo mesmo caminho de solicitação e aprovação das demais mudanças no agente.

Se você ainda não tem certeza de qual tarefa deve ser a primeira a ser entregue a um agente, o diagnóstico gratuito de IA da Be Human pode ajudar a identificá-la.

Perguntas frequentes

Quem deve ser o responsável pelo registro de permissões de um agente? Deve ser a pessoa que responde pelo processo de negócio que o agente apoia, e não o técnico que o conectou. Essa pessoa aprova alterações, recebe alertas e assina as revisões. A equipe técnica implementa as concessões, mas cabe ao dono do negócio decidir se cada uma é necessária.

Quão detalhado o registro precisa ser? Deve ser detalhado o bastante para que alguém que não construiu o agente consiga entender o que ele pode ler, alterar e enviar. Nomeie o sistema e o objeto exatos, liste as ações separadamente e registre o caminho de revogação. Se uma única concessão é difícil de descrever, provavelmente ela é ampla demais e deve ser dividida.

Um único registro pode cobrir vários agentes? Pode, mas cada agente deve manter seu próprio registro, com papel e responsável próprios. Uma pasta compartilhada usada por dois agentes deve aparecer nos dois registros, para que remover o acesso de um agente não altere silenciosamente o que o outro consegue fazer.

O que deve disparar uma atualização fora da revisão trimestral? Qualquer novo conector, token, pasta ou canal, uma mudança na ferramenta subjacente, um incidente, uma troca de pessoa que afete o responsável, ou um pedido para passar uma ação de rascunho para escrita ou de escrita para gasto. Cada gatilho deve gerar uma mudança registrada no documento e uma confirmação por escrito do responsável.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →