Ir para conteúdo
be-human.ai
← Voltar ao blog

Supervisão humana

Mapeamento de permissões de agentes de IA: ferramentas, registros e ações

Aprenda a mapear cada papel de agente de IA para as ferramentas, registros e ações que ele pode usar, e revisar o mapa quando ele ganhar capacidade.

Capa tipográfica do Be Human com o título: Mapeamento de permissões de agentes de IA: ferramentas, registros e ações
Ilustração conceitual criada com IA · Be Human

Um mapeamento de permissões de agentes de IA é um registro escrito, mantido para cada papel do agente, com as ferramentas, os registros de dados e as ações exatas que aquele papel pode usar, as condições que valem para cada uma delas e a pessoa que aprova mudanças. Você o constrói partindo de uma única função, listando o que ela precisa, removendo todo o resto e atribuindo um responsável e uma data de revisão a cada linha. O mapa só cumpre seu papel quando é revisado sempre que o agente ganha uma ferramenta, uma fonte de memória ou mais autonomia.

Principais pontos

  • Mapeie as permissões por papel e tarefa do agente, não por modelo, fornecedor ou janela de conversa.
  • Escreva cada permissão como ferramenta, escopo de registros, ação, condição, aprovador e evidência.
  • Negue por padrão: o que não estiver escrito no mapa continua fora do alcance até alguém incluir.
  • Trate memória, documentos recuperados e caixas de entrada conectadas como permissões, não como detalhes de fundo.
  • Revise o mapa a cada mudança de capacidade e também em um calendário fixo, o que vier primeiro.

Por que um mapa escrito vence a configuração geral de permissão

A maioria das equipes conhece as permissões de agentes como um interruptor único: o agente acessa o CRM ou não acessa. Esse interruptor esconde quase todas as decisões que importam. Ler o registro de um cliente, redigir uma resposta, atualizar um campo de status e enviar um e-mail para esse cliente são quatro exposições diferentes, e normalmente pedem quatro respostas diferentes sobre quem pode aprovar e o que precisa ficar registrado.

Um mapa escrito torna essas distinções visíveis. Ele também dá ao dono do negócio algo que pode ler sem formação em engenharia. As orientações de autorização da OWASP descrevem a mesma disciplina em termos técnicos: verificar cada solicitação contra uma política explícita, em vez de presumir que quem chama o sistema está autorizado só por estar dentro dele. O NIST AI Risk Management Framework pede que as organizações governem e documentem os riscos de IA ao longo do ciclo de vida, e o mapa de permissões é um dos documentos mais práticos para sustentar esse trabalho.

Comece por um papel e pela tarefa dele

Comece com um único papel que tenha uma saída clara. Em um primeiro projeto, costuma ser um agente útil e bem delimitado, como um agente de cobrança de faturas, um agente de cadastro de fornecedores ou um coordenador de agendamentos. Evite o rótulo "assistente geral de operações", porque um papel amplo acumula permissões que ninguém consegue justificar depois.

Para esse papel, percorra estas etapas na ordem:

  • Descreva o resultado em uma frase e informe o dono do negócio que o aceita.
  • Liste todos os sistemas que o papel toca hoje, inclusive os que a equipe usa só de vez em quando.
  • Para cada sistema, escreva o menor conjunto de registros que a tarefa exige, como um segmento de clientes ou uma conta do razão, e não a base inteira.
  • Classifique cada ação como leitura, rascunho, alteração, envio ou gasto, e mantenha curta a lista de verbos.
  • Remova tudo o que você não consegue ligar à frase do resultado. Se ninguém souber dizer para que serve uma permissão, a permissão sai.
  • Designe um aprovador para cada ação que altera um registro ou chega a uma parte externa, e defina uma data de revisão.

Essa sequência vai da finalidade até a permissão. Equipes que começam pela lista de ferramentas costumam conceder tudo o que a ferramenta expõe por padrão, e o mapa passa a descrever o software, não a tarefa.

Escreva cada linha do mapa no mesmo formato

Cada linha do mapa deve responder às mesmas seis perguntas. Um formato fixo torna o mapa legível para auditores, gestores e para quem mantém as instruções operacionais do agente.

  • Ferramenta: a integração ou conector exato, com o identificador da conta ou a versão.
  • Escopo de registros: o filtro que limita quais registros ficam visíveis, como faturas abertas de contas atribuídas a uma equipe.
  • Ação: o único verbo permitido, como criar rascunho, alterar data de vencimento ou enviar lembrete.
  • Condição: o limite que vale na execução, como um teto de valor, uma janela de horário ou a exigência de um campo preenchido.
  • Aprovador: o papel nomeado que precisa confirmar a ação, ou nenhum, com motivo escrito.
  • Evidência: o que é gravado no log e onde esse log fica guardado.

Cenário ilustrativo (não é um caso de cliente): um agente de cobrança de faturas pode ler faturas abertas de uma equipe, redigir e-mails de lembrete e criar tarefas de acompanhamento. Ele não pode enviar e-mail a um cliente sem que um membro da equipe aprove o rascunho, e não pode alterar condições de pagamento de forma alguma. O mapa registra essas três linhas separadamente, para que um gestor veja de relance que enviar e alterar condições pertence às pessoas, enquanto redigir pertence ao agente.

O cenário não contém nenhuma permissão chamada "acesso a e-mail". Separar as ações desse modo é o que torna o mapa revisável, porque cada linha pode ser verificada, alterada ou removida por si só.

Separe leitura, escrita e ação

As permissões se dividem em três níveis gerais, e cada um merece um padrão diferente. Ler registros tem o menor risco operacional, mas ainda cria exposição de privacidade, então exige limites de escopo e registro. Escrever ou redigir altera o estado interno, o que na maioria dos sistemas pode ser desfeito, mas ainda precisa de um responsável nomeado. Agir para fora, isto é, enviar uma mensagem, movimentar dinheiro, publicar conteúdo ou contatar um terceiro, é onde os erros passam a ser vistos por clientes e fornecedores.

Dê às ações externas uma seção própria no mapa e decida antecipadamente quais delas exigem uma segunda pessoa. As orientações sobre aprovação humana para ações de alto risco explicam como escolher esse conjunto sem travar o trabalho de rotina. Registre também se o agente pode usar memória de conversas anteriores, porque o contexto lembrado pode ampliar o que ele sabe sobre uma pessoa, mesmo quando suas ferramentas são restritas. Um complemento útil é o guia sobre níveis de permissão por confiança, que mostra como os níveis de confiança podem subir uma linha por vez.

A documentação do Model Context Protocol descreve como um agente se conecta a ferramentas e fontes de dados por meio de interfaces definidas. Isso ajuda o mapa, porque cada conector vira uma linha nomeada que pode ser desligada, em vez de uma capacidade escondida dentro de um prompt.

Revise o mapa conforme a capacidade cresce

Um mapa é um retrato de um momento. Agentes mudam: uma nova versão de modelo pode lidar com tarefas mais longas, um conector é adicionado, uma base de memória é ampliada, ou um membro da equipe sai e suas aprovações precisam de um novo responsável. Cada um desses eventos deve disparar a revisão das linhas afetadas antes que a mudança entre em produção, e não depois de um incidente.

Um ciclo de revisão prático tem três partes. Primeiro, uma lista de gatilhos de mudança, mantida pelo responsável de operações e checada antes de qualquer liberação. Segundo, uma revisão agendada, por exemplo mensal para ações externas e trimestral para escopos de leitura, em que o responsável aprova cada linha e remove qualquer permissão que a tarefa não usa mais. Terceiro, uma revisão de logs que compara o que o agente realmente fez com o que o mapa permite, usando o campo de evidência de cada linha. As convenções semânticas do OpenTelemetry para IA generativa oferecem às equipes um vocabulário comum para registrar as operações dos agentes, o que facilita automatizar essa comparação no futuro.

Ampliar a autonomia deve ser uma mudança deliberada no mapa, não um efeito colateral de uma atualização de modelo. Passe uma linha de "apenas rascunho" para "envio com aprovação" somente depois que a evidência do nível atual tiver sido revisada e assinada. O guia sobre ampliar autonomia com segurança aprofunda essa progressão.

A operação gerenciada da Be Human trata isso como parte do serviço, e não como tarefa exclusiva da equipe do cliente. O projeto define um papel, sua memória e suas ferramentas, seus limites de aprovação e um critério de sucesso observável, e essa definição se torna o mapa de referência. O trabalho contínuo inclui monitoramento, avaliações recorrentes, revisão de permissões, manutenção das integrações e mudanças controladas, com cada alteração registrada na linha afetada antes de entrar em vigor.

Por onde começar

Escolha um papel neste mês e escreva o mapa dele antes de acrescentar qualquer nova ferramenta. Faça o diagnóstico gratuito de IA da Be Human para descobrir a primeira tarefa que vale entregar a um agente.

Perguntas frequentes

Com que frequência um mapa de permissões de agentes deve ser revisado? Revise sempre que uma ferramenta, fonte de memória, versão de modelo ou aprovador mudar, porque esses eventos alteram o que o agente pode fazer, mesmo que a tarefa pareça a mesma. Entre esses gatilhos, faça uma revisão agendada em que o responsável confirme cada linha e remova permissões que deixaram de ser usadas. Ações externas normalmente merecem um ciclo mais curto do que escopos somente de leitura.

Quem deve ser o dono do mapa em uma empresa pequena? Uma pessoa nomeada na operação, ou na área de negócio que o agente atende, deve ser a dona do mapa, e essa pessoa deve conseguir aprovar ou recusar mudanças sem precisar ler código. Engenharia ou o fornecedor podem manter os conectores, mas a responsabilidade pelo que o agente pode fazer deve ficar com o negócio. Escreva o nome do responsável na primeira página do mapa para que a responsabilidade nunca fique ambígua.

A memória do agente conta como permissão? Sim, e deve ser registrada como qualquer ferramenta. A memória permite que o agente recupere informações de interações anteriores, o que pode incluir dados pessoais, então ela precisa de escopo, regra de retenção e processo de exclusão próprios. Listar a memória no mapa também evita que um conjunto restrito de ferramentas esconda uma base de conhecimento mais ampla.

Um único mapa pode cobrir vários agentes? Mantenha um mapa por papel de agente, mesmo que vários papéis rodem na mesma plataforma. Um mapa compartilhado dificulta ver qual agente tem qual permissão e abre espaço para o erro comum de conceder a um papel aquilo que outro papel precisou uma vez. Reúna os mapas por papel em um índice único, para que um revisor ainda consiga ver o quadro completo em um só lugar.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →