Ir para conteúdo
be-human.ai
← Voltar ao blog

Infraestrutura de IA personalizada

Matriz de direitos de decisão para agentes de IA: propor, aprovar, executar

Defina para cada ação do agente de IA se ela é proposta, aprovada ou executada, com um dono humano nomeado por linha. Use este modelo para criar as regras.

Capa tipográfica do Be Human com o título: Matriz de direitos de decisão para agentes de IA: propor, aprovar, executar
Ilustração conceitual criada com IA · Be Human

Uma matriz de direitos de decisão para agentes de IA é um documento curto que lista cada ação que o agente pode executar e atribui a cada uma um único modo: propor, aprovar ou executar. Cada linha também nomeia um dono humano, que define a regra daquela ação e responde pelos resultados. Monte a matriz antes que o agente ganhe acesso de escrita a qualquer sistema em operação, e a autoridade do agente fica visível e sob controle humano.

Principais pontos

  • Dê a cada ação do agente exatamente um modo: propor, aprovar ou executar. Uma ação sem modo não está autorizada.
  • Nomeie um dono humano responsável por linha, com um substituto também nomeado, em vez de uma equipe ou de uma caixa de entrada compartilhada.
  • Comece com ações somente leitura e reversíveis, e mantenha qualquer ação irreversível em propor até que o registro de evidências justifique mais autonomia.
  • Trate como não confiável o texto que o agente lê de fontes externas, de modo que qualquer ação disparada por esse texto comece em aprovar ou em um nível mais restrito.
  • Revise a matriz em uma agenda fixa e depois de cada incidente, troca de ferramenta ou nova capacidade.

Por que agentes precisam de uma matriz de direitos de decisão

Um agente que pode ler o registro de um cliente, redigir um e-mail e enviá-lo tem três níveis diferentes de autoridade, mesmo parecendo um único assistente. A maioria das pequenas empresas percebe isso só depois que o agente faz algo que ninguém pretendia. O acesso foi concedido em uma tela de configuração da ferramenta, e a decisão sobre o que o agente pode fazer nunca foi escrita. A matriz torna essa decisão explícita antes da primeira execução.

Os frameworks de governança apontam na mesma direção. O NIST AI Risk Management Framework trata papéis, responsabilidades e prestação de contas como parte da gestão de risco de IA, e não como burocracia posterior. A matriz é a versão operacional dessa ideia para um único agente: ela diz o que o agente pode fazer sozinho, o que pode apenas preparar e quem responde quando a resposta muda. Para a discussão mais ampla sobre quem participa do lado da decisão, veja Superinteligência empresarial e governança de agentes de IA.

Os três modos: propor, aprovar e executar

Essas três palavras precisam de significados precisos, porque as equipes costumam usar a palavra aprovação para coisas bem diferentes.

  • Propor: o agente produz uma recomendação, um rascunho ou um plano. Nada acontece no negócio até que uma pessoa decida e execute a etapa, ou dê uma instrução separada.
  • Aprovar: o agente prepara a ação completa, com todos os detalhes preenchidos, como o destinatário, o motivo e o registro afetado. Uma pessoa nomeada aprova aquela ação específica, e só então a ferramenta a executa.
  • Executar: o agente realiza a ação diretamente, dentro dos limites escritos na matriz. Executar não é o mesmo que operar sem supervisão. O agente ainda registra cada ação, e o dono ainda revisa uma amostra desse registro.

A diferença entre aprovar e executar está na etapa humana por ação, e não na capacidade do agente. Um agente muito capaz ainda pode ficar em propor para uma ação que não pode ser desfeita. O modo deve seguir a consequência de um erro, e não a confiança da equipe que construiu o agente.

Como montar a matriz em sete etapas

Faça esse trabalho com as pessoas que tocam o processo, e não apenas com quem configura a ferramenta.

  • Etapa 1: liste todos os sistemas que o agente consegue acessar, incluindo leitura de caixas de e-mail, pastas compartilhadas, agendas e bancos de dados.
  • Etapa 2: divida cada sistema em ações concretas, como ler um registro, criar um rascunho, enviar uma mensagem, mudar um status, emitir um crédito ou excluir um arquivo.
  • Etapa 3: para cada ação, anote o que acontece se o agente errar, se o resultado pode ser revertido e quem mais é afetado.
  • Etapa 4: atribua um modo inicial usando as regras padrão da quinta seção. Na primeira passagem, seja conservador.
  • Etapa 5: nomeie um dono humano e um substituto para cada linha, e registre a evidência que o dono vai verificar.
  • Etapa 6: escreva a regra de parada de cada linha, isto é, a condição em que o agente precisa interromper e aguardar uma pessoa.
  • Etapa 7: teste a matriz em um ambiente de testes ou com dados copiados antes do acesso real, e confirme que o agente não consegue executar nenhuma ação que a matriz não liste.

A OWASP Authorization Cheat Sheet faz um ponto geral que se aplica aqui: as permissões devem ser verificadas a cada solicitação, e não deduzidas de uma etapa anterior ou do fato de o agente já estar em funcionamento. A matriz é a referência contra a qual essas verificações são feitas, por isso precisa estar escrita antes que as verificações façam sentido.

Como as linhas ficam na prática

O cenário a seguir é ilustrativo, não descreve um cliente real. Uma pequena empresa de serviços usa um agente para tratar acompanhamentos rotineiros de clientes. A matriz, redigida com o líder de suporte e o gerente de operações, fica assim:

  • Ler o histórico de chamados de um cliente | Modo: executar | Dono: líder de suporte | Limite: somente leitura, sem exportação
  • Redigir resposta para uma dúvida rotineira | Modo: executar | Dono: líder de suporte | Limite: salvo como rascunho, nunca enviado
  • Enviar resposta ao cliente | Modo: aprovar | Dono: líder de suporte | Limite: o agente prepara a mensagem completa, e uma pessoa nomeada envia
  • Emitir crédito de serviço dentro do teto da política | Modo: aprovar | Dono: controller financeiro | Limite: teto escrito na política, e cada crédito aprovado individualmente
  • Alterar os dados de contato de um cliente | Modo: propor | Dono: gerente de operações | Limite: uma pessoa edita o registro
  • Encerrar uma reclamação ou oferecer reembolso acima da política | Modo: propor | Dono: gerente geral | Limite: a decisão permanece com uma pessoa
  • Excluir ou sobrescrever qualquer registro de cliente | Modo: nenhum | Dono: responsável pelos dados | Limite: não concedido ao agente

Percebа o que as linhas não descrevem. Elas não explicam como o agente raciocina. Elas descrevem o que o agente pode tocar, quem responde por isso e o que precisa ser verdadeiro antes que uma ação seja executada. Quando uma linha é difícil de preencher, geralmente a ação é ampla demais e deve ser dividida em ações menores com modos diferentes.

Quem é dono de cada linha e quando um modo muda

O dono define a regra daquela ação, revisa uma amostra do seu registro e responde por qualquer incidente relacionado a ela. O dono precisa entender o efeito da ação no negócio, por isso normalmente é o gestor do processo, e não quem configurou o agente. Se um parceiro externo construiu a integração, o dono continua sendo alguém de dentro da empresa.

Use estas regras padrão na primeira passagem:

  • Ações irreversíveis, ações que movimentam dinheiro ou comprometem a empresa juridicamente, e ações que expõem dados pessoais além do necessário para a tarefa começam em propor.
  • Ações internas reversíveis, dentro de uma política escrita, podem começar em aprovar.
  • Ações somente leitura que não expõem mais dados pessoais do que a tarefa exige podem começar em executar.
  • Qualquer ação disparada por texto que o agente leu de uma fonte externa, como um e-mail recebido ou uma página da web, começa em aprovar no máximo. A OWASP LLM Prompt Injection Prevention Cheat Sheet descreve como instruções escondidas em conteúdos podem direcionar um agente, e um ponto de checagem humano é o controle mais simples contra isso.

Mova uma ação de propor para aprovar, ou de aprovar para executar, somente depois que um período de revisão mostrar que os resultados registrados coincidem com o que o dono esperava, e somente por meio de uma mudança escrita. Reduza o nível imediatamente após um incidente. Os passos para solicitar e registrar essas mudanças fazem parte de uma gestão formal do agente, e a verificação periódica de quem ainda tem cada acesso deve estar em uma revisão trimestral de permissões de agentes de IA.

Como a Be Human mantém a matriz atualizada

Na primeira etapa do trabalho, a Be Human define um papel útil para o agente, a memória e as ferramentas que esse papel precisa, os limites de aprovação e um critério de sucesso observável. A matriz é redigida com os donos que a sua empresa indica, para que as regras reflitam as pessoas que vão responder por elas. Na operação gerenciada, a Be Human acompanha a atividade do agente contra a matriz, executa avaliações recorrentes, mantém as integrações, revisa permissões, responde a incidentes e implementa as mudanças controladas depois que o dono as aprova. Por isso a matriz não é um documento de uma vez só. Ela é a referência contra a qual o trabalho operacional é medido.

Revise a matriz em uma agenda fixa e também depois de qualquer nova ferramenta, fonte de dados, capacidade ou incidente. Cada revisão deve confirmar três coisas: que cada linha ainda tem um dono e um substituto ativos, que as ações registradas coincidem com os modos declarados e que nenhuma ação foi ampliada sem uma mudança registrada. Remova qualquer acesso que nenhuma linha atual justifique.

Se ainda não está claro qual ação deve ser a primeira linha da sua matriz, o diagnóstico gratuito de IA da Be Human ajuda a encontrar a primeira tarefa que vale a pena entregar a um agente.

Perguntas frequentes

Quantas linhas uma primeira matriz deve ter? Ela deve cobrir apenas as ações que o primeiro papel do agente precisa, o que geralmente resulta em uma lista curta, e não em todos os sistemas da empresa. Comece pelas tarefas do papel escolhido e acrescente linhas somente quando esse papel exigir. Tudo o que não está listado não está autorizado.

Toda ação precisa de um clique humano? Não. Apenas as ações em aprovar exigem uma etapa humana por ação, enquanto ações somente leitura ou internas reversíveis podem ser executadas dentro dos seus limites. A finalidade é colocar pessoas onde um erro seria caro ou difícil de desfazer, e não desacelerar o agente em todos os pontos.

Quem deve ser dono das linhas se um parceiro externo construiu o agente? O parceiro pode configurar e manter a integração, mas cada linha ainda precisa de um dono dentro da sua empresa que entenda o efeito da ação no negócio. A responsabilidade deve permanecer com uma pessoa nomeada, mesmo se o fornecedor mudar, e cada dono deve ter um substituto nomeado.

Com que frequência a matriz deve ser revisada? Revise em uma agenda fixa, por exemplo a cada trimestre, e também depois de qualquer nova ferramenta, fonte de dados, incidente ou mudança no que o agente pode fazer. Cada revisão deve confirmar que os donos continuam ativos e que as ações registradas coincidem com os seus modos. Tudo o que não tiver uma justificativa atual deve ser removido.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →