Revisão trimestral de permissões de agentes de IA: checklist prático

Uma revisão de permissões de um agente de IA é uma verificação agendada de cada ferramenta, conta e direito de aprovação que o agente possui, comparada com o papel que ele deve desempenhar hoje. Faça essa revisão uma vez por trimestre, remova ou restrinja o que o papel já não precisa e registre o que mudou e por quê. O objetivo não é ter acesso perfeito no primeiro dia, e sim um acesso que continue compatível com o trabalho à medida que o trabalho muda.

Principais pontos

• Revise cada agente contra o papel escrito, e não contra o acesso que recebeu no início.
• Verifique ferramentas, contas e direitos de aprovação separadamente, porque cada um se desvia de um jeito diferente.
• Remova primeiro o acesso não usado, restrinja o que sobrou e depois teste de novo as tarefas centrais do agente.
• Mantenha um registro curto e escrito de cada mudança para que a próxima revisão comece com evidências.
• Passe qualquer nova permissão pelo mesmo processo de mudança usado para alterações de comportamento.

Por que o acesso do agente se desvia depois do lançamento

Agentes raramente ganham acesso em uma única decisão. Uma ferramenta é incluída para um piloto, um login compartilhado é reaproveitado em um teste, e um aprovador é adicionado durante uma escalação e nunca removido. Cada acréscimo fazia sentido na época. Depois de alguns meses, o conjunto já não corresponde ao papel descrito na documentação, e ninguém percebe, porque o agente continua funcionando.

A lista abaixo foi escrita para os agentes que as empresas operam hoje. A mesma disciplina importa mais à medida que os agentes ficam mais capazes, porque um escopo de ação maior torna o acesso desatualizado mais caro. Uma revisão fácil de repetir é a forma mais confiável de manter o escopo honesto.

Essa revisão faz parte da mesma rotina operacional do monitoramento e da resposta a incidentes. Se você já tem uma forma de solicitar e aprovar mudanças em um agente gerenciado, as alterações de permissão devem seguir o mesmo caminho.

O que registrar antes da primeira revisão

Uma revisão sem ponto de referência é apenas uma opinião sobre acesso. Antes da primeira revisão trimestral, escreva uma ficha de função de uma página para cada agente, com:

• A finalidade do agente em uma frase e as tarefas específicas que ele pode executar.
• Cada ferramenta, fonte de dados e conta que ele consegue alcançar, com um responsável nomeado para cada uma.
• Cada ação que exige aprovação humana e o papel da pessoa que aprova.
• O critério de sucesso pelo qual o agente é avaliado, para que você consiga dizer se ele ainda precisa do acesso que tem.

Mantenha a ficha curta o suficiente para que alguém a leia em poucos minutos. Se ela for mais longa que o trabalho real do agente, o escopo provavelmente já está amplo demais.

Checklist trimestral, passo a passo

Execute a revisão na mesma ordem a cada trimestre para que os resultados possam ser comparados. Os passos abaixo partem do princípio de um agente por vez.

• Exporte o estado atual das permissões: ferramentas habilitadas, contas conectadas, escopos concedidos e direitos de aprovação atribuídos.
• Compare cada item com a ficha de função e marque como manter, restringir ou remover.
• Verifique os registros de uso do período inteiro. Qualquer ferramenta, conta ou direito sem uso durante todo o trimestre é candidato à remoção, salvo se houver um motivo escrito, como um processo anual que roda fora do trimestre.
• Confirme que o agente usa identidade própria, e não o login de uma pessoa nem uma credencial compartilhada com outro sistema.
• Confirme que os direitos de leitura e de escrita estão separados sempre que a tarefa exigir apenas leitura.
• Confirme que cada direito de aprovação ainda pertence a quem hoje tem essa responsabilidade.
• Aplique as remoções e restrições, e registre cada uma com o motivo e a pessoa que aprovou.
• Execute de novo as tarefas de teste centrais do agente e compare o critério de sucesso com os resultados recentes.
• Escreva uma nota curta de resultado: o que foi mantido, o que foi removido e o que ficou em aberto para a próxima revisão.

A nota de resultado é o artefato mais importante. Ela transforma uma verificação de rotina em um registro em que o próximo revisor pode confiar.

Ferramentas, contas e direitos de aprovação exigem perguntas diferentes

Uma ferramenta é uma capacidade que o agente pode acionar, como pesquisar em um repositório de documentos, abrir um chamado ou enviar uma mensagem. A pergunta da revisão é se o agente ainda precisa dessa capacidade para o seu papel e se a ferramenta está limitada aos registros e ações que o papel exige. Uma ferramenta incluída para uma migração pontual normalmente não deveria sobreviver à operação normal.

Uma conta é a identidade que o agente usa para chegar a um sistema. A documentação de OAuth 2.0 do Google descreve a autorização delegada, na qual uma aplicação recebe tokens com escopo e revogáveis, em vez da senha do usuário. Aplique a mesma lógica aos agentes: cada conta conectada deve carregar apenas os escopos que o seu papel exige, e deve ser possível revogar esse acesso sem interromper trabalhos não relacionados.

Um direito de aprovação é a autoridade para dizer sim a uma ação que o agente propõe. Esses direitos ficam desatualizados mais rápido, porque as pessoas mudam de função e ninguém atualiza a configuração do agente. As orientações de autorização da OWASP recomendam negar acesso por padrão e aplicar verificações em cada requisição, em vez de presumir que uma verificação anterior ainda vale. Na prática, confirme que cada aprovador é o responsável atual por aquela atribuição e que o caminho de aprovação ainda existe.

Cenário ilustrativo: um agente de suporte que ultrapassou seu papel

Cenário ilustrativo, não é um caso de cliente: um agente de triagem de suporte foi configurado para ler chamados e sugerir prioridades. Em um período de muito movimento, seu direito de escrita na ferramenta de reembolso foi ativado para que ele pudesse processar pequenos reembolsos, e a mudança nunca foi revertida. O agente também continuava usando um login que pertencera a um ex-prestador.

A revisão trimestral encontrou três problemas. O direito de escrita para reembolso não tinha sido usado em todo o trimestre. O login compartilhado ainda era usado para ler os chamados. A aprovação de reembolsos estava direcionada a um líder de equipe que tinha mudado de departamento. A equipe removeu o direito de escrita para reembolso, deu ao agente uma credencial própria com escopo somente de leitura para chamados, atribuiu a aprovação ao responsável atual pelos reembolsos e executou de novo o conjunto de testes de triagem. O registro de mudança explicava cada passo, então o próximo revisor não precisou reconstruir o histórico.

Decida entre remover, restringir ou manter

Use este guia de decisão quando um item da revisão não estiver claro. Ele mantém o resultado consistente entre diferentes revisores.

• Remova quando o acesso foi concedido para uma tarefa que já terminou, ou quando nenhum registro mostra uso durante o período.
• Restrinja quando o acesso é necessário, mas mais amplo que o papel, como direito de escrita para um trabalho que só lê.
• Mantenha quando o acesso é usado, limitado ao papel e tem um responsável nomeado capaz de explicá-lo.
• Escale quando ninguém souber dizer por que o acesso existe. Trate-o como candidato à remoção, dê ao responsável uma janela curta para responder e remova se a resposta não chegar.

A última regra é a que a maioria das equipes deixa de lado. Acesso que ninguém consegue explicar não é um padrão seguro, e mantê-lo porque remover parece arriscado torna a próxima revisão mais difícil.

Como a Be Human trata revisões de permissão

Em operações gerenciadas, a Be Human mantém a ficha de função de cada agente, o inventário de ferramentas e contas e o mapa de aprovações como parte do registro operacional. A revisão de permissões é um dos serviços recorrentes da operação gerenciada, ao lado do monitoramento, da manutenção de integrações e da resposta a incidentes. Mudanças de acesso seguem o mesmo caminho de solicitação e aprovação das demais mudanças, e cada revisão gera um resultado escrito que o cliente pode ler e guardar. O mesmo registro torna o trimestre seguinte mais rápido, porque o revisor começa pelo que mudou, e não pela memória.

Manter a revisão útil ao longo do tempo

Uma revisão de permissões falha quando vira um formulário assinado sem ser lido. Mantenha o checklist curto, defina um responsável pela revisão de cada agente e coloque a data da próxima revisão no mesmo calendário das demais tarefas operacionais do agente. O NIST AI Risk Management Framework trata governança e monitoramento como atividades contínuas, e não como aprovações pontuais, o que também é uma boa forma de pensar sobre acesso. Se sua empresa ainda não definiu quem é dono dessas decisões, o guia sobre governança de agentes de IA é um ponto de partida prático. Se você ainda não sabe qual agente da empresa merece essa revisão primeiro, o diagnóstico gratuito de IA da Be Human pode ajudar a encontrar a primeira tarefa que vale passar para um agente.

Perguntas frequentes

Com que frequência as permissões de um agente de IA devem ser revisadas? Trimestralmente é um padrão sensato para agentes que acessam dados de clientes, dinheiro ou sistemas externos. Agentes com escopo restrito e somente leitura podem ser revisados com menos frequência, mas devem ser checados sempre que o papel ou os sistemas conectados mudarem. Qualquer nova ferramenta, conta ou direito de aprovação deve disparar a revisão daquele item no momento em que for concedido.

Quem deve aprovar o resultado de uma revisão de permissões? O dono de negócio do agente deve aprovar a ficha de função e qualquer decisão de manter acesso amplo, porque essa pessoa responde pelo resultado. O responsável técnico deve confirmar que as remoções e mudanças de escopo foram aplicadas corretamente. Manter essas duas aprovações separadas evita que quem quer o acesso seja a única pessoa a julgá-lo.

E se o agente parar de funcionar depois que um acesso é removido? Isso é uma informação útil e deve ser tratada como uma solicitação de mudança, e não como uma restauração silenciosa. Verifique se o acesso que faltou fazia parte da ficha de função. Se não fazia, a remoção estava correta e o fluxo de trabalho precisa ser redesenhado. Se fazia, restaure o escopo mais restrito que funciona, registre o motivo e anote o ponto para a próxima revisão.

A revisão de permissões substitui testes de segurança? Não. A revisão verifica se o acesso ainda corresponde ao papel, enquanto os testes de segurança verificam se o agente pode ser manipulado para agir fora do seu papel, por exemplo por meio de conteúdo não confiável em suas entradas. As duas coisas são necessárias. A revisão reduz o que um invasor ou um erro conseguiria alcançar, e os testes mostram se os controles restantes se sustentam sob pressão.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.