Ir para conteúdo
be-human.ai
← Voltar ao blog

Infraestrutura de IA personalizada

PMO para agentes de IA: como manter a IA da empresa sob governança

Como montar um PMO para agentes de IA que registra projetos, donos, riscos e portões de liberação, para a IA da empresa seguir governada conforme cresce.

Capa tipográfica do Be Human com o título: PMO para agentes de IA: como manter a IA da empresa sob governança
Ilustração conceitual criada com IA · Be Human

Um PMO para agentes de IA é o escritório de programas que mantém um único registro atualizado de cada projeto de agente na empresa: quem é o dono de cada agente, a que ele pode acessar, quais riscos estão abertos e qual portão de liberação ele precisa passar antes da etapa seguinte. Não se trata de um comitê maior. É um conjunto pequeno e fixo de registros e um ritmo regular de revisão. Para uma empresa cujo trabalho com superinteligência está crescendo, ele mantém as decisões visíveis, para que um agente novo não herde silenciosamente as permissões, a memória ou os canais de um agente mais antigo.

Principais pontos

  • Um escritório de programas para agentes precisa de um registro único, um dono por agente, uma lista curta de riscos e portões de liberação escritos. O resto pode esperar.
  • Cada agente deve ter um dono humano nomeado, que possa aprovar o escopo, as ferramentas e as mudanças de permissão.
  • Os portões de liberação transformam "parece pronto" em evidência: uma avaliação aprovada, um conjunto de permissões revisado e um caminho de reversão.
  • O escritório deve revisar o portfólio em um calendário fixo, para que desvios em permissões e memória sejam encontrados antes que um incidente os encontre.
  • A governança deve crescer com o número de agentes, de modo que cada novo agente acrescente um registro e um portão, e não uma nova reunião.

O que um PMO para agentes de IA acompanha de fato

Um escritório de programas útil não acompanha tarefas da forma como um backlog de software faz. Ele acompanha o que torna um agente seguro de operar e caro de corrigir depois. Para cada agente, isso significa a finalidade de negócio, o dono humano, as fontes de memória que ele lê, as ferramentas que pode chamar, os canais pelos quais pode falar, as ações que exigem aprovação e a etapa atual do trabalho. Cada um desses itens é um campo que alguém consegue verificar em menos de um minuto.

O registro também deve nomear as dependências. Um agente que redige respostas a clientes depende do cadastro de clientes, do canal de mensagens e da fila de aprovação. Se o cadastro de clientes mudar de responsável ou de formato, o comportamento do agente muda junto. Um PMO que acompanha dependências consegue responder à pergunta que líderes mais fazem durante uma mudança: quais agentes são afetados por isso?

Mantenha o registro curto o suficiente para que alguém realmente o atualize. No início, uma planilha ou uma tabela compartilhada com poucas colunas costuma resolver. O essencial é que cada linha tenha uma data da última revisão, para que um registro desatualizado fique visível, em vez de ser considerado confiável por padrão.

Montar o registro: projetos, donos e direitos de decisão

Comece com um inventário simples. Liste todos os agentes que existem ou estão em preparação, inclusive os criados por um fornecedor, um freelancer ou um funcionário entusiasmado. Muitas empresas descobrem nesta etapa que têm agentes que ninguém se lembra de ter aprovado. Registre cada um, mesmo que esteja pausado, porque agentes pausados continuam com memória, credenciais e acesso a canais.

Em seguida, atribua um dono responsável por agente. Essa pessoa não é necessariamente quem o configura. É quem decide se o escopo pode crescer. Escreva o que ela pode aprovar sozinha, o que exige uma segunda assinatura e o que precisa ir ao grupo de liderança. Direitos de decisão registrados dessa forma evitam a falha mais comum, em que uma equipe de produto amplia as ferramentas de um agente porque a operação presumiu que ele ainda era um piloto.

Por fim, registre a finalidade em uma frase. Se a finalidade não cabe em uma frase, o agente provavelmente tem dois trabalhos, e cada trabalho deve ter seu próprio dono e portão.

Como gerenciar riscos sem uma lista de riscos que ninguém lê

Uma lista de riscos só ajuda quando cada item muda uma decisão. Para agentes, os riscos úteis são concretos: um agente lê registros que não deveria ver, envia uma mensagem sem revisão, uma chamada de ferramenta falha sem aviso, um comando injetado por meio de um documento altera seu comportamento, ou a regra de negócio que ele segue está desatualizada. A orientação da OWASP sobre autorização traz um ponto prático: o acesso deve ser verificado com base no usuário ou na finalidade atual no momento da ação, e não presumido a partir de uma concessão anterior.

Para cada risco, escreva quatro coisas: a probabilidade como um juízo simples (baixa, média, alta), o impacto sobre clientes ou dinheiro, o controle existente e o sinal que mostraria que o controle falhou. O sinal é a parte que a maioria das listas omite. Padrões de observabilidade, como os conceitos do OpenTelemetry, descrevem traces, métricas e logs como a forma de enxergar o que um sistema fez. Um PMO deve pedir essa evidência, e não apenas a afirmação de que existe monitoramento.

Revise os principais riscos em cada reunião do programa. Feche um risco somente quando seu controle tiver sido testado, e não quando alguém disser que a correção está pronta.

Portões de liberação: o que precisa ser verdade antes de um agente entrar em operação

Um portão de liberação é uma decisão de sim ou não vinculada a evidências. A maioria das empresas precisa de três portões para o trabalho com agentes. O primeiro, de escopo, confirma a finalidade, o dono, as fontes de dados e as ferramentas, e verifica se cada ferramenta tem a permissão mais restrita que o trabalho exige. O segundo, de comportamento, confirma que o agente passou por um conjunto definido de casos de teste, incluindo casos de falha em que ele deveria recusar, escalar ou pedir confirmação. O terceiro, de operação, confirma que alguém é responsável pelo monitoramento, que existe uma forma de pausar o agente e que há um caminho de reversão.

A disciplina de avaliação importa aqui. As orientações da Anthropic sobre avaliações de agentes defendem tarefas parecidas com o trabalho real e a avaliação de resultados, e não apenas a checagem de texto. Mantenha o conjunto de testes pequeno e específico para o papel do agente, e acrescente um caso novo sempre que uma falha real for encontrada. Um portão que aprova um conjunto de testes que ninguém atualiza é apenas uma formalidade.

Escreva os critérios do portão antes de o trabalho começar. Se os critérios forem escritos depois que o agente já está quase pronto, tendem a se ajustar ao que foi construído.

Cenário ilustrativo: um segundo agente entra no portfólio

Este cenário é ilustrativo e não descreve um cliente real. Uma empresa opera um agente que responde a perguntas internas sobre seus contratos com fornecedores. Um gerente de departamento pede um segundo agente, que redige e-mails de renovação com fornecedores e os envia após uma checagem rápida. O PMO abre uma nova linha no registro, nomeia o gerente como dono e percebe que o novo agente precisa de acesso de leitura ao mesmo repositório de contratos. Esse acesso dispara uma revisão de permissões do primeiro agente, porque agora ele compartilha uma fonte. O portão de liberação do agente de e-mails passa a exigir aprovação humana para cada mensagem enviada, até que um conjunto de casos realistas de renovação seja aprovado e a permissão de envio seja revisada. Duas semanas depois, a revisão mostra que o agente de renovação interpreta mal um tipo de cláusula. O portão se mantém, a mudança é registrada e a correção é testada antes de o envio ser liberado. Nada chegou a um fornecedor, e o registro mostra por que a decisão foi tomada.

Onde a abordagem gerenciada da Be Human se encaixa

A Be Human projeta e opera infraestrutura de IA personalizada, na qual cada agente mantém sua identidade, memória, canais, ferramentas, permissões e contexto operacional sob controle humano. Em um projeto gerenciado, o PMO faz parte da operação, e não um relatório extra. A equipe mantém o registro atualizado, executa avaliações recorrentes, revisa permissões em calendário, trata incidentes e encaminha qualquer mudança de escopo por uma etapa de aprovação documentada antes de ela chegar à produção. Empresas que querem entender em detalhe o processo de mudança podem ler como pedidos e aprovações são tratados para um agente gerenciado, no guia de revisão trimestral de permissões de agentes de IA.

A governança também precisa de um lugar para decidir. Uma empresa pequena pode precisar apenas de uma revisão mensal, enquanto uma maior pode precisar de um comitê permanente com estatuto escrito. A escolha depende de quantos agentes estão em operação e de quantos donos precisam concordar. Equipes que estão decidindo o nível de formalidade podem comparar as opções mais leves em governança de agentes na superinteligência empresarial.

À medida que o portfólio cresce, o escritório de programas deve acrescentar registros e portões, e não reuniões. Cada agente ganha uma linha, um dono, um item de risco e um portão. O escritório revisa exceções e desvios, e todo o resto segue o calendário. Manter o trabalho com essa regularidade é o que permite que projetos de superinteligência escalem sem perder o controle de quem aprovou o quê. Se você quer identificar a primeira tarefa que vale entregar a um agente, e o primeiro portão que ele deve passar, o diagnóstico gratuito de IA da Be Human é um ponto de partida prático.

Perguntas frequentes

Uma empresa pequena precisa de um PMO para agentes de IA? Sim, mas ele pode ser pequeno. Quando mais de um agente toca dados de clientes, dinheiro ou mensagens enviadas, alguém precisa ter um registro atualizado de donos, permissões e riscos abertos. Uma tabela compartilhada, uma revisão mensal e portões de liberação escritos bastam para a maioria das empresas no começo.

Quem deve ser o responsável pelo PMO para agentes de IA? O escritório deve ficar com alguém que consiga decidir entre departamentos, normalmente um líder de operações ou um chefe de gabinete, com apoio técnico de quem opera os agentes. O requisito principal é ter autoridade para pausar um agente e para recusar uma ampliação de escopo que ainda não passou pelo portão. A responsabilidade por cada agente continua com os donos de negócio nomeados.

Com que frequência o escritório deve revisar as permissões? Revise as permissões em um calendário fixo e também sempre que um agente ganhar uma ferramenta, uma fonte de dados ou um canal. O NIST AI Risk Management Framework trata a gestão de riscos como uma atividade contínua, e não como uma aprovação única, o que combina com esse ritmo. Guarde a evidência de cada revisão no registro, para que a próxima comece a partir de fatos.

Qual é a diferença entre um portão de liberação e um marco comum de projeto? Um marco registra que o trabalho chegou a um ponto. Um portão de liberação registra que a evidência sustenta uma decisão específica, como permitir que um agente envie mensagens ou leia uma nova fonte de dados. Um portão pode reprovar, e, quando isso acontece, o trabalho permanece onde está até que a evidência mude.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →