Infraestrutura de IA personalizada
Comitê de governança de IA e superinteligência: quem decide o quê
Comitê de governança de IA precisa de membros nomeados e regras escritas. Veja quem participa e quais decisões ele controla, da permissão à autonomia.

Um comitê de governança de IA é um grupo pequeno e permanente de líderes nomeados que define as regras da empresa para os agentes de IA: o que cada agente pode ver, o que pode fazer e quando sua autonomia muda. Um comitê que funciona tem um presidente com autoridade sobre o orçamento, um responsável por risco ou segurança, um responsável por operações que cuida dos agentes no dia a dia e um dono de negócio para os resultados de cada agente. Seus direitos de decisão centrais são conceder, limitar e revogar permissões, aprovar novas ferramentas e fontes de memória, e decidir quando um agente passa de trabalho supervisionado para trabalho mais independente.
Principais pontos
- Mantenha o comitê pequeno, com cinco ou menos membros fixos, cada um com poder de dizer sim ou não sem precisar consultar outra pessoa antes.
- Dê ao comitê direitos de decisão por escrito que separem mudanças de rotina de mudanças que ampliam o que um agente pode fazer.
- Vincule cada aumento de autonomia a evidências de monitoramento e avaliações recorrentes, e não ao lançamento de um novo modelo pelo fornecedor.
- Revise as permissões em uma agenda fixa e permita que qualquer membro pause um agente entre as reuniões quando surgir um incidente.
- Comece com um agente e um comitê, e depois estenda as mesmas regras ao próximo agente em vez de escrever uma política separada para cada um.
Quem participa do comitê
O comitê existe para tomar decisões que nenhum departamento deveria tomar sozinho. Um agente que redige respostas a clientes toca em vendas, jurídico, atendimento e proteção de dados ao mesmo tempo. Se só a equipe de operações aprova as ferramentas dele, o jurídico só descobrirá uma nova integração depois que ela tiver enviado a mensagem errada. Um comitê com as cadeiras certas evita esse problema.
Cinco cadeiras cobrem a maioria das empresas de médio porte. O presidente costuma ser um patrocinador executivo com autoridade sobre orçamento e prioridades, porque decisões que exigem novo gasto ou que mudam o fluxo de trabalho de um departamento precisam ser resolvidas por quem pode resolvê-las. O responsável por risco ou segurança verifica a exposição de dados, os direitos de acesso e as obrigações de conformidade. O responsável por operações executa os agentes, cuida do monitoramento e é quem propõe mudanças. Cada dono de negócio representa o resultado que o agente deve melhorar, como tempo de resposta no atendimento ou precisão de orçamentos, e tem a palavra final sobre se o agente ainda gera trabalho útil. A quinta cadeira é, com frequência, um representante em rodízio da equipe que usa o agente todo dia, trazendo evidências sobre onde ele ajuda e onde cria trabalho extra.
Mantenha a participação nominal, e não apenas funcional. “O diretor financeiro” não é uma cadeira definida se a pessoa muda todo ano e ninguém foi informado de suas responsabilidades. Registre o nome, o substituto e o escopo de cada cadeira. Se um titular deixar a função, o substituto assume imediatamente, e as permissões que ele aprovou continuam valendo até que o comitê as revise.
Quais decisões o comitê controla
Um comitê que se reúne sem uma lista de decisões vira uma reunião de status. O estatuto deve nomear as decisões que o comitê controla e aquelas sobre as quais apenas opina. Para uma empresa que opera agentes de IA, as decisões sob controle normalmente se dividem em quatro grupos.
O primeiro grupo é o acesso: quais sistemas, pastas, cadastros de clientes e contas um agente pode ler e em quais pode escrever. O segundo é a ação: quais operações um agente pode executar sem que uma pessoa aprove cada uma, como enviar um rascunho a um cliente, atualizar um registro ou conceder um reembolso abaixo de um valor definido. O terceiro são as ferramentas e a memória: quais novos conectores, ferramentas ou fontes de conhecimento podem ser adicionados e onde fica armazenado o contexto do agente. O quarto é a autonomia: o nível de independência que o agente tem em cada fluxo de trabalho e as condições em que esse nível sobe ou desce.
O comitê não deve decidir tudo. Ajustes rotineiros em prompts, pequenas mudanças de formatação e correções que reduzem acesso em vez de ampliá-lo podem ficar com o responsável por operações, que os relata na reunião seguinte. A regra prática é simples: toda mudança que amplie o que um agente pode ver, tocar ou decidir vai ao comitê, e toda mudança que restrinja essas coisas pode ser feita pelas operações e registrada.
Como conceder nova autonomia conforme a capacidade cresce
A decisão mais difícil para um comitê de governança é permitir que um agente faça mais. Os modelos melhoram, os fornecedores acrescentam recursos, e um agente que se limitava a redigir pode, de repente, ser capaz de enviar. O comitê deve tratar cada aumento de capacidade como uma proposta com um teste definido, e não como uma atualização automática.
Use um processo de portão em quatro etapas. Primeiro, a proposta declara exatamente qual nova ação o agente executaria, sobre quais registros, com qual limite e quem seria afetado se ele errasse. Segundo, o responsável por operações apresenta evidências da configuração atual: com que frequência os resultados do agente foram aceitos sem edição, quais erros ocorreram e se algum chegou a um cliente ou a um sistema. Terceiro, o responsável por risco revisa o acesso que a nova ação exige e verifica se ele respeita o menor privilégio, ou seja, se o agente recebe apenas os direitos necessários para a ação e nada além disso. Quarto, o comitê aprova a mudança para um escopo limitado e com data de revisão, e não para todos os casos para sempre.
Uma aprovação bem feita é condicional. Ela declara o limite, como um valor máximo, um segmento de clientes específico ou a exigência de que uma pessoa confirme as primeiras vinte ações. Nomeia a métrica que precisa permanecer dentro da faixa esperada e agenda uma revisão. Se a métrica sair do padrão, o comitê pode restringir a permissão sem novo debate.
Aqui está uma lista curta que o comitê pode usar em qualquer pedido de autonomia:
- Qual ação exata o agente executará que hoje não consegue executar?
- Quais sistemas e dados essa ação toca, e são o mínimo necessário?
- Que evidências de monitoramento e avaliações sustentam a mudança?
- Qual é o pior erro plausível, e como a empresa o detectaria e reverteria?
- Quem recebe um alerta se o comportamento do agente sair da faixa aprovada?
- Quando a permissão será revisada e qual resultado levaria à sua retirada?
Uma nova permissão é uma decisão com data de validade, não uma configuração que fica para sempre.
Cenário ilustrativo: um distribuidor regional usa um agente que redige respostas a dúvidas sobre notas fiscais de fornecedores. As operações propõem que o agente envie diretamente confirmações de rotina para notas abaixo de um valor fixo, sem que uma pessoa revise cada envio. O comitê aprova a medida para apenas duas categorias de notas, exige que toda mensagem enviada fique registrada com o registro de origem e define uma data de revisão. Na primeira revisão, constata-se que uma das categorias gerou correções repetidas. O comitê remove essa categoria e mantém as demais. Ninguém precisou reescrever o estatuto para fazer essa mudança.
Que evidências o comitê precisa antes de decidir
Um comitê que decide por opinião acabará concedendo permissões demais ou de menos. Suas decisões devem se apoiar em evidências que o responsável por operações coleta de forma contínua. Essas evidências têm três camadas.
A primeira camada é a observabilidade: um registro do que o agente fez, quais entradas usou, quais ferramentas chamou e o que devolveu. A documentação do OpenTelemetry descreve como rastros, métricas e logs permitem reconstruir o comportamento de um sistema, e a mesma lógica vale para agentes. Sem esses registros, o comitê não consegue saber se um bom resultado foi confiável ou se foi sorte. A segunda camada é a avaliação: um conjunto fixo de tarefas realistas, executado antes e depois de qualquer mudança, que mede se o agente ainda atende ao seu critério de sucesso. A terceira camada é o histórico de incidentes: um registro curto de cada evento em que o agente agiu fora da faixa aprovada, com a causa e a correção.
As evidências de segurança também pertencem aqui. Agentes que leem documentos ou páginas da web podem ser manipulados por instruções escondidas nesse conteúdo. O OWASP Top 10 para aplicações com LLM lista a injeção de prompt e a autonomia excessiva entre os principais riscos, e ambos são relevantes para decisões de autonomia. O comitê deve perguntar se as ferramentas do agente são limitadas, se ações de alto impacto exigem confirmação e se as permissões do agente continuariam adequadas caso a entrada fosse hostil. O AI Risk Management Framework do NIST é útil como vocabulário comum para essas questões, pois organiza o trabalho de risco em torno de governar, mapear, medir e gerenciar sistemas de IA.
Com que frequência o comitê se reúne e o que revisa
Um comitê de governança precisa de dois ritmos. O primeiro é uma reunião mensal ou quinzenal, curta e focada em pedidos abertos, incidentes e mudanças aguardando aprovação. O segundo é uma revisão formal de permissões, feita em um ciclo fixo, em que o comitê confere cada permissão vigente contra a necessidade atual. A periodicidade trimestral é comum para revisões de permissões, e os passos para isso estão descritos em Revisão trimestral de permissões de agentes de IA: checklist prático.
A revisão deve fazer três perguntas sobre cada permissão. Ela ainda é necessária para o trabalho que o agente realiza? Ainda é restrita o suficiente? As evidências de monitoramento mostraram que o agente permaneceu dentro dos limites? Permissões que falham em qualquer uma dessas perguntas são reduzidas ou removidas. As que passam são renovadas com uma nova data de revisão. Manter a revisão como rotina facilita remover acessos, porque a remoção passa a ser manutenção normal, e não um juízo sobre a pessoa ou a equipe que pediu a permissão.
O comitê também deve decidir quem pode acionar uma pausa de emergência. Uma regra razoável é que qualquer membro possa suspender imediatamente as permissões de ação de um agente quando um incidente afetar clientes, dinheiro ou dados regulados, e informe o presidente no mesmo dia útil. Restabelecer as permissões exige aprovação do comitê. Assim, a autoridade para parar um agente fica ampla, e a autoridade para ampliá-lo fica restrita.
Onde entra a operação gerenciada da Be Human
Muitas empresas conseguem escrever um estatuto, mas poucas conseguem manter as evidências atualizadas. A Be Human projeta e opera infraestrutura de IA personalizada, na qual cada agente mantém sua identidade, memória, canais, ferramentas, permissões e contexto operacional sob controle humano. Em um projeto gerenciado, o primeiro agente é delimitado a um papel útil e definido, com memória e ferramentas especificadas, limites de aprovação escritos e um critério de sucesso que pode ser observado. Monitoramento, avaliações recorrentes, revisão de permissões e mudanças controladas então seguem o ritmo definido pelo comitê, de modo que ele recebe evidências prontas, e não precisa reuni-las de memória antes de cada reunião. As decisões continuam com o comitê. A operação gerenciada prepara as evidências e executa o que o comitê aprova.
Se você está decidindo quem deve participar do comitê para o seu primeiro agente, comece pelo trabalho que o agente vai realizar e liste todos os departamentos que tocam nesse trabalho. Essa lista costuma indicar quais cadeiras são necessárias. Antes da primeira reunião, registre as três decisões que o comitê vai controlar e a fonte de evidência de que cada uma vai depender. Equipes que começam assim tendem a gastar suas reuniões decidindo, e não descobrindo quais são as decisões.
O diagnóstico gratuito de IA da Be Human pode ajudar a identificar a primeira tarefa que vale entregar a um agente, e essa escolha é o ponto natural de partida para a primeira decisão do comitê.
Perguntas frequentes
Quantas pessoas devem fazer parte de um comitê de governança de IA? Um comitê de três a cinco membros nomeados costuma bastar para uma empresa de médio porte. Cada membro deve ter uma responsabilidade clara, como orçamento, risco, operações ou resultado de negócio, e um substituto que possa agir quando ele não estiver disponível. Acrescentar mais membros, em geral, apenas atrasa as decisões sem trazer informação que o comitê precise.
Quem deve presidir o comitê? O presidente deve ser um executivo com autoridade sobre orçamento e prioridades, porque o comitê às vezes precisará aprovar gastos, mudar um fluxo de trabalho ou interromper um projeto que um departamento quer manter. Um líder técnico pode conduzir o lado operacional, mas o presidente deve ser alguém capaz de resolver divergências entre departamentos. Sem essa autoridade, as decisões tendem a travar no primeiro conflito.
Qual é a diferença entre uma mudança de rotina e uma decisão para o comitê? Uma mudança de rotina restringe o acesso de um agente, corrige um erro ou ajusta a redação sem alterar o que o agente tem permissão para fazer. O responsável por operações pode fazer essas mudanças e relatá-las. Qualquer mudança que amplie o acesso, acrescente uma ferramenta ou fonte de memória, ou eleve a autonomia do agente em um fluxo de trabalho vai ao comitê para aprovação, com escopo definido e data de revisão.
Como o comitê decide quando um agente pode fazer mais? Ele deve exigir evidências do monitoramento, das avaliações recorrentes e do histórico de incidentes, além de uma revisão do acesso que a nova ação exige. A aprovação deve ser condicional, limitada a um escopo definido e agendada para revisão. Se as evidências mostrarem desvio depois, o comitê restringe a permissão sem reabrir todo o estatuto.
Seu próximo passo
Descubra primeiro onde um agente de IA cabe na sua empresa.
Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.
Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.


