Comitê de superinteligência da empresa: uma carta de governança para IA

Um comitê de superinteligência, na prática, é um pequeno grupo permanente que decide como os sistemas de IA mais capazes da empresa podem agir, quem aprova mudanças neles e quais evidências precisa revisar antes de ampliar o alcance deles. A maioria das empresas de porte médio não precisa de muitos membros nem de um mandato longo. Precisa de uma carta de uma página que nomeie as decisões que o grupo controla, o nível de aprovação ligado a cada tipo de ação e um conjunto fixo de itens revisados a cada trimestre.

Principais pontos

• A carta deve caber em uma página e nomear as decisões que o grupo controla, não apenas os temas que ele pode discutir.
• Atribua níveis de aprovação pela consequência: o que um agente pode ler, alterar, enviar, gastar ou assumir em nome da empresa.
• Mantenha o grupo pequeno e dê a cada cadeira uma responsabilidade que não pode ser delegada.
• Revise o mesmo pacote curto de evidências todo trimestre: permissões, incidentes, resultados de avaliação, mudanças e riscos abertos.
• Reabra a carta quando um agente ganhar nova ferramenta, nova fonte de memória ou novo canal, e não apenas quando o calendário mandar.

Por que um comitê de IA precisa de uma carta por escrito

Empresas geralmente descobrem o problema de governança de lado. Uma equipe comercial conecta um assistente aos registros de clientes, um líder de operações acrescenta uma ferramenta que escreve em uma pasta compartilhada e, meses depois, ninguém consegue dizer quem aprovou o acesso ou quem responde quando a saída está errada. Um grupo de direção interrompe essa deriva. A carta transforma uma conversa informal em uma obrigação permanente, com limites definidos.

O termo superinteligência descreve para onde o campo pode caminhar, mas a tarefa de governança de uma empresa é concreta agora. Os sistemas que você opera têm memória, ferramentas, permissões e contexto operacional, e cada um desses elementos muda o que a empresa consegue fazer. O NIST AI Risk Management Framework trata a governança como uma função contínua, e não como uma aprovação única. A carta é o documento mais simples que torna essa função real, porque define quem decide, com base em quê e quando a decisão será revista.

Quem senta no comitê e o que cada cadeira responde

Mantenha o grupo com quatro ou cinco pessoas. Uma composição típica inclui um patrocinador executivo com autoridade final sobre escopo e orçamento, um líder de operações responsável pelos processos que os agentes tocam, um responsável de tecnologia pelas integrações e acessos, um representante de finanças ou riscos que revisa gastos e exposição, e alguém responsável pelas questões de dados e jurídicas. Empresas menores podem combinar cadeiras, mas somente quando a mesma pessoa puder responder pelas duas responsabilidades.

Dê a cada cadeira uma coisa que ela possui por completo. O patrocinador tem a palavra final sobre para que serve um agente. O líder de operações é dono do critério de sucesso e dos testes de aceitação de cada função. O responsável de tecnologia é dono do mapa de permissões, que lista cada ferramenta, fonte de memória e canal que um agente possui. Quando uma cadeira não tem um objeto de responsabilidade claro, o comitê tende a virar uma reunião que aprova tudo o que chega. Para uma visão mais ampla de como a governança se encaixa em uma empresa desse porte, veja Superinteligência empresarial e governança de agentes de IA.

Direitos de decisão: o que o grupo decide e o que não decide

Direitos de decisão definem quem pode tomar qual decisão. Escreva-os como verbos, para que cada um possa ser verificado. O comitê deve ter os seguintes direitos:

• Aprovar uma nova função de agente junto com seu critério de sucesso.
• Aprovar qualquer nova conexão de ferramenta, fonte de memória ou canal de saída.
• Definir o nível de aprovação que se aplica a cada classe de ação do agente.
• Pausar ou desativar um agente após um incidente ou uma revisão reprovada.
• Aceitar as conclusões trimestrais e designar um responsável nomeado para cada item de correção.

O comitê não deve cuidar do direcionamento de tarefas do dia a dia, dos ajustes rotineiros de instruções dentro de uma função já aprovada, nem de exceções para chamados individuais. Essas questões pertencem ao responsável nomeado pelo agente, que as relata no pacote trimestral. Manter essa linha clara evita que o comitê vire um gargalo e mantém a atenção dele em decisões que mudam a exposição da empresa.

Níveis de aprovação: um guia de decisão para ações de agentes

Os níveis de aprovação devem seguir a consequência, não a tecnologia usada. Um esquema viável tem quatro níveis, e cada ação do agente deve ser associada a exatamente um deles.

• Nível um, ler e rascunhar: o agente lê fontes aprovadas e produz rascunhos internos. O responsável pelo agente aprova a função uma única vez, e nenhuma ação individual precisa de assinatura.
• Nível dois, alteração interna reversível: o agente atualiza registros internos que podem ser restaurados a partir de um estado conhecido. O responsável revisa o registro de mudanças ao fim de cada semana.
• Nível três, ação externa ou com compromisso: o agente envia mensagens para fora da empresa, assume gastos ou altera um registro voltado ao cliente. Uma pessoa nomeada aprova cada ocorrência ou um lote definido.
• Nível quatro, restrito: qualquer coisa que envolva dados pessoais, compromissos de preço, termos contratuais ou credenciais. O comitê aprova por escrito, com justificativa e data de expiração.

O acesso deve seguir o princípio do menor privilégio, e cada ação deve ser conferida contra a permissão concedida àquela função, e não presumida a partir de usos anteriores. O OWASP Authorization Cheat Sheet é uma referência útil para as perguntas que devem ser feitas ao responsável de tecnologia.

Cenário ilustrativo: uma empresa regional de serviços dá ao agente acesso de leitura ao histórico de atendimentos e permissão para rascunhar respostas a clientes. O comitê classifica a elaboração de rascunhos no nível um e o envio no nível três, de modo que um coordenador nomeado aprova cada mensagem. Depois que a primeira revisão trimestral mostra que os rascunhos precisam de poucos ajustes e que o registro de incidentes está limpo, o comitê passa uma categoria estreita de confirmações rotineiras para aprovação em lote. A mudança fica registrada, datada e pode ser revisada.

O que o grupo revisa a cada trimestre

A reunião trimestral deve ser curta e baseada em evidências. Peça a cada responsável que traga sempre o mesmo pacote, para que as tendências fiquem visíveis e ninguém dependa da memória. O pacote padrão deve conter os seguintes itens:

• O mapa de permissões, comparando cada ferramenta, fonte de memória e canal que um agente possui com o que a função exige.
• Incidentes e quase incidentes, incluindo como cada um foi detectado e se os níveis de aprovação funcionaram como previsto.
• Resultados de avaliação em relação ao critério de sucesso definido no início, medidos sobre o mesmo conjunto de testes para que as mudanças sejam comparáveis.
• Cada mudança aprovada, seu motivo e se ela foi revertida depois.
• Uso e custo, lidos como custo unitário frente às expectativas do responsável pelo orçamento, seguindo a abordagem descrita pela FinOps Foundation.
• Riscos abertos, incluindo a exposição a injeção de instruções por documentos externos ou páginas da web, tema que as orientações da OWASP sobre prevenção de prompt injection tratam com detalhe prático.
• Cada decisão tomada, com seu responsável e a próxima data de revisão.

Para uma versão passo a passo da parte de permissões desse pacote, veja Revisão trimestral de permissões de agentes de IA: checklist prático.

Como escrever a carta em uma página

Uma boa carta é curta o bastante para ser lida antes de cada reunião. Siga esta ordem:

• Declare o propósito em duas frases: quais agentes o comitê governa e por que a empresa precisa de um grupo permanente.
• Liste os membros por cadeira, com a responsabilidade única que cada um detém.
• Escreva os direitos de decisão como verbos e separe as decisões do comitê da operação rotineira.
• Associe os quatro níveis de aprovação a tipos de ação, usando exemplos extraídos dos seus próprios processos.
• Defina a pauta trimestral e o pacote de evidências, indicando o responsável por cada item.
• Defina um caminho de emergência: quem pode pausar um agente entre as reuniões e como essa pausa é registrada e reportada.
• Fixe uma data de revisão para a própria carta, junto com os eventos que a reabrem antes, como uma nova conexão de ferramenta ou uma nova função de agente.

Guarde a carta junto ao mapa de permissões e versione-a como qualquer outro documento operacional. Quando uma equipe pedir uma nova capacidade, encaminhe o pedido pelo mesmo caminho documentado, para que o comitê veja o que mudou e por quê. O fluxo de solicitação e aprovação de mudanças merece um procedimento próprio, escrito e de acesso fácil.

Como a abordagem gerenciada da Be Human apoia o comitê

A Be Human projeta, implanta e opera infraestrutura de IA personalizada, em que cada agente mantém sua identidade, memória, canais, ferramentas, permissões e contexto operacional sob controle humano. Uma primeira etapa define uma função útil, a memória e as ferramentas que ela precisa, os limites de aprovação e um critério de sucesso observável, o que dá ao comitê um objeto concreto para governar, em vez de uma ambição geral. A operação gerenciada então fornece monitoramento, avaliações recorrentes, revisão de permissões, resposta a incidentes e melhorias controladas. Esses registros formam o pacote de evidências que o grupo revisa a cada trimestre, de modo que a reunião trabalha com o que o agente realmente fez. As mudanças seguem um caminho de solicitação documentado, para que o comitê veja cada alteração em permissões, ferramentas ou níveis de aprovação.

Se ainda não estiver claro qual tarefa deve vir primeiro dentro de uma carta como essa, o diagnóstico gratuito de IA da Be Human pode ajudar a identificar a primeira tarefa que vale a pena entregar a um agente.

Perguntas frequentes

Com que frequência um comitê de superinteligência deve se reunir? Uma vez por trimestre é um padrão sensato para a revisão permanente, com uma sessão extra quando um incidente, uma nova conexão de ferramenta ou uma nova função de agente exigir uma decisão. Entre as reuniões, o patrocinador e o responsável de tecnologia devem ter um poder definido para pausar um agente e registrar essa pausa por escrito. Decisões curtas e escritas costumam pesar mais do que reuniões longas.

Uma empresa pequena precisa mesmo de um comitê? Uma empresa pequena pode precisar apenas de um patrocinador e de um responsável técnico que mantenham uma carta curta. A necessidade central continua a mesma: uma lista escrita de decisões, níveis de aprovação e uma revisão regular do que os agentes podem acessar. Combinar cadeiras é aceitável quando uma só pessoa puder responder pelas duas responsabilidades.

Quem deve presidir o comitê? O patrocinador executivo costuma ser o presidente mais adequado, porque esse papel carrega a autoridade final sobre escopo e orçamento. O presidente define a pauta e garante que cada decisão seja registrada com um responsável e uma data de revisão. O responsável de tecnologia deve participar de todas as reuniões, já que questões de acesso costumam ser resolvidas ali.

O que acontece quando o comitê discorda? Registre a divergência e as opções consideradas, e deixe que o patrocinador decida dentro dos limites da carta. Se a questão envolver uma ação de nível quatro, exija justificativa por escrito e uma data de expiração para a aprovação. Reavalie a decisão na revisão trimestral seguinte, usando as evidências que o grupo reuniu nesse intervalo.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.