Carta de governança de superinteligência na empresa: papéis e revisões de conselho
Uma carta curta de governança para a capacidade de IA da empresa: quem é o dono, quem aprova mudanças e com que frequência o conselho revisa.

Uma carta de governança para a capacidade de IA da empresa é um documento escrito e curto que define quem responde pela capacidade, quem pode aprovar mudanças no que um agente pode ver e fazer, e com que frequência o conselho revisa ambos. Escreva essa carta antes que qualquer agente receba acesso mais amplo, e baseie-a na capacidade que existe hoje, não em previsões sobre quando sistemas mais fortes vão chegar. Algumas páginas, assinadas por um patrocinador do conselho e ligadas a datas fixas de revisão, bastam para a maioria das empresas pequenas e médias começarem a governar a IA com responsabilidade.
Principais pontos
- Nomeie um patrocinador do conselho e um responsável operacional para a capacidade de IA da empresa, cada um com um substituto definido.
- Separe a autoridade para aprovar novas ferramentas, fontes de dados e escopos de memória da autoridade para executar o trabalho rotineiro do agente.
- Construa cada revisão em torno de evidências: registros, resultados de avaliações, incidentes e mudanças de permissão.
- Defina as datas de revisão pelo calendário e por gatilhos, para que um incidente ou uma troca de fornecedor force uma revisão entre as reuniões programadas.
- Escreva a carta em torno de controles observáveis, não de cronogramas previstos.
O que a carta do conselho precisa cobrir
A maioria das empresas não precisa de um manual de governança. Precisa de um documento que responda a cinco perguntas simples: para que serve a capacidade de IA, quem responde por ela, o que ela pode tocar, quem pode mudar esses limites e como o conselho vai saber se os limites ainda valem. A Estrutura de Gestão de Riscos de IA do NIST (AI RMF) organiza o trabalho de risco em quatro funções: governar, mapear, medir e gerenciar. A função de governar atribui responsabilidades para as outras três, e a carta do conselho é a versão curta dessa atribuição. Os Princípios de IA da OCDE também tratam a prestação de contas como valor central, o que significa que uma pessoa ou um órgão precisa ser identificável pelos resultados que um sistema de IA produz.
A carta deve ser curta o bastante para que um conselheiro a leia em uma única sentada. Se ela crescer além disso, os detalhes normalmente pertencem a um procedimento operacional para o qual a carta aponta. Para uma visão mais ampla de como a responsabilidade se divide dentro da empresa, o texto Comitê de governança de IA: carta, membros e pauta mensal para empresas pequenas mostra um arranjo prático.
Cinco papéis que a carta nomeia
A carta nomeia papéis, não descrições de cargo. Cada papel precisa de um titular nomeado e de um substituto que já tenha praticado o trabalho.
- Patrocinador do conselho: detém a responsabilidade final, recebe o resumo das revisões e decide as aprovações contestadas.
- Dono da capacidade: define para que o agente serve e assume os resultados de negócio e os compromissos assumidos com clientes.
- Responsável operacional: mantém o agente em funcionamento, lê os registros, executa as avaliações e abre os registros de incidentes.
- Responsável por dados e privacidade: confirma quais dados pessoais e corporativos o agente guarda, onde fica sua memória e por quanto tempo ela é mantida.
- Revisor de segurança: verifica as credenciais das ferramentas, o escopo das permissões e a exposição a conteúdo externo, como e-mails recebidos ou páginas da web.
Pequenas empresas costumam acumular papéis, e isso é viável se duas regras sobreviverem à acumulação. A pessoa que aprova uma mudança não deve ser a única a revisar os registros dela, e nenhum substituto pode existir apenas no papel. Para uma visão mais precisa de onde a autoridade deve ficar, o texto Pontos de controle para agentes de IA: cinco lugares para decidir é um bom complemento.
Autoridade de aprovação: quem assina o quê
A autoridade de aprovação deve seguir o risco da mudança, não o cargo de quem pede. O guia abaixo pode fazer parte da carta como uma tabela de decisão, apresentada aqui em forma de lista.
- Mudanças na finalidade do agente, em seus compromissos com clientes ou no público atendido vão para o dono da capacidade e para o patrocinador do conselho.
- Novas ferramentas, novas fontes de dados ou escopos de memória mais amplos vão para o responsável por dados e para o revisor de segurança antes da ativação.
- Permissões que permitem pagamentos, mensagens enviadas a clientes ou exclusão de registros exigem aprovação de duas pessoas.
- Mudanças rotineiras de redação, formatos de relatório e agendas vão para o responsável operacional e ficam registradas no registro de mudanças.
- Qualquer assunto que envolva retenção jurídica, uma categoria regulada de dados pessoais ou uma reclamação formal vai para o patrocinador do conselho no mesmo dia.
As orientações de autorização da OWASP apontam na mesma direção: conceda o acesso mínimo que a tarefa exige e negue tudo o que não estiver explicitamente permitido. Aplique essa regra ao agente da mesma forma que aplicaria a um funcionário novo. Os limites da regra de duas pessoas merecem revisão própria, e o texto Aprovação humana para agentes de IA: onde as pessoas assinam trata deles em detalhe.
Ritmo de revisão: quando o conselho olha
Uma data de revisão que existe apenas como uma frase no documento tende a não acontecer. Coloque cada revisão no calendário da empresa, com um responsável e uma pauta, e mantenha três tipos de revisão.
- Mensal: o responsável operacional envia um resumo escrito com incidentes, mudanças de permissão, resultados de avaliações e exceções em aberto.
- Trimestral durante o primeiro ano, depois semestral quando a operação estiver estável: o conselho revisa o resumo, confirma os titulares dos papéis e decide se algum grupo de permissões deve mudar.
- Orientada por eventos: um incidente, uma mudança de modelo ou de fornecedor de ferramenta, uma nova fonte de dados, uma reclamação de cliente ou a saída de um funcionário que tinha acesso a ferramentas disparam uma revisão na mesma semana.
As avaliações alimentam o resumo mensal. As diretrizes da Anthropic sobre avaliações de agentes de IA descrevem a medição do comportamento do agente com tarefas definidas e verificações repetíveis, em vez de depender de algumas demonstrações impressionantes. O responsável operacional também precisa de registros para ler, e a introdução do OpenTelemetry à observabilidade explica os logs, traces e métricas que tornam esses registros úteis.
Nada nesse ritmo depende de prever quando sistemas mais capazes vão aparecer. Ele depende do que a empresa observou na própria operação, que é a única evidência que um conselho consegue verificar.
Passo a passo: adote a carta em uma reunião
Uma primeira carta pode ser aprovada em uma única reunião, desde que o material seja preparado antes.
- Escreva a finalidade da capacidade em duas frases e declare o que o agente nunca deve fazer.
- Nomeie os cinco papéis, com um substituto para cada um, e confirme por escrito que cada pessoa aceita o papel.
- Liste cada ferramenta, fonte de dados e escopo de memória que o agente tem hoje, junto com a credencial que cada um usa.
- Classifique cada permissão em um de três grupos: executa sem aprovação, executa após aprovação ou não é permitida.
- Aplique o guia de aprovação a cada grupo e registre quem assina cada tipo de mudança.
- Lance as datas de revisão mensal, trimestral e por eventos no calendário da empresa, com um responsável nomeado.
- Defina o pacote de evidências que cada revisão deve conter: uma amostra de registros, resultados de avaliações, a lista de incidentes e as mudanças de permissão.
- Peça ao patrocinador do conselho que assine a carta e guarde-a onde o próximo conselheiro consiga encontrá-la.
Cenário ilustrativo: um agente de atendimento pede mais acesso
Este cenário é ilustrativo e não descreve uma empresa específica. Um agente de atendimento ao cliente redige respostas e consulta o status dos pedidos. O responsável operacional propõe acesso de leitura ao sistema de cobrança para que o agente possa responder perguntas sobre reembolso. Pela carta, isso é uma nova fonte de dados. O responsável por dados verifica quais dados pessoais os registros de cobrança expõem, e o revisor de segurança verifica o escopo da credencial. O pedido aguarda as duas aprovações, e o patrocinador do conselho o vê no resumo mensal.
Pouco depois da aprovação da mudança, uma avaliação mostra o agente citando uma regra de reembolso que havia mudado no mês anterior. O gatilho de evento força uma revisão antes da próxima reunião programada. A equipe mantém o agente apenas com o status dos pedidos, corrige a fonte da regra, registra o incidente e roda a avaliação de novo antes de reconsiderar qualquer acesso a reembolsos. A carta não impediu o erro, mas tornou o erro visível, atribuiu-o a um responsável nomeado e limitou o seu alcance.
Como a abordagem gerenciada da Be Human lida com isso
A Be Human projeta e opera agentes de IA personalizados cuja identidade, memória, canais, ferramentas, permissões e contexto de operação permanecem sob controle humano. Um primeiro projeto define um papel útil, a memória e as ferramentas de que ele precisa, seus limites de aprovação e um critério de sucesso observável, o que dá à carta algo concreto para governar. A operação gerenciada pode incluir monitoramento, avaliações recorrentes, manutenção de integrações, revisão de permissões, resposta a incidentes e melhorias controladas, para que o responsável operacional e o revisor de segurança trabalhem com um calendário permanente, e não com um documento lido uma única vez. A Be Human não define o apetite de risco da empresa: quem faz isso é o conselho, e a carta registra essa decisão. Se você não tem certeza de qual tarefa deve ir primeiro para um agente, faça o diagnóstico gratuito de IA da Be Human para identificar a primeira tarefa que vale a pena delegar.
Perguntas frequentes
Uma pequena empresa realmente precisa de uma carta de governança para IA? Sim, se as ferramentas de IA puderem ler dados da empresa, enviar mensagens ou alterar registros. A carta não precisa ser longa, mas deve dizer quem é responsável pela capacidade, quem aprova mudanças e quando o conselho revisa as evidências. Sem isso, as decisões acabam sendo tomadas por quem instalou a ferramenta por último.
Quem deve assinar a carta? O patrocinador do conselho deve assinar, porque ele carrega a responsabilidade final e resolve as divergências. O dono da capacidade e o responsável operacional também devem confirmar seus papéis por escrito. Os papéis nomeados, os substitutos e as entradas no calendário importam mais do que as assinaturas em si.
Em que a carta difere de uma política de uso de IA? A política de uso de IA diz aos funcionários o que podem fazer com ferramentas de IA no trabalho do dia a dia. A carta de governança rege a capacidade de agentes própria da empresa, incluindo finalidade, permissões, aprovações e revisões. Muitas empresas precisam dos dois documentos, e a política de uso pode remeter à carta para as regras específicas de agentes.
A carta deve mencionar sistemas superinteligentes futuros? Ela não deve depender de previsões sobre eles. Escreva a carta em torno da capacidade que você opera hoje e dos controles que você consegue observar. Quando a capacidade mudar, o gatilho por evento força uma revisão, e a carta é atualizada com evidências, e não com suposições sobre quando as mudanças vão acontecer.
Seu próximo passo
Descubra primeiro onde um agente de IA cabe na sua empresa.
Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.
Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.


