Carta de governança de IA para empresas: decisões e datas de revisão

Uma carta de governança de IA para empresas é um documento escrito curto, idealmente de uma página, que lista quais capacidades do agente existem, quem tem autoridade para aprovar cada uma, quais evidências essa pessoa precisa ver antes de aprovar e a data em que a aprovação será revista. Ela transforma a preocupação geral com IA em decisões nomeadas que um líder de operações consegue defender. O restante deste guia explica como escrever essa carta sem transformá-la em um manual de políticas.

Principais pontos

• Defina direitos de decisão para cada capacidade, como ler uma pasta, enviar uma mensagem ou alterar um registro, e não para cada ferramenta ou departamento.
• Nomeie um aprovador responsável por cada capacidade, além de um substituto que possa agir quando essa pessoa não estiver disponível.
• Associe uma data de revisão a cada aprovação, e revise com mais frequência as permissões de maior risco.
• Exija evidência de que o agente atende a um critério de sucesso escrito antes de aprovar ou ampliar qualquer capacidade.
• Mantenha a carta em uma página e guarde as evidências detalhadas nos sistemas onde o agente de fato roda.

Quais direitos de decisão a carta realmente governa?

Um direito de decisão é a autoridade para dizer sim a uma ação específica tomada por um agente. Muitas empresas descobrem, algumas semanas depois de um piloto começar, que o agente já consegue fazer mais do que alguém formalmente combinou. Ferramentas foram conectadas por conveniência, uma pasta compartilhada foi aberta ou um canal foi adicionado durante os testes e nunca foi removido. A carta fecha essa lacuna ao tornar cada permissão visível e com dono.

O NIST AI Risk Management Framework descreve o trabalho com risco de IA em termos de governar, mapear, medir e gerir o risco, com papéis e responsabilidades explícitos. Uma carta de uma página é a versão prática dessa ideia para uma equipe de liderança pequena. Ela não precisa cobrir todos os detalhes do modelo. Precisa responder a uma pergunta: quem decide o que o agente pode fazer, e com base em quê.

Separe três tipos de autoridade, porque cada um carrega um nível de risco diferente. O primeiro é o que o agente pode ler. O segundo é o que ele pode escrever, enviar ou alterar. O terceiro é o que ele pode decidir sem que uma pessoa confira o resultado. Ler um documento interno é uma permissão de baixo impacto. Enviar uma mensagem a um cliente, emitir um reembolso ou alterar um preço é uma permissão de alto impacto, e nunca deve compartilhar a mesma linha de aprovação da primeira.

O que deve estar nessa página?

Uma carta útil tem cinco blocos. Cada bloco deve caber em poucas linhas, para que um gestor leia o documento inteiro em poucos minutos.

• Finalidade: o único papel que o agente exerce e o resultado pelo qual ele é avaliado.
• Registro de capacidades: cada ação permitida, a ferramenta ou fonte de dados que ela toca e o canal que usa.
• Aprovadores: o responsável por cada capacidade, o substituto nomeado e as condições que exigem um segundo aprovador.
• Datas de revisão: quando cada aprovação é revista e quais eventos forçam uma revisão antecipada.
• Condições de parada: quem pode suspender uma capacidade imediatamente e como faz isso sem esperar uma reunião.

A carta deve apontar para as evidências, não contê-las. Resultados de testes, registros de interações e o histórico de mudanças pertencem aos sistemas onde o agente roda. A carta apenas declara onde essas evidências ficam e quem as acompanha. Empresas que já mantêm um processo interno de governança para fornecedores ou dados podem reaproveitar essa estrutura. Para um ponto de partida mais leve, o caminho descrito em Governança de IA para empresas: um início leve para médias empresas ajuda a manter a primeira versão curta.

Como nomear aprovadores sem criar gargalo?

Atribua aprovadores por capacidade, não apenas pelo cargo. Um responsável por operações pode aprovar o acesso de leitura a notas internas de processo. O líder de atendimento pode aprovar a redação de respostas, e essa mesma pessoa, junto com um aprovador da área financeira, pode ser exigida antes de qualquer etapa de reembolso. A pergunta para cada capacidade é simples: quem seria responsável se essa ação causasse dano, e quem entende a consequência para o negócio o suficiente para julgá-la?

A orientação de autorização da OWASP aponta para um padrão útil: negar o acesso a menos que ele tenha sido concedido de forma explícita, e conceder apenas os privilégios que a tarefa exige. Aplicado a uma carta, isso significa que uma capacidade que não está no registro não é permitida, mesmo que a ferramenta tecnicamente a suporte. Também significa que uma permissão concedida para um fim não cobre discretamente outro.

Para evitar gargalos, agrupe capacidades de baixo impacto sob uma aprovação padrão que o responsável pode assinar uma vez para um conjunto definido de ações. Reserve a assinatura individual para capacidades que mexem com dinheiro, dados pessoais, compromissos externos ou a própria configuração do agente. Não deixe que a pessoa que construiu ou configurou o agente seja a única a aprovar sua ampliação. Uma segunda pessoa deve ler as evidências, mesmo que a revisão leve poucos minutos.

Como definir datas de revisão que as pessoas de fato cumprem?

Uma data de revisão sem responsável é apenas um desejo. A carta precisa de um lembrete no calendário, de um revisor nomeado e de um checklist que torne a revisão rápida. Use a sequência abaixo na primeira vez e repita-a sempre que a carta mudar.

• Liste todas as capacidades que o agente tem hoje, incluindo as concedidas informalmente durante os testes.
• Classifique cada capacidade como de impacto baixo, médio ou alto, com base no que um erro afetaria.
• Atribua um aprovador e um substituto a cada capacidade, e registre a data da decisão.
• Defina o intervalo de revisão: mais longo para trabalho somente de leitura, mais curto para o que escreve, envia ou gasta.
• Adicione gatilhos de evento que forcem uma revisão antecipada, como uma nova ferramenta, uma nova fonte de dados, uma troca de modelo ou um incidente.
• Coloque a revisão em um calendário sob responsabilidade de uma pessoa nomeada e mantenha as evidências junto à carta.

Para a maioria das equipes, um ciclo trimestral funciona bem para o registro completo, com uma checagem curta após qualquer evento gatilho. Os passos em Revisão trimestral de permissões de agentes de IA: checklist prático mostram o que inspecionar em cada ciclo. Quando uma capacidade precisar mudar, encaminhe o pedido por um registro escrito para que o histórico de aprovações se mantenha íntegro.

Cenário ilustrativo: um agente de atendimento pede acesso de escrita

O cenário a seguir é ilustrativo e não descreve um cliente real. Imagine um agente interno que responde perguntas da equipe a partir de uma base de conhecimento e redige respostas para o time de atendimento. Pela carta, o acesso de leitura à base foi aprovado pela líder de atendimento, com revisão trimestral. Depois, a equipe pede permissão para alterar o status de chamados, para que o agente possa encerrar solicitações resolvidas.

Como se trata de uma nova capacidade de escrita, ela não está coberta pela aprovação existente. A líder de atendimento continua como aprovadora principal. O pedido é revisto contra um registro de respostas redigidas que uma pessoa precisou corrigir, o que mostra onde o agente é confiável e onde não é. A aprovação é concedida apenas para mudanças de status em uma categoria definida de chamados. Reembolsos ficam fora do registro de capacidades, e qualquer pedido para incluí-los exigiria um aprovador da área financeira e uma revisão de evidências separada. A nova capacidade recebe uma data de revisão em quatro semanas, e a carta lista a ferramenta de chamados como gatilho, de modo que qualquer mudança nessa ferramenta force uma checagem antes de o agente continuar.

Repare no que a carta fez neste caso. Ela não impediu a equipe de melhorar o agente. Ela tornou a ampliação visível, deu a ela um responsável e definiu o momento em que alguém voltaria a olhar.

Como uma abordagem gerenciada mantém a carta atualizada?

No modelo gerenciado da Be Human, a carta é escrita durante o primeiro projeto, quando a empresa define um papel útil, a memória e as ferramentas que esse papel precisa, os limites de aprovação e um critério de sucesso observável. Depois disso, a operação gerenciada cobre as partes da governança que se deterioram com o tempo: revisão recorrente de permissões, manutenção das integrações, resposta a incidentes e melhorias controladas que passam por aprovações. O cliente mantém a autoridade de aprovação sobre cada capacidade. A Be Human prepara as evidências, o registro de mudanças e a data de revisão proposta, para que a decisão possa ser tomada com rapidez e sem achismos. Para quem quer entender o que envolvem os primeiros meses desse arranjo, o texto sobre Como são os primeiros meses com um agente de IA gerenciado descreve a sequência típica. Se ainda não está claro qual tarefa deve ser a primeira entregue a um agente, o diagnóstico gratuito de IA da Be Human pode ajudar a encontrá-la.

Perguntas frequentes

Quão longa deve ser uma carta de governança de IA? Ela deve caber em uma página, porque um documento que ninguém lê não oferece controle. A página deve nomear o papel, as capacidades, os aprovadores, as datas de revisão e as condições de parada. Resultados detalhados de testes e registros pertencem aos sistemas onde são gerados e são referenciados pela carta.

Quem deve assinar a carta? Ela deve ser assinada pelo executivo responsável pelo resultado de negócio que o agente apoia e pela pessoa responsável pelos sistemas que o agente toca. Os aprovadores de cada capacidade também devem assinar ou confirmar suas responsabilidades. Uma assinatura sem um responsável nomeado para cada capacidade acrescenta pouco, por isso o registro importa mais que o bloco de assinatura.

Com que frequência as aprovações devem ser revistas? Capacidades de baixo impacto e somente de leitura podem ser revistas trimestralmente, enquanto capacidades que escrevem, enviam ou gastam precisam de intervalos mais curtos. Qualquer nova ferramenta, nova fonte de dados, troca de modelo ou incidente deve disparar uma revisão antecipada, independentemente do calendário. O intervalo certo é aquele que o revisor nomeado consegue de fato cumprir.

Uma carta de governança substitui a revisão jurídica ou de privacidade? Não. A carta define direitos de decisão internos, mas não substitui a orientação de um advogado ou de um especialista em privacidade. Se um agente trata dados pessoais, empresas brasileiras devem verificar as obrigações previstas na LGPD e as orientações da ANPD, e empresas que atendem usuários europeus devem considerar o EU Artificial Intelligence Act. Essas verificações devem ser registradas como evidências anexadas à capacidade correspondente.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.