Controles de IA para empresas reguladas: evidências antes de ampliar
Como empresas reguladas definem controles para agentes de IA e reúnem evidências antes de ampliar o escopo: limites, registros, testes, donos e revisão.

Controles de IA para empresas reguladas são os limites de escopo, as permissões, as regras de aprovação, os registros, os testes e os responsáveis nomeados que mantêm um agente dentro do que ele pode fazer. Antes de ampliar o acesso de um agente, a empresa deve ter evidências de que cada controle existente funciona na prática, inclusive nos casos em que foi contornado, falhou ou nunca foi acionado. Ampliar o escopo é uma decisão apoiada em registros, não uma melhoria de funcionalidade nem uma garantia do fornecedor.
Principais pontos
- Trate cada permissão, etapa de aprovação e registro como uma afirmação que precisa de prova, e guarde essa prova.
- Escreva o escopo, o responsável e as condições de parada do agente antes de mudar seu acesso, não depois que um problema aparecer.
- Amplie uma dimensão por vez (dados, ferramentas, canais ou valor das ações) e preserve intactas as evidências anteriores.
- Coloque uma pessoa em qualquer ação externa, irreversível, financeira ou que toque dados pessoais regulados.
- Revise uma amostra do trabalho do agente em uma cadência compatível com o risco, e registre o que cada revisor encontrou.
O que conta como controle para um agente de IA?
Para um agente de negócio, controle é qualquer mecanismo que limite o que o agente pode ver, decidir ou fazer, e que alguém consiga inspecionar. Empresas reguladas já operam controles para a equipe: acesso por perfil, aprovação de mudanças, segregação de funções e trilhas de auditoria. O agente precisa de equivalentes, porque age por meio de ferramentas e canais construídos para pessoas e não avalia o contexto da mesma forma que uma pessoa.
Um conjunto útil de controles cobre sete áreas. A identidade define qual conta o agente usa e como essa conta aparece nos registros. A memória define o que o agente pode armazenar, onde e por quanto tempo. As ferramentas definem quais sistemas ele pode acionar e quais operações cada chamada pode executar. Os canais definem onde ele pode enviar mensagens. As aprovações definem quais ações aguardam uma pessoa. O registro define o que é gravado, quem pode ler e por quanto tempo é mantido. O caminho de parada define como o trabalho é interrompido sem perder registros nem tarefas em fila.
O Framework de Gerenciamento de Riscos de IA do NIST organiza o trabalho em torno de governar, mapear, medir e gerenciar. Não é preciso adotá-lo integralmente para aproveitar a distinção que ele faz entre definir um risco e medir se o controle de fato o reduz. Cada controle do seu conjunto deve nomear o risco que trata e a observação que mostra que ele funciona.
Como escrever o escopo antes de ampliá-lo?
A maior parte dos problemas de expansão começa com um escopo que nunca foi escrito. O agente foi criado para uma tarefa, assumiu uma segunda porque era conveniente e depois ganhou acesso a um terceiro sistema porque um colega pediu. Um escopo escrito interrompe esse desvio. Use esta sequência antes de qualquer mudança de acesso:
- Nomeie o papel em uma frase e declare o que o agente não faz.
- Liste todos os sistemas, categorias de dados e canais que o agente toca hoje, incluindo os adicionados informalmente.
- Atribua um responsável de negócio nomeado, que possa aprovar mudanças e pausar o agente.
- Defina o critério de sucesso como algo observável, como uma fila zerada com decisão registrada de um revisor.
- Escreva as condições de parada: os eventos que pausam o agente automaticamente ou enviam o trabalho para uma pessoa.
- Defina uma data de revisão e as evidências que justificariam reabrir o escopo.
A declaração de escopo é curta de propósito. Se ocupar várias páginas, ninguém a lerá antes de uma mudança, e o responsável não saberá dizer se um novo pedido está dentro dela.
Quais evidências ter antes de qualquer expansão?
Um pacote de evidências é o conjunto de registros que permite a alguém de fora do projeto verificar se o agente continua dentro dos seus limites. Reguladores, auditores, seguradoras e áreas internas de risco pedirão subconjuntos diferentes, mas o núcleo do pacote é parecido entre setores. Monte-o antes do pedido de expansão, não durante a revisão.
- Uma declaração de escopo atual, datada e aprovada pelo responsável de negócio.
- Um inventário de ferramentas, credenciais e canais, com a permissão que cada um concede e quem a emitiu.
- Um inventário de memória: o que é armazenado, onde fica, o prazo de retenção e como a exclusão é verificada.
- Amostras de registros mostrando a entrada, a chamada de ferramenta, a saída e o aprovador, quando houve aprovação.
- Os resultados do conjunto de testes mais recente, incluindo falhas e a mudança feita em resposta.
- Um registro de cada contorno, pausa e incidente, com a causa e o controle que foi ajustado.
- Os termos do fornecedor sobre tratamento de dados e suboperadores, revisados em relação aos dados que o agente vai manipular. A pergunta sobre suboperadores de dados do fornecedor de IA é um bom ponto de partida.
- Um teste de revogação: o tempo medido para remover o acesso do agente e confirmar que ele deixou de funcionar.
Os registros de decisões merecem atenção especial. Quando um agente toma uma ação que depois precisa ser explicada, a pergunta raramente é se a saída estava correta. A pergunta é se alguém consegue reconstruir o que o agente sabia, qual regra se aplicou e quem era responsável. O guia sobre registros de decisões cobre o que capturar no momento da ação.
Um registro que não pode ser ligado a um escopo, a um responsável e a uma regra é um registro de atividade, não uma evidência de controle.
Onde uma pessoa deve aprovar a ação do agente?
Os limites de aprovação são o controle mais visível e o mais fácil de configurar com frouxidão. Uma abordagem viável classifica as ações por reversibilidade, público afetado e sensibilidade dos dados, e então atribui a cada classe um nível de envolvimento humano. O objetivo é colocar pessoas onde um erro é difícil de desfazer, não fazer com que cada tarefa pequena passe por uma fila que ninguém esvazia.
- Leituras de informações internas e não sensíveis: o agente pode agir sozinho, com revisão por amostragem.
- Rascunhos que uma pessoa nomeada revisa e envia: o agente pode prepará-los, mas a pessoa envia.
- Mensagens a clientes ou outras partes externas: uma pessoa aprova cada mensagem até que as revisões por amostragem mostrem um padrão estável.
- Movimentação de dinheiro, alterações em cadastros de clientes ou fornecedores e exclusão de dados: duas pessoas aprovam, e a aprovação fica registrada.
- Ações envolvendo dados pessoais regulados, informações de saúde ou registros financeiros: aprovação mais uma verificação escrita da base legal do tratamento.
- Qualquer ação que não possa ser revertida: nenhuma autonomia até que um caminho de reversão tenha sido testado.
O guia sobre aprovação humana para agentes de IA descreve como decidir onde fica a assinatura em cada fluxo. Seja qual for a escolha, escreva o papel do aprovador, não apenas um nome, para que o controle sobreviva a trocas de equipe.
Como testar os controles e mostrar que se sustentam?
Um controle que nunca foi exercitado é uma hipótese. Testar transforma essa hipótese em evidência, e o teste deve incluir casos com boa chance de falhar. Para agentes que leem mensagens recebidas, um desses casos é uma instrução escondida no conteúdo da mensagem, que o agente pode tratar como pedido. A orientação da OWASP sobre injeção de prompt explica por que conteúdo não confiável precisa ficar separado das instruções e ferramentas do agente, e é uma boa referência para incluir esses casos no seu conjunto de testes.
A amostragem é a versão contínua do teste. Uma pessoa revisa uma seleção do trabalho do agente em uma cadência definida, registra o resultado e alimenta as falhas de volta ao conjunto de testes. A cadência deve acompanhar o risco: mais frequente para mensagens externas e dados sensíveis, menos para resumos internos. A abordagem de auditoria por amostragem mostra como decidir com que frequência uma pessoa deve conferir.
Para que os registros sirvam como evidência, eles precisam de uma estrutura consistente. Os conceitos de observabilidade do OpenTelemetry descrevem rastros, métricas e logs como sinais complementares, o que se encaixa bem no trabalho de agentes: o rastro mostra a cadeia de etapas, as métricas mostram a tendência, e os logs guardam o detalhe necessário para uma revisão.
Cenário ilustrativo: uma equipe de suporte usa um agente para redigir respostas sobre cobranças. O primeiro pacote de evidências mostra que os rascunhos estão corretos em reembolsos, mas às vezes citam uma página de política desatualizada. Antes de permitir que o agente envie respostas sem revisão, a equipe acrescenta os casos que falharam ao conjunto de testes, aponta o agente para uma fonte de política com data de vigência visível e faz amostragem dos rascunhos toda semana. A ampliação só acontece quando as revisões por amostragem seguem limpas em ciclos consecutivos. A equipe registra cada passo, para que um auditor veja o que mudou e por quê.
Quando é seguro ampliar o escopo de um agente?
A expansão deve ser um evento deliberado, com registro próprio. Antes de aprová-la, o responsável deve conseguir responder sim para cada um dos itens a seguir:
- O escopo atual foi revisado, e o pacote de evidências está completo e atualizado.
- Os resultados mais recentes de testes e amostragens não mostram falhas em aberto na área que será ampliada.
- As novas permissões são o mínimo necessário, e cada uma está ligada a uma ferramenta ou canal nomeado.
- O limite de aprovação para a nova ação está escrito, e o aprovador conhece o seu papel.
- O teste de revogação continua passando após a mudança, e o caminho de reversão foi exercitado.
- Alguém de fora do projeto leu a solicitação de mudança e consegue explicá-la em linguagem simples.
Se qualquer resposta for não, amplie menos ou espere. Uma abordagem por etapas, em que cada fase tem seu próprio portão e suas evidências, é descrita no guia sobre portões por etapa para autonomia de agentes.
A Be Human projeta, implementa e opera infraestrutura de IA personalizada para empresas, incluindo agentes que mantêm identidade, memória, canais, ferramentas, permissões e contexto operacional sob controle humano. Uma primeira etapa define um papel útil, a memória e as ferramentas que esse papel precisa, seus limites de aprovação e um critério de sucesso observável. A operação gerenciada pode acrescentar monitoramento, avaliações recorrentes, manutenção de integrações, revisão de permissões, resposta a incidentes e melhorias controladas, para que o pacote de evidências fique atualizado em vez de ser refeito antes de cada revisão. O trabalho é remoto e disponível em inglês e português.
Se você não tem certeza de quais fluxos estão prontos para um agente e quais precisam de mais controles antes, faça o diagnóstico gratuito de IA da Be Human para identificar a primeira tarefa que vale entregar a um agente.
Perguntas frequentes
Empresas reguladas precisam de um programa completo de governança de IA antes de implantar um agente? Não necessariamente no início. Um único agente com escopo escrito, responsável nomeado, limite de aprovação e um registro que possa ser revisado já é uma base viável. A governança cresce conforme aumentam o número de agentes, as categorias de dados e os canais externos, e os controles descritos aqui acompanham esse crescimento.
Com que frequência uma pessoa deve revisar o trabalho de um agente? Não existe um intervalo universal, porque a frequência certa depende do risco. Revise mensagens externas, dados sensíveis e ações irreversíveis com mais frequência do que resumos internos, e deixe que os resultados da amostragem orientem qualquer mudança. Registre cada revisão para que a frequência possa ser justificada depois.
Qual é a diferença entre uma declaração de escopo e uma política de aprovação? A declaração de escopo diz para que o agente serve e o que ele não pode fazer. A política de aprovação diz quais das suas ações precisam de uma pessoa e quem é essa pessoa. As duas são necessárias, e um auditor normalmente pedirá para vê-las lado a lado com os registros.
As permissões de um agente podem ser ampliadas gradualmente sem novo papelada a cada vez? Pequenas mudanças dentro de uma etapa já aprovada podem ser tratadas com um registro simples, desde que o escopo e os limites de aprovação já as cubram. Qualquer mudança que acrescente um novo sistema, categoria de dados, canal ou classe de ação deve passar novamente pela verificação completa de expansão.
Seu próximo passo
Descubra primeiro onde um agente de IA cabe na sua empresa.
Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.
Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.


