Preparação de equipes de compliance para IA: provas para guardar agora
Quais arquivos de evidência a equipe de compliance deve reunir agora para agentes de IA: permissões, aprovações, logs e revisões que comprovam a supervisão.

Equipes de compliance se preparam para agentes de IA mais capazes reunindo evidências antes que alguém as peça. O conjunto básico é composto por um papel escrito para cada agente, suas concessões de permissão, seus limites de aprovação, a memória e as fontes que ele lê, seus registros de ações, os resultados dos testes e as decisões que os revisores tomaram sobre exceções. Com esses arquivos prontos, a equipe consegue mostrar quem autorizou o quê, o que o agente de fato fez e se os controles continuaram valendo depois que o agente mudou.
Principais pontos
- A supervisão só é tão forte quanto os registros que a comprovam, então comece a reuni-los enquanto cada agente ainda é simples.
- Mantenha um arquivo escrito por agente, com papel, ferramentas, permissões, fontes de memória, limites de aprovação e um responsável nomeado.
- Registre ações concluídas, tentativas bloqueadas e aprovações com detalhe suficiente para reconstruir uma decisão, e defina regras de retenção antes que os logs cresçam.
- Repita os mesmos testes após cada mudança relevante e guarde cada resultado junto da mudança que o motivou.
- Revise as permissões em uma agenda fixa e registre quem aprovou cada alteração, quando e por quê.
Por que evidência importa mais do que garantias
Um fornecedor dizer que o agente é seguro, ou uma equipe interna dizer que ele é bem supervisionado, não ajuda quando um cliente, um auditor ou uma seguradora pede detalhes. O trabalho de compliance depende de apontar para um registro criado no momento do evento. À medida que os agentes assumem mais etapas sem uma pessoa no circuito, cresce a distância entre o que a liderança acredita que o agente faz e o que ele realmente fez. A evidência é o que fecha essa distância.
O teste prático é simples. Se algo der errado em uma tarde comum, a equipe consegue reconstruir a autoridade do agente, suas entradas, suas ações e as verificações humanas ao redor em um dia útil? Se a resposta for não, os arquivos que faltam são a primeira coisa a construir. O NIST AI Risk Management Framework descreve a gestão de riscos de IA como governar, mapear, medir e gerir ao longo do tempo, e cada um desses verbos precisa de artefatos escritos por trás para ser crível.
Quais arquivos de evidência começar a reunir agora
Comece com um conjunto curto que todo agente em uso deveria ter. Cada item é um documento ou uma exportação, não uma declaração de intenção:
- Carta do agente: a finalidade de negócio, o papel único que o agente desempenha, as pessoas que o responsabilizam e os clientes ou colaboradores que ele pode afetar.
- Registro de ferramentas e permissões: cada sistema que o agente alcança, as ações exatas permitidas, o tipo de credencial e quem concedeu o acesso.
- Planilha de limites de aprovação: quais ações rodam sozinhas, quais exigem uma pessoa nomeada e quais nunca são permitidas.
- Inventário de dados: as bases de memória, documentos, caixas de e-mail ou bancos de dados que o agente lê, com a base contratual ou legal de cada um.
- Exportação do registro de ações: um histórico datado de ações concluídas, tentativas bloqueadas e a entrada que as disparou.
- Registro de testes e avaliações: os cenários usados antes do lançamento, os resultados esperados, as falhas encontradas e como cada uma foi corrigida.
- Registro de mudanças: cada alteração de prompt, ferramenta, modelo, memória ou permissão, com o motivo e quem aprovou.
- Registro de incidentes e exceções: o que deu errado, como foi contido, quem decidiu e o que mudou depois.
- Atas de revisão: resultados datados das revisões de permissões, das reexecuções de avaliação e de qualquer decisão de ampliar a autoridade de um agente.
Mantenha esses arquivos em um local controlado, com direito de edição restrito. Uma planilha pode servir bem para um único agente pequeno. O formato importa menos do que o hábito de atualizar o arquivo sempre que algo muda, porque um arquivo que só é atualizado antes de uma auditoria é uma reconstrução, não uma evidência.
Como comprovar permissões e aprovações
A autorização é onde muitas organizações têm os registros mais fracos. O acesso costuma ser concedido com pressa durante a configuração e nunca é anotado. O OWASP Authorization Cheat Sheet enfatiza aplicar verificações de acesso de forma consistente e não depender da interface para esconder o que é permitido. É exatamente isso que um revisor vai testar: um rastro de cada ação permitida até uma concessão deliberada.
Para cada agente, registre a data da concessão, quem aprovou, o escopo, a data de expiração ou de revisão e o motivo do acesso. Separe o acesso de leitura do acesso de escrita. Trate como limite, com linha própria na planilha de aprovação, qualquer ação que movimente dinheiro, altere um cadastro de cliente, envie uma mensagem externa ou apague dados. O texto Aprovação em duas pessoas para agentes de IA explica quais ações normalmente justificam essa etapa extra.
Remover acesso também exige evidência. Quando um agente é pausado, aposentado ou passado a um novo responsável, o mesmo registro deve mostrar a revogação e a pessoa que a confirmou. A revisão de acessos de agentes de IA descreve um ciclo recorrente que produz exatamente esse tipo de registro.
Cenário ilustrativo: uma pequena corretora de seguros deixa um agente redigir lembretes de renovação. O arquivo de evidência mostra que o agente pode ler a tabela de renovações, mas não consegue enviar nada sem a aprovação de um corretor. O registro de ações mostra que cada rascunho ficou retido até um corretor aprová-lo. Quando um cliente pergunta por que um lembrete saiu atrasado, a equipe consegue mostrar o gatilho, a retenção e o horário da aprovação em um só lugar, sem procurar em três caixas de entrada.
O que logs, rastros e registros de memória devem conter
Logs são a evidência mais comum e também a mais mal tratada. As equipes ou registram quase nada útil, ou registram tudo, inclusive dados pessoais que nunca deveriam ter sido guardados. O material de introdução à observabilidade do OpenTelemetry trata rastros, métricas e logs como sinais complementares, e a mesma lógica vale para agentes: é preciso estrutura suficiente para acompanhar uma solicitação do gatilho até a ação, sem copiar conteúdo sensível para lugares que ninguém controla.
Bons logs de agentes registram o gatilho, cada chamada de ferramenta, os parâmetros em forma redigida, o resultado, o estado da aprovação e o carimbo de tempo. Também registram as tentativas bloqueadas. Uma ação recusada costuma revelar mais sobre o risco do que uma ação concluída, porque mostra para onde o agente tentou ir. A memória precisa de registro próprio: o que foi guardado, quando, a partir de qual fonte, e quando foi apagado ou corrigido. Defina os prazos de retenção antes da primeira grande exportação, e não depois. As regras de retenção de logs de agentes de IA ajudam a equilibrar o detalhe da auditoria com a privacidade.
Revisar ações bloqueadas em uma agenda também faz parte da evidência. A revisão de ações bloqueadas de agentes de IA mostra como transformar essas recusas em achados que ou apertam um limite, ou confirmam que ele funciona.
Como manter os registros de teste ligados às mudanças
O comportamento de um agente muda quando seu prompt, modelo, ferramentas, memória ou permissões mudam, então a evidência precisa estar ligada às versões. Antes do lançamento, escreva um conjunto curto de cenários de teste que reflitam o trabalho real: pedidos comuns, pedidos ambíguos, pedidos que devem ser recusados e tentativas de empurrar o agente para fora do seu papel. As diretrizes da Anthropic sobre avaliação de agentes de IA tratam as avaliações como testes repetíveis, e não como demonstrações pontuais, que é o enquadramento de que uma equipe de compliance precisa.
Guarde cada execução com a versão testada, a data, o resultado esperado, o resultado observado e o nome do revisor. Reexecute o mesmo conjunto após cada mudança relevante e mantenha os resultados antigos para ver o que mudou. Inclua tentativas de injeção de prompt no conjunto, porque instruções escondidas em um e-mail ou em uma página da web podem tentar alterar o que o agente faz. A defesa contra prompt injection em agentes de IA lista as verificações que valem a pena incluir antes do lançamento.
A Be Human executa isso como parte de operações gerenciadas. A equipe define, no início, o papel do agente, sua memória, suas ferramentas, seus limites de aprovação e um critério de sucesso observável. Depois mantém o monitoramento, as avaliações recorrentes, as revisões de permissões e a resposta a incidentes rodando sobre esses mesmos registros. O arquivo de evidência é mantido atualizado conforme o sistema muda, em vez de ser reconstruído quando alguém pede.
Um plano de 30 dias para começar o arquivo de evidências
A maioria das equipes trava porque tenta documentar tudo de uma vez. A sequência abaixo funciona para um ou dois agentes e pode ser ampliada depois:
- Semana um: liste todos os agentes, pilotos e automações que leem dados da empresa ou executam ações, inclusive os que colaboradores criaram por conta própria. Nomeie um responsável para cada um.
- Semana dois: escreva a carta, o registro de ferramentas e a planilha de limites de aprovação de cada item. Se o responsável não consegue descrever o limite, o agente ainda não deveria executar ações de alto impacto.
- Semana três: ative o registro estruturado de gatilhos, ações, bloqueios e aprovações, e combine os prazos de retenção com o responsável pela privacidade.
- Semana quatro: rode um primeiro conjunto de testes, registre os resultados, faça uma revisão curta de permissões e arquive a ata.
Depois do primeiro mês, marque uma revisão recorrente no calendário com um responsável nomeado. A evidência se deteriora quando ninguém é responsável por mantê-la atualizada. Faça o diagnóstico gratuito de IA da Be Human para identificar a primeira tarefa que vale entregar a um agente e comece o arquivo de evidências por ela.
Perguntas frequentes
A equipe de compliance precisa de políticas novas antes de reunir evidências de agentes? Normalmente não precisa começar do zero. Políticas existentes de gestão de acessos, proteção de dados, gestão de fornecedores e guarda de registros cobrem boa parte do terreno. A lacuna é específica de agentes: a carta, o registro de permissões, os logs de ações e os registros de testes precisam nomear o agente, sua versão e seu responsável, para que as políticas antigas possam ser aplicadas a ele.
Quanto detalhe os logs de agentes devem conter? O suficiente para reconstruir uma decisão sem copiar conteúdo sensível para sistemas que não precisam dele. Registre o gatilho, as chamadas de ferramentas, os parâmetros redigidos, o resultado, o estado da aprovação e o horário. As tentativas bloqueadas também devem estar no log, e os prazos de retenção devem ser combinados com o responsável pela privacidade antes da primeira exportação.
Quem deve ser o dono do arquivo de evidências? Uma pessoa nomeada em operações ou em compliance deve ser responsável por ele, com o dono de negócio do agente respondendo pela carta e pelos limites. Engenharia ou o fornecedor fornecem os logs e as execuções de teste, mas a responsabilidade pelo registro deve ficar com alguém capaz de decidir quando o arquivo mostrar um problema.
Isso se aplica a uma empresa pequena com um ou dois agentes? Sim, embora em escala menor. Uma única planilha, uma carta curta por agente e uma revisão mensal costumam ser suficientes para começar. A disciplina importa mais do que a ferramenta, e os mesmos hábitos continuam funcionando quando cresce o número de agentes e o nível de autonomia.
Seu próximo passo
Descubra primeiro onde um agente de IA cabe na sua empresa.
Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.
Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.


