Caso de segurança para agentes de IA na empresa: uma página
Uma página registra o que cada agente de IA da empresa pode fazer, como o trabalho é checado e quem pode pará-lo, mesmo quando o modelo muda.

Um caso de segurança para um agente de IA na empresa é um argumento escrito e curto de que o agente pode executar um trabalho específico, de que sua saída é checada e de que uma pessoa nomeada pode interrompê-lo. Para a maioria das empresas, uma página basta para sustentar esse argumento e permitir decidir, lançar e revisar. A página deve nomear as ações que o agente pode executar, as checagens que se aplicam a elas e os direitos de parada. Deve ser escrita de modo que as afirmações continuem valendo quando o modelo por trás do agente for trocado.
Principais pontos
- Escreva o caso em uma página com quatro blocos: escopo, checagens, direitos de parada e gatilhos de revisão.
- Descreva as ações permitidas como verbos ligados a ferramentas nomeadas, e não como objetivos gerais.
- Vincule cada ação a uma checagem: uma regra fixa, uma revisão humana por amostragem ou um portão de aprovação.
- Nomeie uma pessoa que pode pausar o agente e teste a pausa antes do lançamento.
- Associe cada afirmação a algo que você consegue observar, e revisite a página quando o modelo, as ferramentas ou os dados mudarem.
O que deve constar no caso de segurança em uma página
Um caso de segurança costuma ser imaginado como um arquivo técnico longo, mas o dono de um negócio precisa de algo mais curto, que possa ser lido em poucos minutos e assinado pela pessoa responsável pelo processo. A página não prova que um modelo é seguro em geral. Ela é uma declaração sobre um agente específico, em um papel específico, com as ferramentas e os dados que ele tem hoje. Esse escopo mais restrito é o que a torna verificável.
Use estas nove linhas como modelo de trabalho:
- Finalidade: uma frase que nomeie o papel, a equipe atendida e a decisão ou tarefa que o agente apoia.
- Ações permitidas: uma lista curta de verbos, cada um com a ferramenta que usa, como ler uma pasta compartilhada ou redigir uma resposta para revisão.
- Ações proibidas: o que o agente nunca faz, incluindo movimentar dinheiro, apagar registros e contatar clientes sem aprovação.
- Acesso a dados: quais sistemas de origem, categorias de memória e campos de dados pessoais o agente pode ver, e quais ele não pode armazenar.
- Limites de aprovação: as ações que aguardam uma pessoa nomeada antes de serem executadas.
- Checagens: como a saída é verificada, quais checagens rodam automaticamente e com que frequência uma pessoa examina o trabalho por amostragem.
- Direitos de parada: quem pode pausar o agente, por qual canal e o que acontece com as tarefas em fila durante a pausa.
- Evidências: quais registros, prompts e decisões existem, onde são guardados e quem pode lê-los.
- Gatilhos de revisão: eventos que reabrem a página, como troca de modelo, nova ferramenta, nova fonte de dados, incidente ou reclamação recorrente.
Mantenha cada linha em algo que um revisor consiga responder com sim ou não. A frase “o agente cuida de questões de clientes” não passa nesse teste. “O agente redige respostas para dúvidas de cobrança a partir do texto de política aprovado e não consegue enviá-las” passa.
Como preencher a página em uma sessão de trabalho
Comece pelo papel, não pela tecnologia. Escolha uma tarefa frequente o suficiente para importar e delimitada o suficiente para ser testada. Uma fila única, um relatório único ou um formulário de entrada único são um ponto de partida melhor do que um assistente geral com acesso a tudo. Uma primeira etapa com a Be Human costuma definir exatamente um papel desse tipo, junto com sua memória, suas ferramentas, seus limites de aprovação e um critério de sucesso observável, para que a página tenha algo concreto para descrever.
Depois, percorra a página nesta ordem:
- Liste todas as ferramentas que o agente pode acionar, inclusive as de somente leitura. Acesso de leitura a um arquivo de cliente ainda é uma decisão sobre dados.
- Para cada ferramenta, escreva os verbos que ela permite e os que ela nunca deve executar. Seja explícito sobre exclusão, mensagens externas, pagamentos e alterações de permissão.
- Marque as ações que precisam de aprovação de uma pessoa antes de rodar. No início, mantenha essa lista curta. Amplie-a com deliberação depois, em vez de restringir aprovações em silêncio após um incidente.
- Defina as checagens de cada ação permitida. Algumas são regras fixas, como recusar um valor acima de um limite declarado. Outras são amostras humanas.
- Nomeie o responsável pela parada e um substituto. Escreva o passo exato que pausa o agente e confirme que alguém que não construiu o agente consegue executá-lo.
- Decida quais evidências serão guardadas: as entradas, as chamadas de ferramentas, a saída e o registro de aprovação. Confirme quem pode lê-las e por quanto tempo ficam guardadas.
Leia a página pronta em voz alta para a pessoa que vai responder pelo processo. Se ela não conseguir dizer o que o agente pode fazer sem olhar a página, a página ainda não está pronta.
Como checar o trabalho do agente sem revisar tudo
Conferir cada saída geralmente anula a razão de ter um agente. A abordagem prática é em camadas. Algumas checagens são automáticas e baratas: o agente só pode chamar ferramentas da lista permitida, as saídas precisam seguir o formato esperado e qualquer valor ou data fora de uma faixa declarada fica retido para revisão. Outras checagens são por amostragem: uma pessoa lê um conjunto selecionado de tarefas concluídas, em intervalos regulares, escolhido para incluir casos incomuns além dos rotineiros.
A taxa de amostragem é um julgamento sobre risco, não uma regra fixa. Um agente que redige resumos internos pode ser amostrado com pouca frequência. Um agente que toca registros de clientes ou mensagens externas precisa de uma amostra mais densa e de um limite de aprovação mais alto. O guia de auditorias por amostragem para o trabalho de agentes explica como definir essa taxa e como registrar o que o revisor encontrou, que é a evidência que um revisor posterior vai pedir.
As ferramentas merecem atenção especial, porque um agente que lê texto externo pode ser direcionado por esse texto. O OWASP Top 10 para Aplicações com LLM lista a agência excessiva como categoria de risco, ou seja, um agente fazendo mais do que seu desenho previa porque recebeu permissões amplas ou confiou com facilidade em conteúdo. Por isso, o caso de segurança deve afirmar que as permissões de ferramentas são o menor conjunto que a tarefa exige e que o conteúdo de e-mails, páginas da web ou arquivos enviados é tratado como dado, não como instrução.
Quem pode parar o agente, e com que rapidez?
Todo caso de segurança precisa de um direito de parada que uma pessoa consiga usar sem depender da equipe que construiu o agente. Nomeie o papel, e não apenas o indivíduo, para que a pessoa certa esteja coberta durante férias ou viagens. Escreva o canal: um interruptor no console administrativo, uma mensagem para uma caixa de entrada nomeada ou um procedimento documentado que revoga as credenciais de ferramentas do agente. Teste a parada antes do lançamento e registre o resultado na página.
A parada deve ser específica quanto ao que interrompe. Pausar novas ações é diferente de cancelar trabalho já em andamento, e apagar registros quase nunca é a resposta certa. A página deve dizer o que acontece com as tarefas em fila, se o agente mantém sua memória e quem decide quando ele volta a operar. O guia para parar agentes de negócio sem perder o registro separa a interrupção das ações da preservação do histórico.
Cenário ilustrativo: um agente de atendimento redige respostas para dúvidas de cobrança a partir do texto de política aprovado, e um funcionário percebe que dois rascunhos citam uma regra de reembolso que foi aposentada recentemente. Conforme a página prevê, o responsável pelas operações pausa a permissão de envio, mas não a redação, para que a fila seja preservada. A equipe examina o lote recente, encontra a fonte desatualizada, a remove da memória do agente e registra o incidente e a mudança. O agente só volta a operar depois que o responsável pelas operações aprova a amostra. Este cenário é ilustrativo. Mostra como a página deve funcionar e não descreve um evento registrado.
Os portões de aprovação se relacionam com os direitos de parada. Se uma pessoa precisa aprovar todo reembolso acima de um limite, essa pessoa também é o primeiro controle quando algo parece errado. O texto sobre onde as pessoas devem assinar descreve como tornar essa assinatura significativa, e não automática.
Como manter o caso válido quando os modelos mudam
A página precisa sobreviver a uma troca de modelo. Se ela nomear um modelo específico, deixará de ser verdadeira no dia em que o fornecedor alterar o padrão. Escreva as afirmações sobre comportamento: o que o sistema pode fazer, quais checagens se aplicam, quais evidências existem e quem pode pará-lo. O nome do modelo pertence a um anexo atualizado sempre que o modelo mudar, com a data da mudança e a avaliação feita em seguida.
O NIST AI Risk Management Framework organiza esse trabalho em torno de governar, mapear, medir e gerenciar o risco de IA. Essas quatro atividades se traduzem bem para uma página só: o responsável governa o escopo, a equipe mapeia os dados e as ferramentas, as checagens medem o comportamento e os direitos de parada gerenciam o risco residual. Repetir o mesmo conjunto de avaliação após cada mudança mostra se o agente ainda se comporta como a página diz. Um conjunto de avaliação é uma coleção pequena e fixa de tarefas com resultados bons conhecidos, mantida separada do trabalho real que o agente recebe.
A Be Human trata isso como parte da operação gerenciada. Depois que uma primeira etapa define o papel e a página, o serviço pode incluir monitoramento, avaliações recorrentes, manutenção de integrações, revisão de permissões, resposta a incidentes e melhorias controladas. A página é atualizada quando algo muda, em vez de ser arquivada uma vez e deixada para se desatualizar, e cada alteração de ferramentas ou permissões é registrada nos mesmos quatro blocos.
Se você ainda não tem certeza de qual tarefa merece esse tratamento, procure trabalhos repetitivos, delimitados e revisáveis. Faça o diagnóstico gratuito de IA da Be Human para encontrar a primeira tarefa que vale entregar a um agente.
Perguntas frequentes
Uma página de caso de segurança basta para uma empresa pequena? Basta quando o escopo é um papel com um conjunto pequeno de ferramentas. A página não substitui a análise jurídica, um contrato de tratamento de dados nem um programa formal de riscos, quando eles se aplicam. Ela dá ao responsável um único lugar para ver o que o agente pode fazer, quem o verifica e quem pode pará-lo.
Precisamos de uma página separada para cada agente? Na prática, sim, porque cada agente tem ferramentas, dados e responsáveis pela parada diferentes. Vários agentes podem compartilhar uma política de uso comum, mas cada papel precisa de sua própria página, com ações permitidas e checagens próprias. Páginas curtas tornam a manutenção realista.
Quem deve assinar a página? Deve assinar a pessoa responsável pelo processo de negócio que o agente apoia, e não apenas quem construiu a parte técnica. O construtor confirma a lista de ferramentas e as checagens, e um revisor de segurança ou compliance pode assinar junto quando os dados forem sensíveis. A assinatura registra que alguém com autoridade aceitou o escopo e os direitos de parada.
Com que frequência a página deve ser revisada? Revise em um calendário fixo, como trimestralmente, e também sempre que ocorrer um gatilho de revisão, como troca de modelo, nova ferramenta, nova fonte de dados ou incidente. Entre atualizações formais, geralmente basta uma revisão curta que confirme se os quatro blocos ainda correspondem à realidade.
Seu próximo passo
Descubra primeiro onde um agente de IA cabe na sua empresa.
Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.
Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.


