Padrões seguros para agentes de IA: o que configurar antes de ir ao ar
Configurações padrão seguras para agentes de IA: acesso somente leitura, limites, envios externos desligados e aprovação para ações irreversíveis.

Uma configuração padrão segura é um ajuste que o harness já traz antes de o agente receber qualquer trabalho real: acesso somente leitura, limites baixos de chamadas e de passos, mensagens externas desligadas e uma etapa de aprovação para tudo o que não pode ser desfeito. Cada padrão só deve ser afrouxado quando as execuções de rascunho mostrarem que o agente faz o que o seu contrato de tarefa descreve. As seções abaixo listam os padrões que devem vir primeiro e a ordem em que definir cada um.
Principais pontos
- Comece cada agente com acesso somente leitura aos sistemas de que ele precisa e conceda escrita uma ação nomeada por vez.
- Limite chamadas, passos e gasto por tarefa, para que um loop falhe em pequena escala e não em grande escala.
- Mantenha e-mails, mensagens e publicações externas desligados até que um revisor aprove amostras de saída.
- Coloque aprovações em qualquer ação que não possa ser revertida e registre as condições de parada antes do lançamento.
- Guarde cada padrão em uma configuração versionada, para que cada mudança posterior fique visível e reversível.
Por que os padrões importam mais que o prompt
Muitas equipes passam dias escrevendo o prompt de sistema e deixam as configurações do harness no que o framework trouxe de fábrica. Essa ordem está invertida. O prompt descreve o que o agente deve tentar fazer. O harness decide o que o agente consegue alcançar, com que frequência pode agir e o que acontece quando algo dá errado. Um prompt cuidadoso não impede que um agente com acesso de escrita a uma pasta compartilhada sobrescreva os arquivos errados durante um loop que ele não consegue enxergar de dentro da tarefa.
Há um segundo motivo, que é a entrada não confiável. E-mails, páginas da web e documentos enviados podem conter texto escrito para direcionar o agente a ações que o dono nunca pretendeu. As orientações da OWASP sobre prevenção de injeção de prompt partem do princípio de que alguma entrada será manipuladora e se concentram em limitar o que o modelo pode fazer quando isso acontece. Os padrões são exatamente esse limite, por isso devem estar em vigor antes de chegar a primeira entrada real, e não ser acrescentados depois de um incidente.
Qual acesso um agente deve começar tendo?
Comece pelo acesso mais restrito que permita ao agente concluir a primeira tarefa e amplie uma permissão de cada vez. Uma ordem prática fica assim:
- Acesso somente leitura aos registros, pastas ou filas específicos que a tarefa usa, sem visão ampla do sistema inteiro.
- Escrita desligada por padrão, depois habilitada para uma ação nomeada, com um revisor nomeado.
- Uma credencial de serviço exclusiva para o agente, restrita a um espaço de trabalho, nunca um login de administrador compartilhado.
- Uma lista de ferramentas permitidas com apenas as funções que a primeira tarefa exige, revisada antes de cada ampliação.
O escopo não é uma configuração feita uma única vez. As orientações da OWASP sobre autorização recomendam verificar as permissões a cada requisição, em vez de presumir que o acesso concedido na implantação continua valendo. Para um agente, cada chamada de ferramenta deve ser avaliada contra a lista de permissões e o escopo de credencial atuais, para que uma mudança feita antes não amplie silenciosamente o que o agente pode fazer hoje. O guia sobre lista de ferramentas permitidas para agentes de IA explica como ampliar essa lista com base em evidências.
Como definir limites de chamadas, passos e teto de gasto?
Os limites de chamadas restringem quantas vezes um agente pode acionar uma ferramenta em determinado período. Os limites de passos restringem quantos ciclos de planejamento e ação uma única tarefa pode consumir. Os tetos de gasto restringem o uso do modelo por tarefa e por dia. Os três são baratos de configurar e caros de não ter, porque um loop que repete uma chamada com falha pode tocar em muitos registros antes que alguém perceba. Defina-os baixos na primeira execução e só eleve um limite quando os registros mostrarem que tarefas legítimas o atingem com regularidade. O artigo sobre loop infinito em agentes de IA mostra como combinar esses limites de passos e tokens com alertas.
Defina estes padrões antes da primeira execução:
- Um limite de chamadas por ferramenta por hora, baixo o suficiente para que uma tarefa em loop pare antes de alcançar muitos registros.
- Um limite de passos por tarefa, com a tarefa falhando de forma segura e informando o seu estado quando o limite for atingido.
- Um teto de gasto por tarefa e por dia, com um alerta que dispare bem antes do teto.
- Um limite de tentativas para chamadas de ferramenta que falharam, para que o mesmo erro não se repita indefinidamente.
Teste cada limite de propósito. Dê ao agente uma tarefa que não possa ser concluída e confirme que ele para no limite, registra o motivo e não tenta de novo além dele. Um limite que nunca foi acionado em testes é um limite que você não verificou.
Mensagens externas devem vir desligadas no lançamento?
Sim, por padrão. Mensagens externas são a ação com maior chance de causar um dano que não pode ser recuperado: um e-mail enviado ao cliente errado, uma resposta no chat que afirma uma política que a empresa não tem ou uma publicação com o preço errado. Lance em modo de rascunho, para que o agente escreva cada mensagem em uma fila de revisão. Habilite o envio para um canal e um tipo de mensagem por vez, e somente depois que os revisores aprovarem rascunhos de amostra com base no contrato da tarefa.
Exemplo ilustrativo: uma pequena clínica dá a um agente de agendamento a tarefa de enviar lembretes de consulta. Nos primeiros dias, ele apenas redige os lembretes em uma fila que a recepcionista responsável revisa. Quando alguns lotes mostram horários e textos corretos, a equipe liga o envio apenas para lembretes padrão. Cancelamentos, dúvidas de cobrança e qualquer mensagem que mencione resultados continuam na fila para uma pessoa responder. Cada etapa fica registrada na configuração, com o nome de quem aprovou.
As condições de parada fazem parte da mesma decisão. Se o agente encontrar uma situação para a qual não foi construído, como uma mensagem de remetente desconhecido ou uma ferramenta que continua falhando, ele deve parar e escalar, em vez de improvisar. O artigo sobre condições de parada para agentes de IA descreve como definir esses gatilhos.
Checklist de lançamento para os padrões do harness
Execute esta lista antes da primeira tarefa real. Cada item precisa de um responsável e de um registro por escrito, mesmo quando uma única pessoa cuida de vários itens.
- Escreva a configuração padrão em um único arquivo e versione-a antes de emitir qualquer credencial.
- Confirme que cada ferramenta está na lista de permissões e que cada ação de escrita indica um aprovador.
- Coloque todos os canais externos em modo somente rascunho.
- Defina os limites de chamadas, passos, tentativas e gasto, e teste se cada um interrompe uma tarefa propositalmente em loop.
- Defina as condições de parada e nomeie a pessoa que recebe cada escalonamento.
- Execute o agente com entradas de amostra, incluindo mensagens que tentem anular as suas instruções.
- Registre o que foi testado, o que falhou e o que mudou por causa disso.
- Agende a primeira revisão de permissões para uma data fixa após o lançamento.
Faça estes testes em uma cópia dos sistemas, e não nos sistemas em produção. A diferença entre os dois ambientes é explicada no guia sobre ambiente de teste e produção para agentes de IA.
Como os padrões se mantêm depois do lançamento?
Os padrões costumam se desviar por um motivo comum: aparece um bug no fim da tarde, alguém amplia uma permissão para resolvê-lo e a configuração mais ampla permanece muito depois de o bug ter sumido. Evite isso mantendo a configuração em controle de versão, exigindo uma nota curta em cada mudança e revisando as permissões em uma agenda definida. O NIST AI Risk Management Framework trata governança e monitoramento como atividades contínuas ao longo da vida de um sistema, e não como uma etapa concluída uma única vez. As orientações de engenharia da Anthropic sobre agentes de longa duração chegam a um ponto parecido pelo lado de quem constrói, ao descrever como o progresso e o estado devem ser registrados para que cada sessão possa ser conferida contra um registro conhecido.
A Be Human projeta, implementa e opera infraestrutura de IA personalizada para empresas, incluindo o harness que guarda a identidade, a memória, os canais, as ferramentas e as permissões de um agente. Um primeiro projeto define um papel útil, a memória e as ferramentas de que ele precisa, os limites de aprovação e um critério de sucesso observável. Os padrões descritos acima são escritos nesse harness antes de o agente lidar com trabalho real. Depois disso, a operação gerenciada revisa essas configurações, monitora o agente, executa avaliações recorrentes e responde a incidentes quando uma condição de parada é atingida.
Se você ainda não tem certeza de qual tarefa deve vir primeiro, o diagnóstico gratuito de IA da Be Human pode ajudar a identificar a primeira tarefa que vale a pena entregar a um agente.
Perguntas frequentes
Padrões seguros são o mesmo que barreiras de proteção? Não exatamente. Barreiras de proteção são verificações sobre entradas e saídas, como bloquear certo conteúdo ou validar um campo. Padrões seguros são as configurações iniciais de acesso, limites e canais que decidem o que um agente consegue alcançar. Uma empresa normalmente precisa dos dois, mas os padrões vêm primeiro, porque limitam o dano que uma falha da barreira de proteção pode causar.
Devemos esperar o modelo ser comprovado antes de definir os padrões? Não. Os padrões importam mais no começo, quando nada foi comprovado. Um harness conservador permite entender como o agente se comporta sem expor clientes ou registros reais. A comprovação vem das execuções de rascunho sob esses padrões, e cada afrouxamento deve apontar para a evidência que o justificou.
Quem deve aprovar uma mudança nos padrões? Atribua um responsável pela configuração do harness e um aprovador nomeado para cada categoria de mudança, como nova permissão de escrita ou novo canal externo. O responsável deve ser alguém que possa responder pelo risco do negócio, e não apenas pela parte técnica. Registre cada aprovação com o motivo e o teste que a sustentou.
Uma equipe pequena consegue definir esses padrões sem um departamento de engenharia? Muitas vezes, sim, desde que alguém consiga editar um arquivo de configuração versionado e ler os registros. O requisito principal é disciplina, mais do que número de pessoas: a equipe precisa decidir quais ações são irreversíveis e recusar-se a pular a revisão por conveniência. Se ninguém consegue ler registros ou trocar credenciais com segurança, um parceiro de operação gerenciada pode assumir esse trabalho.
Seu próximo passo
Descubra primeiro onde um agente de IA cabe na sua empresa.
Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.
Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.


