Sandbox para agentes de IA: execute código sem risco no sistema real
Sandbox para agentes de IA isola execução de código e arquivos dos sistemas ativos. Veja como definir limites, checar saídas e publicar resultados.

Um sandbox para agentes de IA é um ambiente isolado onde o agente pode executar código, ler cópias de arquivos e transformar dados sem nenhum caminho de escrita para os sistemas de produção. Os resultados só saem do sandbox depois de uma revisão definida ou de uma verificação separada que os aprove. Assim, você testa o agente em trabalho real enquanto scripts com falha, comportamentos inesperados e entradas manipuladas ficam longe dos registros de que a sua empresa depende.
Principais pontos
- Um sandbox isola o que o agente consegue alcançar, incluindo arquivos, destinos de rede, credenciais, processos e tempo, e não apenas o que ele diz.
- Dê ao agente cópias ou snapshots dos dados, nunca credenciais permanentes de produção.
- Trate a saída do sandbox como uma proposta e defina a etapa de publicação que uma pessoa ou uma verificação determinística precisa aprovar.
- Registre cada comando, alteração de arquivo e chamada de ferramenta para conseguir reconstruir o que aconteceu e por quê.
- Comece com uma tarefa de transformação e um critério de sucesso observável, e amplie o acesso somente com evidências.
O que um sandbox de agente isola
Um sandbox é definido menos pela tecnologia por trás dele e mais pelo que o agente consegue alcançar. Um contêiner, uma máquina virtual ou um processo restrito podem servir de fronteira, mas a pergunta útil é quais arquivos, hosts, contas e programas ficam visíveis lá dentro. Se o agente consegue escrever código, ele também consegue escrever em qualquer caminho que lhe seja permitido tocar. Por isso, o sandbox precisa ser a parede externa, e não uma sugestão escrita no prompt.
O principal motivo para essa disciplina é que o agente lê conteúdo que ele não escreveu. Planilhas enviadas, e-mails de clientes e páginas da web podem conter textos que tentam direcionar o agente para ações que o dono nunca pretendeu. A orientação da OWASP sobre injeção de prompt deixa claro que defesas apenas no modelo não bastam, então o ambiente precisa limitar o dano que um agente manipulado consegue causar. Um sandbox sem credenciais de produção e sem rota de saída para a internet transforma uma manipulação bem-sucedida em uma execução desperdiçada, e não em um incidente.
Se você ainda está se familiarizando com a ideia, o guia sobre o que é sandbox para agentes de IA apresenta o vocabulário básico antes de você desenhar a sua própria fronteira.
Decida o que fica dentro e o que fica fora
A maior parte dos erros acontece na fronteira, e não no código. Antes de qualquer execução, escreva o que o sandbox contém e o que nunca deve conter. Uma lista inicial prática tem este formato:
- Dentro: cópias dos arquivos de entrada, uma pasta de trabalho vazia, um conjunto fixado de interpretadores e bibliotecas, e uma única pasta de saída.
- Fora: bancos de dados de produção, sistemas de cobrança e pagamento, canais de mensagem com clientes, drives compartilhados com permissão de escrita e painéis de administração.
- Credenciais: nenhuma por padrão. Se for indispensável um token somente leitura, limite-o a um único recurso, faça com que tenha validade curta e mantenha a possibilidade de revogação.
- Rede: negar por padrão e liberar apenas os destinos nomeados que a tarefa realmente precisa.
- Escritas: permitidas somente na pasta de saída. Qualquer outra tentativa de escrita deve interromper a execução.
A autorização deve seguir o mesmo princípio de restrição. A documentação do OAuth 2.0 do Google descreve o acesso concedido por tokens com escopo definido, e esse princípio vale para qualquer ferramenta que o agente chame. Cada ferramenta deve aparecer em uma lista de permissões explícita, e essa lista deve ser revisada em um calendário definido. Um complemento útil é o texto sobre lista de ferramentas permitidas para agentes de IA, que defende começar pequeno e ampliar apenas quando as evidências sustentarem.
Um plano passo a passo para uma tarefa de transformação de arquivos
A transformação de arquivos é o primeiro uso mais comum de um sandbox, porque entradas e saídas são fáceis de inspecionar. Uma sequência viável tem seis passos:
- Faça um snapshot dos arquivos de origem e registre um checksum de cada um, para poder comprovar depois o que o agente recebeu.
- Crie um diretório de trabalho vazio dentro do sandbox e copie o snapshot para ele, sem nunca trabalhar sobre o original.
- Entregue ao agente um contrato de tarefa escrito, que nomeie o formato de entrada, o formato de saída exigido e as condições de parada.
- Deixe o agente executar a transformação, com um limite de passos ou de tempo que encerre a execução caso ela entre em loop.
- Rode verificações determinísticas sobre a saída, como contagem de linhas, colunas obrigatórias, formatos de valores e colunas de identificadores que não podem mudar.
- Mantenha o resultado como proposta, gere um relatório de alterações e envie-o a um revisor antes que qualquer coisa chegue a um sistema ativo.
O sexto passo é o que a maioria das equipes menos cuida. O relatório de alterações deve listar cada registro modificado pelo identificador, com os valores antes e depois. Um revisor que enxerga a diferença consegue aprovar em minutos, enquanto um revisor que só recebe um arquivo novo precisa refazer o trabalho. Para um olhar mais profundo sobre a passagem entre sandbox e sistemas ativos, a comparação entre ambiente de teste e produção explica por que os dois ambientes devem permanecer separados.
Como verificar o que o agente produziu?
Uma execução no sandbox que termina sem erros só provou que o processo foi concluído. A correção precisa de evidências separadas. Comece com um conjunto de entradas representativas em que a resposta certa já é conhecida, e rode o agente sobre elas sempre que suas instruções, ferramentas ou modelo mudarem. O guia de avaliações da OpenAI descreve esse padrão de definir o comportamento esperado antes de julgar um sistema, e a mesma lógica se aplica a um agente de transformação que precisa manter identificadores estáveis e formatos consistentes.
A observabilidade cobre o restante. A introdução da OpenTelemetry descreve traces, logs e métricas como os sinais básicos para entender como um sistema se comportou. Para um agente, um trace deve mostrar cada chamada ao modelo, cada uso de ferramenta, cada arquivo escrito e cada evento de parada, todos ligados a um identificador de execução. Quando um revisor perguntar por que uma linha mudou, a resposta deve estar no trace, e não na memória de alguém sobre a sessão.
O tamanho da amostra também importa. Uma execução limpa com poucas linhas não prova que o agente lida com os casos incomuns da sua exportação completa. Inclua casos de borda conhecidos no conjunto de teste, como campos em branco, identificadores duplicados e valores em unidades inesperadas, e trate qualquer alteração sem explicação como uma verificação reprovada.
Cenário ilustrativo: limpeza de uma exportação de catálogo de produtos
O cenário a seguir é ilustrativo e não descreve um cliente específico. Uma pequena loja online quer que um agente padronize os rótulos de tamanho e preencha códigos de categoria ausentes em uma exportação de catálogo antes da próxima importação. O dono proíbe qualquer alteração em preços e identificadores de produto.
A equipe copia a exportação para o sandbox, junto com a tabela de referência de categorias. O agente grava um arquivo corrigido e um relatório de alterações que lista cada linha modificada. Uma verificação determinística confirma que todos os identificadores continuam existindo, que nenhuma coluna de preço difere do original e que cada código de categoria aparece na tabela de referência. Duas linhas falham na verificação de categoria, então são sinalizadas para revisão manual em vez de receberem um palpite.
Durante a execução, o agente também tenta chamar a API da loja para buscar a imagem de um produto. A regra de rede bloqueia a requisição, a tentativa é registrada como evento de parada e a execução termina com um alerta. O dono revisa o relatório de alterações, aprova o arquivo e executa a importação por uma etapa separada, que só uma pessoa nomeada pode disparar. Em nenhum momento o sandbox teve permissão de escrita na loja.
Como a Be Human conduz isso em um modelo gerenciado
A Be Human desenha o sandbox como parte do contexto operacional do agente, e não como um detalhe posterior. O primeiro trabalho define um papel útil, a memória e as ferramentas que esse papel precisa, os limites de aprovação e um critério de sucesso que possa ser observado. A fronteira entre sandbox e sistemas ativos fica documentada, a lista de ferramentas permitidas é fixada no mínimo que a tarefa exige, e a etapa de publicação é atribuída a um revisor nomeado. A operação gerenciada inclui, depois, o acompanhamento dos traces de execução, avaliações recorrentes com entradas conhecidas, revisões de permissões e resposta a incidentes quando uma condição de parada é acionada. O objetivo não é tornar o agente mais capaz em abstrato, mas manter o seu alcance visível e reversível.
Por onde começar
Escolha uma tarefa repetitiva, com entradas e saídas claras, que possa ser verificada sem julgamento subjetivo. Faça o snapshot dos dados, escreva a lista de limites, defina as verificações e decida quem aprova a publicação antes da primeira execução. Amplie o escopo só depois que várias execuções revisadas mostrarem o mesmo comportamento. Se você não tem certeza de qual tarefa merece um sandbox primeiro, faça o diagnóstico gratuito de IA da Be Human para descobrir a primeira tarefa que vale entregar a um agente.
Perguntas frequentes
Um sandbox é o mesmo que um ambiente de homologação? Um sandbox é um lugar isolado onde o agente executa código e altera arquivos, enquanto um ambiente de homologação costuma ser uma cópia completa de um sistema usada para testar lançamentos. Os dois frequentemente trabalham juntos: o sandbox limita o que o agente alcança durante os experimentos, e a homologação verifica como uma mudança proposta se comporta em um sistema parecido com a produção. Cada um tem uma finalidade diferente, então vale definir os dois antes de dar qualquer acesso a um agente.
Um agente dentro de um sandbox ainda pode causar dano? Sim, mas o dano normalmente fica contido no próprio sandbox, na pasta de saída e no que o revisor escolher aprovar. Os principais riscos residuais são uma transformação ruim que parece plausível e uma aprovação feita sem revisão real. Verificações determinísticas, um relatório de alterações completo e uma etapa de publicação com uma pessoa nomeada tratam os dois.
Preciso de um desenvolvedor para montar um sandbox? Normalmente um desenvolvedor é necessário para construir a camada de isolamento, mas o dono do negócio ou o líder de operações deve ser responsável pelas decisões sobre o que o sandbox pode alcançar. Essas decisões são documentadas em linguagem simples: quais dados são copiados, quais ferramentas são permitidas, quais destinos são autorizados e quem aprova os resultados. Depois que essas regras existem, elas podem ser revisadas em um calendário sem reconstruir o ambiente.
Quando é seguro deixar um agente escrever em um sistema ativo? O acesso de escrita a um sistema ativo só é seguro depois que o agente passou nas avaliações com entradas representativas, os logs não mostram comportamento inexplicado e a etapa de publicação tem um dono claro, seja uma pessoa ou uma verificação aprovada. Mesmo assim, comece com permissão de escrita restrita a um tipo de registro e amplie devagar. Trate cada expansão como uma mudança que precisa ser revisada, testada e registrada.
Seu próximo passo
Descubra primeiro onde um agente de IA cabe na sua empresa.
Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.
Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.


