Ir para conteúdo
be-human.ai
← Voltar ao blog

Testes e confiabilidade

Botão de parada para agentes de IA: pause escritas sem perder memória

Como montar um botão de parada para agentes de IA que bloqueia escritas na hora e mantém memória, fila e aprovações pendentes intactas. Guia prático.

Capa tipográfica do Be Human com o título: Botão de parada para agentes de IA: pause escritas sem perder memória
Ilustração conceitual criada com IA · Be Human

Um botão de parada para agentes de IA deve fazer, antes de tudo, uma coisa: interromper imediatamente toda ação que altere um sistema do negócio, em todos os lugares onde essa ação possa acontecer. Ele não deve apagar o que o agente sabe, descartar sua fila nem cancelar em silêncio as aprovações que as pessoas estão esperando. O desenho prático separa a capacidade de agir do registro do que o agente conhece e do trabalho que ele já assumiu, para que a pausa seja uma mudança de permissão e não um desligamento.

Principais pontos

  • Pause as escritas na camada de permissões, e não interrompendo o processo inteiro.
  • Mantenha memória, fila e aprovações pendentes em armazenamentos que o botão nunca apaga nem reescreve.
  • Mova as ações em andamento para um status de retenção, para que nenhuma seja concluída pela metade ou repetida às cegas.
  • Teste o caminho de pausa e de retomada antes de precisar dele, sempre com o mesmo responsável e os mesmos passos.
  • Registre quem pausou, por que pausou, o que ficou congelado e o que precisa ser revisado antes de retomar.

Por que um botão que apaga o estado cria um segundo incidente

Quando algo dá errado, a reação natural é matar o processo. Isso interrompe as escritas, mas também descarta o contexto em memória, abandona as tarefas enfileiradas e deixa as pessoas esperando sem resposta. A equipe então precisa reconstruir o que o agente estava fazendo a partir de e-mails, registros parciais e da memória que sobrou. O incidente fica mais longo e a recuperação vira um projeto manual.

Uma boa pausa é reversível. Antes de desenhar uma, separe três coisas. A primeira é a capacidade de agir, que vive nas permissões e nos escopos das ferramentas. A segunda é o registro do que o agente conhece, como preferências guardadas, resumos e notas de referência. A terceira é o trabalho que ele assumiu, como a fila, as aprovações pendentes e os checkpoints. O botão deve alterar apenas a primeira e deixar a segunda e a terceira exatamente como estavam.

Separe o caminho de escrita do estado

Comece com um inventário de todas as ferramentas que o agente pode chamar. Classifique cada uma como leitura, rascunho ou escrita. Escrita é qualquer chamada que altere um registro, envie uma mensagem a um cliente, movimente dinheiro ou crie um compromisso em outro sistema. As escritas devem passar por um único ponto de controle, uma camada fina entre o agente e os sistemas do negócio, onde um único bloqueio consiga negá-las.

Esse ponto de controle deve verificar o estado atual da pausa em cada chamada, em vez de confiar numa decisão tomada no início da execução. As boas práticas de autorização da OWASP apontam na mesma direção: a decisão de acesso pertence ao momento da ação e se baseia na política vigente, não num valor que quem chama carregou consigo. Guarde a flag da pausa em um lugar onde o agente não consiga escrever. Se ele puder editar a própria configuração, também poderá desfazer a pausa.

Use três regras para decidir o que fica atrás do bloqueio:

  • Se a ferramenta altera dinheiro, registros de clientes ou mensagens de saída, ela fica atrás do bloqueio de escrita.
  • Se a ferramenta só lê dados ou gera rascunhos internos, ela pode continuar disponível durante a pausa, o que ajuda no diagnóstico.
  • Se a ferramenta não puder ser desligada sem reiniciar o agente, redesenhe essa conexão antes de dar qualquer autoridade ao agente.

O estado deve viver em um armazenamento próprio, com backup e versionamento próprios. A pausa nunca deve ser a operação que o limpa. Em trabalhos longos, os checkpoints facilitam essa separação, porque o agente pode retomar a partir de um ponto registrado sem repetir passos já concluídos. O artigo sobre checkpoints em tarefas longas de agente de IA detalha esse padrão.

Quais são os passos para pausar escritas sem perder o estado?

A pausa deve seguir a mesma ordem todas as vezes, para que quem aciona o botão não precise improvisar sob pressão.

  • Congele novas escritas: ative a flag de pausa no ponto de controle, para que toda chamada de escrita seja negada com um código de motivo claro que o agente possa registrar.
  • Retenha as ações em andamento: qualquer ação enviada e ainda não confirmada passa para o status de retenção. Não repita nem cancele automaticamente.
  • Tire um snapshot do estado: copie memória, fila e aprovações pendentes com carimbo de data e identificador de versão.
  • Mantenha a entrada aberta: novas tarefas são aceitas e guardadas como pendentes, sem execução, para que nenhum pedido se perca.
  • Avise o responsável: envie à pessoa de plantão designada a lista de itens congelados, o motivo da pausa e o horário em que ela começou.
  • Diagnostique com acesso de leitura: revise logs, rastros e saídas recentes enquanto as escritas continuam bloqueadas.
  • Retome com decisão: libere a flag somente depois que o responsável tiver decidido o que fazer com cada ação retida, seja liberá-la, cancelá-la ou executá-la novamente.
A pausa está completa quando o agente não consegue mais alterar nada e ninguém perdeu o controle sobre o que ele estava prestes a fazer.

O que acontece com aprovações pendentes e ações retidas?

As aprovações pendentes são compromissos assumidos com pessoas, por isso exigem mais cuidado. Durante a pausa, os pedidos de aprovação devem continuar abertos e indicar que o agente está pausado. Ninguém deve descobrir depois que um pedido expirou em silêncio ou que uma mudança aprovada foi perdida em uma reinicialização.

Quando o agente voltar a operar, os itens aprovados precisam ser verificados novamente contra os dados atuais antes de executar. Uma aprovação dada ontem pode não corresponder mais ao registro em que se baseava. As chaves de idempotência ajudam nesse ponto, porque permitem que uma ação liberada seja executada uma única vez, mesmo que haja nova tentativa. O artigo sobre ações idempotentes em agentes de IA mostra como evitar efeitos duplicados quando uma repetição acontece.

Cenário ilustrativo: um agente redige e envia atualizações de pedidos a fornecedores. No meio da manhã, ele percebe que um preço unitário nos dados de origem parece errado. O responsável ativa a pausa de escrita. Várias atualizações continuam aguardando aprovação e permanecem visíveis com o rótulo de pausado. Duas atualizações tinham sido enviadas pouco antes da pausa, mas o sistema do fornecedor nunca confirmou o recebimento. A equipe retém essas duas, verifica o status por uma consulta somente leitura e cancela uma que já não está correta. A fila e a memória do agente sobre as preferências dos fornecedores continuam intactas, e no dia seguinte ele retoma apenas os itens que o responsável liberou.

Como testar o botão antes de precisar dele?

Um botão que nunca foi acionado é apenas uma hipótese. Teste-o em um ambiente de homologação que reproduza a estrutura de permissões da produção e repita o teste em uma agenda. As verificações são simples e devem estar por escrito.

  • Acione a pausa e confirme que toda tentativa de escrita é negada com o código de motivo esperado.
  • Confirme que leituras, rascunhos e a entrada de novas tarefas continuam funcionando durante a pausa.
  • Compare o tamanho da fila e a quantidade de aprovações com o snapshot tirado no momento da pausa.
  • Tente liberar uma ação retida sem decisão do responsável e confirme que o ponto de controle a bloqueia.
  • Confirme que o agente não consegue alterar a flag de pausa, a tabela de permissões ou o próprio escopo.
  • Confirme que o sistema falha fechado: se o armazenamento da flag ficar inacessível, as escritas devem ser negadas, e não permitidas por padrão.
  • Meça o tempo da sequência completa, do alerta até a notificação ao responsável, e registre o resultado no runbook.

O exercício deve nomear uma pessoa e um substituto para cada função. Se a única pessoa que sabe pausar o agente estiver de férias, o botão não é confiável. Mantenha os passos nas notas de operação que as pessoas realmente leem durante um incidente e revise-os após cada exercício.

Como a Be Human trata a pausa na operação gerenciada?

A Be Human trata a pausa como parte do desenho do agente, e não como um remendo de emergência adicionado depois. Em um primeiro projeto, o ponto de controle de escrita, os armazenamentos de estado, o status de retenção e os controles de pausa são definidos antes de o agente receber qualquer autoridade. Os limites de aprovação determinam quais ferramentas ficam atrás do bloqueio, e o critério de sucesso deixa claro como é uma retomada saudável. Na operação gerenciada, revisões de permissões, resposta a incidentes e exercícios recorrentes mantêm o caminho de pausa funcionando conforme ferramentas e integrações mudam, e cada pausa e retomada fica registrada no registro de mudanças para que o responsável possa entender o que aconteceu.

Quando retomar e o que registrar?

Retomar é uma decisão, não um temporizador. Libere a pausa somente depois que o responsável revisar a causa, decidir cada ação retida, confirmar que o snapshot do estado corresponde aos registros atuais e checar um pequeno conjunto de saídas recentes. Registre o motivo da pausa, o horário de início, os itens congelados, as decisões tomadas sobre cada item e a mudança, se houver, que impede a repetição do problema. Essas anotações servem de base para o próximo exercício e para o monitoramento que você vai acrescentar.

Se você não tem certeza de qual tarefa deve ser entregue primeiro a um agente, faça o diagnóstico gratuito da Be Human para identificar a primeira tarefa que vale a pena delegar.

Perguntas frequentes

Posso simplesmente desligar o agente em vez de criar um botão de parada? Pode, mas desligar costuma interromper as leituras, descartar o contexto em memória e deixar o trabalho na fila em um estado incerto. Um botão que bloqueia as escritas no ponto de controle permite conter o dano e manter memória, fila e aprovações disponíveis para revisão. Desligar o processo ainda pode ser um passo posterior, caso a causa esteja no próprio ambiente de execução.

A pausa impede o agente de ler dados do negócio? Não deveria, a menos que você decida restringir as leituras por um motivo específico, como uma preocupação com privacidade de dados. As leituras ajudam no diagnóstico, porque o responsável consegue comparar o que o agente viu com o que os sistemas mostram agora. Mantenha o escopo de leitura restrito e registrado, para que a pausa continue sendo um estado controlado.

O que acontece com as tarefas que chegam enquanto o agente está pausado? As novas tarefas devem ser aceitas na fila e guardadas como pendentes, sem execução. Isso protege o pedido contra perdas e permite que o responsável decida se ele será processado depois da retomada. A mensagem de entrada deve informar ao solicitante que a tarefa está aguardando, para que ninguém presuma que foi ignorada.

Quem deve poder acionar o botão? A pausa deve estar disponível para um responsável designado e para um substituto designado, e deve ser acessível sem depender do próprio agente ou do notebook de um único engenheiro. Quem pode pausar também deve estar apto a seguir os passos de revisão antes de retomar. A permissão para retomar deve ser mais restrita do que a permissão para pausar, porque retomar é o momento em que a autoridade do agente é restabelecida.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →