Quem pode parar um agente de IA? Supervisão e botão de desligamento
Veja quais papéis nomeados podem pausar ou revogar um agente de IA e como montar a parada por canal, ferramenta e memória, com checklist.

Quem pode parar um agente de IA? O dono do negócio responsável, o operador que roda o agente no dia a dia e um contato de incidentes que consiga agir fora do horário comercial devem, cada um, ser capazes de pausá-lo sem esperar por um desenvolvedor. Cada um precisa de autoridade escrita sobre um conjunto definido de paradas: um canal, uma ferramenta, as gravações de memória ou o agente inteiro. O botão de desligamento é o mecanismo, mas são esses papéis nomeados que decidem quem o aciona, quando, e o que acontece com o trabalho que já estava em andamento.
Principais pontos
- Nomeie pelo menos três pessoas que possam pausar um agente e teste se cada uma consegue fazer isso sem ajuda de um desenvolvedor.
- Monte a parada em quatro camadas: canal, ferramenta, gravações de memória e o agente inteiro.
- Uma pausa deve interromper novas ações, mantendo os registros, o estado da memória e a fila de trabalho intactos.
- Revogar acesso é um ato separado de pausar, com checklist e teste próprios.
- Faça simulações do botão de desligamento antes de um incidente e repita-as após cada mudança em ferramentas, canais ou permissões.
Quem deve ter autoridade para parar?
A autoridade de parada pertence a pessoas, nunca ao agente. Um agente não deve decidir se as próprias permissões serão reduzidas, e as instruções de operação devem dizer isso com clareza. O NIST AI Risk Management Framework trata papéis claros e responsabilização como parte da gestão do risco de IA, e o botão de desligamento é um dos pontos mais concretos onde esse princípio aparece. Na maioria das empresas, cinco papéis cobrem o essencial:
- O responsável, geralmente o dono do negócio ou um gestor de área, que pode pausar qualquer agente da sua área e decide quando ele pode voltar.
- O operador do agente, a pessoa que mantém as instruções, a lista de ferramentas e a memória do agente, e que pode pausá-lo durante o trabalho normal.
- O contato de incidentes, uma pessoa nomeada, com telefone acessível e um substituto também nomeado, que possa agir fora do horário comercial.
- O líder de cada área afetada, como atendimento ao cliente ou financeiro, que pode pausar apenas os canais ou ferramentas que tocam o seu trabalho.
- O provedor de operações gerenciadas, se houver contrato, que executa a parada conforme instruções documentadas e registra a ação.
Registre em uma única página o nome de cada pessoa, as paradas que ela pode usar e o substituto. Um papel sem uma pessoa real por trás é uma esperança, não um controle. Revise essa página sempre que alguém mudar de equipe, sair da empresa ou assumir um novo agente.
Quais são as quatro camadas que o botão de desligamento deve alcançar?
Uma parada que signifique apenas "desligar o agente" é grosseira demais para a maioria das situações reais. Um desenho melhor funciona em quatro camadas, e cada uma responde a uma pergunta diferente sobre o risco.
- Canal: interrompe as mensagens enviadas por e-mail, chat, SMS ou voz, enquanto a redação interna continua. A pergunta que responde é se o agente ainda consegue alcançar clientes ou funcionários.
- Ferramenta: suspende uma integração específica, como pagamento, agenda, arquivos ou sistema de chamados. A pergunta é se o agente ainda consegue alterar registros.
- Memória: congela as gravações na memória de longo prazo, para que uma instrução defeituosa ou um fato errado não vire uma regra permanente. A pergunta é se o agente ainda consegue aprender com isso.
- Agente inteiro: interrompe toda ação, incluindo tarefas agendadas, execuções em segundo plano e manipuladores de webhook. A pergunta é se algo ainda está rodando.
Teste cada camada contra a sua pergunta durante o desenho. Se a equipe não consegue dizer, citando o sistema específico, como funciona a pausa de um canal, essa camada ainda não está construída. As camadas também indicam a ordem de uso: parar o canal de saída costuma limitar o dano mais rápido do que parar o agente inteiro, porque o trabalho interno pode continuar para a investigação.
O que uma pausa deve preservar?
Uma pausa que apaga evidências cria um segundo problema. Antes de qualquer parada, as ações, chamadas de ferramentas e decisões do agente já devem estar registradas de forma legível para consulta posterior. O material introdutório da OpenTelemetry descreve logs, traces e métricas como sinais separados que, juntos, mostram o que um sistema fez e por quê. No caso de um agente, isso significa que cada etapa, cada chamada de ferramenta e cada gravação de memória deve deixar um registro com data e hora, ligado a um identificador de execução, para que o investigador consiga reconstruir uma conversa ou tarefa específica.
Uma pausa precisa manter três coisas intactas. Os logs devem continuar legíveis e retidos pela sua própria política, e não apenas dentro do painel do fornecedor. A fila de trabalho, como mensagens aguardando envio ou aprovações aguardando uma pessoa, deve ser retida, e não descartada nem reenviada automaticamente quando o agente voltar. O estado da memória deve ser congelado para que a revisão veja o que o agente considerava verdadeiro no momento da parada. Para a mecânica de interromper ações preservando essas evidências, veja como parar um agente de IA com segurança, sem perder registros ni fila de trabalho.
Cenário ilustrativo: uma resposta sobre reembolso sai do controle
Cenário ilustrativo, não é um caso real: um agente que atende clientes começa a responder perguntas de reembolso com uma política que foi editada em um documento de rascunho, mas nunca aprovada. O líder de atendimento percebe o problema numa sexta-feira à tarde, e a equipe segue o plano escrito.
- O líder de atendimento pausa primeiro o canal de mensagens com clientes. A redação interna continua, e as respostas não enviadas ficam na fila.
- O operador suspende a ferramenta de consulta de reembolsos, para que o agente deixe de citar valores retirados do sistema de cobrança.
- As gravações de memória são congeladas, para que o texto da política não aprovada não seja guardado como regra permanente.
- O responsável revisa os logs da execução, lista as conversas afetadas e decide quais clientes precisam de uma resposta humana naquele dia.
- Só depois que a política for corrigida e uma amostra de conversas de teste for revisada é que o responsável libera as pausas, uma camada por vez.
O valor dessa sequência é que ninguém precisou adivinhar. Cada pessoa sabia qual camada era sua, o que preservar e quem decidiria a volta.
Revogar acesso é uma etapa separada
Pausar interrompe o agente por enquanto. Revogar remove o que o agente poderia usar depois, e as duas ações nunca devem ser confundidas em um procedimento operacional. Uma pausa pode ser desfeita em minutos. A revogação deve ser tratada como um desligamento de funcionário: deliberada, registrada e verificada.
Um checklist de revogação costuma cobrir chaves de API e autorizações OAuth ligadas à identidade do agente, contas de serviço, registros em canais de mensagens, endpoints de webhook, permissões de pastas compartilhadas e quaisquer credenciais guardadas em arquivos de configuração ou prompts. A orientação da OWASP sobre autorização enfatiza o menor privilégio e a aplicação da autorização em cada requisição, por isso uma permissão revogada deve falhar no provedor, e não apenas desaparecer de uma lista interna. Depois de revogar, faça uma chamada de teste com a credencial antiga, confirme que ela é recusada e anote o resultado. Para uma sequência prática, veja o checklist para revogar o acesso do agente a tokens, chaves e canais.
Como a Be Human trata isso
A abordagem gerenciada da Be Human trata a autoridade de parada como parte do primeiro projeto, e não como um extra. O projeto nomeia o papel responsável por cada agente, mapeia seus canais, ferramentas, memória e permissões, e escreve antecipadamente as camadas de parada. O critério de sucesso do agente inclui uma pausa que foi testada, e não apenas descrita. Depois, as operações gerenciadas mantêm o controle atualizado com revisões periódicas de permissões, monitoramento dos logs de execução, simulações do botão de desligamento após mudanças nas integrações e resposta a incidentes que segue os papéis já definidos. A identidade e a memória do agente permanecem sob controle humano, e as pessoas nomeadas no plano mantêm a autoridade para alterá-las.
Se você não tem certeza de qual tarefa deve ser a primeira a ser entregue a um agente, o diagnóstico gratuito de IA da Be Human pode ajudar a identificá-la.
Perguntas frequentes
O próprio agente pode se parar se detectar um problema? Ele pode receber a instrução de emitir um alerta e deixar de executar novas ações, e esse comportamento é útil. Mas ele não deve ter autoridade para reduzir as próprias permissões nem para decidir que uma parada é desnecessária, porque a autoridade de parada precisa ficar com pessoas nomeadas e com controles externos ao agente.
Pausar um agente apaga a sua memória? Não deveria. A pausa congela as gravações na memória e preserva o estado armazenado para que a equipe possa inspecioná-lo. A exclusão é uma ação separada e deliberada, que segue a sua política de retenção e exclusão e fica registrada quando acontece.
Com que frequência um botão de desligamento deve ser testado? Teste-o após cada mudança em ferramentas, canais ou permissões, e também em um calendário regular definido pelo responsável. Cada simulação deve confirmar que todos os papéis nomeados conseguem executar cada parada e que os logs esperados e a fila retida aparecem depois. Guarde o resultado para que a próxima revisão possa compará-lo.
Quem responde quando um agente pausado já causou algum dano? A pausa limita novos danos, mas não resolve a responsabilidade. A responsabilização depende dos contratos, aprovações e políticas que estavam em vigor antes do incidente, e por isso os papéis e os registros devem ser definidos primeiro. Para essa questão, leia quem responde quando um agente de IA comete um erro.
Seu próximo passo
Descubra primeiro onde um agente de IA cabe na sua empresa.
Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.
Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.


