Intervenção humana em agentes de IA: caminho para a equipe testar

Um caminho de intervenção humana é uma sequência definida que uma pessoa nomeada da equipe pode executar para parar, assumir ou reverter o que um agente de IA está fazendo em uma tarefa específica, sem depender do fornecedor ou de quem construiu o agente. Ele funciona quando cada tarefa tem um responsável nomeado e um substituto, um gatilho que não exige habilidade técnica, um registro claro do que o agente já fez e um ensaio feito antes que alguém precise dele. As seções abaixo mostram como desenhar esse caminho para uma equipe pequena e como testá-lo.

Principais pontos

• Cada tarefa do agente precisa de uma pessoa nomeada que possa fazer a intervenção, além de um substituto que atue quando o responsável estiver ausente.
• Uma intervenção tem três funções: interromper novas ações, passar o trabalho em aberto para uma pessoa e reverter o que o sistema permitir reverter.
• Escreva a intervenção como um roteiro curto que a equipe consiga seguir em minutos, usando os nomes reais das suas ferramentas.
• Teste o caminho em uma agenda, com uma tarefa segura para pausar, e registre cada resultado.
• Mantenha os logs e a fila de trabalho íntegros, para que a assunção comece com fatos e não com suposições sobre o que o agente pretendia.

O que uma intervenção precisa fazer

Intervenção humana não é uma promessa genérica de que alguém poderá intervir. É um procedimento específico com três resultados. Ele interrompe a próxima ação que o agente tomaria naquela tarefa. Entrega a uma pessoa o trabalho em aberto, em uma forma que ela consiga agir. E reverte ou sinaliza o que o agente já alterou, sempre que a reversão for possível.

Muitas equipes param no primeiro resultado e presumem que o resto se resolve sozinho. Um agente pausado que deixou uma mensagem meio enviada, uma fila que ninguém consegue ler e nenhum registro da última etapa concluída cria mais trabalho do que o problema original. A intervenção só está completa quando uma pessoa consegue ver o estado atual, decidir o que acontece em seguida e encerrar ou retomar a tarefa sem pedir ao construtor que interprete a configuração.

Conforme os agentes assumem cadeias mais longas de ações, a intervenção passa a importar mais, e não menos. O NIST AI Risk Management Framework trata a capacidade de gerenciar e responder a riscos de IA como parte da governança, e não como um recurso a ser acrescentado depois. Para um aprofundamento sobre como interromper ações mantendo logs e filas, leia Botão de parada para agentes de IA: pare ações sem perder logs.

Dê a cada tarefa um responsável nomeado e um gatilho

Caminhos de intervenção costumam falhar primeiro na responsabilidade. Se um agente envia lembretes a fornecedores, uma pessoa da operação deve ser a dona dessa tarefa, e uma segunda pessoa precisa conseguir agir quando a primeira não estiver disponível. A expressão a equipe de TI não é um responsável. Anote um nome, um cargo e um substituto para cada tarefa do agente, e confirme que as duas pessoas têm o acesso necessário. As diretrizes de autorização da OWASP são uma referência útil para manter o acesso vinculado a papéis e ações específicos, e não a privilégios amplos de administrador.

Cada tarefa também precisa de um gatilho que não dependa da cooperação do agente. Pode ser um comando no chat da equipe, um botão em uma tela administrativa, uma flag de configuração que desativa as ferramentas da tarefa ou uma ligação para o responsável que leve à mesma flag. Escolha a opção que a equipe vai usar sob pressão, e evite qualquer caminho que exija abrir um terminal ou esperar a abertura de um chamado no fornecedor.

Deixe claro qual tipo de intervenção você está acionando:

• Pausar: interrompe novas ações em uma tarefa, mantendo a fila e os logs intactos.
• Assumir: uma pessoa trata diretamente os itens em aberto, e o agente é instruído a não mexer neles.
• Reverter: desfaz uma ação específica quando o sistema permite, como cancelar uma mensagem agendada.
• Desativar uma ferramenta: remove a permissão de uma ferramenta do agente enquanto as demais tarefas continuam.

Essas quatro ações são diferentes, e a equipe deve saber qual está escolhendo. Se os limites de aprovação da tarefa não estiverem claros, defina-os primeiro com Quando seu agente de IA deve parar e perguntar?

Uma pausa que ninguém consegue acionar no momento certo não é um controle.

Escreva o roteiro em passos simples

Um roteiro é o documento que a equipe abre quando algo parece errado. Ele deve caber em uma tela, citar as ferramentas reais e evitar jargão interno. Guarde-o onde as pessoas já olham durante incidentes, como o canal de incidentes da equipe ou a primeira página das notas operacionais do agente, e não em uma pasta que só o construtor consegue acessar.

Um roteiro funcional para uma tarefa segue esta sequência:

• Confirme o nome da tarefa e o sintoma em uma frase.
• Acione a pausa somente para essa tarefa e verifique se a fila não mostra novas ações.
• Abra o log do período em questão e anote a última ação concluída pelo agente.
• Liste todos os itens em aberto e atribua cada um a uma pessoa nomeada.
• Decida, para cada item, se uma pessoa o conclui manualmente, se o cancela ou se o mantém para o responsável.
• Reverta as ações que o sistema permitir reverter e registre cada reversão com o horário.
• Escreva uma nota curta com o que aconteceu, o que foi pausado, quem está com cada item e a condição para retomar.
• Retome a tarefa somente depois que o responsável tiver lido a nota e aprovado o reinício.

Mantenha o roteiro curto o bastante para que um substituto consiga segui-lo sem o responsável presente. Se um passo exige uma habilidade que só uma pessoa tem, esse passo é um ponto único de falha e deve ser reescrito ou passado a alguém que consiga executá-lo.

Defina o que pode ser revertido e o que não pode

A reversão depende da ferramenta, e não do agente. Um convite de agenda cancelado normalmente pode ser restaurado, um e-mail enviado não pode ser recuperado, e um pagamento já processado depende do processo do próprio provedor de pagamento. Antes de fechar o roteiro, classifique cada ferramenta que o agente usa em três grupos: reversível dentro dos seus próprios sistemas, reversível apenas por meio de um provedor e não reversível. Coloque o grupo não reversível sob os limites de aprovação mais rígidos, porque a intervenção não consegue corrigir essas ações depois.

A reversão também alcança a memória. Se o agente registrou um fato errado sobre um cliente ou fornecedor, interromper a próxima mensagem não basta. A intervenção deve incluir um passo que corrija ou remova o fato armazenado e confirme que o agente não o usa mais. Os passos para localizar e remover conteúdo armazenado estão em Atender pedido de exclusão de memória de agente de IA: guia prático.

Escreva também o que a intervenção não fará. A pausa não recupera mensagens já entregues e não desfaz uma decisão que o cliente já tomou com base na comunicação. Declarar esses limites no roteiro evita que a equipe presuma que um interruptor desfaz tudo.

Teste o caminho antes de precisar dele

Um caminho de intervenção que nunca foi executado é apenas uma hipótese. Teste-o em uma agenda, usando uma tarefa segura para pausar, como um rascunho de relatório, uma fila de teste ou um lembrete interno de baixo risco. Torne o teste observável: a pausa deve surtir efeito no tempo esperado, e o log deve mostrar isso. Orientações de avaliação de agentes, incluindo as notas da Anthropic sobre avaliações de agentes de IA, recomendam verificar o comportamento do agente em tarefas realistas e registrar os resultados para comparar execuções futuras. O material introdutório de observabilidade da OpenTelemetry explica por que traces, métricas e logs importam aqui, porque uma assunção só é tão boa quanto as evidências que uma pessoa consegue ver.

Use uma checklist em cada teste:

• O responsável e o substituto conseguem, cada um, acionar a pausa sem ajuda do construtor.
• A pausa interrompe novas chamadas de ferramentas, e não apenas novas mensagens.
• A fila em aberto continua visível depois da pausa, e nenhum item desaparece.
• O log mostra a última ação concluída, com horário e identificador.
• Uma pessoa consegue concluir manualmente um item em aberto e marcá-lo como encerrado.
• O agente só volta a operar após uma instrução explícita do responsável.
• O resultado, a data do teste e o nome de quem testou ficam registrados.

Cenário ilustrativo: uma empresa mantém um agente que redige e-mails de acompanhamento para fornecedores e atualiza uma planilha de compras. O líder de operações percebe que o agente está enviando um lembrete a um fornecedor cuja entrega já havia sido registrada. O substituto de plantão aciona a pausa só para essa tarefa, confere que a fila parou e abre o log para encontrar a última mensagem enviada. Ela transfere os dois itens em aberto para um comprador tratar manualmente, corrige a planilha e escreve a nota. O responsável retoma a tarefa no dia seguinte, depois de ler a nota. Como o teste periódico já havia cobrido exatamente essa pausa, ninguém precisou descobrir os passos sob pressão.

Mantenha o caminho funcionando conforme pessoas e ferramentas mudam

Caminhos de intervenção se deterioram. Uma ferramenta ganha uma nova permissão, um responsável muda de função, ou o agente ganha um canal que o roteiro não menciona. Revise o roteiro sempre que isso acontecer e, pelo menos, durante a revisão periódica de permissões. As revisões de acesso são um momento natural para confirmar que cada responsável pela intervenção ainda tem o acesso certo, como descrito em Revisão de acessos de agentes de IA: auditoria trimestral de permissões.

A rotatividade de pessoas é a causa mais comum de deterioração. Quando quem entendia a configuração deixa a empresa, o caminho de intervenção só sobrevive se estiver escrito e se o substituto de fato o tiver praticado. Planeje essa passagem antes que ela aconteça, incluindo o roteiro atualizado e um ensaio com o substituto.

A Be Human trata isso como parte do trabalho contratado, e não como um detalhe posterior. Uma primeira etapa define um papel útil, a memória e as ferramentas de que ele precisa, os limites de aprovação e o responsável e o substituto de cada intervenção. A operação gerenciada pode incluir testes recorrentes do caminho, revisão de permissões, manutenção das integrações e resposta a incidentes, e o roteiro é revisado quando a configuração muda. O trabalho é remoto, em inglês ou português, e a identidade, a memória, os canais e os logs do agente permanecem sob controle da empresa.

Se não tiver certeza de qual tarefa deve vir primeiro, faça o diagnóstico gratuito de IA da Be Human para descobrir a primeira tarefa que vale entregar a um agente.

Perguntas frequentes

Em que a intervenção humana difere de um botão de parada? Um botão de parada normalmente interrompe o agente inteiro ou uma classe ampla de ações, enquanto o caminho de intervenção é o procedimento humano mais amplo para uma tarefa. Ele inclui pausar, assumir o trabalho em aberto, reverter ações quando possível e definir quem executa cada passo. Os dois dependem de logs e filas intactos, para que uma parada não apague os fatos de que a pessoa precisa.

Quem pode acionar uma intervenção? O responsável nomeado e o substituto de cada tarefa devem conseguir acioná-la, além de um contato de escalonamento para incidentes. Mantenha essa lista curta e revisada, e evite dar a todos os funcionários poder para desativar ferramentas de produção. Ainda assim, garanta que o responsável consiga agir sem esperar o fornecedor responder.

Com que frequência devemos testar o caminho de intervenção? Teste antes do primeiro uso real, depois de qualquer mudança em ferramentas, permissões ou responsáveis, e em uma agenda recorrente compatível com o risco da tarefa. Os testes de rotina devem usar tarefas seguras para pausar, para que o próprio teste não gere um incidente. Registre cada resultado para que o próximo teste tenha uma referência de comparação.

O caminho de intervenção substitui a aprovação humana antes das ações? Não, os dois têm funções diferentes. Os limites de aprovação definem o que o agente pode fazer sem perguntar antes a uma pessoa. O caminho de intervenção cuida do que acontece quando algo dá errado ou quando uma pessoa precisa assumir no meio de uma tarefa. Por isso você precisa dos dois e deve testar cada um separadamente.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.