Plantão para agentes de IA: quem é acionado e quando

Um agente de IA que opera fora do horário comercial precisa da mesma disciplina operacional de qualquer sistema em produção: uma pessoa nomeada responsável por cada decisão, um caminho de escalonamento por escrito para quando essa pessoa não responder e uma janela de resposta compatível com o tamanho do dano que uma falha pode causar antes de alguém olhar. Defina essas três coisas antes da primeira execução sem supervisão e mantenha-as em um lugar que o dono do negócio e a pessoa de plantão consigam consultar. As seções abaixo mostram como montar cada uma delas, com um guia de decisão sobre quem é acionado e quando, e uma lista de verificação para o primeiro plantão.

Principais pontos

• Nomeie um responsável único e um substituto também nomeado para cada agente, e não uma caixa de entrada compartilhada da equipe.
• Encaminhe os eventos por tipo: eventos de permissão e de dados, problemas de qualidade da resposta e falhas de disponibilidade vão para pessoas diferentes.
• Defina janelas de resposta por gravidade e escreva o que o agente faz enquanto um alerta crítico está aberto.
• Dê a uma pessoa a autoridade para pausar ações de saída e teste essa pausa antes da primeira execução fora do horário.
• Revise os alertas, os alertas perdidos e as mudanças a cada trimestre, com base nos registros e não na memória.

Por que um agente precisa de plantão, e não apenas de um painel

Um painel informa que algo aconteceu. Um plantão define quem precisa agir quando isso acontece. Em software convencional, a diferença costuma ser pequena, porque um processo com falha normalmente para e aguarda. Um agente funciona de outro jeito. Ele lê mensagens recebidas, chama ferramentas, grava em registros e envia respostas no seu próprio ritmo. Por isso, uma falha à noite pode continuar gerando resultados até que alguém intervenha.

O vocabulário de observabilidade ajuda a entender esse ponto. A documentação introdutória do OpenTelemetry descreve como rastros, métricas e registros permitem reconstruir o que um sistema fez e por quê. Esses sinais só são úteis quando uma pessoa nomeada é responsável por lê-los e decidir o que fazer. Telemetria sem dono vira apenas o registro de um incidente, e não uma forma de interrompê-lo.

Antes de escrever qualquer escala, separe três conceitos. Um alerta é um sinal. Um acionamento é um pedido para que uma pessoa aja agora. Um chamado é um trabalho que pode esperar o horário comercial. A maioria dos plantões iniciais falha porque todo alerta vira acionamento. Isso treina a pessoa de plantão a ignorar os acionamentos, e então o que importa se perde no meio do ruído.

Defina os responsáveis antes de montar a escala

Cada agente precisa de quatro papéis ocupados por pessoas, e não por áreas ou caixas de e-mail. Escreva um nome e um substituto para cada papel e confirme, a cada trimestre, que as duas pessoas continuam com essa função.

• Dono do negócio: decide para que o agente serve, aceita o risco operacional e aprova mudanças de escopo. Normalmente é o líder cujo processo o agente apoia.
• Operador: recebe os acionamentos, executa o procedimento de resposta e decide se o agente deve ser pausado. Essa pessoa precisa de acesso de leitura aos registros e de autoridade para alterar a configuração.
• Aprovador de permissões: aprova qualquer nova ferramenta, fonte de dados ou ação de escrita. Dependendo do que o agente acessa, esse papel costuma ficar com segurança, financeiro ou jurídico.
• Contato de escalonamento: a liderança sênior acionada quando clientes, dinheiro, dados pessoais ou um compromisso com um órgão regulador podem ser afetados. Em muitas empresas, é o patrocinador executivo.

O NIST, com seu framework de gestão de riscos de IA, coloca governança e responsabilização no centro do controle desses riscos. Por isso, esses papéis devem estar por escrito antes do primeiro incidente, e não ser discutidos durante um. As regras de acesso seguem a mesma lógica. As orientações da OWASP sobre autorização se baseiam em verificar cada ação contra uma regra explícita. Aplique o mesmo princípio às pessoas: o operador deve conseguir pausar o agente, mas não deve conseguir conceder novas permissões no meio da noite.

Decida quem é acionado: um guia de decisão

Classifique cada evento possível com quatro perguntas. A ação pode ser desfeita? Ela chega a uma pessoa ou sistema externo? Toca em dinheiro, dados pessoais ou um compromisso que a empresa já assumiu? O agente continua dentro do limite aprovado? As respostas encaixam cada evento em uma de três rotas.

• Acionar agora: o agente enviou ou está prestes a enviar uma mensagem externa que não deveria, executou uma ação de escrita fora do conjunto de permissões, pode ter exposto uma credencial ou dado pessoal, ou está repetindo uma chamada de ferramenta com falha que cria registros duplicados ou alterações não autorizadas.
• Tratar na manhã útil seguinte: a qualidade da resposta piora em resumos internos de baixo risco, uma integração não crítica devolve avisos ou o tempo de resposta fica mais lento sem perda de precisão.
• Apenas chamado: tendências de custo que precisam de revisão, sugestões de redação para prompts ou descrições de ferramentas e pedidos de usuários por novas capacidades.

Uma categoria merece atenção especial. Conteúdo que entra no agente vindo de fora, como uma mensagem de cliente ou um documento recuperado, pode conter instruções destinadas a mudar o comportamento do agente. As orientações da OWASP sobre prevenção de injeção de prompt descrevem esse tipo de risco. Quando esse conteúdo tenta alterar ferramentas, permissões ou o comportamento de saída, trate-o como evento de acionamento imediato e garanta que o operador consiga ver a entrada que o provocou.

Defina janelas de resposta e o estado seguro

A janela de resposta é o tempo entre um acionamento e uma ação humana. Defina esse tempo pelo custo de esperar, e não pelo que parece confortável. Para um evento de acionamento imediato, a janela é o tempo em que o dano poderia crescer. Para cada gravidade, escreva dois limites: em quanto tempo uma pessoa reconhece o acionamento e em quanto tempo o agente chega a um estado conhecido e estável.

Use esta sequência para defini-los:

• Liste todas as ações que o agente pode executar e marque cada uma como reversível ou não. Rascunhos, leituras e anotações internas costumam ser reversíveis. E-mails externos, pagamentos e registros excluídos não são.
• Para cada ação irreversível, defina o estado seguro. Na maioria dos casos, isso significa que o agente continua lendo, coloca suas ações de saída em fila e para de chamar ferramentas de escrita.
• Defina a janela de reconhecimento para os eventos de acionamento imediato. Ela deve ser curta o bastante para que alguém responda pelo celular e longa o bastante para que uma pessoa dormindo não seja acordada por ruído que um chamado resolveria.
• Defina a janela de resolução: o prazo em que o operador restaura a operação normal ou mantém o agente pausado e informa o dono do negócio.
• Nomeie quem pode acionar o estado seguro e confirme que consegue fazê-lo sem implantação ou pedido de mudança. Teste a pausa uma vez, com o operador presente.
• Guarde as janelas no registro operacional, ao lado da lista de permissões. Alterá-las deve seguir o mesmo caminho de aprovação das permissões, como descrito em agente de IA deve funcionar 24 horas? Defina horários e limites.

Cenário ilustrativo: uma empresa mantém um agente que rascunha respostas a perguntas de fornecedores durante a noite, e a equipe aprova cada resposta antes do envio. Uma alteração de configuração às 23h remove a etapa de aprovação, e o agente passa a enviar respostas diretamente. A regra de acionamento imediato é disparada porque as ações de saída não têm registro de aprovação. O operador do primeiro plantão pausa o envio pelo celular dentro da janela de reconhecimento, e os rascunhos na fila esperam pela manhã. O dono do negócio recebe uma nota curta com a lista do que foi enviado antes da pausa.

Monte o caminho de escalonamento e o procedimento de resposta

Um caminho de escalonamento é uma sequência com prazos. Se o operador não reconhecer o acionamento dentro da janela, ele vai para o substituto. Se o substituto também não reconhecer, vai para o dono do negócio. O contato de escalonamento só é acionado quando clientes, dinheiro, dados pessoais ou um compromisso legal podem ser afetados. Escreva a sequência com seus prazos, para que ninguém precise decidir a ordem às 2h da manhã.

O procedimento de resposta é o documento que a pessoa de plantão usa enquanto o acionamento está aberto. Ele deve ser curto o bastante para ser lido no celular e específico o bastante para que alguém que nunca operou o agente consiga segui-lo. Inclua:

• O que cada alerta significa em linguagem simples e a qual rota pertence.
• A identidade do agente, suas ferramentas, o escopo de cada ferramenta e as fontes de dados que ele pode ler.
• Os passos do estado seguro, escritos como ações numeradas com o controle exato a ser usado.
• A última configuração conhecida como boa e onde ela está guardada.
• Quem informar, em que ordem, com um modelo curto de mensagem para o dono do negócio.
• O que registrar: horários, ações tomadas, decisões e se o acionamento foi verdadeiro ou falso alarme.

Se o operador e o substituto trabalham em fusos horários ou idiomas diferentes, declare o horário de cobertura de cada um e o que acontece na passagem de turno. A passagem só é segura quando quem sai registra todos os eventos abertos. Para equipes que trabalham em português e inglês, mantenha os passos do estado seguro em um único idioma, para que ninguém os interprete mal sob pressão, e traduza o restante.

Como a Be Human conduz o plantão com a sua equipe

A Be Human desenha e opera agentes de IA personalizados, e o plantão é definido como parte do primeiro projeto, e não acrescentado depois do primeiro incidente. O escopo define o papel, a memória e as ferramentas que o agente precisa, seus limites de aprovação e o critério de sucesso que o plantão protege. Na operação gerenciada, a Be Human pode executar monitoramento, avaliações recorrentes, revisão de permissões e resposta a incidentes, e mantém o procedimento de resposta e o caminho de escalonamento atualizados conforme o agente muda. Alterações em janelas, rotas ou permissões passam pelos mesmos passos de solicitação e aprovação das demais mudanças, de modo que o dono do negócio e o operador do cliente continuem com as decisões que realmente importam.

Revise o plantão em uma agenda fixa, e não apenas quando algo quebra. A cada trimestre, conte os acionamentos por tipo, os que se revelaram ruído, os reconhecidos com atraso e os eventos que deveriam ter acionado e não acionaram. Compare a lista de responsáveis nomeados com as pessoas que ainda ocupam esses papéis. Confirme que o passo do estado seguro continua funcionando depois de mudanças recentes de configuração. Use os passos de revisão de permissões e reestruturação de agentes de IA para verificar se o escopo de cada ferramenta ainda corresponde ao trabalho. Os primeiros meses são o período em que o plantão mais precisa de ajustes.

Se você não tem certeza de qual tarefa deve ir primeiro para um agente, e portanto qual responsável e qual janela de resposta ela vai exigir, o diagnóstico gratuito de IA da Be Human pode ajudar a identificar a primeira tarefa que vale entregar a um agente.

Perguntas frequentes

Quem deve ser o responsável pelo plantão de um agente de IA? O operador deve ser uma pessoa nomeada, com acesso de leitura aos registros do agente e autoridade para pausar suas ações de saída. Normalmente é alguém da equipe que opera o processo que o agente apoia ou do grupo que o mantém. Nomeie também um substituto e garanta que as duas pessoas tenham lido o procedimento de resposta. Uma caixa de entrada compartilhada não é um responsável, porque ninguém se sente obrigado a respondê-la.

Qual deve ser a janela de resposta? Não existe um número universal, então defina a janela de cada gravidade pelo custo de esperar. Eventos de acionamento imediato devem ter a janela de reconhecimento mais curta, porque o agente pode continuar causando dano enquanto o acionamento está aberto. Rascunhos internos e problemas de qualidade de baixo risco normalmente podem esperar a manhã útil seguinte.

Todo agente precisa de plantão noturno? Nem todo agente precisa de alguém acordado à noite. Se o agente apenas rascunha materiais internos ou executa tarefas reversíveis, uma fila de chamados e uma revisão na manhã seguinte podem bastar. Agentes que enviam mensagens, alteram registros ou mexem com dinheiro ou dados pessoais fora do horário comercial precisam de uma rota de acionamento testada e de um estado seguro.

O que acontece se ninguém responder ao acionamento? O caminho de escalonamento passa para o substituto, depois para o dono do negócio e, se clientes, dinheiro, dados pessoais ou compromissos puderem ser afetados, para o contato de escalonamento. Nesse momento, o agente já deve estar em seu estado seguro, com as ações de saída pausadas e enfileiradas. Assim, o custo do silêncio é atraso, e não dano adicional.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.