Aprovação em duas pessoas para agentes de IA: quais ações exigem

Uma regra de aprovação em duas pessoas para um agente de IA significa que um segundo humano identificado precisa confirmar certas ações antes que o agente as execute. Ela se aplica a ações que movimentam dinheiro, alcançam pessoas fora da empresa, apagam dados ou alteram acessos, e não deve valer para cada passo. A regra funciona quando a lista de alto risco é curta e escrita, o agente não consegue contorná-la, e o segundo aprovador responde dentro de um prazo definido para que o trabalho não pare.

Principais pontos

• Coloque uma segunda pessoa em ações que movimentam dinheiro, enviam mensagens a clientes, apagam ou exportam dados ou alteram permissões. A maioria das outras etapas precisa de um revisor ou de nenhum.
• O aprovador precisa ver os parâmetros exatos que o agente vai usar, e não um resumo do que o agente pretende fazer.
• Aplique a regra na camada de ferramentas, para que o agente não a contorne reformulando o pedido.
• Encaminhe as aprovações para um grupo nomeado com um substituto, e deixe as ações sem resposta expirarem em vez de executá-las.
• Registre quem pediu, o que foi proposto, quem aprovou e o que aconteceu, para que cada decisão possa ser revisada depois.

Quais ações de agentes justificam um segundo aprovador?

Comece pela consequência, e não pelo quanto o agente parece seguro. Faça três perguntas sobre cada ação. Ela pode ser desfeita dentro de um prazo prático? Ela alcança alguém de fora da empresa ou compromete dinheiro da empresa? Ela altera acessos, retenção de dados ou as próprias permissões do agente? Um sim para qualquer uma dessas perguntas indica a necessidade de um segundo aprovador.

Use o guia a seguir como ponto de partida e ajuste-o à sua operação:

• Saída de dinheiro: pagamentos, reembolsos, pedidos de compra e notas de crédito acima de um limite definido pelo responsável financeiro.
• Primeiro contato externo: uma mensagem a cliente, fornecedor ou órgão regulador que ainda não foi enviada antes, ou que traz novos compromissos ou redação nova.
• Exclusão ou exportação: remoção de registros, limpeza da memória do agente ou transferência de um arquivo de dados para fora do sistema habitual.
• Mudança de permissões: concessão de uma nova ferramenta, ampliação de escopo ou inclusão de uma pessoa em um canal do agente.
• Configuração compartilhada: alteração de prompts, regras de roteamento ou integrações que afetam muitas tarefas ao mesmo tempo.
• Compromissos: mudança de prazos, preços, disponibilidade ou condições prometidas a terceiros.

Ações somente de leitura, rascunhos reversíveis ou notas internas costumam continuar automáticas ou sob revisão única. Manter a lista curta é o que dá credibilidade à segunda aprovação, porque aprovadores deixam de confiar em uma regra que pede confirmação para tudo.

Por que um aprovador costuma não bastar?

Um único aprovador é um controle fraco quando a pessoa está sobrecarregada, depende do resumo do agente ou é a mesma que pediu a tarefa. Com o volume alto, as aprovações viram gesto automático. A regra de duas pessoas muda a estrutura: a segunda pessoa é independente de quem pediu e confere os detalhes com o registro de origem. É a mesma separação de funções que as equipes financeiras já usam nos pagamentos.

A explicação do próprio agente também não é prova. Uma justificativa bem escrita pode estar errada sobre a conta de um cliente, a versão de um arquivo ou um prazo. O aprovador deve conferir os parâmetros nos sistemas de registro, e a ferramenta deve manter a ação retida até que essa conferência fique registrada. O NIST AI Risk Management Framework trata a atribuição clara de responsabilidades como parte da gestão de riscos de IA, e um segundo aprovador nomeado é uma forma concreta de fazer essa atribuição.

Como montar a etapa de segunda aprovação?

Montar o encaminhamento é, em grande parte, colocar as decisões por escrito e testá-las antes do uso real. A sequência a seguir funciona para a maioria das operações pequenas e médias:

• Passo 1: escreva a lista de alto risco, com um responsável de negócio por tipo de ação e o motivo de cada item estar na lista.
• Passo 2: defina a independência. O segundo aprovador não pode ser quem pediu, precisa ter autoridade sobre a ação e precisa conseguir abrir o registro de origem.
• Passo 3: crie um estado pendente na ferramenta. O agente propõe a ação com os parâmetros exatos, e a ferramenta a mantém retida até que as duas aprovações cheguem.
• Passo 4: nomeie pelo menos dois aprovadores qualificados para cada tipo de ação, mais um substituto para ausências, e defina a janela de resposta.
• Passo 5: defina a expiração. Se nenhuma segunda aprovação chegar dentro da janela, a ação caduca e o agente informa que não foi executada.
• Passo 6: teste em uma cópia de homologação, incluindo o caso em que o segundo aprovador recusa o pedido e o caso em que o pedido expira.

O estado pendente é a parte que a maioria das equipes deixa de lado. Sem ele, a aprovação vira uma mensagem em um chat que o agente pode executar de qualquer forma, e o controle existe apenas no papel.

Como manter o trabalho de rotina rápido?

A regra de duas pessoas só se sustenta se as pessoas não encontrarem atalhos. Use três níveis: automático para leituras e rascunhos, revisão única para ações moderadas e aprovação em duas pessoas para a lista curta. Pré-aprove padrões delimitados, como reembolsos abaixo de um limite para um motivo específico, e aplique o limite na ferramenta, e não nas instruções do agente.

Agrupe as revisões de baixo impacto em horários fixos, para que os aprovadores não sejam interrompidos o dia inteiro. Revise os níveis a cada trimestre e só mova uma ação para um nível mais baixo quando o registro mostrar que as aprovações foram rotineiras e que nenhum erro chegou ao cliente. Para um tratamento mais aprofundado de como a confiança cresce entre os níveis, veja Autorização de agentes de IA: níveis de permissão por confiança.

Cenário ilustrativo: notas de crédito após chamados de suporte

Cenário ilustrativo: uma empresa de serviços usa um agente para redigir notas de crédito depois que os chamados de suporte são fechados. Pela regra, o agente redige as notas e escreve os resumos dos chamados automaticamente. Qualquer nota de crédito acima do limite do responsável financeiro, ou qualquer nota para um cliente que nunca recebeu crédito, vai para uma fila de pendências. O item da fila mostra o cliente, o código de motivo, o link do chamado e o valor exato.

Um aprovador financeiro e um gerente de contas confirmam o item a partir do registro de origem. Se o gerente de contas estiver ausente, o substituto nomeado recebe o pedido. O que não for confirmado dentro da janela expira, e o agente informa ao líder de suporte que o crédito não foi emitido, para que uma pessoa decida o próximo passo. Ninguém precisa ler todos os rascunhos, e os itens que importam recebem duas análises independentes.

O que um registro de aprovação deve conter?

A aprovação só é útil depois se o registro mostrar o que foi decidido e por quê. Mantenha estes elementos para cada ação de alto risco:

• Quem pediu e a ação proposta pelo agente, incluindo os parâmetros exatos.
• Os registros de origem em que o agente se apoiou, referenciados e não copiados.
• Cada aprovador, sua decisão, o horário e qualquer observação adicionada.
• O que foi executado, ou por que nada foi executado, incluindo expiração e recusa.

Guarde esses registros com limites de acesso e evite colocar dados pessoais desnecessários neles. Quando uma ação dá errado, o registro é o que permite separar uma proposta ruim, uma verificação falha e uma ferramenta defeituosa. Para a questão relacionada de parar um agente rapidamente quando algo falha, veja Botão de parada para agentes de IA: pare ações sem perder logs.

Como a Be Human trata isso em operações gerenciadas

Em operações gerenciadas, a Be Human começa com um papel útil e mapeia as ações dele para os níveis de consequência descritos acima. O encaminhamento das aprovações, os estados pendentes e as regras de expiração ficam na camada de ferramentas do agente, e as permissões do agente são definidas para que ele não execute sozinho as ações retidas. O monitoramento acompanha a idade da fila, as recusas e as ações expiradas, e revisões periódicas de permissões ajustam a lista de alto risco quando ferramentas ou equipes mudam. Se um caminho de aprovação falhar, o processo de incidente pausa o tipo de ação afetado e mantém os registros íntegros. O serviço é prestado remotamente, em português ou em inglês.

Se você não tem certeza de qual tarefa do seu agente merece um segundo aprovador, faça o diagnóstico gratuito de IA da Be Human para descobrir a primeira tarefa que vale entregar a um agente.

Perguntas frequentes

Quantos aprovadores uma ação de alto risco de agente de IA precisa? Duas pessoas independentes é o padrão mais comum para ações caras ou difíceis de desfazer. O segundo aprovador deve conseguir ver o registro de origem e não deve ser a pessoa que pediu a ação. Para ações de menor risco, um revisor costuma ser suficiente.

O agente pode aprovar as próprias ações se um segundo modelo as conferir? Um modelo conferindo outro modelo não é uma aprovação humana independente, e os dois podem ter os mesmos pontos cegos. Mantenha a decisão final com uma pessoa para a lista de alto risco, e deixe qualquer verificação automatizada acrescentar informação em vez de substituir a aprovação.

O que acontece quando o segundo aprovador não está disponível? Cada tipo de ação deve ter um substituto nomeado e uma janela de resposta definida. Se nenhum dos dois responder a tempo, a ação expira, o agente informa que não foi executada, e o pedido pode ser reenviado ou tratado manualmente.

A regra de duas pessoas deixa a equipe mais lenta? Ela só desacelera a lista curta que você definiu. Leituras, rascunhos de rotina e padrões delimitados seguem sem espera, e os níveis devem ser revisados conforme o registro de aprovações mostrar quais decisões são sempre concedidas.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.