Ir para conteúdo
be-human.ai
← Voltar ao blog

Supervisão humana

Aprovação humana para agentes de IA: onde as pessoas assinam

Saiba quais ações de agentes de IA exigem um aprovador nomeado, como classificá-las e como criar travas que você teste antes do lançamento.

Capa tipográfica do Be Human com o título: Aprovação humana para agentes de IA: onde as pessoas assinam
Ilustração conceitual criada com IA · Be Human

Aprovação humana para agentes de IA significa que uma pessoa identificada precisa revisar e aceitar ações específicas antes que o agente as execute. A trava deve ficar nas ações que gastam dinheiro, alteram registros, falam em nome da empresa com terceiros ou ampliam o que o agente consegue acessar. Ela não deve ficar em cada passo rotineiro. Defina essas travas por escrito antes de o agente receber a primeira ferramenta, porque uma trava criada depois de um incidente costuma chegar tarde.

Principais pontos

  • Coloque travas de aprovação em ações que sejam caras, externas, difíceis de desfazer ou que ampliem as próprias permissões do agente.
  • Nomeie um aprovador para cada trava e um substituto que possa decidir quando a primeira pessoa não estiver disponível.
  • Trate a confiança do próprio agente como um dado para revisão, nunca como o controle em si.
  • Endureça as travas quando o escopo ou a capacidade do agente crescer, e só as relaxe depois de evidências registradas.
  • Teste o caminho que uma pessoa usa para recusar ou pausar uma ação antes de o agente entrar em operação.

Por que o comportamento do modelo não pode ser seu controle de aprovação

Muitas equipes começam confiando que o modelo reconheça quando deve parar. Essa confiança é compreensível, já que modelos capazes costumam explicar o raciocínio e recusar erros óbvios. Mas o comportamento de um modelo muda conforme a entrada que recebe, as ferramentas que pode chamar e as instruções que lê, incluindo instruções escondidas em documentos ou e-mails que ele processa. A lista OWASP Top 10 para aplicações com LLM trata a injeção de prompt como um risco permanente por esse motivo. Um agente que segue apenas o próprio julgamento pode ser direcionado por conteúdos que nunca deveria obedecer.

Um controle que merece esse nome fica fora do modelo. É uma regra na camada de ferramentas ou no fluxo de trabalho que retém uma ação específica até que uma pessoa específica a aceite. As verificações de autorização também pertencem a essa camada, como descreve o guia de autorização da OWASP, para que o agente não consiga executar uma ação que as credenciais não permitem, mesmo que ele peça. O NIST AI Risk Management Framework trata isso como governança: papéis, decisões documentadas e supervisão em torno do sistema, e não apenas como propriedades do sistema em si. A trava de aprovação é o ponto em que essa governança vira algo que as pessoas conseguem operar.

Quais ações precisam de um aprovador nomeado

Antes de decidir qualquer outra coisa, separe cada ação possível do agente em quatro classes. Saber onde o agente deve parar e perguntar é uma questão relacionada, e o guia sobre quando seu agente de IA deve parar e perguntar aprofunda os gatilhos. As classes abaixo são simples o bastante para um gestor aplicar em uma única reunião.

  • Leitura e rascunho: o agente reúne informações ou escreve um rascunho que ninguém de fora da empresa vê. Normalmente não há trava, mas registre a origem de cada fato que ele usa.
  • Escrita interna: o agente altera um registro, cria uma tarefa ou atualiza um status em seus sistemas. Coloque trava quando a mudança afetar pagamento, estoque, agenda ou o cadastro de um cliente.
  • Envio externo: o agente contata um cliente, fornecedor, órgão regulador ou o público. Coloque trava em toda primeira mensagem que usar um modelo novo e depois revise uma amostra das mensagens seguintes em uma frequência fixa.
  • Dinheiro e acesso: o agente compromete recursos, emite reembolso ou crédito, concede uma permissão ou altera quem pode usar uma ferramenta. Coloque trava em todas as ocorrências e exija um segundo aprovador para os maiores valores ou para as concessões mais amplas.

Conforme a capacidade do agente cresce, alguns desses limites devem mudar. Essa mudança pertence a uma revisão por escrito, e não a uma edição silenciosa na configuração da ferramenta.

Um plano passo a passo para posicionar suas travas

  • Liste cada ferramenta que o agente terá, com as ações exatas que cada uma expõe. Uma ferramenta que envia, apaga ou paga deve ser separada em ações distintas, porque cada uma carrega um risco diferente.
  • Atribua cada ação a uma das quatro classes. Quando duas pessoas discordarem, escolha a classe mais rigorosa e anote o motivo.
  • Para cada trava, escreva a condição que a dispara, como um valor, um destinatário fora da empresa ou um tipo de registro. Gatilhos vagos, como qualquer coisa arriscada, não se sustentam no trabalho real.
  • Nomeie o aprovador e um substituto, pelo cargo e pelo nome. Confirme que cada um tem contexto suficiente para decidir sem reler o caso inteiro.
  • Defina o que acontece durante a espera. O agente deve reter a ação, manter a solicitação em uma fila visível e seguir com trabalhos não relacionados quando isso for seguro.
  • Defina as opções de resposta: aprovar, recusar com motivo, ou editar e aprovar. Registre cada decisão com horário, aprovador e motivo informado.
  • Faça um ensaio em que um aprovador recusa uma ação. Confirme que o agente para, que a fila mostra o item e que o registro está completo.

Quem deve ter a aprovação

O aprovador deve ser a pessoa responsável pelo resultado, e não quem construiu o agente. Em um reembolso, normalmente é o responsável por financeiro ou atendimento ao cliente. Para uma mensagem a um órgão regulador, é o responsável por compliance. Para uma mudança em quem pode usar uma ferramenta, é alguém que enxergue o quadro completo de permissões. Engenheiros podem confirmar que uma chamada de ferramenta está bem formada, mas não devem ser os únicos aprovadores de decisões de negócio que não lhes pertencem.

Nomeie um substituto e garanta que ele não seja a pessoa que pediu a ação. Travas que só uma pessoa consegue liberar serão contornadas em feriados e em semanas cheias, e o contorno costuma ser a parte que ninguém registra. Para as ações maiores ou mais amplas, exija dois aprovadores. O guia sobre aprovação em duas pessoas para agentes de IA explica quais ações justificam esse passo extra.

O que um pedido de aprovação precisa mostrar

Uma pessoa só consegue aprovar com responsabilidade quando o pedido está completo. Um pedido que diz apenas que o agente quer emitir um reembolso obriga o aprovador a caçar contexto. Monte cada pedido de forma que possa ser decidido em cerca de um minuto, e deixe o aprovador abrir os registros de origem quando o impacto justificar.

  • A ação em palavras simples, com o sistema e o registro exatos que ela toca.
  • A regra que disparou o envio para uma pessoa, para que o aprovador saiba por que está vendo aquilo.
  • As evidências que o agente usou, com links para os registros de origem, e não apenas para o resumo dele.
  • O valor, o destinatário ou o escopo, declarados uma única vez e nunca inferidos.
  • O resultado esperado e como desfazer a ação caso a decisão se revele errada.
  • As opções disponíveis: aprovar, recusar com motivo, ou editar e aprovar.

Cenário ilustrativo: o agente de agendamento de uma clínica recebe um pedido para dispensar a taxa de cancelamento tardio de um paciente que desmarcou várias consultas recentes. A regra envia todas as dispensas de taxa para o líder da recepção. O pedido mostra o valor da taxa, o histórico de cancelamentos puxado do registro de agendamento e a política escrita da clínica, que permite uma dispensa por paciente a cada ano. O líder recusa, porque esse paciente já recebeu uma dispensa, e o agente registra a recusa e informa ao paciente que alguém da equipe entrará em contato. Ninguém precisou ler todo o histórico de agendamentos, e a recusa vira evidência para a próxima revisão da regra.

Como a Be Human opera as travas de aprovação em operações gerenciadas

A Be Human desenha o mapa de travas durante o primeiro projeto, junto com o único papel que o agente vai desempenhar, a memória e as ferramentas de que ele precisa e o critério de sucesso observável que mostra se o papel está funcionando. A operação gerenciada mantém esse mapa atualizado: revisa os gatilhos quando as ferramentas mudam, confirma que os aprovadores nomeados ainda estão no cargo, ensaia o caminho de recusa em uma agenda fixa e leva ao dono do negócio qualquer nova classe de ação antes que um agente a ganhe. Aprovações, recusas e pausas são gravadas em um registro que a empresa pode consultar, de modo que quem é dono do negócio mantém o controle. Cada trava pode ser revisada, alterada ou removida por uma pessoa sem que o agente precise ser reconstruído.

Faça o diagnóstico gratuito de IA da Be Human para encontrar a primeira tarefa que vale a pena passar para um agente.

Perguntas frequentes

Quantas ações de um agente devem exigir aprovação humana? Apenas as ações que são caras, externas, difíceis de desfazer ou que ampliem o acesso do agente. Colocar trava em cada passo tende a gerar aprovações que as pessoas confirmam sem ler, o que é pior do que poucas travas que recebem atenção real.

Um agente pode aprovar as próprias ações se tiver certeza de que está certo? Não. A confiança é uma informação útil para quem revisa, mas a aprovação precisa vir de uma pessoa identificada, fora do processo do próprio agente, e ficar registrada em um log que a empresa controla.

E se uma empresa pequena tiver apenas uma pessoa que pode aprovar? Um único dono pode manter as travas, mas a empresa ainda precisa de um substituto nomeado, mesmo que seja um gestor de confiança que possa decidir na ausência do dono. Sem substituto, a trava acabará sendo contornada quando o dono não estiver disponível.

Como saber se nossas travas de aprovação estão funcionando? Revise o registro de recusas, verifique quanto tempo os pedidos ficam esperando e procure ações executadas fora do caminho de aprovação. Ensaie o caminho de recusa em uma agenda fixa e leia o histórico de ações bloqueadas em busca de padrões que indiquem trava frouxa demais ou rígida demais.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →