Ir para conteúdo
be-human.ai
← Voltar ao blog

Supervisão humana

Tela de aprovação humana para agentes de IA: o que mostrar ao revisor

Veja o que a tela de aprovação humana para agentes de IA deve mostrar: a ação exata, os fatos de origem, o risco e o caminho para desfazer.

Capa tipográfica do Be Human com o título: Tela de aprovação humana para agentes de IA: o que mostrar ao revisor
Ilustração conceitual criada com IA · Be Human

Uma tela de aprovação para um agente de negócios deve mostrar ao revisor quatro coisas antes que qualquer ação relevante seja executada: a ação exata que o agente quer realizar, os fatos de origem que sustentam a proposta, o risco caso a proposta esteja errada e o caminho para desfazer a ação, se ela precisar ser revertida. Uma tela que pergunta apenas “Aprovar esta etapa?” transforma a aprovação em hábito, não em decisão. As seções a seguir explicam o que cada elemento precisa conter e como verificar se ele funciona.

Principais pontos

  • Uma tela de aprovação é um registro de decisão, não um botão. O revisor deve conseguir reconstruir o que vai acontecer e por quê apenas lendo a tela.
  • Mostre a ação exata, com parâmetros, destinos e escopo, e não um resumo como “atualizar o cliente”.
  • Liste os fatos de origem em que o agente se apoiou e marque quais ele observou e quais inferiu ou não conseguiu verificar.
  • Descreva o risco em termos de quem ou o que é afetado e se o efeito pode ser revertido, e não com uma palavra solta como “alto”.
  • Inclua um caminho para desfazer a ação, ou diga claramente que ele não existe, para que o revisor saiba o que a aprovação compromete a empresa a fazer.

Por que a pergunta de sim ou não deixa de funcionar à medida que os agentes evoluem

Uma caixa de confirmação simples basta quando o agente redige uma resposta que uma pessoa depois envia. Ela deixa de bastar quando o agente encadeia várias ferramentas, atualiza registros, entra em contato com clientes ou altera agendas por conta própria. Cada pedido de aprovação passa a carregar mais consequências, e os revisores precisam julgar mais pedidos em menos tempo.

A capacidade torna isso mais difícil, não mais fácil. Um agente mais capaz pode produzir uma proposta clara, aparentemente completa e ainda assim errada em um detalhe pequeno, mas importante, como a lista errada de destinatários ou um registro que foi substituído na semana anterior. Um revisor que vê apenas a conclusão do agente tem pouco com que confrontá-la. Por isso, a tela precisa carregar as evidências, e não apenas a recomendação.

O NIST AI Risk Management Framework trata a supervisão humana e a responsabilização como parte da gestão de riscos de IA ao longo de toda a vida de um sistema, e não como um ponto de checagem único no lançamento. A tela de aprovação é um dos lugares em que essa supervisão se torna concreta. Se a tela for vaga, a supervisão será apenas formal, mesmo quando uma pessoa clica no botão.

Mostre a ação exata, não um resumo

O primeiro elemento é a própria ação, escrita de forma que uma pessoa que não estava na conversa consiga entendê-la. Inclua o seguinte:

  • O sistema e a operação, como enviar, atualizar, excluir, publicar, reagendar ou pagar.
  • O alvo, identificado por um código que a pessoa consiga consultar, como um número de pedido, um registro de contato ou o nome de um canal.
  • O conteúdo ou os parâmetros. Mostre conteúdos curtos por inteiro e conteúdos longos como comparação com a versão atual.
  • O escopo: quantos registros são afetados, quais destinatários recebem a mensagem e em que período.
  • Se a ação acontece uma vez ou se repete por agenda ou gatilho.

Cenário ilustrativo: um agente propõe remarcar a entrega de um fornecedor. Uma tela fraca diz “Reagendar entrega?”. Uma tela útil diz: mover o pedido 4471 de terça para sexta no calendário compartilhado de fornecedores, enviar o aviso de alteração ao contato indicado no cadastro do pedido e manter o preço sem alteração. O revisor consegue conferir cada parte com o cadastro do pedido em menos de um minuto.

Anexe os fatos de origem que sustentam a proposta

O segundo elemento são as evidências. Mostre ao revisor quais informações o agente usou: a mensagem, o campo do registro, o trecho da política ou o documento recuperado que sustenta a ação proposta, junto com a data em que foi consultado. Se o agente resumiu um documento, mostre o trecho em que ele se apoiou, e não apenas a paráfrase. Arquiteturas baseadas em recuperação facilitam isso, porque o sistema já sabe quais trechos foram carregados no contexto.

Separe fatos observados de inferências. “O cadastro do pedido indica sexta como janela de entrega confirmada” é uma observação que o revisor pode verificar. “O fornecedor provavelmente não estará disponível na terça” é uma inferência, e a tela deve identificá-la como tal. Sinalize tudo o que o agente não conseguiu confirmar, porque uma lacuna honesta é mais útil para o revisor do que uma frase segura que esconde o problema.

A lista de fontes também precisa mostrar de onde veio qualquer instrução. Se o agente agiu porque um e-mail recebido pedia, o revisor precisa ver esse e-mail, já que conteúdo não confiável pode trazer texto desenhado para direcionar o agente. As orientações da OWASP sobre injeção de prompt descrevem essa classe de risco. Para um tratamento mais aprofundado, veja Injeção de prompt por e-mail em agentes de IA: defesas práticas.

Diga o risco em termos simples

O terceiro elemento é o risco, apresentado de forma que o revisor possa discordar dele. Um rótulo único como “médio” diz quase nada. Em vez disso, responda a quatro perguntas na própria tela:

  • Quem ou o que é afetado: um cliente, um funcionário, um fornecedor, um saldo financeiro, uma página pública.
  • Qual é o pior resultado realista caso a proposta esteja errada, descrito em uma frase.
  • Se há dados pessoais ou sensíveis envolvidos, o que muda o caminho de revisão segundo as obrigações de dados da empresa.
  • Se a ação toca em uma regra que a empresa já decidiu nunca delegar.

Depois, atribua um nível que a empresa tenha definido antes. Uma abordagem comum usa três níveis: ações que o revisor pode aprovar apenas com base na tela, ações que exigem um segundo revisor e ações que o agente não pode propor de forma alguma. Definir esses níveis antes da primeira tela impede que o revisor invente critérios sob pressão. Para o nível de maior risco, veja Aprovação humana para agentes de IA: uma escada para ganhar autonomia.

Informe o caminho para desfazer antes da aprovação

O quarto elemento é o que costuma faltar com mais frequência. Antes que o revisor aprove, a tela deve dizer o que reverte a ação, quem executa a reversão, quanto tempo leva e o que não pode ser recuperado. Uma alteração de calendário pode ser desfeita. Um aviso que já chegou ao cliente não pode ser desenviado. Um registro excluído sem cópia de segurança pode nunca voltar.

Escreva o caminho para desfazer como um passo concreto, não como uma promessa. “Pode ser revertido” não basta. “Restaurar o compromisso anterior a partir do registro de alterações ainda no mesmo dia útil e, em seguida, notificar o contato do fornecedor com o texto de reversão” é algo que uma pessoa consegue executar. Quando não existir nenhuma forma de desfazer, a tela deve dizer isso com essas palavras, porque a aprovação do revisor carrega, então, todo o peso de uma ação irreversível.

Novas tentativas também merecem uma linha. Se a conexão cair e o agente reenviar a ação, a tela deve mostrar se a operação pode ser repetida com segurança. Alguns fornecedores aceitam uma chave de idempotência, para que um pedido repetido não gere uma segunda cobrança ou uma segunda mensagem. Se o sistema de destino não oferecer essa proteção, o agente não deve tentar de novo em silêncio, e a tela deve informar que uma nova tentativa exige nova aprovação.

Um plano passo a passo para montar o modelo da tela

Equipes costumam começar desenhando a tela em torno da saída do agente. Funciona melhor desenhá-la em torno das perguntas do revisor. Uma sequência viável:

  • Passo um: liste todas as ações que o agente pode propor e, para cada uma, nomeie o sistema, a operação e o tipo de alvo.
  • Passo dois: para cada ação, escreva os quatro campos obrigatórios: ação exata, fatos de origem, nível de risco com motivos e caminho para desfazer.
  • Passo três: decida quais campos devem aparecer por inteiro e quais podem ficar recolhidos atrás de um link para o registro original.
  • Passo quatro: defina o que o revisor pode fazer com a tela: aprovar, rejeitar, editar o escopo ou escalar. Uma tela sem opção de edição empurra o revisor para a aprovação cega ou para a rejeição constante.
  • Passo cinco: teste o modelo com a pessoa que vai aprovar. Entregue três propostas anteriores, uma delas com falha, e verifique se ela identifica o problema só pela tela.
  • Passo seis: registre cada decisão com o texto da tela, o revisor e o resultado, para que revisões futuras consigam enxergar padrões. Os requisitos de registro estão em Decisões de IA precisam de registro: o que explicar depois.

Os passos cinco e seis são os que mantêm o modelo honesto ao longo do tempo. Revisores que nunca rejeitam nada são um sinal de que a tela não está mostrando o suficiente para eles.

Como a Be Human trata as telas de aprovação em operações gerenciadas

Em um projeto com a Be Human, a fronteira de aprovação é definida na primeira fase, junto com o papel único que o agente vai exercer, a memória e as ferramentas de que ele precisa e o critério de sucesso que será observado. A equipe escreve os campos da tela para cada ação permitida, conecta os trechos de origem e o registro de decisões ao mesmo caso e testa a redação com as pessoas que vão aprovar. Durante a operação gerenciada, revisões de permissões e avaliações periódicas verificam se as telas ainda mostram o que os revisores precisam, e qualquer mudança no escopo de uma ação passa de novo pelo mesmo nível de aprovação antes de entrar em vigor.

Mantenha as aprovações significativas à medida que os agentes crescem

Conforme os agentes assumem mais trabalho, o risco não está apenas em uma aprovação ruim. Está em um desvio lento, em que os revisores aprovam por padrão, porque as telas normalmente parecem adequadas. Para combater isso, amostre uma parte das ações aprovadas e confira-as com suas fontes depois do fato. A proporção certa de amostragem depende do nível de risco e do volume de trabalho, e deve ser escrita, e não deixada à memória. Observe revisores que aprovam rapidamente uma parcela suspeitamente alta das propostas e telas que repetidamente não trazem fonte ou caminho para desfazer. Esses são sinais para revisar o modelo ou para reduzir as permissões do agente naquela ação até que as evidências melhorem.

O crescimento da capacidade também deve mudar o que o agente pode propor, e não apenas a forma como ele pede aprovação. Um primeiro grupo de ações só pode migrar para uma revisão mais leve depois que a equipe vir as telas se sustentarem em trabalho real. Para uma visão mais ampla de como a confiança é concedida, veja Níveis de autonomia de agentes de IA: libere cada etapa após evidência.

Se você quer identificar a primeira tarefa que vale a pena entregar a um agente, o diagnóstico gratuito de IA da Be Human é um ponto de partida prático.

Perguntas frequentes

O que uma tela de aprovação para agentes de IA deve conter? Ela deve conter a ação exata com o alvo e os parâmetros, os fatos de origem em que o agente se apoiou com as lacunas marcadas, o nível de risco com os motivos e o caminho para desfazer. Sem esses quatro elementos, o revisor aprova uma conclusão, e não uma decisão. Cada elemento deve ser escrito de modo que alguém que não estava na conversa consiga conferi-lo.

Quão longa deve ser a tela de aprovação? Ela deve ter o tamanho que o revisor precisa para verificar a ação, nem mais nem menos. Ações curtas podem aparecer inteiras em uma única tela, enquanto conteúdos longos podem aparecer como comparação com a versão atual, com um link para o registro completo. Uma tela que esconde a mudança real atrás de um resumo é curta demais, mesmo que pareça organizada.

Todas as ações de agentes precisam de uma tela de aprovação humana? Não. Ações de baixo risco e reversíveis, dentro de limites definidos, podem ocorrer sem tela, desde que sejam registradas e amostradas depois. A tela de aprovação tem mais valor para ações que afetam clientes, dinheiro, dados pessoais, conteúdo público ou qualquer coisa que não possa ser desfeita. A empresa deve definir esses níveis antecipadamente e revisá-los conforme as permissões do agente mudam.

E se o revisor continuar aprovando sem ler? Isso é um sinal de desenho, não apenas um problema de disciplina. Verifique se as telas são longas demais para conferir, se faltam os trechos de origem ou se o revisor tem aprovações demais para tomar decisões reais. Reduza o número de telas estreitando as permissões do agente, amostre as ações aprovadas depois do fato e facilite a rejeição e a edição, para que o julgamento do revisor seja de fato usado.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →