Ir para conteúdo
be-human.ai
← Voltar ao blog

Infraestrutura de IA personalizada

Critérios para escalar ou encerrar piloto de IA: escalar, pausar ou parar

Critérios de saída por escrito para piloto de agente de IA: medidas observáveis, limites claros e revisão com data que decide escalar, pausar ou parar.

Capa tipográfica do Be Human com o título: Critérios para escalar ou encerrar piloto de IA: escalar, pausar ou parar
Ilustração conceitual criada com IA · Be Human

Critérios de saída de um piloto de IA são um conjunto curto e escrito de condições, acordadas antes de o agente começar a trabalhar. Eles definem o resultado que o agente precisa entregar, o limite que conta como sucesso, as evidências de segurança exigidas, a data da revisão e o que acontece em cada caminho: escalar, pausar ou parar. Critérios baseados em resultados observáveis resolvem a decisão. Previsões sobre o quão capazes serão os modelos futuros não resolvem.

Principais pontos

  • Escreva os critérios de saída antes da primeira tarefa real, com um responsável nomeado e uma data fixa de revisão.
  • Meça o que o agente fez dentro dos seus próprios sistemas, como tarefas concluídas corretamente, escalonamentos tratados e retrabalho evitado, e não o quanto as respostas pareceram convincentes.
  • Defina três caminhos com antecedência: escalar quando as evidências atingem o padrão, pausar quando os resultados estão perto mas não são claros, e parar quando corrigir o problema custa mais do que o valor que ele gera.
  • Trate permissões, incidentes e intervenções humanas como condições de saída, não como notas de rodapé.
  • Guarde os ativos de um piloto encerrado, incluindo o conjunto de testes, as notas sobre ferramentas e o registro da decisão.

Por que os critérios de saída vêm antes do primeiro prompt

A maioria dos pilotos termina por deriva. Alguém diz que o agente parece útil, a equipe continua usando e ninguém consegue afirmar se a próxima etapa deve receber orçamento. A solução é decidir como o piloto termina enquanto o escopo ainda é pequeno e a decisão ainda é neutra. Depois de algumas semanas de uso, cada parte interessada forma uma opinião moldada pela melhor ou pela pior experiência, e os critérios tendem a se ajustar àquilo que cada um já acreditava.

O NIST AI Risk Management Framework trata o risco de IA como uma prática contínua ao longo do ciclo de vida do sistema, e não como uma aprovação única. Um piloto mostra bem por que isso importa: o agente, sua memória e suas ferramentas mudam durante o teste, então os critérios precisam de um cronograma de reavaliação, e não apenas de uma linha de chegada.

Escolha medidas que você consegue observar nas suas operações

Uma medida útil pode ser conferida em um registro que a empresa já mantém ou que consegue produzir com facilidade. Medidas que dependem do jeito como o agente soa, ou de uma sensação geral de que ele está ficando mais inteligente, não podem ser verificadas por ninguém além de quem gosta do resultado. Boas candidatas costumam incluir:

  • Tarefas concluídas de ponta a ponta, sem que uma pessoa precise corrigir a saída
  • Casos encaminhados à pessoa certa, com o motivo registrado
  • Retrabalho, ou seja, com que frequência um colaborador reabre ou edita um resultado
  • Reclamações de clientes ou colegas que se rastreiam até o agente
  • Tempo que um colaborador gasta na tarefa, medido em uma amostra pequena antes e durante o piloto

As orientações da Anthropic sobre avaliação de agentes e o guia de evals da OpenAI descrevem a mesma disciplina: executar o agente contra um conjunto fixo de tarefas, avaliar os resultados sempre do mesmo jeito e guardar os registros. Congele um conjunto de teste com casos reais passados antes do início do piloto. Use o trabalho ao vivo para confirmar que o conjunto ainda reflete a realidade, e altere o conjunto apenas por meio de uma mudança registrada, para que as notas de datas de revisão diferentes continuem comparáveis.

Escreva os três caminhos: escalar, pausar e parar

Cada caminho deve estar descrito em uma frase com seu gatilho, para que a revisão seja uma comparação entre critérios e não um debate. Uma versão viável fica assim:

  • Escalar quando o agente atinge todos os limites acordados no conjunto de teste fixo e no trabalho ao vivo, não há nenhum achado de segurança em aberto e o responsável consegue nomear o próximo papel, canal ou time que seria incluído.
  • Pausar quando os resultados são promissores, mas uma medida ficou aquém, as falhas têm uma causa rastreável e a correção é uma mudança delimitada, como conteúdo de memória corrigido, uma descrição de ferramenta mais clara ou uma permissão mais restrita.
  • Parar quando o limite continua sem ser atingido depois das correções delimitadas, quando o agente depende de dados que a empresa não consegue fornecer com qualidade ou quando o risco de erro excede o que a liderança aceitou assumir.

Cenário ilustrativo: a equipe de atendimento testa um agente que rascunha respostas a dúvidas sobre cobrança. Os critérios exigem que os rascunhos sejam aceitos sem edição em um conjunto fixo de chamados passados e que nenhum rascunho cite uma regra de reembolso ausente da política atual. O agente passa na medida de aceitação, mas falha na verificação de reembolso em dois casos, ambos rastreados a uma nota de política desatualizada em sua memória. A decisão é pausar, não escalar: a nota é corrigida, o conjunto de teste é executado de novo e a data de revisão permanece a que foi definida.

A regra para um resultado que fica entre os caminhos também deve estar escrita. Uma abordagem comum é aplicar o caminho mais rigoroso, de modo que um resultado pouco claro conte como limite não atingido.

Trate segurança e permissões como condições de saída

Um agente que produz bons resultados enquanto excede suas permissões não passou no piloto. As evidências de segurança pertencem ao mesmo documento das medidas de negócio, com o mesmo status de atingido, não atingido ou incerto. O OWASP Top 10 para aplicações com LLM e sua orientação sobre injeção de prompt descrevem as classes de falha a verificar, incluindo instruções escondidas nas entradas que tentam sobrepor as regras próprias do agente. As condições de saída podem ser simples:

  • Toda ação se rastreia até uma ferramenta nomeada e a uma permissão registrada na lista de acessos.
  • Qualquer ação acima do limite de aprovação foi revisada por uma pessoa antes de surtir efeito.
  • Entradas que tentaram mudar as instruções do agente foram registradas e não tiveram sucesso.
  • Cada incidente tem um responsável, uma causa e uma correção registrada antes da próxima revisão.

Se a empresa ainda não definiu limites de aprovação, o guia de limites de aprovação humana para agentes de IA mais fortes explica como elevá-los gradualmente, o que mantém os critérios de segurança mensuráveis. As verificações de permissão também devem seguir um cronograma. A revisão trimestral de permissões de agentes de IA traz um método e as evidências a manter.

Um plano passo a passo para a revisão de saída

A própria revisão deve seguir uma sequência fixa, para que a decisão seja reproduzível e as evidências estejam completas:

  • Passo um: escreva os critérios em uma página, com o nome do responsável, cada medida, seu limite, as regras dos caminhos e a data da revisão.
  • Passo dois: congele o conjunto de teste de casos reais passados antes da primeira tarefa ao vivo e avalie-o do mesmo jeito em cada revisão.
  • Passo três: exporte os registros do período: tarefas, escalonamentos, edições, eventos de permissão e incidentes.
  • Passo quatro: classifique cada medida como atingida, não atingida ou incerta, e escreva uma linha de evidência ao lado de cada classificação.
  • Passo cinco: aplique o caminho que o documento define. Se um resultado ficar entre dois caminhos, aplique o mais rigoroso.
  • Passo seis: registre a decisão, o motivo, as pessoas que a aprovaram e a próxima data de revisão no mesmo documento.

A Be Human conduz esse tipo de revisão como parte da operação gerenciada. O papel do agente, a memória, as ferramentas e os limites de aprovação da empresa são definidos no início, o monitoramento e as avaliações recorrentes rodam durante o piloto, e o pacote de evidências é preparado para a decisão de escalar, pausar ou parar. Revisões de permissão e mudanças de configuração ficam registradas no mesmo histórico, de modo que uma pausa não apague o registro do que o agente tinha permissão para fazer.

O que uma parada deve preservar e quando voltar ao tema

Parar bem é um resultado planejado, não um fracasso do projeto. A empresa deve guardar o conhecimento organizado que reuniu, o conjunto de teste congelado, as descrições das ferramentas, o registro de permissões e o documento de decisão. O guia de como encerrar um piloto de IA sem desperdiçar o trabalho mostra o que arquivar e o que descartar. Um piloto encerrado pode recomeçar depois, mas somente quando o bloqueio nomeado nos critérios tiver mudado, como uma limpeza de dados, um responsável mais claro ou uma tarefa mais restrita. Trate o lançamento de um modelo novo como motivo para executar o conjunto de teste de novo, e não como prova de que a decisão antiga estava errada. Se você quer identificar a primeira tarefa que vale a pena entregar a um agente, o diagnóstico gratuito de IA da Be Human é um ponto de partida prático.

Perguntas frequentes

Por quanto tempo um piloto de IA deve rodar antes da revisão de saída? Defina a data quando os critérios forem escritos, por um tempo suficiente para ver uma mistura representativa de trabalho e curto o bastante para manter a decisão atual. Escolha a duração pelo volume e pela variedade da tarefa, e não pela rapidez com que a tecnologia parece avançar. Se a tarefa aparece raramente, estenda a janela e registre o motivo no documento.

Um piloto pode ser avaliado apenas pela satisfação dos usuários? A satisfação é um sinal secundário útil, mas fraco como sinal principal, porque as pessoas costumam gostar de uma resposta fluente que se revela errada. Combine-a com avaliações dos resultados no conjunto de teste fixo e com a contagem de retrabalho no uso real. Qualquer divergência entre essas medidas é motivo para pausar e investigar.

E se os critérios não forem atingidos por uma margem pequena? Aplique o caminho que o documento define e não mude o limite depois que os resultados estiverem visíveis. Se a falha for estreita e rastreável a uma correção delimitada, pause, faça a mudança e execute o conjunto de teste de novo. Se a causa for estrutural, pare e mantenha os ativos descritos na seção anterior.

Quem deve assinar a decisão de saída? O responsável operacional deve confirmar as medidas, um representante de finanças ou de riscos deve confirmar o custo e a exposição, e o patrocinador executivo deve aprovar o caminho. O texto sobre o papel do patrocinador executivo em um projeto de IA explica o que essa pessoa precisa revisar. Mantenha as assinaturas no mesmo registro dos critérios para que a decisão possa ser auditada depois.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →