Avaliação de agentes com LLM como juiz: calibre antes de confiar

Um juiz com LLM é um modelo de linguagem que avalia a saída de outro modelo com base em uma rubrica escrita, por exemplo, se a resposta de um agente promete apenas o que a política permite. Juízes permitem que a equipe revise muito mais saídas do que as pessoas conseguiriam ler, mas só são úteis depois que seus rótulos foram medidos contra revisões humanas cuidadosas nas suas próprias tarefas. Use o juiz para triagem e para destacar problemas, e nunca como único aprovador de ações que envolvam dinheiro, registros de clientes ou compromissos assumidos em nome da empresa.

Principais pontos

• Um juiz só vale a pena para ganhar volume depois que seus rótulos concordam com revisores treinados nas suas tarefas reais.
• Escreva primeiro uma rubrica com critérios observáveis e confirme que dois revisores conseguem aplicá-la do mesmo jeito.
• Calibre com uma amostra que inclua casos de fronteira e erros plantados, e não apenas respostas fáceis.
• Meça a concordância de novo após cada mudança de prompt, atualização de modelo ou mudança no tipo de trabalho que chega.
• Mantenha uma pessoa na decisão de qualquer ação que movimente dinheiro, altere registros ou envie compromissos para fora da empresa.

O que um juiz com LLM faz bem e o que ele não faz

Um juiz é uma segunda chamada de modelo que lê uma entrada, a saída do agente e uma rubrica, e então devolve um rótulo como aprovado, reprovado ou precisa de revisão. As equipes usam juízes porque a revisão humana não acompanha todas as respostas, rascunhos e chamadas de ferramenta que um agente produz. Um juiz pode ler um dia inteiro de conversas e sinalizar as situações em que o agente ofereceu um desconto que a política não permite, ou em que uma resposta faz uma afirmação sem a fonte que deveria citar.

O que o juiz não consegue fazer é saber se está certo. Ele lê a rubrica através das próprias suposições, pode ser influenciado por uma redação fluente, e uma explicação confiante ao lado de um fato errado costuma receber boa nota. Por isso, o juiz deve ser tratado como um instrumento de medição com padrão de erro próprio, e não como um oráculo. Orientações públicas sobre avaliação de agentes, como as publicadas pela Anthropic, apontam na mesma direção: quem avalia precisa ser checado contra os resultados que importam, e o desenho do teste deve refletir tarefas reais, não demonstrações arrumadas.

Escreva uma rubrica que uma pessoa também consiga aplicar

A maioria dos juízes fracos se explica por rubricas fracas. "Esta resposta é útil?" não é uma rubrica, porque dois revisores responderão de forma diferente e o modelo vai inventar o próprio significado. Uma rubrica utilizável nomeia a condição observável de cada rótulo. Por exemplo, uma confirmação de agendamento só passa se contém data, horário, local e link de reagendamento do modelo aprovado, e não faz nenhum compromisso fora do catálogo de serviços.

Uma rubrica prática costuma ter estas características:

• Um critério por verificação, para que cada falha tenha uma causa identificável.
• Evidência que o revisor consegue apontar na conversa ou no registro.
• Um rótulo explícito de "não é possível dizer", porque casos incertos são informação, não ruído.
• Dois ou três exemplos limítrofes para cada rótulo, anotados com o motivo da decisão.
• Uma definição em linguagem simples, aprovada pelo dono do negócio, do que conta como falha.

Teste a rubrica antes de testar o juiz. Entregue as mesmas vinte saídas a duas pessoas e compare os rótulos. Se elas discordam com frequência, a rubrica é ambígua, e nenhum modelo vai corrigir essa ambiguidade.

Como calibrar um juiz contra revisões humanas?

Calibrar significa medir o quanto os rótulos do juiz coincidem com rótulos humanos de confiança nos mesmos itens e, então, decidir se essa coincidência basta para a tarefa específica. O objetivo não é uma nota perfeita. O objetivo é saber onde o juiz é confiável, onde é fraco e o que acontece com os casos que ele não sabe tratar.

• Retire uma amostra de saídas reais das últimas semanas, estratificada para representar casos comuns, casos raros e mudanças trazidas por atualizações recentes.
• Peça a dois revisores treinados que rotulem cada item sem ver a saída do juiz, e resolva as divergências em uma sessão curta que atualize a rubrica.
• Rode o juiz nos mesmos itens, com a mesma rubrica, e registre o rótulo, o raciocínio quando disponível, e as versões do prompt e do modelo usadas.
• Monte uma comparação por critério que separe falsos aprovados (o juiz aprovou o que um revisor reprovou) de falsos reprovados (o juiz reprovou algo aceitável).
• Defina a tolerância pela consequência. Um falso aprovado em um reembolso importa muito mais do que um falso reprovado que envia um item para a fila de revisão.
• Repita o exercício com uma amostra nova antes de confiar no juiz, porque a primeira amostra influenciou a rubrica e pode favorecer o resultado.

Dê atenção especial aos falsos aprovados. Um juiz severo desperdiça tempo de revisor, o que incomoda, mas se recupera. Um juiz complacente deixa erros seguirem adiante sem que ninguém perceba, justamente o resultado que a avaliação existe para evitar.

Quais padrões de falha esperar?

Juízes têm hábitos reconhecíveis. Muitos preferem respostas mais longas, recompensam tom confiante e favorecem saídas parecidas com o próprio estilo de escrita. Quando duas saídas são comparadas lado a lado, a ordem em que aparecem pode mudar o veredito. Juízes também deixam passar erros que exigem conhecimento do domínio, como um código de peça quase certo, uma regra fiscal que mudou ou uma data válida no formato, mas errada para o contrato.

As contramedidas são simples de descrever e fáceis de pular. Randomize a ordem nas comparações em pares. Separe a checagem factual da checagem de estilo, para que o acabamento não esconda um erro. Inclua saídas propositalmente erradas no conjunto de teste e confirme que o juiz as pega. Um juiz que aprova todo erro plantado não foi testado com rigor suficiente.

Há também um ponto de segurança. O texto que o juiz lê foi produzido por um agente que pode ter processado e-mails de clientes ou documentos enviados, e esse texto pode conter instruções dirigidas ao juiz, como uma linha mandando marcar o item como aprovado. As orientações da OWASP sobre prevenção de prompt injection explicam por que conteúdo vindo de documentos e usuários deve ser tratado como dado a examinar, não como instrução a seguir. Os prompts do juiz devem dizer isso explicitamente, e o juiz não deve ter permissões que façam o veredito agir sozinho.

Onde o juiz nunca deve ser a última checagem?

O juiz pode fazer triagem. Ele não deve ter a palavra final quando o resultado é caro, difícil de reverter ou regulado. Use este guia antes de permitir que um rótulo do juiz altere alguma coisa:

• Dinheiro sai da empresa, ou um reembolso, crédito ou pagamento é aprovado: uma pessoa aprova, e o juiz apenas ordena a fila.
• Um registro de cliente, contrato, item trabalhista, médico ou jurídico muda: um revisor identificado confirma antes que a mudança seja efetivada.
• O agente está prestes a contatar um cliente, fornecedor ou órgão público em nome da empresa sobre um assunto que ainda não tratou.
• A concordância com revisores humanos não foi medida para esse tipo de tarefa, ou caiu desde a última troca de modelo.
• O resultado depende de fatos que o juiz não enxerga na entrada, como o status de uma entrega que vive em um sistema de transportadora que o juiz nunca consulta.
• Uma falha seria difícil de notar depois, porque ninguém lê as saídas que o juiz aprova.

Onde o juiz tiver permissão para decidir, torne a decisão reversível e registrada. Guarde o rótulo do juiz, a versão da rubrica, a versão do modelo e a referência da entrada junto com a ação, para que uma revisão posterior consiga reconstruir por que um item foi aprovado. O desenho desses campos está descrito no guia sobre a trilha de auditoria de agente de IA.

Cenário ilustrativo (não é um caso de cliente): uma pequena empresa de cursos deixa um agente rascunhar respostas a dúvidas sobre os cursos, e um juiz sinaliza respostas que prometem certificados que o curso não emite. Na calibração, o juiz pega as promessas óbvias, mas aprova respostas que dizem "credencial de conclusão", que os revisores tratam como promessa. A equipe inclui essa expressão e seus sinônimos na rubrica, roda a amostra de novo e mantém aprovação humana para qualquer resposta que mencione credenciais.

Como a Be Human conduz a calibração do juiz em operações gerenciadas

Na abordagem gerenciada da Be Human, um juiz só entra depois que a primeira etapa definiu o papel do agente, a memória e as ferramentas de que ele precisa, os limites de aprovação e um critério de sucesso observável. A amostra de calibração é retirada do fluxo de trabalho do próprio cliente, rotulada por pessoas que o cliente indica e guardada com rubricas versionadas. As avaliações recorrentes comparam os rótulos do juiz com amostras humanas novas, e a revisão de permissões confirma que o juiz não consegue aprovar ações que nunca foram para ele decidir. Quando a concordância cai após uma mudança de modelo ou de prompt, a mudança é suspensa ou revertida até que a rubrica e o juiz sejam checados de novo.

Mantenha o juiz confiável depois do lançamento

A calibração não é um evento único. Juízes perdem precisão pelos mesmos motivos que os agentes: prompts são editados, o modelo subjacente é atualizado ou descontinuado, a empresa lança um produto novo, ou o tipo de trabalho que chega se desloca para casos que a rubrica nunca cobriu. Mantenha um conjunto fixo de itens dourados, já verificados, acrescente uma amostra humana recorrente e revise as divergências pelo menos uma vez por mês. Quando existir um resultado real, compare o rótulo do juiz com ele, por exemplo, verificando se uma resposta aprovada gerou reclamação depois. A abordagem de conjunto de tarefas de referência é uma forma prática de manter essa referência estável ao longo das mudanças.

Trate o juiz como um componente do desenho de dados e de aprovação, não como um utilitário secundário. Suas entradas muitas vezes incluem texto de clientes, e suas notas são lidas por pessoas que agem com base nelas. O NIST AI Risk Management Framework oferece uma estrutura útil para pensar medição, responsabilidade e monitoramento contínuo de sistemas de IA, e combina bem com um juiz que faz parte de uma operação maior.

Se você ainda não tem certeza de qual tarefa do seu agente deve ser a primeira a ser medida com um juiz, o diagnóstico gratuito de IA da Be Human pode ajudar a encontrar a primeira tarefa que vale entregar a um agente.

Perguntas frequentes

Um LLM juiz pode substituir revisores humanos? Não, pelo menos não em decisões que carregam custo ou risco real. O juiz consegue ler muito mais saídas do que uma pessoa e sinalizar os itens com maior chance de precisar de atenção, o que economiza tempo de revisão. Mesmo assim, seus rótulos precisam ser checados contra revisores humanos treinados nas suas próprias tarefas antes que alguém dependa deles.

Quantos exemplos preciso para calibrar um juiz? Não existe um número universal, e é melhor planejar a amostra pela cobertura do que pelo tamanho. Inclua casos comuns, casos raros, mudanças recentes e erros plantados de propósito, além dos casos limítrofes em que os revisores divergem. Se uma categoria está fora da amostra, o comportamento do juiz nela é desconhecido.

O juiz deve usar o mesmo modelo do agente que avalia? Usar a mesma família de modelos pode compartilhar os mesmos pontos cegos, e os erros típicos do agente podem parecer aceitáveis para o juiz. Muitas equipes usam outro modelo como juiz, ou pelo menos uma rubrica mais rigorosa e concreta, e então medem o resultado. Qualquer que seja a escolha, ela deve ser testada contra rótulos humanos, e não presumida.

O que fazer quando o juiz e os revisores humanos discordam? Comece pela rubrica, porque a divergência muitas vezes revela um critério pouco claro, e não um juiz defeituoso. Discuta os itens específicos, atualize a rubrica e os exemplos, e só então rode a comparação de novo em uma amostra nova. Somente depois disso você deve alterar o modelo ou o prompt usado pelo juiz.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.