Níveis de autonomia de agentes de IA: libere cada etapa após evidência

Um nível de autonomia de agente de IA é o conjunto de ações que ele pode executar sem que uma pessoa aprove cada uma antes. Uma escada sólida começa no modo somente sugestão, passa por ações preparadas que aguardam aprovação e só então permite ação limitada dentro de uma faixa estreita e reversível. Cada degrau para cima deve se apoiar em confiabilidade medida no trabalho real, e não em uma demonstração ou na impressão de que o modelo por trás é capaz.

Principais pontos

• Autonomia é uma permissão concedida por tipo de ação, e não uma característica do modelo.
• Todo agente novo começa no modo somente sugestão, mesmo quando o modelo parece forte nos testes.
• Suba um nível por vez, e só depois que os critérios escritos forem cumpridos em tarefas reais.
• Limite a ação autônoma a uma lista curta de ações reversíveis, com registro e caminho de reversão.
• Reduza o nível logo após um erro grave e reconstrua as evidências antes de subir de novo.

O que os níveis de autonomia controlam, de fato?

A autonomia define quem dá a palavra final sobre uma ação. Ela tem pouco a ver com o quanto o agente é inteligente, e essa diferença pesa mais à medida que os agentes ficam mais capazes, porque capacidade e confiabilidade no seu próprio trabalho são medidas diferentes. Para agentes de negócio, uma escada prática tem quatro níveis:

• Nível 0, observar: o agente lê fontes aprovadas e registra o que encontra. Não envia nada e não altera nada.
• Nível 1, sugerir: o agente propõe respostas, rascunhos ou próximos passos. Uma pessoa decide e executa a ação.
• Nível 2, preparar: o agente monta a ação completa em uma forma de rascunho, como uma resposta redigida, um registro preenchido ou uma atualização na fila, com as fontes anexadas. Uma pessoa aprova cada item antes de ele ser executado.
• Nível 3, ação limitada: o agente executa sozinho uma lista curta e fixa de ações reversíveis, registra cada uma e encaminha todo o resto para uma pessoa.

Qualquer coisa além do nível 3 é uma decisão separada, com revisão própria. Ela nunca deve ser alcançada por acidente, por meio de uma atualização de ferramenta ou de uma permissão ampliada que foi concedida para outra finalidade.

Como escolher o nível inicial?

Comece pelas consequências, e não pelo entusiasmo. Antes que o agente toque em qualquer coisa, responda a três perguntas: o que acontece se ele errar, a ação pode ser desfeita e quanto tempo alguém levaria para perceber o problema. Essas respostas indicam um nível inicial com mais segurança do que uma nota de benchmark ou uma apresentação de fornecedor.

• Se um erro pode chegar a um cliente, a um pagamento, a um contrato ou a um órgão regulador, comece no nível 1 e fique nele até a revisão descrita abaixo estar concluída.
• Se a ação é reversível em uma janela curta e visível internamente, o nível 2 é um primeiro passo razoável.
• Se o agente apenas lê dados ou escreve em um rascunho privado, os níveis 0 ou 1 bastam no primeiro período.
• Nunca conceda uma ferramenta antes de o nível correspondente ser alcançado. O acesso deve acompanhar o nível atual, e não o nível que o agente poderá atingir depois.

Esse último ponto segue os princípios de negar por padrão e de menor privilégio presentes nas orientações de autorização da OWASP. Um agente que mantém acesso de escrita caso ele seja necessário depois tem um raio de impacto maior do que o papel atual exige. Para entender como estruturar essas camadas de confiança, veja Autorização de agentes de IA: níveis de permissão por confiança.

Que evidências devem levar um agente a subir de nível?

Os critérios precisam ser escritos antes de o agente começar, e não escolhidos depois que os resultados aparecem. O dono do processo deve definir o número mínimo de execuções revisadas, a taxa de aceitação, a duração da janela de observação e a regra para erros graves. Esses valores pertencem à definição do agente, junto com seu critério de sucesso, para que todos leiam o mesmo teste.

Evidência útil costuma ter seis partes:

• Um conjunto de tarefas tirado de trabalhos reais passados, com resultados esperados acordados pelas pessoas que fazem esse trabalho hoje.
• Execuções repetidas sobre esse conjunto. A prática de avaliação trata as saídas de agentes como variáveis, então uma execução limpa diz muito pouco.
• Aceitação do revisor no nível 2, medida por tipo de tarefa, com o registro de quantas aprovações exigiram ajustes.
• Erros graves contados separadamente dos pequenos. Um único erro grave dentro da janela deve interromper a subida.
• Qualidade do encaminhamento: o agente envia para uma pessoa os casos que não deveria tratar, inclusive os incomuns que parecem rotineiros?
• Estabilidade: os resultados se mantêm depois de mudanças de ferramenta, atualizações de modelo ou novas fontes de dados.

As orientações da Anthropic sobre avaliações de agentes apontam na mesma direção: tarefas, avaliadores e execuções repetidas precisam ser desenhados juntos, ou as notas não significarão o que parecem significar. Para o desenho de um teste piloto, veja Quanto tempo deve durar um piloto de agente de IA? Guia de planejamento.

Como subir um nível, passo a passo?

Uma promoção deve ser uma mudança pequena e documentada. A sequência a seguir mantém esse formato:

• Registre as evidências atuais em um log escrito: o que o agente fez, quem revisou e quais critérios foram cumpridos.
• Defina o escopo do próximo nível em termos simples: os tipos exatos de ação, as ferramentas exatas e os limites exatos.
• Revise a mudança de permissão com o dono de cada sistema envolvido e retire qualquer acesso que o novo escopo não exija.
• Rode o agente em modo sombra no novo escopo. Ele produz a ação que tomaria, essa ação é comparada com o que a pessoa de fato fez, e nada é executado.
• Faça uma reunião curta de decisão com o dono do processo e um revisor, e decida com base nos critérios escritos, e não em impressões.
• Promova um tipo de ação por vez e mantenha o restante do escopo do agente como estava.
• Mantenha o monitoramento ativo e agende a próxima avaliação recorrente antes de a promoção entrar em produção.

Cenário ilustrativo: um líder de operações quer que um agente registre as confirmações de entrega de fornecedores no sistema de pedidos. No nível 2, uma pessoa aprova cada lançamento durante um período combinado. Os revisores percebem que a maioria dos lançamentos exige apenas a troca de status, então a equipe propõe o nível 3 só para essa ação, com a regra de que qualquer lançamento que altere quantidade ou preço vá para uma pessoa. No modo sombra, o agente registra uma entrega parcial como completa, então a equipe endurece a regra e repete a execução sombra antes de qualquer ação real acontecer.

Esse cenário mostra por que a etapa sombra importa. O erro foi pego antes de alterar um registro, e a resposta foi uma regra mais estreita, não uma confiança maior.

Quando um agente deve perder autonomia?

Rebaixamentos devem ser rápidos, e promoções devem ser lentas. Reduza o nível imediatamente quando acontecer uma destas situações:

• Um erro grave chega a um cliente, a um fornecedor, a um pagamento ou à contabilidade.
• O modelo, uma ferramenta conectada ou uma fonte de dados muda, e o agente não foi reavaliado.
• Os revisores passam a editar mais do trabalho do agente, mesmo sem nenhuma falha isolada visível.
• Os registros do agente mostram ações fora do escopo, mesmo quando o resultado por acaso estava correto.
• Uma permissão que o agente possui não é mais necessária para o nível atual.

Depois de um rebaixamento, não restaure o nível anterior antes de a causa ser registrada e de novas evidências terem sido coletadas com os mesmos critérios. Também é preciso responder às questões de responsabilidade antes de encerrar um incidente. Quem é responsável quando o agente de IA comete um erro? explica como atribuí-las. O NIST AI Risk Management Framework trata a resposta e a recuperação de riscos como parte da gestão de sistemas de IA. Logs e rastros tornam isso possível: a introdução à observabilidade do OpenTelemetry descreve a telemetria, como logs, métricas e traces, como a forma de entender o que um sistema fez e por quê. Sem esse registro, um rebaixamento vira um palpite.

Como a Be Human trata os níveis de autonomia na prática?

A Be Human desenha e opera infraestrutura de IA personalizada, na qual um agente mantém sua identidade, memória, canais, ferramentas, permissões e contexto operacional sob controle humano. O primeiro projeto define um papel útil, a memória e as ferramentas de que ele precisa, seus limites de aprovação e um critério de sucesso observável, e o nível inicial e os critérios de promoção são escritos nessa mesma definição. A operação gerenciada então sustenta o trabalho do qual a escada depende: monitoramento, avaliações recorrentes, manutenção das integrações, revisão de permissões, resposta a incidentes e melhorias controladas, com cada mudança promovida um nível por vez. A Be Human não promete que um agente específico chegará a algum nível, já que isso depende do trabalho, dos dados e dos revisores envolvidos. Se você não tem certeza de qual tarefa deve iniciar a escada, faça o diagnóstico gratuito de IA da Be Human para descobrir a primeira tarefa que vale entregar a um agente.

Perguntas frequentes

Um agente pode pular um nível se tiver bom desempenho nos testes? Não. O teste mostra como o agente se comporta nas tarefas que você escolheu, e não em toda a variedade de casos que ele encontrará em produção. Pular um nível elimina a etapa de revisão que captaria os casos que o conjunto de teste deixou de fora, por isso as promoções devem seguir a escada mesmo quando os resultados parecem fortes.

Por quanto tempo um agente deve ficar no modo somente sugestão? Pelo tempo necessário para produzir um conjunto de trabalho revisado que cumpra os critérios combinados antecipadamente, e não por um prazo fixo no calendário. Tarefas simples e de baixo risco podem atingir o padrão rapidamente, enquanto tarefas com consequências para clientes ou finanças costumam exigir mais execuções e casos mais variados. O dono do processo toma a decisão, e a decisão fica registrada.

Um nível de autonomia mais alto elimina a necessidade de revisão humana? Não. No nível 3, a revisão humana passa de cada ação para ações amostradas, exceções e avaliações periódicas. Revisar com menos frequência é uma escolha de desenho que depende de quão reversível é a ação e do monitoramento que a sustenta.

Quem decide quando um agente sobe de nível? O dono do processo de negócio decide, com um revisor que não construiu o agente, e o dono de qualquer sistema cujas permissões mudem precisa concordar. A decisão deve ser medida pelos critérios escritos e registrada junto com as evidências. Alguém fora da equipe que construiu o agente deve conseguir ver por que a mudança foi feita.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.