Ir para conteúdo
be-human.ai
← Voltar ao blog

Infraestrutura de IA personalizada

Feature flags para agentes de IA: ative capacidades por função

Aprenda a ativar novas capacidades de agentes de IA para uma equipe por vez, testar a mudança com critérios claros e ampliar o acesso só após revisão.

Capa tipográfica do Be Human com o título: Feature flags para agentes de IA: ative capacidades por função
Ilustração conceitual criada com IA · Be Human

Feature flags para agentes de IA são interruptores que controlam quais capacidades um agente pode usar, como uma nova ferramenta, um escopo de memória mais amplo ou um limite maior de autonomia, para um grupo definido de pessoas ou funções. Em vez de liberar uma nova capacidade para toda a empresa de uma vez, você a ativa para uma equipe, mede o que muda em relação a um critério de sucesso escrito e amplia o acesso só quando as evidências sustentam isso. O mesmo interruptor permite desligar a capacidade rapidamente se ela se comportar mal.

Principais pontos

  • Trate cada nova habilidade do agente como uma flag, com dono nomeado, escopo definido e data de revisão.
  • Ative uma capacidade primeiro para uma função com trabalho claro e baixo custo de erro.
  • Escreva o critério de sucesso e a condição de parada antes de ligar a flag, e não depois do primeiro resultado.
  • Mantenha permissões e limites de aprovação em registros próprios, para que ligar uma capacidade nunca amplie o acesso por acidente.
  • Amplie por função somente depois de revisar os rastros, as falhas e as correções feitas pelos revisores na equipe atual.

Por que novas capacidades de agentes precisam de um interruptor de implantação?

Agentes mais fortes raramente chegam como uma mudança única. Uma nova capacidade costuma reunir várias coisas: uma ferramenta nova, acesso a outra fonte de dados, uma cadeia maior de ações executadas sem uma pessoa no meio ou uma forma diferente de planejar o trabalho. Cada uma dessas mudanças altera o que o agente pode fazer e o que pode dar errado. Se todas chegam à empresa inteira ao mesmo tempo, ninguém consegue dizer qual mudança causou um bom resultado ou um ruim.

A flag separa a decisão de construir da decisão de usar. A capacidade pode ser publicada na plataforma do agente em estado desligado, testada com os próprios registros do sistema e depois ativada para uma função nomeada. Esse é o lado prático da etapa de gestão do NIST AI Risk Management Framework, que pede às organizações que meçam e gerenciem riscos durante toda a vida de um sistema, e não apenas no lançamento.

A tentação comum é compartilhar um piloto bem-sucedido com todo mundo. O resultado é que a equipe com mais atrito, menos contexto ou maior custo de erro é a primeira a receber o novo comportamento, sem uma linha de base para comparar. Uma flag por função dá uma comparação controlada: um grupo usando a capacidade e um grupo comparável seguindo com o processo atual.

O que um registro de flag de capacidade deve conter?

Escreva cada flag como um registro curto que um gestor consiga ler em dois minutos. Um registro útil inclui:

  • O nome e uma finalidade simples, escrita com as palavras que a equipe já usa
  • A função ou equipe que recebe a capacidade, e as funções explicitamente excluídas
  • As ferramentas, fontes de dados e escopos de memória que a capacidade pode acessar
  • As permissões de que ela depende e a fronteira de aprovação para ações com custo, impacto no cliente ou peso jurídico
  • O critério de sucesso, descrito como um resultado observável
  • A condição de parada e quem pode acioná-la
  • O dono responsável e a data de revisão

Uma flag sem critério de sucesso é apenas um interruptor. O critério deve dizer o que você espera ver no produto do trabalho, por exemplo menos devoluções para uma pessoa, menos correções feitas pelos revisores ou um prazo menor para uma resposta completa. Escolha uma ou duas medidas para que o teste continue legível. Se a equipe não consegue concordar sobre o que é um bom resultado, a capacidade ainda não está pronta para uma flag.

Se a flag muda o que um agente existente pode fazer, passe-a pelo mesmo processo de mudança que você usa para outras edições de agentes. Um guia curto desse processo está em How to Request and Approve Changes to a Managed AI Agent.

Como escolher a primeira equipe?

A primeira equipe precisa ser útil o bastante para que o feedback dela importe e tolerante o bastante para que um erro seja recuperável. Bons candidatos costumam compartilhar alguns traços:

  • Uma tarefa repetitiva com linha de chegada clara, para que os resultados possam ser verificados
  • Um gestor que lê os resultados e decide com base neles
  • Um custo baixo para um rascunho errado, com uma pessoa revisando as saídas antes que saiam da empresa
  • Registros existentes que o agente pode usar sem inventar contexto ausente
  • Membros dispostos a relatar atritos com honestidade, inclusive os casos em que o agente não economizou tempo

Evite começar pela equipe sob a pressão de prazo mais pesada, porque ela não terá paciência para um teste. Também evite o grupo que lida com os registros pessoais ou financeiros mais sensíveis até que o processo tenha sido comprovado em outros lugares. A lógica de seleção é tratada com mais profundidade em Como priorizar casos de uso de IA na empresa: método com quatro fatores.

Cenário ilustrativo: uma empresa regional de serviços quer que seus coordenadores de agenda recebam uma nova capacidade que rascunha mensagens de reagendamento a partir do histórico de serviços. Os coordenadores se tornam a primeira equipe porque cada rascunho é revisado antes do envio, o histórico está completo e a líder da coordenação se reúne toda semana com o diretor de operações. A flag fica desligada para os supervisores de campo, que mantêm o processo atual para que a comparação continue limpa.

Um plano em etapas para testar uma equipe

O teste de uma única equipe funciona melhor como uma sequência, com uma decisão em cada etapa. Uma versão prática fica assim:

  • Etapa 1: escreva o registro da flag e peça que o dono e o aprovador o assinem, com a mesma disciplina de qualquer solicitação de mudança.
  • Etapa 2: reproduza em um ambiente de teste um conjunto de casos reais anteriores da equipe e registre cada ponto em que o agente erra, demora ou não se faz entender.
  • Etapa 3: ative a capacidade para a equipe nomeada, com uma etapa de aprovação humana para cada ação que saia da empresa.
  • Etapa 4: revise os rastros e as correções dos revisores em um ponto fixo, como o fim do primeiro ciclo completo de trabalho, e decida se mantém, ajusta ou interrompe.
  • Etapa 5: amplie somente para uma segunda função, com registro próprio e linha de base própria, em vez de estender a primeira flag em silêncio.

Defina a duração do teste no registro antes de ele começar. O teste deve cobrir a variedade normal do trabalho, incluindo um período movimentado e pelo menos um caso de exceção. Estender o teste porque os resultados não estão claros é uma decisão que precisa de uma justificativa escrita.

Por que uma flag não é uma permissão

Uma flag controla se uma capacidade está visível para uma função. Ela não decide o que o agente pode fazer com dados e ferramentas. A orientação de autorização da OWASP recomenda aplicar verificações de acesso do lado do servidor, negar por padrão e checar a permissão em cada ação, em vez de presumir que uma etapa anterior já a aprovou. Aplicado a agentes, isso significa que uma chamada de ferramenta só deve ser executada quando a permissão da função a autoriza, independentemente do estado da flag.

A orientação da OWASP sobre injeção de prompt acrescenta um segundo ponto. Textos recuperados de documentos, e-mails, páginas da web ou resultados de ferramentas podem conter instruções que tentam mudar o que o agente faz. Uma capacidade que lê mais fontes pode, portanto, criar mais exposição, mesmo quando a novidade parece inofensiva. Trate o conteúdo recuperado como dado, limite quais ferramentas podem agir sobre ele e mantenha etapas de aprovação para ações de consequência. Uma revisão mais ampla desse risco está em Revisão trimestral de permissões de agentes de IA: checklist prático.

Mantenha as concessões de permissão em um registro separado, com ciclo de revisão próprio. Quando alguém perguntar por que o agente agora pode fazer algo, a resposta deve apontar para uma entrada de permissão e um registro de mudança, e não para uma flag que foi ligada por conveniência.

O que medir durante o teste e como a Be Human conduz isso?

Cada execução do agente deve deixar um rastro: a solicitação, as ferramentas chamadas, os dados lidos, as decisões de aprovação e a saída final. Os conceitos de observabilidade do OpenTelemetry descrevem esse padrão de rastros, métricas e logs que permite a uma equipe reconstruir o que aconteceu em um sistema. Para uma capacidade com flag, o rastro é a evidência que liga um resultado ao estado da flag no momento da execução.

Compare a equipe com a capacidade ativa e o grupo de referência pelo critério que você escreveu. Medidas úteis incluem a taxa de correções feitas pelos revisores, o número de encaminhamentos para uma pessoa, erros de ferramentas e o tempo necessário para concluir a tarefa. Leia as falhas uma a uma, e não apenas as médias. Uma média pode parecer boa enquanto uma classe de casos falha sempre, e essa classe costuma ser justamente a que importa para o cliente.

Em um trabalho de operação gerenciada, a Be Human desenha e opera essa camada para a empresa. Os registros de flags, os escopos por função, as fronteiras de aprovação e os logs de rastro continuam sob controle da empresa, e as mudanças passam pela mesma revisão das demais alterações de agentes. Monitoramento, avaliações recorrentes e revisões de permissão rodam em cronograma, de modo que uma capacidade que parece sólida na primeira semana é verificada de novo antes de chegar a outra equipe. O trabalho é entregue remotamente, em inglês ou em português.

Quando ampliar, pausar ou aposentar uma flag?

A decisão após um teste costuma ser uma entre quatro. Use o registro e as evidências para escolher:

  • Amplie quando o critério foi atingido, as falhas são compreendidas e o dono assina a revisão.
  • Pause quando uma falha afeta clientes, dinheiro ou dados pessoais, e investigue antes de religar a capacidade.
  • Ajuste quando a capacidade funciona, mas a fronteira de aprovação, o contexto ou o critério de sucesso precisam mudar. Depois, teste de novo.
  • Aposente quando a capacidade foi substituída, não é mais usada ou deixou de corresponder à função.

Registre cada decisão no registro da flag, junto com as evidências revisadas. Os limites de aprovação devem ser revisitados conforme a capacidade cresce, e o raciocínio está descrito em Limites de aprovação humana para agentes de IA mais fortes: guia prático. Uma implantação que avança em passos visíveis é mais fácil de defender diante de um conselho, de um auditor ou de uma equipe que precisa mudar seus hábitos. Se ainda não está claro qual tarefa da sua equipe é a primeira certa para receber uma nova capacidade, o diagnóstico gratuito de IA da Be Human pode ajudar a encontrá-la.

Perguntas frequentes

Precisamos de uma plataforma dedicada de feature flags para fazer isso? Não necessariamente. Uma empresa pequena pode começar com um registro escrito da flag, uma configuração no ambiente de execução do agente que a plataforma faça valer e um log de quem mudou o quê e quando. O mais importante é que o sistema imponha a flag, de modo que o agente não consiga usar uma capacidade que o registro diz estar desligada.

Quanto tempo deve durar o teste de uma única equipe? Tempo suficiente para cobrir a variedade normal do trabalho, incluindo um período movimentado e pelo menos um caso de exceção. Defina a duração no registro da flag antes de o teste começar. Se você a estender, anote o motivo e a nova data de término.

Uma flag pode substituir a revisão de permissões? Não. A flag controla se uma capacidade está visível para uma função, enquanto as permissões decidem o que o agente pode fazer com dados e ferramentas. Revise os dois, mas em cronogramas próprios, para que uma mudança em um não altere o outro em silêncio.

E se a equipe que testou quiser manter a capacidade depois do teste? Tome a decisão com as evidências registradas. Se o critério foi atingido e as falhas são compreendidas, transforme a flag em uma configuração documentada, com dono e data de revisão. Se o critério não foi atingido, aposente ou ajuste a capacidade e guarde as anotações do teste, para que a próxima tentativa parta do que foi aprendido.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →