Ir para conteúdo
be-human.ai
← Voltar ao blog

Fluxos de negócio

Produto de agentes de IA: o que o dono decide antes de o agente agir

Veja o que o dono de um produto de agentes de IA define antes de o agente rodar: escopo, memória, ferramentas, limites de aprovação e critério de sucesso.

Capa tipográfica do Be Human com o título: Produto de agentes de IA: o que o dono decide antes de o agente agir
Ilustração conceitual criada com IA · Be Human

Um dono de produto de agentes de IA decide para que serve o agente, o que ele pode lembrar, quais ferramentas pode usar, em que ponto precisa parar e perguntar a uma pessoa, e como a empresa vai saber se o agente está funcionando. Numa empresa que mantém a própria camada de inteligência, esse papel pesa mais do que a escolha do modelo, porque cada decisão aqui molda todos os agentes construídos sobre essa camada. As seções a seguir seguem a ordem em que essas decisões normalmente aparecem.

Principais pontos

  • O dono do produto define escopo, memória, ferramentas, limites de aprovação e critérios de sucesso antes de qualquer construção começar.
  • As regras de memória devem dizer o que o agente pode guardar, de onde veio cada fato, por quanto tempo ele fica e quem pode corrigi-lo.
  • Cada ferramenta que o agente usa é uma permissão, então conceda o acesso mais restrito que completa uma tarefa definida.
  • Os limites de aprovação devem estar por escrito, ligados a valores, tipos de registro ou mensagens externas, e não deixados ao julgamento do agente.
  • O critério de sucesso precisa aparecer em registros ou numa revisão semanal, senão o agente não pode ser gerenciado como produto.

O que o dono de um produto de agentes de IA realmente responde

O papel fica entre as pessoas que vão usar o agente e as pessoas que mantêm os sistemas aos quais ele se conecta. O dono do produto não é o engenheiro que faz as integrações, nem o executivo que aprova o orçamento, embora ambos participem. O dono mantém uma descrição curta e escrita do que o agente pode fazer, o registro do motivo de cada permissão e uma lista de mudanças que precisam ser revisadas antes de entrar em produção.

Na prática, o dono aprova a descrição de função do agente, o conteúdo da memória, a lista de ferramentas e os pontos de parada. Ele também decide quando um agente deve ser pausado, dividido em agentes menores ou desativado. Uma empresa com um único agente consegue conduzir esse papel de forma simples. Uma empresa com vários agentes que compartilham memória e canais precisa definir também qual agente é dono de quais fatos, uma questão que fica mais delicada conforme a camada cresce. Os sinais de que um agente deve ser dividido estão em Quando adicionar mais agentes de IA: sinais para dividir o trabalho.

Escopo e sucesso: qual papel, qual resultado

O escopo começa com um papel, não com uma função ampla. Atender e-mails de clientes é uma função. Rascunhar respostas sobre pedidos de reembolso a partir do registro do pedido e da política publicada, e encaminhar ao líder de suporte tudo o que estiver fora dessa política, é um papel. A diferença importa porque o papel nomeia a entrada, a saída, a pessoa que recebe a saída e o ponto em que o agente para.

Antes de escrever o escopo, confirme que o fluxo é estável o bastante para ser descrito. Se as etapas existem apenas na cabeça das pessoas, mapeie primeiro. O passo a passo dessa preparação está em Mapeamento de processos antes de automatizar com IA: guia prático.

O sucesso precisa ser observável. Escolha um critério que alguém possa checar sem confiar no resumo do próprio agente: quantos rascunhos são aceitos sem edição, quantos pedidos encaminhados errado aparecem numa amostra semanal, ou quanto tempo um pedido espera numa fila de exceções. Um critério que só o agente informa não é um critério. O material introdutório da OpenTelemetry sobre logs, traces e métricas é uma boa referência para decidir o que registrar, para que um revisor consiga reconstruir o que aconteceu.

Regras de memória: o que o agente pode guardar

A memória é a decisão de produto mais sensível, porque persiste além de uma tarefa. O dono deve separar o que o agente sabe em três grupos: contexto de trabalho para a tarefa atual, fatos de referência tirados de documentos da empresa e registros sobre pessoas ou contas. Cada grupo precisa de uma regra própria.

O contexto de trabalho normalmente pode ser descartado quando a tarefa termina. Os fatos de referência são melhor buscados nos documentos que a empresa controla do que copiados para as anotações do agente, assim uma política alterada é corrigida uma vez na fonte e não em vários lugares. Para registros sobre pessoas, o dono deve decidir o que pode ser armazenado, quem pode pedir a exclusão e se o agente pode guardar dados pessoais.

Uma regra de memória está completa quando responde a quatro perguntas: de onde veio este fato, por quanto tempo ele pode permanecer, quem pode corrigi-lo e o que acontece com ele quando o agente for desativado. Se alguma resposta faltar, a empresa mantém um acervo de fatos que ninguém consegue auditar. O NIST AI Risk Management Framework oferece um vocabulário comum para documentar esses riscos e os controles que os tratam.

Ferramentas e permissões

Uma ferramenta é uma permissão com uma descrição anexada. Quando um agente pode ler uma agenda, publicar num canal, atualizar um registro de cliente ou preparar uma nota fiscal em rascunho, cada capacidade deve ser concedida separadamente e revisada por conta própria. Padrões de conexão como o Model Context Protocol facilitam ligar ferramentas a um modelo, mas uma conexão padronizada não decide quais ações são adequadas. Essa decisão continua com o dono.

As orientações de autorização da OWASP apontam para a disciplina já usada em contas humanas: verificar cada ação contra uma regra explícita e conceder apenas o necessário. Os agentes acrescentam uma complicação. Um texto em um e-mail ou em uma página web pode tentar instruir o agente a executar uma ação que ele não deveria executar. As orientações da OWASP sobre prevenção de injeção de prompt tratam isso como risco de projeto, o que significa que o dono deve limitar o que um único agente pode fazer depois de ler conteúdo não confiável.

Checklist para cada ferramenta:

  • Nomeie a única tarefa que a ferramenta atende e o papel do agente que a usa.
  • Conceda acesso de leitura antes de acesso de escrita, e limite a escrita a tipos de registro específicos.
  • Decida se cada escrita é aplicada diretamente, enviada para revisão ou bloqueada.
  • Registre cada chamada com a identidade do agente, a entrada e o resultado.
  • Revise a lista de permissões em um calendário fixo e remova o que não é mais usado.

Limites de aprovação e um primeiro plano

Os limites de aprovação definem onde o agente age sozinho e onde uma pessoa decide. Eles devem ser escritos como condições que o agente consegue verificar, e não como instruções gerais do tipo tenha cuidado com valores altos. Um limite pode permitir que o agente prepare um lançamento de pagamento, mas exigir parada quando o fornecedor for novo, quando o valor passar do limite definido pelo dono ou quando o código contábil nunca tiver sido usado antes.

Cenário ilustrativo: um agente de contas a pagar recebe faturas de fornecedores, as associa a pedidos de compra e prepara lançamentos para revisão. O dono permite que ele registre lançamentos de fornecedores conhecidos, abaixo de um limite. Qualquer fatura de fornecedor novo, qualquer divergência de quantidade e qualquer lançamento em conta restrita vai para a fila de um contador nomeado, com o motivo anexado. O agente não resolve a exceção. Quem resolve é o contador, e o motivo fica registrado para que o dono veja quais limites geram mais revisões e se estão bem definidos.

Um primeiro plano para um agente novo pode seguir uma sequência curta:

  • Escreva a tarefa em uma frase, com a entrada, a saída e a pessoa que recebe a saída.
  • Liste cada fato que o agente precisa, anote onde ele está e decida quais podem ser armazenados.
  • Conceda o menor conjunto de ferramentas que completa a tarefa, com leituras liberadas antes das escritas.
  • Defina as condições de parada como regras verificáveis e nomeie a pessoa responsável por cada fila de exceções.
  • Rode o agente em modo de observação com casos passados antes de ele agir sobre trabalho real, como descrito em Modo sombra para agentes de IA: observe antes de dar autonomia.
  • Revise os resultados com o dono e amplie permissões apenas para tarefas que atingiram o critério de sucesso.

Encaminhar cada exceção para a pessoa certa é um problema de projeto à parte, tratado em Fluxo de aprovação com IA: envie cada pedido ao aprovador certo.

Como a Be Human gerencia o agente depois do lançamento

A Be Human projeta, implementa e opera infraestrutura de IA personalizada, com agentes que mantêm sob controle humano sua identidade, memória, canais, ferramentas, permissões e contexto operacional. Um primeiro projeto define uma função útil, a memória e as ferramentas que ela exige, os limites de aprovação e um critério de sucesso observável. A operação gerenciada pode então incluir monitoramento, avaliações recorrentes, manutenção das integrações, revisão de permissões, resposta a incidentes e melhorias controladas, entregues remotamente em inglês ou português. O dono do produto no lado do cliente mantém as decisões, enquanto o serviço gerenciado mantém essas decisões aplicadas conforme os sistemas conectados mudam.

Se você não tem certeza de qual tarefa deve vir primeiro, faça o diagnóstico gratuito de IA da Be Human para encontrar a primeira tarefa que vale entregar a um agente.

Perguntas frequentes

O que um dono de produto de agentes de IA faz no dia a dia? Ele revisa as filas de exceção e as mudanças de permissão, confirma que as decisões registradas do agente seguem os limites definidos e decide quais melhorias entram em produção. Grande parte do trabalho é ler registros e amostras de saída, e não reescrever instruções. O papel também mantém a descrição de função do agente atualizada quando o processo que ele atende muda.

Quem deve ocupar o papel de dono do produto de agentes de IA? O papel pertence à pessoa que é dona do processo de negócio atendido pelo agente, e não apenas à tecnologia. Essa pessoa precisa ter autoridade para aceitar ou recusar uma permissão e familiaridade suficiente com o trabalho para reconhecer um rascunho ruim. A equipe técnica apoia o papel, mas não deve ocupá-lo sozinha.

Qual é a diferença entre um dono de produto e um gerente de projeto? O gerente de projeto acompanha a entrega até uma data de conclusão. O dono do produto continua responsável depois do lançamento pelo desvio de escopo, pela higiene da memória, pela revisão de permissões e, eventualmente, pela desativação. Um projeto pode ser encerrado enquanto o agente continua rodando, e por isso a responsabilidade precisa continuar.

Quando o dono deve pausar um agente? Pause o agente quando seu critério de sucesso cair, quando uma fila de exceções crescer mais rápido do que as pessoas conseguem esvaziá-la ou quando ele tocar um registro fora do escopo definido. Registre a pausa com o motivo e nomeie a pessoa que decide quando o trabalho recomeça. A pausa é um controle normal e não deve ser tratada como falha.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →