Ir para conteúdo
be-human.ai
← Voltar ao blog

Infraestrutura de IA personalizada

Funções em uma empresa de superinteligência: quem decide sobre os agentes

Quem é dono, revisa, opera e aprova os agentes de IA da empresa, e o que cada função precisa decidir antes de ganhar mais permissões.

Capa tipográfica do Be Human com o título: Funções em uma empresa de superinteligência: quem decide sobre os agentes
Ilustração conceitual criada com IA · Be Human

Funções em uma empresa de superinteligência são as pessoas que são donas, revisam, operam e aprovam os agentes de IA dos quais o negócio depende. Cada agente exige quatro responsabilidades distintas: um dono que define seu propósito, um revisor que confere o trabalho, um operador que mantém o agente funcionando e um aprovador que decide quando as permissões podem crescer. Nomear essas funções antes de o agente ganhar acesso a mais sistemas é o que mantém sua memória, suas ferramentas e seus canais sob controle humano.

Principais pontos

  • Cada agente precisa de quatro responsabilidades nomeadas: dono, revisor, operador e aprovador. Em uma empresa pequena, uma pessoa pode acumular duas delas, mas as atribuições devem continuar escritas separadamente.
  • O dono define a função e o critério de sucesso. O aprovador decide as mudanças de permissão, e quem pede a mudança não deve ser o único a aprová-la.
  • Revisores conferem os resultados contra um padrão escrito antes do lançamento, e não contra impressões colhidas depois que algo dá errado.
  • As permissões só devem crescer depois que as funções tiverem atuado por um período definido e produzido evidências de que os limites atuais funcionam.
  • Cada função deve constar em um runbook de uma página para o agente, para que as responsabilidades sobrevivam a trocas de pessoas e de fornecedores.

Por que a camada de agentes precisa de funções nomeadas

Um agente de IA não é uma ferramenta única que alguém liga e esquece. Ele guarda memória de clientes ou de operações, chama sistemas externos, envia mensagens por canais e trabalha dentro de permissões que alguém concedeu. Cada um desses elementos pode mudar com o tempo. Uma nova integração é adicionada porque ficou conveniente, uma fonte de memória é ampliada porque uma equipe pediu respostas melhores, e um canal é habilitado porque um piloto deu certo. Quando ninguém está nomeado para essas decisões, cada mudança parece razoável isoladamente, e o agente acaba, aos poucos, com mais alcance do que alguém pretendia.

O NIST AI Risk Management Framework trata governança, responsabilização e monitoramento contínuo como partes centrais da gestão de risco de IA, e não como burocracia acrescentada no fim. A orientação sobre controle de acesso da OWASP reforça o mesmo ponto pelo lado da segurança: as permissões devem ser verificadas contra regras explícitas, e essas regras devem ser mantidas por pessoas responsáveis por elas. As funções são a forma organizacional dessas regras. Elas dizem quem pode decidir, quem deve perceber um problema e quem precisa agir quando algo sai do esperado.

As quatro funções e o que cada uma decide

O dono é o líder de negócio responsável pelo que o agente existe para fazer. Ele escreve o propósito em uma ou duas frases, define um critério de sucesso que possa ser observado e decide quais registros de clientes, documentos e sistemas o agente pode usar. O dono não precisa ler os logs toda semana, mas precisa conseguir dizer se o agente está cumprindo sua função e se deve continuar cumprindo.

O revisor confere a qualidade do trabalho do agente contra o padrão definido pelo dono. Na prática, isso significa amostrar respostas em uma agenda, registrar casos em que o agente errou, ficou confuso ou saiu do escopo, e decidir quais desses casos exigem mudança. O revisor costuma ser um especialista do processo de negócio, como um líder de atendimento ou um gerente de operações, e não uma pessoa técnica. Ele também observa entradas incomuns, porque agentes que leem textos externos podem ser direcionados por instruções escondidas nesse texto, um risco que o OWASP Top 10 para Aplicações com LLM descreve em detalhes.

O operador mantém o agente em funcionamento. Ele acompanha a disponibilidade, lê o rastro de eventos, mantém as integrações quando um sistema conectado muda e cuida dos incidentes. O operador pode pausar o agente quando uma regra de parada clara é acionada, mas não pode, por conta própria, ampliar o que o agente tem permissão para fazer.

O aprovador decide quando permissões, fontes de memória, ferramentas ou canais mudam. Ele deve ter autoridade sobre a área de negócio afetada e, em qualquer coisa que envolva dinheiro, dados pessoais ou mensagens enviadas a clientes, deve ser alguém que possa ser responsabilizado pelas consequências. O aprovador é o papel que mais costuma faltar nas implantações iniciais, e essa ausência é o motivo mais comum pelo qual agentes acumulam acesso sem que ninguém perceba.

O dono decide para que serve o agente, o aprovador decide em que ele pode mexer, e nenhum dos dois precisa fazer o trabalho diário do operador.

Um guia de decisão sobre quem aprova o quê

Nem toda mudança exige o mesmo nível de escrutínio. Uma abordagem prática é separar as decisões em faixas e atribuir um aprovador a cada faixa antes de o agente entrar em operação. As faixas exatas dependem do seu negócio, mas o guia a seguir é um bom ponto de partida.

  • Impacto baixo: mudar a redação das respostas ou incluir um documento de referência que já é público dentro da empresa. O operador pode fazer a mudança, e o revisor a confere na amostragem seguinte.
  • Impacto médio: conectar uma nova fonte de dados interna à memória do agente ou adicionar uma ferramenta somente leitura. O dono aprova depois que o revisor confirmar que a fonte é precisa e adequada.
  • Impacto alto: habilitar ações de escrita em um sistema de negócio, permitir mensagens de saída para clientes ou mudar limites de gasto e de reembolso. O aprovador assina por escrito, e a mudança é testada antes em um ambiente limitado.
  • Restrito: qualquer coisa que envolva dados pessoais sensíveis, decisões reguladas ou mudanças nas regras de autoridade do próprio agente. Exige o aprovador mais uma segunda revisão feita por uma pessoa fora da equipe operacional.

Seja deliberado com os limiares. Elevar um limite de aprovação porque uma faixa parece lenta é uma decisão em si, e merece as mesmas evidências de qualquer ampliação de permissão. O texto sobre limites de aprovação humana para agentes de IA mais fortes explica por que esses limites devem mudar devagar.

Passo a passo: montar a camada de agentes antes da expansão

Use esta sequência antes que o primeiro agente receba qualquer permissão além do acesso somente leitura.

  • Passo 1: escreva o propósito do agente e um critério de sucesso observável. Se você não consegue descrever como saberia que ele funciona, a função ainda não está pronta.
  • Passo 2: nomeie o dono, o revisor, o operador e o aprovador pelo nome da pessoa, e não pelo departamento. Registre os nomes e um substituto para cada função.
  • Passo 3: liste cada fonte de memória, ferramenta e canal que o agente tem hoje, e marque quais são somente leitura e quais podem alterar algo.
  • Passo 4: atribua as faixas de decisão do guia acima e registre quem aprova cada uma.
  • Passo 5: defina regras de parada, as condições em que o operador pausa o agente e avisa o dono. Mantenha-as específicas, como uma recusa repetida em seguir um limite ou uma integração que devolve erros.
  • Passo 6: rode o agente com as permissões atuais por um período definido, e peça ao revisor que registre os resultados em relação ao critério de sucesso.
  • Passo 7: só depois que as evidências sustentarem, deixe o aprovador considerar a ampliação de uma permissão por vez, começando pela mudança de menor impacto.

Mantenha o resultado desses passos em uma única página de runbook para cada agente. Um runbook que fica na caixa de entrada de alguém não sobrevive a uma troca de equipe, e uma função que existe apenas na memória será esquecida assim que a pessoa que a montou sair.

Exemplo ilustrativo: uma empresa regional de serviços implanta um agente para responder a clientes sobre visitas agendadas. O dono é o diretor de operações, o revisor é um despachante sênior, o operador é um prestador de TI de sobreaviso e o aprovador é o gerente geral. Seis semanas depois, um despachante percebe que o agente informa uma janela de visita que o sistema de agendamento já não usa. O revisor registra o caso, o operador verifica a integração e descobre que um campo foi renomeado, e o dono decide que o agente deve ser pausado apenas para esse tema. O gerente geral aprova a correção antes de o agente voltar a responder sobre janelas de visita. Nada nessa sequência exigiu uma nova ferramenta ou um orçamento maior. Exigiu que cada pessoa soubesse qual decisão era dela.

Separar o operador do aprovador

A lacuna de governança mais comum em empresas pequenas é que a pessoa que quer a mudança também a aprova. O operador pede uma nova integração porque ela reduziria o trabalho manual, e o mesmo operador marca a mudança como aprovada porque não há mais ninguém disponível. Isso não é uma falha de intenção, mas elimina a verificação que a aprovação deveria garantir. Separe as duas funções mesmo que a empresa seja pequena. Se o único aprovador disponível também for o operador, registre essa exceção por escrito, limite-a a mudanças de baixo impacto e agende uma revisão dela.

O processo de pedido de mudança deve registrar quem pediu, quem revisou, quem aprovou e quais evidências foram anexadas. Esse registro também permite que uma auditoria posterior responda por que um agente pode fazer hoje algo que não podia fazer na revisão anterior.

Como a abordagem gerenciada da Be Human monta a camada

A Be Human projeta, implementa e opera infraestrutura de IA personalizada, na qual cada agente mantém sua identidade, memória, canais, ferramentas, permissões e contexto operacional sob controle humano. Uma primeira implantação define uma função útil, a memória e as ferramentas que essa função precisa, os limites de aprovação em torno dela e um critério de sucesso observável. A operação gerenciada assume então a função de operador, por meio de monitoramento, avaliações recorrentes, manutenção de integrações, revisão de permissões e resposta a incidentes, enquanto o cliente mantém as decisões de dono e de aprovador. As mudanças passam por um processo documentado de pedido, e o revisor confere as respostas do agente em uma agenda acordada com o cliente. O objetivo é que a empresa sempre saiba quem decide, quem confere e quem pode pausar o trabalho.

Manter as funções atualizadas

As funções se desviam com o tempo. O dono muda de departamento, o revisor entra em licença e uma integração é substituída por um sistema que ninguém conectou antes ao agente. Agende uma revisão curta a cada trimestre em que cada ocupante confirme que ainda tem a responsabilidade, que as regras de parada ainda condizem com o negócio e que cada permissão do agente ainda tem um dono capaz de justificá-la. O checklist de revisão trimestral de permissões de agentes de IA oferece um formato para essa sessão. Quando a revisão mostra que o agente tem as funções certas e um registro claro, você tem evidências para tomar a próxima decisão com segurança. Se não tiver certeza de qual processo deve ser a primeira tarefa entregue a um agente, faça o diagnóstico gratuito de IA da Be Human para identificar a primeira tarefa que vale a pena delegar.

Perguntas frequentes

Preciso de quatro pessoas diferentes para um pequeno agente de IA? Não necessariamente, mas você precisa de quatro responsabilidades distintas, cada uma com uma pessoa nomeada. Uma empresa de dez pessoas costuma atribuir o dono e o aprovador ao mesmo líder, o revisor a um membro da equipe que conheça o processo e o operador a um prestador de TI ou a um fornecedor gerenciado. A regra crítica é que quem pede uma mudança não deve ser a única pessoa a aprová-la.

Quando o aprovador deve ser alguém de fora da equipe operacional? Qualquer mudança que envolva dados pessoais sensíveis, decisões reguladas, mensagens enviadas a clientes ou as próprias regras de autoridade do agente deve receber uma segunda revisão de alguém de fora da equipe que o opera. Isso protege a empresa de um ponto cego que se forma quando as mesmas pessoas constroem, operam e aprovam o mesmo sistema. Para mudanças de baixo impacto, um aprovador interno geralmente basta.

Como as funções mudam quando um agente é expandido para mais canais ou unidades? Cada novo canal ou unidade cria decisões que precisam de um dono e de um aprovador, mesmo que o propósito central do agente permaneça o mesmo. O dono do agente original pode precisar de um contraparte local que entenda os clientes ou as regras específicas dessa unidade. Escreva essas adições no runbook antes de a expansão entrar no ar, para que as permissões não sejam concedidas primeiro e atribuídas depois.

O que deve acontecer se um ocupante de função sair da empresa? Nomeie um substituto para cada função quando o agente for configurado, e atualize o runbook em poucos dias após qualquer saída. Até que o substituto seja confirmado, o operador deve manter o agente dentro das permissões atuais e evitar aprovar mudanças. Trate a saída como motivo para antecipar uma revisão, em vez de esperar a próxima sessão trimestral.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →