Infraestrutura de IA personalizada
Pilha de superinteligência empresarial: checklist para antes da produção
Checklist da pilha de superinteligência empresarial: o que verificar antes que a camada de agentes toque sistemas reais, com permissões e monitoramento.

Uma pilha de superinteligência empresarial é o conjunto de camadas que permite aos agentes de IA da empresa manter identidade, memória, ferramentas, permissões e contexto operacional, enquanto as pessoas conseguem ver e limitar o que esses agentes fazem. Antes que uma camada assim toque sistemas de produção, como cadastros de clientes, faturamento ou aprovações internas, o líder de TI deve conseguir verificar cada componente, nomear o dono e descrever como ele será interrompido. O checklist abaixo segue a ordem em que essas verificações são mais úteis.
Principais pontos
- Verifique identidade, permissões e um controle de parada antes de conectar memória ou ferramentas.
- Trate a memória do agente como dado governado, com dono, regra de retenção e caminho de exclusão.
- Dê a cada ferramenta um escopo próprio, um limite de aprovação e um registro de auditoria.
- Exija rastros e avaliações que mostrem o que o agente fez, e não apenas o que ele respondeu.
- Documente reversão e responsabilidades para que pausar a camada nunca dependa de uma pessoa ou de um único fornecedor.
O que a pilha precisa conter antes de chegar à produção?
Pense na pilha como um conjunto de responsabilidades separadas, e não como um produto único. O modelo fornece o raciocínio. A recuperação de informações fornece os registros que o agente pode ler no momento de responder. A memória guarda o que o agente deve levar de uma sessão para a seguinte. As ferramentas permitem que ele aja em outros sistemas. As permissões decidem quais ações são permitidas e em que condições. A observabilidade registra o que aconteceu, a avaliação testa se o comportamento ainda atende ao padrão definido, e a governança define quem decide quando esse padrão muda.
Uma camada pronta para produção deve conseguir responder a estas perguntas para cada componente:
- Quem é o dono, e quem pode alterá-lo?
- Quais dados ou sistemas ele toca?
- O que ele pode fazer sem que uma pessoa aprove antes?
- Como a atividade é registrada, e por quanto tempo esse registro é mantido?
- Como ele é pausado, e em quanto tempo a pausa passa a valer?
Se alguma resposta estiver faltando, o componente não está pronto para produção, por mais capaz que seja o modelo por trás dele. Mais capacidade aumenta o peso dessas perguntas. Ela não as responde.
Como dar ao agente uma identidade pela qual ele possa ser responsabilizado?
O agente deve atuar com identidade própria, e não com um login compartilhado de funcionário nem com as credenciais de um administrador. Uma identidade separada torna as ações atribuíveis, permite limitar o acesso sem mexer no de outras pessoas e concentra em um só lugar a possibilidade de revogação. Use os padrões de autorização que seu provedor de identidade já suporta e mantenha as permissões do agente mais restritas do que as de quem o configura. As decisões de acesso devem ser aplicadas pelos sistemas que o agente chama, e não deixadas ao raciocínio do próprio agente. O guia de autorização da OWASP é uma boa referência para conferir esse ponto.
Verifique estes itens antes de conectar qualquer coisa:
- O agente tem uma conta dedicada em cada sistema que utiliza.
- Cada conta tem apenas o escopo mínimo de leitura e escrita que seu papel exige.
- Nenhuma credencial fica guardada em prompts, entradas de memória, documentos compartilhados ou registros.
- A rotação e a revogação de credenciais têm um dono nomeado.
- As revisões de acesso estão agendadas com antecedência, e não presumidas. Uma sequência prática está descrita em revisões trimestrais de permissões de agentes de IA.
O que o agente deve ter permissão para lembrar?
A memória é onde muitas pilhas acumulam risco sem que ninguém perceba. Um agente útil carrega contexto: o canal de contato preferido de um cliente, uma aprovação em aberto, as condições combinadas com um fornecedor. Cada uma dessas informações é um registro que alguém precisa ser dono. Antes de ativar a memória, defina quais categorias de informação ela pode guardar, quais fontes podem gravar nela, por quanto tempo as entradas permanecem e como uma pessoa remove uma entrada errada ou que não deveria existir.
Recuperação de informações e memória são ferramentas diferentes, com modos de falha diferentes. A geração aumentada por recuperação busca material atual em fontes que você controla no momento em que a pergunta é feita, o que mantém o conhecimento no sistema de registro da empresa. Já guardar resumos de longa duração ou ajustar o modelo com material da empresa incorpora a informação ao comportamento ou a anotações que são mais difíceis de inspecionar e de apagar. Para muitas equipes, a recuperação é o ponto de partida mais fácil, porque cada resposta pode apontar de volta para sua fonte.
Cenário ilustrativo: um agente de agendamento de uma pequena empresa de serviços aprende que um cliente prefere ligações antes do meio-dia. A preferência é gravada na memória junto com o funcionário que a registrou, e expira quando a conta do cliente é encerrada. Quando o cliente pede que o registro seja apagado, a responsável pelas operações o remove do armazenamento de memória e depois confere se o agente deixou de oferecer horários de manhã para esse cliente.
Quais ferramentas o agente pode usar, e com quais limites?
Cada ferramenta que um agente pode chamar é uma pequena interface com um possível efeito colateral. Trate-a como trataria o acesso a sistemas de um novo membro da equipe. Defina em uma frase o que a ferramenta faz, quais entradas aceita, o que devolve, se escreve alguma coisa e quais condições exigem que uma pessoa aprove. Descreva a ferramenta para o agente com o mesmo cuidado de um procedimento escrito, porque descrições vagas levam a usos incorretos, mesmo quando as permissões estão certas.
O conteúdo que o agente lê, como e-mails, páginas da web, chamados e documentos enviados, pode conter texto escrito para manipulá-lo. Isso é chamado de injeção de prompt. O guia da OWASP sobre prevenção de injeção de prompt descreve defesas que devem estar no lugar antes de qualquer ferramenta com efeitos colaterais ser conectada. O princípio central é que o conteúdo lido pelo agente é dado, e não autoridade. A autoridade vem da camada de permissões, e não de instruções encontradas dentro de um documento.
Antes da conexão, siga estes passos nesta ordem:
- Liste todas as ferramentas e marque cada uma como somente leitura ou escrita.
- Defina os limites de aprovação em termos de negócio, como o tamanho de um compromisso ou o tipo de registro que muda, e peça que o responsável financeiro ou de operações valide os números.
- Exija aprovação humana para qualquer ação que não possa ser desfeita com facilidade.
- Teste com entradas adversariais, como um documento que instrua o agente a ignorar suas regras ou a exportar dados.
- Registre cada chamada com suas entradas, saídas e quem aprovou, se houver aprovação.
Os limites merecem ajuste gradual depois que o agente tiver um histórico de desempenho. O raciocínio por trás disso está em limites de aprovação humana para agentes de IA mais fortes.
Como provar o que o agente fez?
A observabilidade é a diferença entre um agente que você consegue operar e um que você só pode torcer para que funcione. Os rastros devem capturar cada etapa: a solicitação, o contexto recuperado, as chamadas de ferramentas, as decisões de aprovação e a saída final. A introdução à observabilidade da OpenTelemetry explica como rastros, métricas e logs se conectam, e suas convenções para IA generativa descrevem formas consistentes de rotular chamadas a modelos. Você não precisa adotar todas as convenções no primeiro dia, mas precisa de um identificador único que ligue cada ação do agente a todas as suas evidências.
A avaliação responde a outra pergunta: o agente ainda se comporta como esperado depois de uma mudança no modelo, no prompt, em uma ferramenta ou nos dados por trás? Monte um pequeno conjunto de casos de teste a partir de trabalho real. Inclua pedidos comuns, casos difíceis e situações em que o comportamento correto é recusar ou encaminhar para uma pessoa. Execute esse conjunto antes de cada mudança e também em uma agenda recorrente. Uma avaliação vale o que valem os seus casos, então revise-os sempre que o processo de negócio que eles descrevem mudar.
Uma lista curta para esta etapa:
- Toda ação gera um rastro com identificador único.
- Os registros excluem segredos e dados pessoais desnecessários.
- Existem casos de avaliação para trabalho comum, casos difíceis e recusas.
- Os resultados são comparados antes e depois de cada mudança, e não apenas depois.
- Alguém revisa uma amostra dos rastros em uma agenda fixa durante o período inicial de operação.
Quais regras de parada, reversão e responsabilidade precisam existir?
Cada camada precisa de uma regra de parada escrita em linguagem simples. A regra diz quais sintomas disparam uma pausa, quem tem autorização para pausar e o que acontece com o trabalho em andamento. Uma pausa deve desativar primeiro as ações de escrita e manter o acesso de leitura disponível, para que a equipe possa investigar. Mantenha um caminho de reversão para prompts, configurações e versões de ferramentas, e teste esse caminho uma vez antes da produção, para saber que ele funciona sob pressão.
Defina um dono para cada componente e um substituto que possa agir quando o dono não estiver disponível. Registre onde ficam as credenciais, os armazenamentos de memória e os registros, e garanta que mais de uma pessoa consiga acessá-los. Isso importa porque a troca de um funcionário ou de um fornecedor não deve deixar a empresa incapaz de parar ou consertar o próprio agente. O NIST AI Risk Management Framework oferece um vocabulário comum para mapear, medir e gerir esses riscos, o que ajuda quando a conversa chega à liderança e ao conselho.
Falhas em uma camada de agentes raramente parecem dramáticas no começo. Os primeiros sinais costumam ser pequenos, como uma ferramenta chamada com mais frequência do que o normal ou uma entrada de memória que ninguém consegue rastrear. Esses padrões estão descritos em revisão da arquitetura de IA da empresa, que vale a leitura antes de fechar as regras de parada.
Como executar o checklist antes do lançamento?
Percorra o checklist nesta ordem: propósito e responsabilidade, identidade, memória, ferramentas, observabilidade e avaliação, e por fim regras de parada. Não conecte sistemas de produção enquanto cada seção não tiver uma resposta escrita e um dono nomeado. Comece com um único papel, e não com uma plataforma inteira, e registre a decisão em um manual de uma página que um novo operador consiga seguir sem a ajuda de quem o escreveu.
A Be Human trata isso como um serviço gerenciado. Uma primeira etapa define um papel útil, a memória e as ferramentas de que ele precisa, os limites de aprovação e um critério de sucesso observável. A operação gerenciada depois cuida do monitoramento, das avaliações recorrentes, da manutenção das integrações, da revisão de permissões e da resposta a incidentes, para que as verificações desta lista sejam repetidas conforme o agente e o negócio mudam, e não feitas apenas uma vez no lançamento. Se você não tem certeza de qual processo deve ser a primeira tarefa de um agente, faça o diagnóstico gratuito de IA da Be Human para descobrir.
Perguntas frequentes
O que é uma pilha de superinteligência empresarial? É o grupo de camadas que permite aos agentes de IA da empresa manter identidade, memória, ferramentas, permissões e contexto operacional sob controle humano. A forma útil de pensar nela é como responsabilidades separadas, cada uma com um dono, e não como um produto único. Uma camada está pronta para produção quando cada componente pode ser descrito, limitado e interrompido.
Todo componente precisa estar totalmente construído antes que o primeiro agente entre em operação? Cada componente precisa de uma resposta escrita e de um dono, mas nenhum precisa ser elaborado no primeiro dia. Um papel inicial restrito normalmente exige um conjunto pequeno de ferramentas, memória limitada e um rastro simples de cada ação. A expansão deve seguir as evidências desse primeiro papel, e não vir antes dele.
Quem deve ser dono deste checklist dentro da empresa? O líder de TI costuma ser responsável pelos controles técnicos, como identidade, acesso, registros e mecanismos de parada. Operações ou o dono do negócio devem aprovar os limites de aprovação e o critério de sucesso, porque essas decisões dependem de como o trabalho é realmente feito. Atribuir as duas responsabilidades transforma o checklist em tarefa compartilhada, e não em um detalhe técnico deixado para depois.
Com que frequência essas verificações devem ser repetidas? Execute os casos de avaliação antes de cada mudança no modelo, no prompt, na ferramenta ou nos dados, e revise as permissões em uma agenda fixa. Revise uma amostra dos rastros com regularidade durante a operação inicial, e reavalie as regras de parada depois de qualquer incidente. As verificações devem ser repetidas conforme o agente e o negócio mudam, e não concluídas uma vez e arquivadas.
Seu próximo passo
Descubra primeiro onde um agente de IA cabe na sua empresa.
Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.
Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.


