Ir para conteúdo
be-human.ai
← Voltar ao blog

Infraestrutura de IA personalizada

Superinteligência para CIO: decisões de arquitetura para este trimestre

Decisões de arquitetura para o CIO tomar já: identidade do agente, memória, escopo de ferramentas e logs, para agentes mais capazes se conectarem à empresa.

Capa tipográfica do Be Human com o título: Superinteligência para CIO: decisões de arquitetura para este trimestre
Ilustração conceitual criada com IA · Be Human

Um CIO que se prepara para agentes de IA mais capazes deveria fechar quatro decisões de arquitetura neste trimestre: como cada agente é identificado, onde fica a sua memória, quão restritas são as suas ferramentas e o que os seus logs precisam comprovar. Essas escolhas custam pouco quando feitas cedo e muito quando precisam ser refeitas depois, porque um modelo mais forte só gera valor quando consegue agir dentro de limites que a empresa já controla. As seções a seguir tratam de cada decisão, da ordem em que devem ser tomadas e de como fica a operação gerenciada depois que tudo está no lugar.

Principais pontos

  • Dê a cada agente uma identidade própria, separada de qualquer pessoa ou conta compartilhada, para que o acesso possa ser concedido, limitado e revogado.
  • Guarde a memória do agente em repositórios que a empresa possui e consegue inspecionar, com regras escritas sobre o que pode ser armazenado, quem pode ler e quando será apagado.
  • Restrinja cada ferramenta à menor ação que a tarefa exige e coloque aprovação humana em tudo que gaste dinheiro, altere registros, envie mensagens externas ou apague dados.
  • Registre cada execução como um rastro que informe o agente, as versões do modelo e do prompt, cada chamada de ferramenta, cada aprovação e cada documento consultado.
  • Trate a camada da empresa como o ativo e o modelo como um componente substituível, e teste qualquer troca de modelo com as suas próprias avaliações.

Por que a arquitetura vem antes do modelo

Os modelos mudam com frequência, enquanto sistemas de identidade, repositórios de dados e regras de aprovação mudam devagar. Essa diferença é o motivo para decidir primeiro as partes estáveis. Um agente mais capaz não precisa de novas permissões para se tornar arriscado. Ele usa as permissões que já tem, com mais eficiência e em mais etapas. Se essas permissões foram dadas a uma conta compartilhada, ou a um funcionário que depois mudou de função, o agente mais forte herda esse problema em velocidade maior.

O teste prático é simples. Você conseguiria trocar o modelo por baixo do seu agente no próximo mês sem mudar quem o agente é, o que ele pode ler, o que pode fazer e como provaria o que fez? Se a resposta for não, a camada ainda pertence a um fornecedor, e a empresa ainda não construiu a sua.

Dê a cada agente uma identidade própria

Trate cada agente como um principal não humano, com nome, um dono de negócio identificado e uma finalidade documentada. Ele não deve entrar no sistema como se fosse um colaborador, nem compartilhar uma conta de serviço com outras automações. Identidades separadas permitem conceder, limitar, revisar e revogar acessos sem mexer no trabalho de ninguém mais. As orientações de autorização da OWASP são uma boa referência: decisões de acesso devem seguir regras explícitas, ser aplicadas no servidor e ser verificadas a cada requisição, e não presumidas a partir de uma sessão anterior.

Para cada identidade, registre os sistemas que ela alcança, o tipo de credencial, a regra de expiração ou rotação e a pessoa que aprova mudanças no acesso. Quando um agente for aposentado, desative a identidade na mesma mudança. Deixá-la ativa é o que faz um acesso antigo sobreviver por mais tempo do que o trabalho que o justificava.

Defina onde fica a memória e quem pode lê-la

A memória é a parte da arquitetura que mais costuma ficar com o padrão do fornecedor, e é a mais difícil de mover depois. Separe três tipos de contexto. O contexto de trabalho é o que o agente precisa para a tarefa atual e deve expirar quando a tarefa termina. O conhecimento de referência, como políticas, especificações de produto e procedimentos, deve ficar em documentos que a empresa possui e ser consultado no momento do uso. Os registros de decisão, ou seja, o que o agente fez, por que fez e quem aprovou, devem ficar em um log que a empresa controla.

Recuperação de informação e ajuste fino costumam ser confundidos. A recuperação busca documentos atuais quando uma pergunta é feita, então, se você atualizar ou apagar uma fonte, o agente deixa de usá-la. O ajuste fino altera o comportamento do modelo de formas difíceis de inspecionar e muito difíceis de reverter para um único registro. Para a maior parte do conhecimento da empresa, a arquitetura deve privilegiar a recuperação a partir de um repositório com controle de acesso e regras de retenção.

Escreva também o que nunca pode entrar na memória: credenciais, dados pessoais além do que a finalidade exige e informações de clientes cobertas por restrições contratuais. Depois, defina quem pode ler cada repositório e se a memória é compartilhada entre unidades ou separada por localidade. Esse ponto é tratado em por que a superinteligência precisa de memória e permissões explícitas.

Restrinja cada ferramenta à menor ação útil

A ferramenta é a mão do agente, então defina cada uma como uma ação nomeada, com parâmetros explícitos, e não como acesso geral a uma API. Ações de leitura e de escrita devem ser ferramentas separadas, para que uma revisão de permissões possa conceder uma sem conceder a outra. As escritas exigem cuidado especial. Um agente que repete uma requisição que falhou pode criar pedidos ou mensagens duplicadas, a menos que a escrita carregue uma chave de idempotência que o sistema receptor respeite. Plataformas de pagamento documentam esse padrão publicamente, e é uma pergunta justa para qualquer parceiro de integração: o que acontece quando a mesma requisição chega duas vezes?

Coloque portões de aprovação nas ações que gastam dinheiro, alteram registros de clientes, enviam mensagens externas ou apagam dados. Escreva o limite como regra, por exemplo: qualquer reembolso acima de um valor definido pelo responsável financeiro vai para uma pessoa nomeada, em vez de deixar o julgamento com o agente. O guia sobre limites de aprovação humana para agentes de IA mais fortes descreve como calibrar esses portões à medida que a capacidade cresce.

Escreva logs que respondam às perguntas de uma auditoria

Um log que registra apenas as respostas finais não ajuda quando algo dá errado. Registre cada execução como um rastro: o gatilho, as versões do modelo e do prompt, cada chamada de ferramenta com seus parâmetros e um resumo do resultado, cada aprovação e a saída final. A introdução à observabilidade do OpenTelemetry explica a diferença entre rastros, métricas e logs, e o mesmo vocabulário se aplica às execuções de agentes. Sempre que a finalidade permitir, guarde referências a registros sensíveis em vez de cópias completas.

Antes de entrar em produção, confirme que os logs contêm pelo menos estes elementos:

  • A identidade do agente e o nome do dono responsável em cada evento
  • As versões do modelo e do prompt usadas em cada execução
  • O nome da ferramenta, os parâmetros (com dados sensíveis ocultados quando necessário) e o resultado de cada chamada
  • O nome e o horário de quem aprovou cada ação que passou por portão
  • Os identificadores dos documentos consultados, para saber quais fontes embasaram uma resposta
  • O prazo de retenção e o procedimento de exclusão de cada repositório de logs
  • Um teste que mostre que o rastro continua sendo gravado quando uma execução falha

O registro também importa para a segurança. Textos não confiáveis dentro de documentos, e-mails ou páginas da web podem conter instruções que tentam levar um agente a usar mal as suas ferramentas. A orientação da OWASP sobre injeção de prompt deixa claro que esse risco precisa ser tratado no desenho, e um rastro completo é a forma de descobrir qual entrada levou a uma ação inesperada.

Uma sequência de 90 dias e um cenário ilustrativo

Cenário ilustrativo: uma empresa de serviços regionais quer um agente que redija cobranças de faturas em atraso. A primeira versão do CIO dá ao agente uma identidade, leitura do razão de faturas, uma ferramenta de e-mail que só cria rascunhos e uma regra segundo a qual toda mensagem a um cliente vai para o gerente de conta aprovar. A busca usa a política de cobrança escrita da empresa, e não uma cópia embutida no modelo. Os logs registram quais faturas foram lidas e quais rascunhos foram aprovados. O cenário mostra o formato das decisões e não relata resultados.

Para uma empresa que parte do zero, uma sequência possível é esta:

  • Semanas um e dois: defina o dono e a finalidade do agente, liste os sistemas que ele pode tocar e registre tudo em uma única página.
  • Semanas três e quatro: crie a identidade, os repositórios de memória e as primeiras definições de ferramentas, com ações de leitura e de escrita separadas.
  • Semanas cinco e seis: defina os portões de aprovação, conecte o registro de logs e teste uma execução com falha para confirmar que o rastro está completo.
  • Semanas sete e oito: rode avaliações registradas com tarefas reais e revise o que o agente leu e escreveu.
  • Semanas nove a doze: decida se o escopo deve ser ampliado, com cada mudança registrada como solicitação que nomeia quem aprova.

Mantenha a camada da empresa separada do modelo

A arquitetura deve expor interfaces estáveis: as definições de ferramentas, os repositórios de memória, a identidade e os logs. O modelo fica por trás dessas interfaces e pode ser trocado quando uma avaliação mostrar que um novo modelo executa as suas tarefas melhor e dentro das suas regras. Essa separação transforma uma futura atualização de modelo em uma mudança controlada, e não em uma reconstrução. Recursos específicos de fornecedores, como formatos proprietários de memória ou exportações que deixam de fora os logs, são as fontes habituais de problema. O checklist do guia sobre dependência de fornecedor em agentes de IA é uma forma prática de testá-los antes da renovação.

Operar a camada depois da entrada em produção

As decisões de arquitetura se degradam se ninguém as mantiver. As permissões vão se acumulando conforme os projetos mudam, integrações quebram quando um fornecedor altera uma interface e as avaliações deixam de refletir o trabalho quando o negócio muda. Uma revisão trimestral de identidades, escopos e logs, com as evidências guardadas junto ao registro da arquitetura, é um mínimo razoável.

A Be Human desenha e opera essa camada para empresas. Em um primeiro projeto, definimos o papel único que o agente vai exercer, a memória e as ferramentas de que ele precisa, os limites de aprovação e um critério de sucesso observável. A operação gerenciada cobre então o monitoramento, avaliações recorrentes, a manutenção das integrações, a revisão de permissões, a resposta a incidentes e as melhorias controladas, para que as decisões sobre identidade, memória, ferramentas e logs continuem sob controle da empresa à medida que os modelos mudam.

Se quiser descobrir qual é a primeira tarefa que vale entregar a um agente, faça o diagnóstico gratuito de IA da Be Human.

Perguntas frequentes

Preciso escolher um modelo antes de montar essa arquitetura? Não. Identidade, memória, escopos de ferramentas e logs devem ser definidos em termos dos dados e das permissões da empresa, para que continuem valendo qualquer que seja o modelo por baixo. A escolha do modelo é uma decisão posterior, testada com as suas próprias avaliações. Manter as duas coisas separadas é o que transforma um modelo futuro e mais forte em uma substituição, e não em uma reconstrução.

Quem deve ser o dono dessas decisões dentro da empresa? O CIO deve ser responsável pelo registro da arquitetura, mas cada agente precisa de um dono de negócio nomeado, que aprova a sua finalidade e os seus limites de aprovação. Segurança e finanças podem precisar validar portões específicos. Uma carta de responsabilidades curta e escrita deixa esses papéis claros antes que o primeiro agente entre em produção.

É seguro manter a memória do agente na plataforma de um fornecedor? Pode ser, desde que você consiga exportar os registros, ver quem acessou, definir prazos de retenção e apagar dados sob pedido. Peça essas capacidades por escrito antes de guardar qualquer informação sensível. Se a memória não puder ser movida nem inspecionada, trate-a como uma dependência e planeje como sairia dela.

Com que frequência essas decisões devem ser revisitadas? Pelo menos uma vez por trimestre, e de novo sempre que um agente ganhar uma nova ferramenta, uma nova fonte de dados ou uma nova localidade. Cada revisão deve comparar as permissões atuais com o registro original e remover o que não for mais necessário. Toda mudança deve ser registrada como solicitação com aprovador, e não feita como um ajuste informal.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →