Inventário de agentes de IA na empresa: campos a registrar

Um inventário de agentes de IA na empresa é um registro único que lista todos os agentes em uso, cada um com dono nomeado, finalidade declarada, contas e dados que consegue alcançar e data de revisão. Cada agente recebe uma ficha curta, mantida atualizada por uma pessoa. O teste é simples: quem tem responsabilidade sobre o tema deve conseguir dizer, em menos de um minuto, quem é o dono de um agente, o que ele pode acessar e por que ele existe.

Principais pontos

• Registre todo agente que lê dados da empresa ou executa ações, inclusive os embutidos em softwares já contratados e os que os próprios funcionários configuraram.
• Toda ficha precisa de um dono de negócio com nome e sobrenome, e não apenas o nome de uma equipe ou de um fornecedor.
• Registre o acesso com o mesmo cuidado que a finalidade: contas, ferramentas, nível de permissão, fontes de dados, memória e a conta do provedor do modelo.
• Anote quais ações exigem aprovação humana e qual é o passo a passo exato para desligar o agente.
• O registro só funciona se for revisado em um calendário e atualizado sempre que o agente mudar.

O que entra em um inventário de agentes de IA?

Para fins de inventário, agente é qualquer sistema de IA que usa dados ou credenciais da empresa e produz resultados ou ações sem que uma pessoa execute cada etapa. Isso é mais amplo do que os agentes que a área de TI implantou de propósito. A maioria das empresas descobre que a lista tem mais itens do que o esperado.

Candidatos a registrar:

• Agentes construídos ou configurados para você por um parceiro ou por uma equipe interna
• Assistentes embutidos em softwares que você já paga, a partir do momento em que conseguem ler dados compartilhados ou executar ações
• Automações de fluxo de trabalho que chamam um modelo para decidir, classificar ou redigir
• Assistentes personalizados ou agentes pessoais que funcionários criaram e conectaram a dados da empresa
• Pilotos e experimentos que nunca foram encerrados formalmente

Uma conversa isolada em que alguém cola um parágrafo público em uma ferramenta é uma questão de política de uso, não um item de inventário. No momento em que essa ferramenta é conectada a uma caixa de e-mail, a uma pasta compartilhada ou a um sistema de clientes, ela passa a pertencer ao registro.

As entradas mais difíceis de encontrar são as que ninguém anunciou. Pergunte a cada gestor de área o que foi conectado e depois confira os consoles de administração dos softwares, a lista de aplicativos do provedor de identidade e as integrações que as pessoas autorizaram. Apresente o levantamento como forma de apoiar o trabalho, e não como auditoria de indivíduos. Se as pessoas temem consequências, os agentes não oficiais continuam escondidos. O registro costuma ser o primeiro artefato de qualquer governança enxuta de IA, porque todos os outros controles dependem de saber o que existe.

Quais campos definem dono e finalidade?

A maior parte dos problemas nasce de lacunas de responsabilidade. Um agente continua rodando depois que seu patrocinador mudou de área, que o contato no fornecedor saiu ou que o piloto original acabou. Sem uma pessoa nomeada, ninguém se sente autorizado a alterá-lo ou desligá-lo.

Registre estes campos de identidade e finalidade para cada agente:

• Nome e descrição em uma linha: um nome simples que as pessoas reconheçam, como assistente de consultas de fornecedores
• Declaração de função: uma ou duas frases descrevendo o trabalho do agente, escritas como o escopo de um cargo
• Dono de negócio: pessoa nomeada que responde por o agente ser útil e adequado
• Dono técnico: pessoa ou provedor que o mantém e pode alterar sua configuração
• Dono substituto: uma segunda pessoa nomeada, para que a ficha sobreviva a férias e desligamentos
• Status: proposto, piloto, produção, pausado ou aposentado
• Usuários e público: quem pode dar instruções ao agente e quem pode receber o que ele produz
• Fora de escopo: o que o agente não deve fazer, mesmo que tecnicamente consiga

O campo fora de escopo costuma ser ignorado e costuma ser o mais útil. Agentes tendem a se deslocar para qualquer coisa que as pessoas peçam. Um limite escrito dá ao dono algo concreto para apontar quando um pedido extrapola a função original.

A responsabilidade também tem níveis. Uma pessoa responde pelo resultado, outras executam o trabalho e algumas só precisam ser consultadas ou informadas. Se essas distinções estão confusas na sua empresa, vale montar uma matriz de responsabilidades, no formato RACI, como complemento do registro, e a ficha pode simplesmente apontar para ela. Para ver como dono, revisão e operação se encaixam, consulte o modelo operacional de IA para empresas.

Quais campos registram acesso, dados e memória?

A finalidade diz o que o agente deveria fazer. O acesso diz o que ele é capaz de fazer. É na diferença entre os dois que mora o risco, por isso o registro deve tratar ambos com o mesmo cuidado.

O OWASP Authorization Cheat Sheet parte do princípio do menor privilégio: conceder apenas o que a tarefa exige. O OWASP Top 10 para aplicações com LLMs aponta a agência excessiva como categoria de risco, isto é, um sistema com mais funções, permissões ou autonomia do que o trabalho dele pede. Nenhuma das duas ideias pode ser aplicada a agentes que você não descreveu. Estes campos tornam a revisão possível:

• Identidade e contas: a caixa de e-mail, o usuário ou a conta de serviço com que o agente atua, e quem a administra
• Canais: onde as pessoas falam com ele, como e-mail, chat ou formulário, e para onde ele pode enviar mensagens
• Ferramentas e integrações: cada sistema conectado, com o nível de permissão escrito como somente leitura, somente rascunho ou escrita
• Fontes de dados: quais documentos, bancos de dados ou pastas ele pode ler e o grau de sensibilidade de cada um
• Memória: o que o agente guarda entre sessões, onde esse armazenamento fica, quem pode inspecioná-lo e por quanto tempo é mantido
• Provedor do modelo e titular da conta: qual modelo ele usa e de quem são a conta, a cobrança e as chaves por trás dele
• Hospedagem e localização dos dados: onde ocorrem o processamento e o armazenamento, o que importa para contratos e obrigações de privacidade
• Limites de aprovação: as ações que sempre exigem aprovação humana antes de produzir efeito

Dois desses campos merecem atenção extra. O primeiro é a identidade: um agente que usa o login de uma pessoa faz todas as ações parecerem dela e desaparece dos seus registros quando essa pessoa sai. Vale ler o raciocínio sobre por que o agente da empresa precisa de identidade e contas próprias antes de preencher esse campo. O segundo é a conta do provedor: se as chaves e a cobrança estão na conta de um fornecedor ou de um indivíduo, sua empresa pode não controlar o próprio agente. O texto sobre de quem devem ser as contas e chaves de API do agente de IA explica o que verificar.

O nível de permissão é o campo em que se deve ser mais rigoroso. Escreva o que o agente pode fazer, e não o que ele costuma fazer. Se ele tem acesso de escrita ao sistema de clientes mas só costuma ler, a ficha deve dizer escrita.

Quais campos cobrem operação, revisão e saída?

Um registro que descreve apenas o dia em que o agente entrou no ar fica desatualizado rápido. Um terceiro grupo de campos transforma a ficha em ferramenta de trabalho.

• Medida de sucesso: o resultado observável que indica que o agente está cumprindo seu papel, combinado com antecedência
• Monitoramento e logs: onde a atividade é registrada, quem lê esses registros e como os problemas são comunicados
• Última revisão e próxima revisão: datas definidas pelo dono, com o nome de quem revisou
• Última alteração e aprovador: o que mudou em prompts, ferramentas, permissões ou modelo, e quem deu o aval
• Dependências: os sistemas, fornecedores ou modelos que, se mudarem, afetariam o agente
• Contato em incidentes: quem é acionado primeiro quando o agente se comporta de forma inesperada
• Desligamento e revogação: os passos para pausá-lo, revogar seu acesso e confirmar que ele não consegue mais agir
• Saída e exportação: o que deve ser guardado, exportado ou apagado se o agente for aposentado ou o provedor for trocado

O NIST AI Risk Management Framework organiza o trabalho de risco em torno de governar, mapear, medir e gerenciar sistemas de IA. O registro apoia a etapa de mapeamento ao documentar o contexto, e a medida de sucesso e os campos de revisão apoiam as etapas de medir e gerenciar. Não é preciso adotar um framework de modo formal para aproveitar a lógica.

O campo de desligamento deve ser testado, e não apenas escrito. Se a instrução diz revogar o acesso no console de administração, alguém precisa ter confirmado que o dono tem permissão para fazer isso.

Como montar o primeiro registro?

Uma planilha ou tabela compartilhada basta para começar. O esforço está nas conversas, não na ferramenta. Uma sequência que funciona:

• Etapa um: designe uma pessoa para conduzir o registro, com autorização para fazer perguntas em todas as áreas.
• Etapa dois: reúna candidatos com os gestores de área, os consoles de administração dos softwares, a lista de aplicativos conectados do provedor de identidade, os registros do financeiro sobre novas assinaturas e as integrações que funcionários autorizaram.
• Etapa três: crie um modelo único com os campos acima e mantenha-o curto o bastante para que as pessoas realmente o preencham.
• Etapa quatro: preencha cada ficha em uma conversa curta com o dono, e não enviando um formulário e esperando a resposta.
• Etapa cinco: aceite a resposta não sei, marque-a com clareza e indique quem vai resolvê-la. Uma lacuna honesta é mais útil do que um palpite.
• Etapa seis: ordene as fichas por nível de acesso. Agentes com permissão de escrita ou com dados sensíveis são revisados primeiro.
• Etapa sete: defina uma data de revisão para cada ficha e liste os eventos que forçam uma atualização antecipada.

Esses eventos são a parte que a maioria dos registros esquece. Atualize a ficha quando uma nova ferramenta ou fonte de dados for conectada, quando o modelo ou o provedor mudar, quando o dono sair ou trocar de função, quando houver um incidente e quando o agente receber uma nova tarefa. Se a sua empresa já tem um processo para atualizar um agente de IA em produção sem quebrar nada, inclua a atualização do registro como etapa obrigatória dele. Caso contrário, a ficha se afastará da realidade em poucos meses.

Mantenha o registro simples e visível. Uma lista curta que o dono lê a cada revisão vale mais do que um documento completo que ninguém abre.

Como é uma entrada do registro? Um exemplo ilustrativo

Este é um cenário ilustrativo, e não uma empresa real. Uma distribuidora usa um agente que redige respostas a dúvidas de fornecedores sobre datas de entrega. A ficha dele poderia ser assim:

• Nome: Assistente de entregas de fornecedores
• Função: redige respostas às dúvidas de fornecedores sobre entregas usando o sistema de pedidos, para um comprador revisar e enviar
• Dono de negócio: gerente de compras. Substituto: coordenador de compras
• Dono técnico: parceiro externo de implementação, com um contato interno em TI
• Status: piloto
• Fora de escopo: alterar pedidos, prometer datas por escrito, tratar de questões de pagamento
• Identidade: uma caixa de e-mail exclusiva do agente, administrada pela TI
• Ferramentas: sistema de pedidos com acesso somente leitura, caixa de e-mail compartilhada com acesso somente rascunho
• Fontes de dados: pedidos de compra em aberto e cadastro de contatos de fornecedores
• Memória: resumos de conversas anteriores com fornecedores, guardados no ambiente da própria empresa, com prazo de retenção definido pelo dono
• Provedor do modelo: conta de titularidade da empresa, com cobrança sob responsabilidade do financeiro
• Limite de aprovação: toda mensagem enviada é aprovada por um comprador
• Medida de sucesso: os compradores aceitam a maioria dos rascunhos com ajustes leves, avaliado em revisões recorrentes por amostragem
• Próxima revisão: definida pelo dono, antes se ferramentas ou fontes de dados mudarem
• Desligamento: a TI desativa a caixa de e-mail e revoga a permissão no sistema de pedidos

Preencher uma ficha assim costuma levantar perguntas. Talvez ninguém saiba dizer por quanto tempo a memória é mantida, ou a conta do modelo acabe sendo do parceiro. Cada pergunta é uma decisão que alguém deve tomar de forma deliberada, e o registro é o lugar em que essas decisões ficam visíveis e podem ser conferidas depois.

Como a operação gerenciada mantém o registro em dia?

Os campos acima espelham o que um primeiro projeto com a Be Human define: uma função útil, a memória e as ferramentas de que ela precisa, os limites de aprovação e um critério de sucesso observável. Essas decisões são escritas no início, então a primeira versão da ficha já existe antes de o agente entrar no ar.

Na operação gerenciada, o trabalho recorrente toca os mesmos campos. O monitoramento e as avaliações periódicas alimentam a medida de sucesso, as revisões de permissão conferem os campos de acesso com o que o agente de fato possui, e a manutenção das integrações e as melhorias controladas atualizam o histórico de alterações. Identidade, memória, canais e ferramentas continuam sob controle da empresa, que mantém a palavra final sobre aprovações e responsabilidades. O registro segue sendo um documento da empresa, legível pelas próprias pessoas sem depender de um provedor.

Perguntas frequentes

Precisamos de um inventário se temos só um agente? Sim, e é mais fácil começar agora. Um único agente já tem dono, permissões de acesso, conta de modelo e uma forma de ser desligado, e anotar isso leva pouco tempo. O hábito e o modelo ficam prontos para quando chegarem o segundo e o terceiro agentes.

Onde o registro deve ficar? Em um local compartilhado que donos e administradores consigam acessar, com permissão de edição limitada a quem mantém o registro e aos donos nomeados. Escolha algo que sua equipe já abre, como uma tabela compartilhada, em vez de um sistema novo que gera atrito. O que importa é que seja fácil de encontrar e tenha histórico visível de alterações.

Com que frequência as fichas devem ser revisadas? Ajuste o ritmo ao nível de acesso. Um agente que pode escrever em sistemas de clientes merece um ciclo de revisão mais próximo do que um que apenas redige resumos internos. Além do calendário, atualize sempre que houver eventos como nova integração, troca de modelo, novo dono ou incidente.

Qual a diferença entre o inventário, uma matriz RACI e uma política de governança? O inventário lista o que existe e como cada agente está configurado, a RACI atribui papéis e a política define regras. Eles funcionam juntos: a política diz o que é permitido, a RACI diz quem decide e o registro mostra se cada agente realmente está de acordo. Sem o registro, as outras duas não têm nada concreto a que se aplicar.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.