Ir para conteúdo
be-human.ai
← Voltar ao blog

Infraestrutura de IA personalizada

Dependência de fornecedor de IA: sinais de alerta e rotas de saída

Sinais de alerta de que um fornecedor de IA mantém sua memória, seus prompts ou seus fluxos reféns, e rotas de saída que mantêm os ganhos dentro da empresa.

Capa tipográfica do Be Human com o título: Dependência de fornecedor de IA: sinais de alerta e rotas de saída
Ilustração conceitual criada com IA · Be Human

Dependência de fornecedor de IA acontece quando a memória, os prompts, os fluxos, as permissões ou os registros que tornam um agente de IA útil ficam no sistema de um fornecedor, em um formato que você não consegue exportar, ler ou reconstruir em outro lugar. Os sinais de alerta são práticos: você não consegue listar onde está guardado o conhecimento da empresa, uma mudança simples de instrução depende da ajuda do fornecedor e sair significaria recomeçar do zero. As rotas de saída são igualmente práticas: manter uma cópia de cada ativo operacional em formatos que você controla, separar as regras do modelo e testar uma exportação antes de precisar dela.

Principais pontos

  • A dependência em agentes de IA costuma estar na memória, nos prompts, nos fluxos, nas conexões com ferramentas e nos registros, e não apenas na API do modelo.
  • Se você não consegue listar onde fica cada ativo operacional e quem pode alterá-lo, já carrega uma dependência que não planejou.
  • Mantenha a fonte da verdade do conhecimento da empresa, dos prompts e das regras de permissão em arquivos e sistemas que a empresa controla.
  • Ensaie uma exportação e uma reconstrução parcial de um fluxo antes de qualquer renovação, mudança de preço ou troca de fornecedor.
  • Peça por escrito as condições de saída, incluindo o formato da entrega, o prazo de transição e a forma como a exclusão será confirmada.

O que a dependência significa para um agente de IA

Um agente de negócio útil é mais do que uma chamada ao modelo. Em volta do modelo existem várias camadas: identidade (o nome do agente, o tom e os limites do seu papel), memória (fatos de clientes, decisões anteriores, exceções e correções), canais (e-mail, chat, anotações de telefone), ferramentas (os sistemas que o agente pode ler ou alterar), permissões (o que ele pode fazer sem pedir autorização) e contexto operacional (instruções, exemplos e regras de escalonamento). A dependência existe quando uma dessas camadas só pode ser usada por meio de um único fornecedor e remover essa camada quebraria o agente ou exigiria uma reconstrução.

Nem toda dependência é um erro. Um serviço gerenciado pode ser a escolha certa para uma equipe pequena que não quer operar infraestrutura. A pergunta é se a dependência foi escolhida com clareza e se os ativos que fazem o agente funcionar continuam pertencendo à empresa. Arcabouços como o NIST AI Risk Management Framework tratam a dependência de terceiros como parte da gestão de risco de IA ao longo de todo o ciclo de vida do sistema, por isso ela deve entrar na mesma revisão que a precisão e a segurança.

Sinais de alerta na memória e no conhecimento da empresa

A memória é a camada mais valiosa e a menos visível. Estes sinais indicam que o fornecedor guarda a memória de um jeito que você não consegue recuperar com facilidade:

  • Você não consegue exportar, em formato legível, os fatos que o agente guardou sobre clientes, fornecedores ou casos.
  • O fornecedor resume as entradas de memória e você não consegue ver os registros originais por trás desses resumos.
  • As correções que sua equipe fez em conversa não aparecem em nenhum documento que você possui, então ninguém sabe dizer o que o agente foi instruído a esquecer ou a manter.
  • Excluir um registro de cliente ou de funcionário do seu lado não remove claramente essa informação da memória, dos registros ou dos backups do agente.
  • A equipe trata o agente como uma ferramenta do fornecedor, e não como um ativo da empresa com base de conhecimento própria.

Cada um desses sinais significa que o conhecimento construído pela sua equipe está guardado em condições definidas por outra pessoa. Um teste útil é pedir a um colega que cite três fatos que o agente usa todos os dias e diga onde cada um está registrado fora da plataforma. Se a resposta for silêncio, a memória está refém, mesmo que ninguém tenha planejado isso.

Sinais de alerta em prompts, fluxos e permissões

Prompts, fluxos e regras de permissão definem como o agente se comporta, por isso são tão importantes quanto a memória. Fique atento a estes sinais:

  • Os prompts e as instruções existem apenas no console do fornecedor, sem um histórico de versões que a empresa mantenha.
  • Alterar uma etapa de um fluxo exige um chamado ao suporte e um prazo de espera, então a equipe de operações não consegue corrigir um problema no mesmo dia.
  • As conexões com ferramentas são configuradas na conta do fornecedor, e o administrador da sua empresa não consegue ver nem revogar essas conexões.
  • As permissões são de tudo ou nada, ou seguem categorias que você não escolheu e não pode editar.
  • Os registros das ações do agente ficam apenas dentro da plataforma e não podem ser exportados em um formato padrão.

As permissões merecem atenção especial. O OWASP Authorization Cheat Sheet lembra, em termos gerais, que o acesso deve seguir regras que a organização consegue declarar, testar e auditar. Se os limites de aprovação existem apenas como configurações que você não consegue ler, você não tem como provar a clientes, auditores ou ao próprio conselho o que o agente pode fazer. Definições de ferramentas também são mais fáceis de transferir quando usam um protocolo aberto, como o Model Context Protocol, que descreve como uma aplicação de IA se conecta a ferramentas e dados externos, em vez de cada conexão ser um plugin proprietário.

Rotas de saída que mantêm os ganhos dentro da empresa

Uma rota de saída é algo que você desenha antes de precisar. O objetivo não é sair do fornecedor. O objetivo é poder sair, e isso muda a forma como você negocia e a velocidade com que reage quando o fornecedor altera os termos, a confiabilidade cai ou o encaixe deixa de ser adequado. Uma sequência prática fica assim:

  • Passo um: escreva um inventário de uma página com todos os ativos operacionais, incluindo memórias, prompts, etapas de fluxo, conexões com ferramentas, regras de permissão, registros e os exemplos usados para avaliar o agente. Defina um responsável por cada item.
  • Passo dois: mova a fonte da verdade de cada ativo para arquivos ou sistemas que a empresa controla, como um repositório de documentos, um banco de dados próprio ou o sistema de clientes. Deixe o agente ler dessas fontes, em vez de guardar internamente a única cópia.
  • Passo três: mantenha os prompts e as regras de permissão em documentos versionados, que registrem a data de cada mudança, o motivo e quem aprovou.
  • Passo quatro: exporte os registros e uma amostra dos registros de memória em intervalos regulares, em um formato padrão, e guarde tudo sob o seu controle.
  • Passo cinco: escreva uma nota de reconstrução que explique o que o agente faz, quais ferramentas usa, quais aprovações se aplicam e quais exemplos comprovam que ele funciona. Uma pessoa que nunca viu a configuração deve conseguir reconstruir uma versão mínima a partir dessa nota.
  • Passo seis: ensaie uma migração de um fluxo, em um ambiente de testes ou com uma segunda ferramenta, para que a equipe conheça o esforço real antes que um prazo force a decisão.

Manter o conhecimento fora do modelo também mantém a arquitetura flexível. Desenhos baseados em recuperação, como o padrão de geração aumentada por recuperação descrito nas orientações de arquitetura do Google Cloud, fundamentam as respostas em um repositório de documentos que a empresa gerencia. Esse repositório pode sobreviver a uma troca de modelo. Para uma visão mais ampla sobre quais peças devem ficar em suas mãos, evitar dependência de fornecedor com agentes de negócio detalha as decisões.

Cenário ilustrativo: uma renovação que vira reconstrução

O cenário a seguir é ilustrativo e não descreve uma empresa real. Uma empresa de serviços usa um agente de IA para responder perguntas de clientes e registrar acompanhamentos. Na renovação, o fornecedor propõe um novo plano com condições diferentes. A líder de operações pede uma exportação das anotações de clientes, das instruções e das regras de aprovação. Ela recebe uma planilha com transcrições de conversas, mas nenhuma entrada de memória, e as regras de aprovação existem apenas como configurações em uma tela. A equipe passa várias semanas reescrevendo instruções de memória e testando-as contra chamados antigos.

Se as instruções, o índice de memória e as regras de aprovação tivessem sido mantidos em documentos de propriedade da empresa, a mesma renovação seria apenas uma negociação. A equipe poderia comparar propostas ou transferir parte do trabalho sem reconstruir o agente inteiro. A diferença está na propriedade dos ativos, e não na qualidade do modelo.

A Be Human projeta e opera infraestrutura de IA personalizada para que identidade, memória, canais, ferramentas, permissões e contexto operacional permaneçam sob controle do cliente. Em um projeto gerenciado, as primeiras entregas registram onde fica cada ativo e quem é o dono, a memória e os prompts são mantidos em formatos que o cliente consegue ler, as permissões são escritas como regras revisáveis e as mudanças passam por um processo de solicitação registrado antes de chegar à produção. As condições de saída fazem parte do escopo do projeto desde o início, e não são uma cláusula acrescentada no fim.

Teste a saída antes de renovar

Use uma lista curta nesta checagem, em cada renovação e em cada revisão trimestral. O objetivo é responder sim a todas as linhas:

  • Você consegue exportar registros de memória e prompts sem pedir ao fornecedor um arquivo sob medida?
  • Os arquivos exportados abrem em ferramentas que sua equipe já usa?
  • O contrato define um processo de exclusão para memória, registros e backups, com um cronograma por escrito?
  • O contrato define um período de transição e o formato da entrega?
  • O seu administrador consegue revogar todas as conexões com ferramentas e credenciais sem ajuda do fornecedor?
  • Alguém da sua equipe já reconstruiu um fluxo usando apenas a documentação?

A parte de permissões dessa revisão pode seguir os passos de revisão trimestral de permissões de agentes de IA, com as evidências de cada item. Uma resposta não não não não automaticamente é motivo para sair, mas é motivo para agendar a correção antes da próxima data de renovação. Use o diagnóstico de IA da Be Human para encontrar a primeira tarefa que vale entregar a um agente e para ver quais desses ativos essa tarefa exigiria que você mantivesse sob seu controle.

Perguntas frequentes

Toda dependência de fornecedor de IA é um problema? Não. A dependência vira problema quando você não consegue enxergá-la, não consegue exportar aquilo de que depende ou não consegue sair sem reconstruir o trabalho. Uma dependência escolhida, documentada e da qual você pode sair em um prazo razoável é uma decisão de negócio, não uma armadilha.

Qual é a forma mais rápida de encontrar dependência em um agente que a empresa já usa? Comece com um inventário de uma página da memória, dos prompts, dos fluxos, das conexões com ferramentas, das regras de permissão e dos registros, marcando onde cada item fica e quem pode alterá-lo. Qualquer item que exista apenas no console do fornecedor, ou que só o fornecedor consiga exportar, é prioridade de correção. A maioria das equipes encontra pelo menos um ativo que achava ser seu.

Dá para evitar a dependência usando apenas uma API de modelo? Não totalmente. O modelo costuma ser a parte mais fácil de trocar, enquanto a memória, a lógica dos fluxos, as permissões das ferramentas e os exemplos de avaliação concentram a maior parte do valor operacional. Manter esses ativos em documentos e sistemas que a empresa possui importa mais do que a escolha do modelo.

O que um contrato deve dizer sobre a saída? Ele deve descrever o formato de exportação da memória, dos prompts e dos registros, o prazo de transição, o processo e o cronograma para a exclusão e quem arca com o custo do trabalho de transferir os dados. Também deve indicar o administrador que pode revogar conexões com ferramentas e credenciais. Se esses pontos estiverem ausentes, peça-os por escrito antes de assinar.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →