Ir para conteúdo
be-human.ai
← Voltar ao blog

Infraestrutura de IA personalizada

Parceiro de implementação de IA: perguntas sobre posse para fazer antes

Antes de contratar um parceiro de implementação de IA, pergunte sobre dados, prompts, memória, permissões e saída. Preserve os ganhos com novos modelos.

Capa tipográfica do Be Human com o título: Parceiro de implementação de IA: perguntas sobre posse para fazer antes
Ilustração conceitual criada com IA · Be Human

Um bom parceiro de implementação de IA deixa a empresa como dona dos dados, dos prompts, da memória e das regras operacionais por trás dos seus agentes. Assim, os ganhos sobrevivem a uma troca de modelo ou de fornecedor. Antes de comparar propostas, pergunte quem detém cada ativo, como você pode exportá-lo em formato utilizável e o que acontece com ele quando o contrato terminar. As perguntas abaixo devem ser resolvidas primeiro, antes de qualquer demonstração ou conversa sobre preço.

Principais pontos

  • Defina por escrito quem é dono dos dados, prompts, memória e configurações antes de qualquer construção começar.
  • Pergunte como cada ativo pode ser exportado em formato utilizável e teste essa exportação antes de assinar.
  • Mantenha a camada de conhecimento da empresa separada do modelo, para que um modelo melhor possa ser adotado sem refazer tudo.
  • Exija uma saída definida: material de transição, exclusão das cópias mantidas pelo fornecedor e um período de transição com acesso.
  • Avalie um parceiro pelas evidências que ele deixa (avaliações, registros, histórico de mudanças), e não pela demonstração que ele faz.

Por que a posse importa mais à medida que os modelos melhoram

Os modelos mudam rapidamente. O modelo que hoje sustenta seu agente provavelmente será substituído por outro mais forte, e essa troca deve ser uma decisão de configuração, não uma reconstrução. O que se acumula dentro de uma empresa raramente é o modelo em si. É o contexto ao redor dele: os documentos que o agente pode citar, as instruções que ele segue, o registro de decisões passadas, as regras sobre o que ele pode acessar e quando uma pessoa precisa aprovar.

Se esse contexto fica dentro do sistema de um fornecedor, sem caminho de exportação, cada atualização de modelo vira uma negociação, e o conhecimento operacional da sua empresa passa a dar poder ao fornecedor. Por isso, as perguntas sobre posse não são uma formalidade jurídica. Elas definem se a próxima melhoria da IA beneficia o seu negócio ou apenas o provedor.

Dados: onde ficam e quem pode copiá-los

Comece pelos dados que o agente lê e escreve. Peça ao parceiro que descreva cada sistema de origem, se o agente consulta esses dados no próprio sistema ou recebe uma cópia, e onde qualquer cópia é armazenada. Depois, faça um conjunto curto de perguntas diretas:

  • De quais sistemas o agente vai ler, e o parceiro copia esses dados ou consulta ao vivo?
  • Onde as cópias ficam armazenadas, em que país, e quem tem acesso de administrador a elas?
  • Algum dos seus dados é usado para treinar ou ajustar modelos que o parceiro oferece a outros clientes?
  • Por quanto tempo os registros e as conversas são mantidos, e como você solicita a exclusão por escrito?
  • Quem na sua empresa recebe o registro de auditoria com tudo o que o agente acessou?

Empresas brasileiras devem revisar essas respostas com seu jurídico à luz das obrigações da LGPD, especialmente quando há dados pessoais de clientes ou de funcionários envolvidos. Um parceiro que responde em termos gerais, sem nomear sistemas e prazos de retenção, ainda não mostrou a resposta.

Prompts e configurações são conhecimento operacional

Prompts, descrições de ferramentas, regras de roteamento e limites de escalonamento são a forma como o seu negócio funciona, escrita de um jeito que uma máquina consegue seguir. Eles merecem o mesmo cuidado de um manual de processos. Peça ao parceiro que os mantenha em um repositório versionado ao qual você tenha acesso, em texto simples, com um histórico legível de quem mudou o quê e por quê.

Pergunte também quem pode aprovar uma alteração. Um arranjo sólido permite que a empresa aprove mudanças de comportamento que afetam clientes, dinheiro ou dados pessoais, enquanto o parceiro cuida da implementação técnica. Instruções não são o único risco aqui. Conteúdos que o agente lê, como um e-mail recebido ou uma página da web, podem conter texto escrito para sobrepor as instruções dele. As orientações da OWASP sobre injeção de prompt descrevem controles como separar conteúdo não confiável das instruções e limitar o que o agente pode fazer depois de ler esse conteúdo. Pergunte ao parceiro quais desses controles ele aplica e onde eles estão documentados.

Peça os prompts em um arquivo que você consiga abrir sem o software do parceiro.

Memória e recuperação: o que o agente lembra e quem pode editar

A memória tem duas formas que importam para a posse. A primeira é a recuperação: o agente busca trechos relevantes em um acervo dos seus documentos no momento em que responde. A segunda é o comportamento aprendido ou ajustado por meio de treinamento do próprio modelo. A recuperação mantém seu conhecimento em um índice que você pode inspecionar e reconstruir. Já o ajuste fino pode incorporar padrões em um modelo que você não controla. A comparação da AWS entre recuperação e ajuste fino é uma referência útil para essa distinção, e ajuda a explicar por que muitos agentes de negócio começam pela recuperação.

Para qualquer armazenamento de memória, pergunte onde o índice fica, de quais documentos de origem ele foi construído, se você consegue exportar tanto os documentos quanto o índice e quem pode excluir ou corrigir um registro. Pergunte também como uma memória desatualizada ou errada é corrigida e como essa correção fica registrada.

Cenário ilustrativo: um distribuidor regional quer um agente que responda perguntas sobre as condições comerciais dos fornecedores. O parceiro constrói um índice privado a partir dessas condições. Na renovação, o distribuidor pede os arquivos de origem e os passos de reconstrução. Ele recebe os arquivos, mas os passos de reconstrução dependem de uma configuração que só o parceiro possui. O distribuidor não consegue levar esse conhecimento embora sem a ajuda do parceiro, exatamente a situação que as perguntas sobre posse servem para evitar.

Permissões e acesso às ferramentas

Um agente é útil quando consegue agir: ler uma agenda, atualizar um registro, enviar um rascunho, abrir um chamado. Cada uma dessas ações exige uma credencial, e quem é dono da credencial determina quem controla o agente. Pergunte se as contas das ferramentas são criadas em nome da sua empresa, se você tem o papel de administrador e se o acesso é limitado ao mínimo que cada tarefa precisa. As permissões devem estar escritas em uma lista que você consiga ler, com cada limite de aprovação nomeado.

Revise-as em uma agenda fixa. Um método prático está descrito em revisão trimestral de permissões de agentes de IA: checklist prático. Se o parceiro não consegue mostrar as permissões atuais em um único lugar, você não tem como saber se o agente ainda faz apenas o que você aprovou.

A abordagem gerenciada da Be Human parte dessa lista. Cada projeto registra o dono de cada ativo em um registro compartilhado, mantém documentos de origem, prompts e configurações em formatos que o cliente pode exportar e coloca as contas de ferramentas do agente sob o controle administrativo do cliente. Mudanças de comportamento ou de permissões passam por solicitação e aprovação por escrito, e o cliente recebe o registro de auditoria. São escolhas operacionais que o cliente pode inspecionar, não promessas de resultado.

Defina a saída antes de assinar

Um plano de saída é mais fácil de escrever antes de haver algo para deixar. Os passos abaixo formam uma sequência prática para levar a qualquer proposta:

  • Passo 1: liste todos os ativos que o projeto vai criar: documentos de origem, prompts, armazenamentos de memória, configurações de ferramentas, conjuntos de avaliação, registros e manuais de operação.
  • Passo 2: defina o dono de cada ativo e o formato em que ele será entregue.
  • Passo 3: peça uma exportação de teste de uma amostra e restaure essa amostra em um ambiente que sua empresa controle.
  • Passo 4: escreva as condições de encerramento: a data de entrega, a lista de materiais, o acesso mantido durante um período de transição e a confirmação por escrito da exclusão das cópias mantidas pelo fornecedor.
  • Passo 5: repita o teste de exportação em intervalos regulares e após qualquer mudança relevante no agente.

O contrato deve referenciar a lista, não apenas resumi-la. Para as seções que um contrato deve cobrir, o escopo de trabalho para implantação de agente de IA detalha cada uma delas. Um parceiro que se opõe a um teste de exportação antes da assinatura está mostrando como será a saída.

Evidências em vez de promessas: o que pedir que o parceiro mostre

Uma demonstração prova que algo funcionou uma vez. A posse exige evidências de que o trabalho pode ser verificado ao longo do tempo. Pergunte o que o parceiro vai medir, com que frequência rodará avaliações sobre um conjunto fixo de tarefas reais, qual resultado dispara uma revisão e quem acompanha os resultados. O NIST AI Risk Management Framework oferece um vocabulário útil para governança, mapeamento, medição e gestão de riscos de IA, e você pode pedir ao parceiro que mostre como a prática dele se relaciona com essas funções.

Peça registros e rastros que permitam reconstruir por que o agente tomou uma ação e confirme que esses registros são seus. Pergunte o que acontece quando uma avaliação falha. Um parceiro sério descreverá uma reversão, uma permissão suspensa ou uma correção com mudança registrada por escrito, não uma garantia vaga. Escolha o parceiro cujas evidências você conseguiria manter caso saísse, porque é esse parceiro cujo trabalho continuará sendo seu depois que um modelo mudar. Se você quer identificar a primeira tarefa que vale entregar a um agente e as perguntas de posse que essa tarefa exige, faça o diagnóstico de IA da Be Human.

Perguntas frequentes

Devemos escolher um parceiro que trabalhe apenas com o modelo que preferimos? Não necessariamente. Sua posse sobre dados, prompts, memória e configurações importa mais do que a marca do modelo, porque os modelos mudam mais rápido do que o conhecimento operacional da sua empresa. Um parceiro que mantém o contexto em uma camada que você pode exportar permite trocar de modelo depois sem perder o trabalho. Pergunte como a troca de modelo é feita e o que ela custa em tempo e risco.

Basta o parceiro dizer que nossos dados nunca são usados para treinamento? Uma declaração por escrito ajuda, mas não basta sozinha. Pergunte onde ficam as cópias, quem tem acesso de administrador, por quanto tempo os registros são mantidos e como a exclusão é solicitada e confirmada. Essas respostas mostram se a declaração está sustentada pelo desenho do sistema.

Precisamos de uma equipe técnica própria para ter a posse? Você precisa de uma pessoa nomeada que entenda o registro de ativos, aprove mudanças e revise permissões, mas essa pessoa não precisa escrever código. Muitas empresas atribuem essa função a um líder de operações com um consultor técnico. O que importa é que a empresa detenha os acessos e os registros, não que construa tudo sozinha.

Quando devemos fazer o teste de saída? Faça um teste pequeno de exportação antes de assinar e repita-o em intervalos regulares e após qualquer mudança relevante no agente. O primeiro teste costuma revelar passos faltantes, como uma configuração que só o parceiro consegue reconstruir. Descobrir essa lacuna cedo custa muito menos do que descobri-la na renovação ou no encerramento.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →