O provedor de IA treina com os dados da minha empresa? Exija por escrito

Depende do nível do produto, do contrato e das configurações, não da marca do provedor. Ofertas empresariais e de API costumam informar que o conteúdo do cliente não é usado para treinar modelos compartilhados, enquanto produtos para consumidor podem funcionar de outro jeito. Por isso, a única resposta confiável é a que foi confirmada por escrito para a sua conta exata. Treinamento também é apenas uma de três perguntas: retenção e logs decidem tanto quanto ele sobre onde os dados da sua empresa vão parar.

Principais pontos

• Treinamento, retenção e logs são três perguntas separadas, e uma resposta clara sobre uma delas diz pouco sobre as outras.
• A resposta depende do tipo de conta, do plano e das configurações, então a reputação pública do provedor não é evidência sobre a sua conta.
• Agentes de IA acrescentam memória, ferramentas e monitoramento, e cada um desses componentes guarda dados da empresa sob termos próprios.
• Obtenha as respostas por escrito: contrato ou termos de tratamento de dados, evidência das configurações de administrador e um canal nomeado para avisos de mudança.
• Reverifique sempre que um plano, um modelo ou uma integração mudar, porque padrões e termos podem se alterar.

O que significa treinar com os seus dados?

Treinar significa que o provedor usa o conteúdo que você envia, como prompts, arquivos, respostas do modelo ou o seu feedback, para ajustar um modelo ou montar bases de dados que melhoram modelos futuros. Quando uma informação já influenciou um modelo, você não consegue recuperá-la como faria ao apagar um arquivo. Por isso a pergunta merece uma resposta precisa antes de qualquer material sensível ser enviado.

Duas coisas costumam ser confundidas com isso. A primeira é o ajuste fino (fine-tuning) que você mesmo solicita: você adapta um modelo de propósito, com exemplos próprios, geralmente em uma variante privada. Isso também é treinamento, mas é uma decisão sob o seu controle. A segunda é a recuperação de informação (RAG), em que o sistema consulta os seus documentos na hora da resposta e coloca os trechos relevantes diante do modelo. A recuperação não altera o modelo em si, e por isso costuma ser o padrão mais seguro para o conhecimento da empresa. A comparação da AWS entre recuperação e ajuste fino explica bem a diferença técnica.

Um detalhe a mais: o feedback. Um polegar para cima ou um comentário anexado a uma resposta pode ser tratado sob termos diferentes dos prompts comuns. Pergunte sobre isso de forma explícita.

Qual a diferença entre treinamento, retenção e logs?

As três palavras descrevem coisas diferentes, e às vezes o fornecedor responde justamente à pergunta que você não fez.

• Treinamento: se o seu conteúdo é usado para melhorar modelos, o seu ou os compartilhados.
• Retenção: por quanto tempo o conteúdo fica armazenado depois que a requisição termina, onde fica guardado e quem pode acessá-lo enquanto isso.
• Logs: quais registros são gravados sobre cada requisição, por qual parte, e se esses registros contêm o conteúdo completo ou apenas metadados, como horário, tamanho e usuário.

Um provedor pode dizer com verdade que não treina com os seus dados e, ainda assim, manter prompts por um período, por exemplo para detectar abuso ou investigar falhas. Em alguns termos, revisores humanos podem ler conteúdo sinalizado. Os logs também podem existir fora do provedor: a sua própria aplicação, a plataforma do agente e as ferramentas de monitoramento podem gravar prompts e respostas completos em locais com regras de retenção próprias.

Portanto, uma frase como não treinamos com os seus dados responde a uma pergunta entre três. Trate-a como ponto de partida, não como conclusão.

Por onde mais os dados circulam além do modelo?

Uma janela de chat tem um único caminho de dados. Um agente empresarial tem vários. Quando um agente trabalha para você, o conteúdo pode passar por um índice de recuperação, um repositório de memória, integrações com ferramentas, um canal de mensagens, um sistema de observabilidade e um ou mais provedores de modelo. Cada um desses pontos pode envolver uma empresa diferente e um conjunto diferente de termos.

Ajuda listar tudo isso antes de perguntar qualquer coisa a alguém. O exercício em Diagrama de arquitetura de IA para empresas: mapa em uma página dá essa visão geral, e a questão da geografia dos dados é tratada em Residência de dados em IA para empresas: onde ficam seus dados.

Dê atenção especial a três lugares:

• Memória: o que o agente lembra entre sessões é dado armazenado e entra nas suas regras de retenção. As questões de propriedade estão em Quem é dono dos prompts e dados na IA da empresa? Guia prático.
• Monitoramento e logs: úteis para operar o agente, arriscados se guardarem o conteúdo completo sem prazo de expiração.
• Subprocessadores: os fornecedores dos quais o seu fornecedor depende. O tratamento que eles dão ao conteúdo faz parte do seu risco, mesmo que você nunca contrate com eles.

Quais respostas você deve obter por escrito?

Uma garantia verbal numa reunião comercial, ou uma frase numa página de marketing, pode mudar sem aviso e não obriga ninguém. Peça as respostas em contrato, em acordo de tratamento de dados, em proposta comercial ou em resposta escrita oficial do fornecedor, e guarde uma cópia. A lista mais ampla de perguntas comerciais está em Perguntas para fornecedor de agentes de IA antes de assinar. Para este tema em particular, confirme:

• Padrão de treinamento: o conteúdo do cliente é excluído do treinamento de modelos compartilhados neste plano, e isso é o padrão ou uma opção de desativação que você precisa configurar?
• Alcance da exclusão: ela cobre prompts, arquivos, respostas, embeddings e feedback, ou só alguns deles?
• Ajuste fino: se você fizer ajuste fino, de quem é o modelo ou adaptador resultante, e o provedor pode reutilizá-lo?
• Prazo de retenção: por quanto tempo o conteúdo fica armazenado, em quais regiões, e como funciona o processo de exclusão quando você pedir?
• Monitoramento de abuso: o conteúdo é mantido ou revisado por motivos de segurança, por pessoas ou só por sistemas automáticos, e é possível solicitar uma exceção?
• Logs: o que o provedor registra, é possível desligar o registro de conteúdo e o que os logs contêm por padrão?
• Subprocessadores: quem são, como você é avisado de mudanças e você pode se opor?
• Nível da conta: os termos valem para o tipo de conta e o plano exatos que a sua empresa usa, incluindo chaves de API, e não apenas para outro nível?
• Aviso de mudança: como você será informado se termos, padrões ou o tratamento de dados mudarem, e para qual contato?
• Exclusão na saída: o que é apagado quando o contrato termina e como você obtém a confirmação por escrito?

Dois cuidados. Primeiro, respostas que citam o nome de um plano valem para aquele plano, então uma mudança posterior para mais ou para menos pode alterá-las. Segundo, atenção à expressão por padrão. Ela indica que a configuração pode ser alterada, por você ou por outra pessoa com direitos de administrador, então pergunte quem pode mudá-la.

Um cenário ilustrativo: duas contas, duas respostas diferentes

Este é um cenário ilustrativo, não um caso real. Uma empresa de serviços de médio porte quer um agente para resumir contratos de clientes. Alguns funcionários já vinham colando trechos em um assistente gratuito de consumo, usando contas pessoais. A diretoria então providencia um agente da empresa que chama um modelo por meio de uma conta empresarial.

Ao perguntar se o provedor treina com os dados, a liderança de operações ouve um tranquilizador sim, nós não treinamos. Mas a afirmação vale para a conta empresarial. As contas pessoais dos funcionários seguem outros termos, e ninguém os verificou. Enquanto isso, a plataforma do agente grava prompts completos no próprio repositório de logs sem prazo de expiração, e o recurso de memória guarda resumos de contratos indefinidamente.

Nada disso exigiu um provedor mal-intencionado. As lacunas vieram dos tipos de conta, das configurações padrão de log e de uma memória que ninguém examinou. A correção é de processo: mover o trabalho para contas controladas pela empresa, criar uma regra de uso aceitável para ferramentas pessoais, encurtar a retenção de logs e de memória e registrar por escrito os termos confirmados de cada componente. A adesão pesa tanto quanto as configurações aqui, e por isso vale ler Como engajar a equipe no uso de agentes de IA: guia prático junto com o trabalho contratual.

Como verificar as respostas em vez de apenas confiar nelas?

Compromissos escritos são necessários, mas descrevem intenção. A verificação mostra o que a sua configuração realmente faz. Uma sequência prática:

• Passo um: faça o inventário de todo componente que toca o conteúdo, incluindo provedores de modelo, recuperação, memória, logs, canais e ferramentas. Anote a conta e o plano usados em cada um.
• Passo dois: classifique os dados que o agente vai tratar, como públicos, internos, confidenciais e regulados. Decida quais classes podem ir para quais componentes.
• Passo três: reúna os termos escritos de cada componente e registre a data em que os recebeu e o contato que os confirmou.
• Passo quatro: registre as configurações. Capturas de tela ou a configuração exportada do console de administração mostram o que está ativado e quem tem direitos de administrador.
• Passo cinco: teste com uma frase marcadora inofensiva. Envie uma frase única e sem sentido e depois verifique onde ela aparece: logs, memória, índices de busca, exportações. Isso mostra a retenção e os logs na prática.
• Passo seis: defina um prazo de expiração para logs e memória compatível com as suas classes de dados e agende uma revisão sempre que um plano, um modelo ou uma integração mudar.

Os revisores de segurança vão querer essa evidência, e o processo de Avaliação de segurança de fornecedor de IA: passo a passo se encaixa em torno dela. Como referência mais ampla, o NIST AI Risk Management Framework ajuda a estruturar responsabilidades e revisões, e o OWASP Top 10 para aplicações com LLM lista a divulgação de informações sensíveis como um risco a ser tratado já no desenho da solução.

A política de treinamento também não substitui as suas obrigações legais. Se o agente trata dados pessoais, as obrigações da legislação de proteção de dados, como a LGPD, valem independentemente do que o provedor prometer. No Brasil, a ANPD é a autoridade a consultar, e o seu assessor jurídico deve confirmar o que se aplica ao seu caso.

Como a Be Human trata isso em uma operação gerenciada?

A Be Human trata o tratamento de dados como parte do desenho de cada função de agente, não como uma etapa burocrática no final. Para cada agente, são listados os provedores de modelo, as ferramentas e os repositórios de memória, identifica-se a conta sob a qual cada um opera, e os termos de treinamento, retenção e logs são confirmados por escrito e registrados com a data e a fonte. O registro de conteúdo nos logs e a retenção da memória são ajustados ao que as classes de dados permitem, e limites de aprovação definem quais ações e dados o agente pode tocar. Na operação gerenciada, esses registros são reverificados quando um provedor, um plano ou uma integração muda, e as revisões de permissões incluem as configurações de dados. A Be Human documenta e acompanha os termos que os seus provedores publicam; ela não os reescreve nem promete o que um provedor fará.

Perguntas frequentes

Usar a API significa que os meus dados não são usados para treinamento? Não automaticamente, e você não deve presumir isso. Muitos provedores tratam planos de API e empresariais de forma diferente dos produtos para consumidor, mas os detalhes dependem do provedor, do plano e das configurações. Peça o termo escrito que se aplica à sua conta e guarde-o.

Se o provedor não treina com os meus dados, eles estão seguros? Não necessariamente. Segurança depende também de retenção, logs, controles de acesso, subprocessadores e da sua própria configuração. O compromisso de não treinar elimina um risco e deixa os outros para serem confirmados separadamente.

Posso impedir que os funcionários usem contas pessoais de IA para o trabalho? Você pode reduzir esse uso, mas uma proibição isolada raramente funciona. Ofereça uma opção aprovada pela empresa que seja boa o bastante para ser usada, escreva uma regra curta de uso aceitável que diga quais classes de dados nunca podem sair das ferramentas aprovadas e explique o motivo. Treinamento de funcionários para trabalhar com agentes de IA trata do que ensinar.

Com que frequência devo reverificar essas respostas? Reverifique a cada mudança de plano, modelo, integração ou renovação de contrato, e também em um calendário regular, mesmo que nada pareça ter mudado. Padrões e subprocessadores podem mudar entre uma revisão e outra. Um responsável nomeado e um registro datado no inventário de agentes evitam que a verificação seja esquecida.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.