Direito de auditoria em contrato de serviços de IA: o que pedir

O direito de auditoria em um contrato de serviços de IA é a garantia, por escrito, de verificar, com registros que o fornecedor já produz, se o serviço trata seus dados, acessos e mudanças da forma como o contrato diz. Uma empresa de médio porte raramente precisa inspecionar as instalações do fornecedor. Precisa de uma cláusula que garanta evidências de rotina, um jeito definido de fazer perguntas e um direito restrito de investigar depois de um incidente.

Principais pontos

• Trate o direito de auditoria como direito a evidências, não como licença para circular livremente. Relatórios periódicos, logs e registros de mudança respondem à maioria das dúvidas sem atrapalhar a operação.
• Vincule cada pedido de auditoria a um compromisso específico do contrato: tratamento de dados, permissões, controle de mudanças, resposta a incidentes ou terceiros envolvidos.
• Ofereça os limites de que o fornecedor realmente precisa, como aviso prévio, confidencialidade e exclusão de dados de outros clientes. Custam pouco e facilitam o acordo.
• Reserve o direito de auditoria mais profundo, por motivo justificado, para incidentes, suspeitas de violação e pedidos de órgãos reguladores.
• Deixe a cláusula utilizável: diga quem pode pedir evidências, quem responde, em que formato e em que prazo.

O que o direito de auditoria significa na prática para um serviço de IA?

Em um contrato de software tradicional, a cláusula de auditoria costuma tratar de controles de segurança e data centers. Um agente de IA acrescenta outra coisa: ele age. Lê registros, escreve mensagens, chama ferramentas e mantém memória, e seu comportamento pode mudar quando alguém edita um prompt, troca um modelo ou adiciona uma conexão. Um certificado que descreve a segurança do escritório do fornecedor não mostra o que o agente fez em seu nome na terça-feira passada.

Vale pensar no direito de auditoria em três camadas:

• Evidência de rotina: relatórios e registros entregues em calendário fixo, sem que você precise pedir.
• Evidência sob demanda: registros que você pode solicitar a qualquer momento, com prazo de resposta definido, para esclarecer uma dúvida específica.
• Auditoria por motivo justificado: revisão mais profunda, acionada por incidente, suspeita de violação ou questionamento de órgão regulador, com escopo definido.

A maior parte das disputas nasce de contratos que têm só a terceira camada, ou nenhuma. A auditoria por motivo justificado é um instrumento pesado. Quando ela é necessária, a confiança já está abalada. As duas primeiras camadas são o que torna a terceira raramente necessária.

Um vocabulário útil para essas conversas vem do NIST AI Risk Management Framework, que organiza o trabalho com risco de IA em governar, mapear, medir e gerenciar. Você não precisa adotá-lo formalmente. Ele serve como forma neutra de perguntar ao fornecedor quais dessas atividades geram registros que você pode ver.

Que evidências pedir antes de exigir uma auditoria presencial?

Evidência é mais barata para o fornecedor entregar e mais útil para você do que uma visita. Peça os registros que correspondem ao que o agente de fato pode fazer. Uma lista prática:

• Logs de ações: o que o agente fez, com qual ferramenta, sob qual identidade e quando. Sem isso, não é possível reconstruir um incidente.
• Registros de acesso: a lista atual de permissões do agente, quem aprovou cada uma e quando foi a última revisão. A revisão de permissões fica muito mais simples quando esse registro já existe.
• Histórico de mudanças: toda alteração em prompts, modelos, ferramentas, fontes de memória e configuração, com quem pediu e quem aprovou.
• Resultados de avaliação: o desfecho dos testes recorrentes contra o critério de sucesso escrito no contrato, incluindo falhas e o que foi feito a respeito.
• Registros de incidentes: o que aconteceu, o que foi afetado, como foi contido, como foi corrigido e quando você foi avisado.
• Lista de terceiros: os fornecedores de modelo e outros subprocessadores envolvidos, com aviso quando a lista mudar.
• Registros de dados: onde seus dados ficam armazenados e são processados, por quanto tempo são retidos e confirmação por escrito da exclusão quando o contrato terminar. Veja a avaliação de segurança de fornecedor de IA para as perguntas por trás desse ponto.
• Relatórios de asseguração independente, se o fornecedor tiver algum, com o escopo de cada um descrito com clareza.

Pergunte também ao fornecedor quais sinais ele coleta do agente em operação e por quanto tempo os guarda. O material introdutório de observabilidade do OpenTelemetry descreve logs, métricas e traces, o que dá uma linguagem comum para perguntar se os registros que você quer realmente existem. Um direito de auditoria não devolve um log que nunca foi gravado, por isso o prazo de retenção deve constar da cláusula.

Que partes do serviço a cláusula deve cobrir?

Uma cláusula que diz apenas que o cliente pode auditar o cumprimento do contrato é vaga demais para usar. Delimite o escopo às áreas em que o agente pode causar dano ou em que a responsabilidade recai sobre você. Use este guia de decisão:

• Tratamento de dados: o contrato promete limites de uso, local ou retenção dos seus dados? Então você precisa de registros que mostrem que esses limites foram respeitados.
• Acesso e autoridade: o agente age por meio de contas e tokens? Então você precisa do registro de permissões e de evidência de que o acesso segue o princípio do menor privilégio. O guia de autorização do OWASP é uma boa referência do que é uma boa prática.
• Comportamento e uso indevido: texto não confiável pode chegar ao agente, como e-mails recebidos ou arquivos enviados? Então pergunte como o fornecedor testa riscos como agência excessiva e injeção de prompt, usando uma referência como o OWASP Top 10 para aplicações com LLMs.
• Controle de mudanças: o fornecedor pode alterar o agente sem o seu conhecimento? Então você precisa do histórico de mudanças e da trilha de aprovação.
• Incidentes: existe promessa de notificação? Então você precisa de registros que permitam verificar o momento e o conteúdo dessa notificação.
• Terceiros: o fornecedor depende de modelos ou ferramentas externas? Então você precisa da lista e do aviso de mudanças.

Se uma área não tem promessa contratual, o direito de auditoria sobre ela não tem o que verificar. Por isso o direito de auditoria funciona melhor quando é redigido junto com o escopo de trabalho. O escopo de trabalho para implantação de agente de IA é o lugar natural para definir os compromissos que a cláusula de auditoria vai verificar depois.

Que limites uma empresa de médio porte pode aceitar de forma realista?

Os fornecedores resistem a cláusulas de auditoria por bons motivos. Atendem outros clientes, guardam métodos confidenciais e uma inspeção sem limites pode atrapalhar a operação. Um comprador de médio porte ganha mais ao conceder limites razoáveis do que ao exigir acesso irrestrito. Os limites que vale aceitar:

• Aviso prévio razoável para qualquer pedido que vá além dos relatórios de rotina.
• Um teto de frequência para auditorias sem incidente dentro de cada ano de contrato.
• Confidencialidade sobre o que você vir, incluindo os métodos do fornecedor e as informações de outros clientes.
• Exclusão dos dados de outros clientes. Você revisa os seus registros e os controles que os protegem, nada além disso.
• Análise das evidências em ambiente controlado ou por exportações com dados ocultados, em vez de acesso direto aos sistemas de produção.
• Um revisor independente, sujeito a confidencialidade, no lugar da sua equipe, quando o fornecedor preferir.
• Divisão de custos: você arca com o custo de uma auditoria de rotina, e o fornecedor arca se a auditoria encontrar uma violação relevante.

Limites a rejeitar:

• Uma cláusula que permite ao fornecedor recusar um pedido sem dar motivo.
• Um prazo de resposta descrito apenas como razoável, sem período definido.
• Direitos de auditoria que desaparecem quando o contrato termina, deixando você sem como verificar a exclusão dos dados.
• Evidências que existem apenas em formato que você não consegue ler ou exportar.
• Uma regra que classifica todos os achados como informação confidencial do fornecedor, o que o impediria de agir sobre eles ou de informar um órgão regulador.

Lembre-se de como o direito de auditoria se relaciona com a responsabilidade. Um achado só serve se o contrato der a você um remédio, como plano de correção, ajuste de valor ou direito de rescisão. Leia esta cláusula junto com as cláusulas de rescisão em contratos de serviços de IA e com o limite de responsabilidade previsto no contrato.

Como negociar a cláusula, passo a passo?

Você não precisa de uma longa campanha jurídica. Um plano curto e ordenado resolve:

• Passo um: liste o que o agente pode fazer. Anote os sistemas que ele acessa, os dados que lê, as ações que executa e as mensagens que envia. Essa lista define o que vale auditar.
• Passo dois: escolha os compromissos que importam. No rascunho do contrato, marque as promessas sobre dados, acesso, controle de mudanças, incidentes e terceiros.
• Passo três: peça primeiro as evidências. Solicite os registros listados acima como cronograma de entregas de rotina e peça ao fornecedor que confirme que cada um existe hoje.
• Passo quatro: redija a camada sob demanda. Defina quem pode pedir, um único canal para os pedidos, o prazo de resposta e o formato da resposta.
• Passo cinco: redija a camada por motivo justificado. Defina os gatilhos, o escopo, quem faz a revisão e o que acontece com os achados.
• Passo seis: ofereça os limites. Apresente aviso, frequência, confidencialidade e exclusão de dados de outros clientes como proposta sua, não como concessão arrancada de você.
• Passo sete: conecte os achados às consequências. Um plano de correção com prazo e um direito de rescisão para achados relevantes não corrigidos.
• Passo oito: estenda o direito além da vigência. Cubra um período definido após o término para verificar a exclusão e a devolução dos dados.
• Passo nove: ensaie. Antes de assinar, peça um exemplo de cada relatório de rotina. Um fornecedor que entrega um exemplo real durante a venda provavelmente consegue entregar no segundo ano. O artigo sobre como avaliar estudos de caso de IA trata desse hábito com mais profundidade.

Como isso funciona na prática? Um cenário ilustrativo

O cenário a seguir é ilustrativo, não é um caso real. Uma distribuidora regional usa um agente gerenciado que redige respostas a e-mails de clientes e consulta registros de entregas. Um cliente avisa que uma resposta mencionou um detalhe do pedido de outro cliente.

Como o contrato tinha a camada sob demanda, a líder de operações envia um único pedido pelo canal definido. Ela solicita o log de ações daquela conversa por e-mail, o registro de permissões do agente na data do episódio e o histórico de mudanças do período anterior. O fornecedor devolve exportações com dados ocultados dentro do prazo combinado.

Os registros mostram que uma ferramenta de consulta recebeu um escopo de busca mais amplo durante uma mudança recente, e que a mudança foi aprovada, mas não testada para esse caso. O fornecedor corrige o escopo, inclui um teste para isso nas avaliações recorrentes e comunica o incidente conforme a cláusula de notificação. A empresa não precisou acionar a auditoria por motivo justificado e conseguiu responder ao cliente afetado com fatos.

Nada nesse cenário exigiu poderes incomuns. Exigiu registros que existiam, um canal que funcionava e um prazo de resposta que estava escrito.

Como a abordagem gerenciada da Be Human trata a evidência de auditoria?

A Be Human projeta, implementa e opera agentes de IA cuja identidade, memória, canais, ferramentas e permissões permanecem sob controle humano. A evidência é produzida como parte da operação normal: as mudanças passam por uma etapa de aprovação com registro, as permissões são revisadas em calendário fixo, avaliações recorrentes testam o agente contra o critério de sucesso combinado no início e os incidentes são documentados com causa e correção. Quais relatórios o cliente recebe, com que frequência e sob quais termos de auditoria é definido no contrato de prestação, não presumido. O texto sobre o trabalho recorrente em serviços de IA gerenciados explica quais dessas atividades um fornecedor deveria executar de qualquer forma.

Perguntas frequentes

Compradores de pequeno e médio porte realmente precisam de direito de auditoria? Sim, porque o agente age nos seus sistemas em seu nome, e a responsabilidade continua com você. Não é preciso a versão pesada. Evidências de rotina, um canal sob demanda e um direito restrito por motivo justificado dão a maior parte da proteção.

O fornecedor pode recusar uma auditoria por causa de outros clientes? Ele pode, com razão, proteger os dados de outros clientes e seus métodos confidenciais. Por isso a cláusula deve limitar a revisão aos seus registros e aos controles que os protegem, com ocultação de dados ou revisor independente quando necessário. Recusar qualquer tipo de revisão é outra coisa, e um sinal para fazer mais perguntas.

Quem deve fazer a auditoria, minha equipe ou um terceiro? Para evidências de rotina e sob demanda, o responsável por operações ou conformidade na sua empresa costuma conseguir ler os registros. Para uma revisão por motivo justificado que envolva detalhe técnico, um revisor independente sujeito a confidencialidade costuma ser aceitável para os dois lados. Indique essa opção no contrato para não ter de negociá-la no meio de um incidente.

O que acontece com o direito de auditoria se eu encerrar o contrato? Peça que ele continue válido por um período definido, para que você possa verificar a exclusão, a devolução dos dados e o encerramento dos acessos. Sem isso, o momento em que você mais precisa de prova é o momento em que perde o direito de pedi-la. Revise a cláusula novamente na renovação e ajuste-a ao que você aprendeu.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.