Ir para conteúdo
be-human.ai
← Voltar ao blog

Supervisão humana

Evidências SOC 2 para fornecedores de agentes de IA antes da memória

Quais relatórios SOC 2, controles mapeados e registros de acesso pedir a um fornecedor de agentes de IA antes da memória, e o que cada um prova.

Capa tipográfica do Be Human com o título: Evidências SOC 2 para fornecedores de agentes de IA antes da memória
Ilustração conceitual criada com IA · Be Human

Um relatório SOC 2 mostra que um auditor independente testou os controles de segurança de um fornecedor contra critérios definidos, o que o torna a evidência de terceiros mais pedida por compradores. Para um fornecedor de agentes de IA, ele responde apenas parte da pergunta. Antes de permitir que um fornecedor guarde a memória da empresa, peça o relatório completo com escopo e exceções, a lista das organizações subcontratadas e os controles que sua própria equipe precisa operar, além de registros de acesso que mostrem quem e o que tocou essa memória.

Principais pontos

  • Peça o relatório SOC 2 completo, com escopo, período de teste e exceções, e não apenas uma página de resumo ou um selo de confiança.
  • Confirme que o relatório cobre os sistemas que armazenam e recuperam a memória da empresa, incluindo o gateway de ferramentas e o pipeline de registros.
  • Relacione cada família de controles a um risco específico do agente: quem pode ler a memória, quais ferramentas o agente pode acionar e como as mudanças são aprovadas.
  • Solicite a lista de subprestadores e os controles complementares que você deve operar, e atribua um responsável a cada um.
  • Trate o SOC 2 como uma entrada, não como resposta final. Evidências específicas do agente, como registros de chamadas de ferramentas e de aprovações, ainda precisam ser pedidas separadamente.

O que um relatório SOC 2 prova e o que não prova

Um relatório SOC 2 é um exame, feito por uma firma de auditoria independente, sobre se os controles de uma organização prestadora de serviços atendem aos Critérios de Serviços de Confiança do AICPA. A segurança sempre está no escopo. Disponibilidade, integridade do processamento, confidencialidade e privacidade são incluídas quando o fornecedor as escolhe. O relatório descreve os controles, testa se foram desenhados de forma adequada e, no caso de um relatório Tipo II, testa se funcionaram de forma efetiva ao longo de um período.

O relatório não certifica que um modelo dê respostas corretas, que a memória armazenada seja lícita na sua jurisdição nem que o agente vai recusar uma instrução prejudicial. Leia-o como evidência sobre a disciplina operacional do fornecedor e depois faça perguntas separadas sobre o comportamento e as permissões do agente. Para uma visão mais ampla do que os auditores examinam em sistemas de agentes, veja Evidências SOC 2 para agentes de IA: o que os auditores vão pedir.

Quais documentos pedir primeiro

Peça estes documentos antes de qualquer discussão sobre funcionalidades:

  • O relatório SOC 2 completo, incluindo a opinião do auditor, a descrição do sistema e os testes realizados.
  • O período coberto pelo relatório, somado a uma carta de ponte da administração, caso esse período tenha terminado há algum tempo e o fornecedor tenha mudado seus sistemas desde então.
  • A lista de exceções, com a resposta da administração e o status de correção de cada uma.
  • A lista de organizações subcontratadas, indicando quais estão fora do escopo e quais estão incluídas.
  • Os controles complementares de entidades usuárias, que são os controles que o fornecedor espera que você execute. Cada um vira uma tarefa para a sua equipe.
  • O resumo do teste de intrusão mais recente, com escopo, tipo de testador e confirmação de que achados críticos foram encerrados.
  • A lista atual de suboperadores e as regiões onde a memória, os registros e os backups são armazenados.
  • Trechos das políticas de revisão de acessos, gestão de mudanças e resposta a incidentes do fornecedor.

Verifique também a própria descrição do sistema. Ela deve nomear o repositório de memória, o índice de recuperação, o gateway de ferramentas e o pipeline de registros. Se algum desses componentes estiver ausente, o relatório não cobre a parte do produto que guarda seus dados. Para uma análise mais detalhada da lista de suboperadores, veja Suboperadores de dados do fornecedor de IA: quem mais trata seus dados?. Os termos de tratamento de dados devem ser revisados junto com o relatório, como descrito em Checklist de DPA para agentes de IA: o que verificar antes dos dados.

Como mapear controles SOC 2 para riscos do agente

Um relatório genérico é organizado em torno das famílias de Critérios Comuns. Traduza essas famílias em perguntas que importam para um agente. O NIST AI Risk Management Framework é uma referência útil para organizar esses riscos em atividades de governança, mapeamento, medição e gestão.

  • Etapa um: liste o que o agente vai guardar, normalmente memória, credenciais, permissões de ferramentas e acesso a canais.
  • Etapa dois: para cada item, identifique a família de controle responsável. O acesso lógico (CC6) cobre quem e o que pode ler ou gravar a memória e acionar ferramentas. As operações do sistema (CC7) cobrem monitoramento e detecção de atividade incomum. A gestão de mudanças (CC8) cobre prompts, definições de ferramentas e versões de modelo. A mitigação de riscos (CC9) cobre a supervisão de fornecedores e suboperadores.
  • Etapa três: localize o controle no relatório, o teste realizado e o resultado.
  • Etapa quatro: se um controle estiver ausente, fora do escopo ou com exceção, registre-o como risco aberto com um responsável nomeado.
  • Etapa cinco: decida se a lacuna bloqueia o piloto, limita as permissões do agente ou exige um controle compensatório por escrito.

Pergunte especificamente se uma atualização de modelo conta como mudança no processo de gestão de mudanças do fornecedor e se você recebe aviso antes de uma nova versão do modelo chegar ao seu agente. Uma troca de modelo pode alterar o comportamento sem qualquer mudança na sua configuração, então ela pertence ao registro de mudanças.

Quais registros de acesso pedir e o que devem mostrar

Um relatório pode afirmar que as revisões de acesso acontecem. Os registros mostram o que aconteceu com a sua memória. Peça ao fornecedor que demonstre, para um período de amostra que você escolher, registros que respondam a estas perguntas: qual identidade leu ou gravou cada item da memória, qual identidade de agente acionou qual ferramenta e com que escopo, quais ações exigiram aprovação e quem aprovou, quais registros foram apagados e quando, e quais administradores alteraram permissões.

Os próprios registros também precisam de controles. Pergunte por quanto tempo são mantidos, quem pode lê-los e se os dados pessoais presentes nos prompts são anonimizados antes do armazenamento. A documentação conceitual do OpenTelemetry descreve traços, spans e logs como a forma de registrar cada etapa de uma operação, que é o nível de detalhe a pedir. Para a questão da redação, veja Redação de dados pessoais em logs de agentes de IA sem vazamentos.

Teste os registros durante o piloto. Peça ao fornecedor que reconstrua uma ação do agente usando apenas o log. Se a reconstrução exigir um engenheiro e um dia inteiro de trabalho, os registros ainda não servem como evidência operacional.

Cenário ilustrativo: ler uma exceção sem descartar o fornecedor

Cenário ilustrativo: um diretor de operações de uma distribuidora de porte médio recebe um pacote do fornecedor para um agente que resume e-mails de fornecedores e atualiza uma memória compartilhada da empresa. O relatório SOC 2 está limpo, exceto por uma exceção. As revisões de acesso ao banco de memória não foram concluídas no prazo durante parte do período de teste. A administração afirma que a cadência de revisão foi alterada e corrigida.

Ela não descarta o fornecedor. Solicita as evidências de revisão da cadência corrigida, mantém desativado o acesso de gravação do agente à memória até que essas evidências cheguem e inclui uma revisão mensal de permissões na própria agenda. A exceção é registrada com responsável e condição de encerramento, o mesmo tratamento que receberia em uma auditoria interna.

O guia de decisão a seguir aplica a mesma lógica a outros achados:

  • Se a exceção tocar o repositório de memória ou as credenciais de ferramentas, limite o agente a somente leitura até que a evidência de correção chegue.
  • Se a exceção tocar apenas um componente fora do caminho do agente, como um site de marketing, registre-a e siga com a revisão normal.
  • Se uma organização subcontratada que armazena sua memória estiver fora do escopo, peça o relatório próprio dela ou confirme seus controles diretamente.
  • Se o fornecedor não puder entregar uma carta de ponte para um período que terminou há muito tempo, trate o relatório apenas como evidência histórica.

Como a Be Human trata evidências de fornecedores em operações gerenciadas

A Be Human desenha cada agente em torno de um papel definido, com fontes de memória, ferramentas, permissões e limites de aprovação escritos antes do lançamento. Em operações gerenciadas, mantemos esse registro atualizado, revisamos permissões em um calendário recorrente e guardamos os registros necessários para reconstruir uma ação do agente. Quando um cliente pede evidências a um fornecedor, o mesmo registro mostra quais repositórios de memória e ferramentas estão no escopo. Este artigo não afirma que a Be Human possui um relatório SOC 2. Peça a documentação que se aplica à pilha que operaríamos, e diremos com clareza o que ela cobre e o que não cobre.

Se ainda não está claro qual tarefa deve ir primeiro para um agente, o diagnóstico gratuito de IA da Be Human pode ajudar a identificar a primeira tarefa que vale a pena delegar.

Perguntas frequentes

Um relatório SOC 2 limpo basta antes de dar a um fornecedor de agentes de IA acesso à memória da empresa? Um relatório limpo é evidência útil de que o fornecedor opera controles definidos, mas não basta sozinho. Ele cobre apenas os sistemas dentro do seu escopo e não avalia se as respostas do agente ou as escolhas de memória estão corretas. Combine o relatório com registros de acesso, registros de permissões de ferramentas e um processo de aprovação documentado antes de ampliar o acesso.

Qual é a diferença entre SOC 2 Tipo I e Tipo II? Um relatório Tipo I descreve se os controles foram desenhados de forma adequada em um ponto específico do tempo. Um relatório Tipo II descreve se os controles funcionaram de forma efetiva ao longo de um período de teste, com o auditor examinando evidências desse período. Para uma memória que será armazenada por muito tempo, um relatório Tipo II cujo período cubra o uso pretendido é o ponto de partida mais forte.

Um fornecedor pode recusar compartilhar o relatório completo? Fornecedores costumam compartilhar o relatório completo sob acordo de confidencialidade, e alguns pedem que você o assine antes da liberação. Se o fornecedor oferecer apenas um resumo, um logotipo ou uma declaração de marketing, registre isso como documento ausente. Pergunte o que o fornecedor vai entregar e quando, e torne a resposta parte da sua decisão.

Pequenas empresas precisam de evidências SOC 2 de um fornecedor de agentes de IA? Pequenas empresas também guardam registros de clientes, dados de equipe e conhecimento interno, então as perguntas centrais continuam valendo. A profundidade da análise pode ser menor: uma lista curta de documentos, uma visão clara do que o agente pode ler e fazer e uma verificação dos registros durante o piloto podem bastar para um primeiro papel restrito. Amplie a análise conforme as permissões do agente crescerem.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →