Ir para conteúdo
be-human.ai
← Voltar ao blog

Supervisão humana

Questionário de segurança para fornecedor de IA: acesso, logs e saída

Perguntas para qualquer fornecedor de agentes de IA antes de assinar, sobre acesso, logs, uso de dados, suboperadores e saída, com verificações práticas.

Capa tipográfica do Be Human com o título: Questionário de segurança para fornecedor de IA: acesso, logs e saída
Ilustração conceitual criada com IA · Be Human

Um questionário de segurança para fornecedor de IA é uma lista escrita de perguntas que uma empresa faz a um fornecedor de agentes antes de assinar, cobrindo acesso, registros, uso de dados e saída. Sua finalidade é substituir impressões de demonstração por respostas escritas que você possa verificar: o que o agente consegue alcançar, o que ele registra, quem pode ler esse registro e como sua empresa recupera os próprios dados e a configuração. Envie o questionário antes de a conversa comercial terminar e trate como não pronto para assinar qualquer fornecedor que responda apenas em termos gerais.

Principais pontos

  • Peça a todo fornecedor de agentes respostas escritas sobre acesso, registros, uso de dados e saída antes de comparar funcionalidades.
  • Exija que o agente opere com identidade própria e permissões restritas, nunca com um login de administrador compartilhado.
  • Obtenha por escrito o prazo de retenção de logs, memória e prompts, junto com a lista de pessoas que podem lê-los.
  • Confirme no contrato que seus dados não serão usados para treinar modelos compartilhados, a menos que você autorize expressamente.
  • Teste a saída antes de precisar dela: peça uma exportação documentada de memória, configuração e logs, e a confirmação escrita da exclusão.

Por que o questionário vem antes da demonstração

Uma demonstração mostra o que um agente faz com entradas preparadas em um dia bom. Ela não mostra quais sistemas o agente consegue alcançar, o que ele registra quando algo dá errado nem quais pessoas do fornecedor podem ler esses registros. Um questionário escrito transforma essas lacunas em respostas que as áreas jurídica, de segurança e de operações podem comparar entre fornecedores.

O NIST AI Risk Management Framework organiza esse trabalho em quatro funções: governar, mapear, medir e gerenciar. Você não precisa adotar o framework para aproveitar a estrutura. Perguntas sobre acesso e saída pertencem sobretudo a governar e gerenciar, o registro pertence a medir, e o uso de dados pertence a mapear, porque pergunta por onde suas informações realmente circulam.

Peça evidências junto com cada resposta. Um “sim” para “vocês registram chamadas de ferramentas?” diz pouco sem um exemplo de registro, uma configuração de retenção e um formato de exportação. Se o fornecedor não consegue mostrar o artefato, registre essa lacuna na resposta ao questionário.

Acesso: o que o agente alcança e quem pode alterar isso

O acesso é onde a maioria dos riscos de agentes começa. Um agente que lê uma pasta compartilhada e envia mensagens pode causar dano mais rápido do que uma pessoa na mesma posição, e pode fazê-lo a qualquer hora. As orientações de autorização da OWASP partem de um princípio simples: conceder apenas o acesso que a função exige e verificar esse acesso no momento do uso. Faça estas perguntas a todo fornecedor:

  • O agente opera com identidade própria nos nossos sistemas, ou usa um login de funcionário ou uma conta de administrador compartilhada?
  • Quais ferramentas e fontes de dados ele chama por padrão, e cada uma pode ser limitada a somente leitura ou a pastas, registros ou canais específicos?
  • Quem do lado do fornecedor pode alterar as permissões do agente, e cada alteração é registrada com um motivo?
  • Quais ações podem exigir um segundo aprovador antes de serem executadas, e podemos definir essa regra nós mesmos em vez de aceitar o padrão do fornecedor?
  • Como as credenciais são armazenadas, renovadas e revogadas, e em quanto tempo uma revogação impede o agente de agir?

Peça respostas descritas em termos da sua configuração, não na linguagem comercial do fornecedor. “Oferecemos controle de acesso por função” é uma afirmação de produto. “O agente de atendimento lê o histórico de chamados e rascunha respostas, mas não emite reembolsos nem altera cadastros de clientes” é uma configuração que você pode testar em um ambiente de homologação.

Registros: o que você consegue ver depois de um problema

Um log só é útil se responder às perguntas que você fará após um incidente: o que o agente recebeu como pedido, o que consultou, o que fez, quem aprovou e o que falhou. A introdução à observabilidade do OpenTelemetry descreve logs, traces e métricas como sinais separados que funcionam juntos. Esse vocabulário ajuda a perguntar com precisão o que o fornecedor registra e o que você pode exportar.

  • Quais eventos são registrados, incluindo prompts, fontes consultadas, chamadas de ferramentas, resultados de ferramentas, aprovações, recusas e erros?
  • Cada entrada traz data e hora e a identidade que a disparou, para que a sequência de ações possa ser reconstruída em ordem?
  • Podemos exportar os logs para um armazenamento que controlamos, em formato padrão e documentado, sem depender de o suporte preparar o arquivo?
  • Por quanto tempo os logs são mantidos por padrão, e podemos definir um prazo menor ou maior por escrito?
  • Os dados pessoais são mascarados nos logs, e o que acontece com uma entrada de log quando um cliente pede exclusão?
  • Um engenheiro de suporte do fornecedor pode abrir nossos logs, e esse acesso fica registrado e visível para nós?

Detalhe de auditoria e dados pessoais puxam em direções opostas. Mantenha detalhe suficiente para reconstruir uma decisão e mascare o que você não precisa guardar. O guia sobre redação de dados pessoais em logs de agentes de IA mostra como encontrar esse equilíbrio antes que o primeiro incidente force a pergunta.

Uso de dados: treinamento, retenção e suboperadores

Três coisas diferentes costumam ser misturadas: os dados colocados no contexto de trabalho do agente, os dados que o fornecedor armazena e os dados que o fornecedor pode usar para melhorar seus sistemas. Pergunte sobre cada uma separadamente. Um fornecedor pode guardar o histórico de conversas por um período limitado e nunca treinar com ele, ou pode fazer o contrário. Não aceite uma única frase que cubra as três.

  • Nossos dados são usados para treinar ou ajustar algum modelo, inclusive modelos compartilhados com outros clientes, e isso é o padrão ou exige opt-in?
  • Onde os dados são armazenados e processados, e podemos escolher a região da memória, dos arquivos enviados e dos logs?
  • Quais suboperadores tratam nossos dados, e como e quando somos avisados quando essa lista muda?
  • Qual é o prazo de retenção da memória de conversas, dos arquivos enviados e das saídas de ferramentas, e quem pode encurtá-lo?
  • O contrato de tratamento de dados cobre a memória do agente, os logs e os prompts, e não apenas o serviço principal?

Os suboperadores merecem revisão própria, porque um agente costuma chamar várias ferramentas, cada uma operada por uma empresa diferente. O artigo sobre suboperadores de dados do fornecedor de IA explica como mapear essa cadeia antes de assinar.

Cenário ilustrativo, não um caso real: uma empresa de serviços pergunta a um fornecedor onde fica a memória do agente de atendimento. A resposta cita a região principal, mas nada diz sobre cópias de segurança. A equipe acrescenta uma cláusula que exige aviso por escrito antes de usar qualquer novo local de armazenamento e pede que o local das cópias de segurança conste na resposta ao questionário.

Saída: recuperar memória, configuração e logs

A saída é a pergunta que mais compradores deixam de lado, e ela fica cara depois. Um agente acumula memória, configuração de ferramentas, histórico de prompts e registros de aprovação. Se tudo isso vive apenas dentro do sistema do fornecedor, sair significa perder um contexto que sua equipe levou meses para moldar. A introdução ao Model Context Protocol descreve uma forma aberta de conectar modelos a ferramentas e dados, e essa é uma razão para perguntar se as definições das suas ferramentas podem acompanhar você caso troque de fornecedor.

Use esta lista como a seção de saída do questionário:

  • Uma exportação escrita da memória, da configuração, dos prompts e dos logs, em formato documentado e testada com uma amostra antes de você precisar dela
  • Um prazo de exclusão após o encerramento, com confirmação escrita de que a memória e as cópias de segurança foram removidas
  • Revogação de todas as credenciais e conexões com ferramentas em um cronograma informado
  • Uma regra para ações na fila ou em andamento no encerramento, como pausá-las em vez de deixá-las terminar
  • Um contato nomeado para incidentes durante o período de transição

A saída também se conecta à sua própria equipe. Quando alguém sai da empresa, as mesmas ferramentas e aprovações precisam ser redistribuídas ou removidas, e o checklist de desligamento do mesmo dia para ferramentas de agentes mostra o lado interno desse processo.

Como a Be Human trata essas perguntas

A Be Human projeta, implanta e opera infraestrutura de IA personalizada, na qual cada agente mantém sua identidade, memória, canais, ferramentas, permissões e contexto operacional sob controle humano. Uma primeira implantação define um papel útil, a memória e as ferramentas que esse papel precisa, os limites de aprovação e um critério de sucesso observável. Assim, as perguntas de acesso e dados acima têm respostas concretas antes de qualquer conexão. A operação gerenciada cobre então monitoramento, avaliações recorrentes, manutenção das integrações, revisão de permissões e resposta a incidentes, de modo que as mesmas perguntas de acesso e registro sejam revisitadas sempre que o escopo do agente mudar. O serviço é entregue remotamente, em inglês e em português.

Transforme as respostas em uma decisão de avançar ou parar

Antes de assinar, avalie as respostas com base em um conjunto curto de condições. Avance somente quando estas forem verdadeiras:

  • Cada resposta sobre acesso corresponde a uma ferramenta, um papel e uma regra de aprovação nomeados na sua própria configuração
  • Uma entrada de log com dados ocultados está disponível para sua revisão
  • O uso para treinamento e a retenção estão declarados no contrato, e não apenas no material comercial
  • A lista de suboperadores está completa e vem com um mecanismo de aviso para mudanças
  • A exportação de saída foi testada com um conjunto de dados de amostra

Se alguma condição estiver faltando, a resposta não é um não definitivo, mas o contrato deve esperar até que a lacuna seja fechada por escrito. Compare o placar final com sua revisão de segurança pré-lançamento para agentes antes que o agente toque sistemas em produção. Se ainda não estiver claro qual tarefa deve ir primeiro para um agente, o diagnóstico gratuito de IA da Be Human ajuda a identificar a primeira tarefa que vale entregar a um agente.

Perguntas frequentes

Um fornecedor pode se recusar a responder a essas perguntas? Pode, e essa recusa já é uma informação. Um fornecedor que não descreve por escrito seus registros, seu uso de dados e sua saída antes da assinatura está pedindo que você aceite um risco que não consegue medir. Peça o motivo por escrito e compare a resposta com a de outros fornecedores antes de seguir adiante.

Ainda precisamos de revisão jurídica se usarmos este questionário? Sim, para o contrato. O questionário reúne fatos e evidências, enquanto o contrato de tratamento de dados e os termos transformam esses fatos em obrigações. Um revisor jurídico ou de privacidade deve confirmar que cada resposta importante aparece no documento assinado, e não apenas em uma conversa comercial.

Um questionário basta para uma empresa pequena sem equipe de segurança? É um bom ponto de partida, mas funciona melhor com um responsável nomeado que guarde as respostas e as revise após cada mudança relevante. Mantenha a lista curta, guarde as respostas junto com o contrato e repita as perguntas principais sempre que o agente ganhar uma nova ferramenta ou uma nova categoria de dados.

Com que frequência devemos repetir o questionário com o mesmo fornecedor? Repita quando o escopo do agente mudar, quando o fornecedor anunciar uma mudança em seus suboperadores ou no tratamento de dados, e no seu ciclo regular de revisão. Compare cada novo conjunto de respostas com o registro escrito da assinatura, para que as mudanças na prática fiquem visíveis e não sejam presumidas.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →