Questionário de segurança do cliente sobre uso de IA: como responder

Para responder a um questionário de segurança do cliente sobre uso de IA, descreva o que cada agente faz, a quais dados ele tem acesso, quem pode alterá-lo e como suas ações são revisadas, e sustente cada afirmação com evidências que você consiga apresentar. Mantenha um conjunto único de respostas, para que as respostas sejam consistentes, e diga com clareza onde um controle ainda não existe. Raramente o cliente espera perfeição. Ele espera um relato claro que possa verificar.

Principais pontos

• Responda a partir de uma descrição de uma página do agente: função, dados, ferramentas, permissões e pontos de aprovação.
• Escreva o que é verdade hoje, não o que está planejado. Uma lacuna assumida, com o próximo passo definido, gera mais confiança do que uma garantia vaga.
• Separe três temas que os questionários costumam misturar: tratamento de dados, acesso e supervisão.
• Tenha evidências prontas para cada resposta: listas de permissões, logs, registros de revisão e termos escritos dos provedores.
• Mantenha as respostas como um documento vivo, atualizado sempre que mudarem as ferramentas, os provedores ou as permissões do agente.

Por que os clientes perguntam sobre o seu uso de IA agora?

A maioria dos questionários de segurança foi escrita para softwares que armazenam dados e seguem regras fixas. Um agente de IA se comporta de outra forma. Ele lê documentos, redige mensagens, aciona ferramentas e, às vezes, age em nome de uma pessoa. As equipes de segurança, jurídico e compras do cliente leem isso de maneiras diferentes, e cada uma quer uma garantia diferente.

A segurança quer saber o que o agente alcança e o que ele pode fazer. O jurídico quer saber para onde os dados vão e quem pode usá-los. Compras quer saber quem responde pelo quê. Um bom conjunto de respostas fala com as três áreas sem se contradizer.

Alguns clientes organizam as perguntas com base no NIST AI Risk Management Framework, e outros com base no OWASP Top 10 for LLM Applications. Você não precisa adotar nenhum dos dois formalmente para responder bem. Eles são úteis porque mostram o vocabulário que o avaliador do cliente provavelmente vai usar: governança, controle de acesso, injeção de prompt, monitoramento e tratamento de incidentes.

O que esses questionários realmente perguntam?

A redação varia, mas as perguntas se agrupam em poucas preocupações. Se você responde bem a estas oito, consegue responder à maioria dos questionários com pequenos ajustes.

• Quais modelos e provedores de IA processam os nossos dados, e em quais regiões?
• Os nossos dados são usados para treinar ou melhorar algum modelo?
• Que dados o agente pode ler, gravar ou enviar?
• Quem pode alterar as instruções, as ferramentas e as permissões do agente?
• Quais ações exigem aprovação prévia de uma pessoa?
• O que é registrado em log, por quanto tempo e quem revisa os logs?
• Como vocês tratam erros, incidentes e respostas incorretas?
• O que acontece com os nossos dados quando o contrato termina?

Repare que nenhuma delas pergunta se a sua IA é segura em abstrato. Todas pedem detalhes de um sistema que você opera. É uma boa notícia, porque detalhes podem ser documentados.

Como descrever o tratamento de dados sem prometer demais?

Comece por um fluxo de dados simples. Escreva, em poucas frases, quais informações entram no agente, onde são processadas, o que o agente guarda depois e onde essa memória fica armazenada. Se você tem um diagrama de arquitetura de IA, a resposta sobre o fluxo de dados é, em boa parte, a legenda dele.

Depois, cubra quatro pontos aos quais os clientes voltam sempre.

Primeiro, os provedores de modelo. Indique a categoria de provedor envolvida e o que é enviado a ele: documentos completos, trechos ou apenas a pergunta. Se o agente busca documentos da empresa para atender a uma solicitação, diga que a busca acontece no momento da solicitação e que apenas os trechos relevantes são repassados, se for esse o caso. Não afirme isso sem ter conferido.

Segundo, o treinamento. O cliente quer saber se o material dele melhora o modelo de outra pessoa. A resposta honesta depende dos termos escritos que você tem com cada provedor, então leia-os antes de responder. O guia sobre quem é dono dos prompts e dos dados na IA da empresa ajuda a entender o que deve constar por escrito.

Terceiro, localização e retenção. Informe onde os dados são armazenados e processados, por quanto tempo logs de conversa e memória são mantidos e como funciona a exclusão. Se algo disso for incerto, descubra antes de responder, em vez de supor. A avaliação de segurança de fornecedor de IA mostra quais perguntas fazer ao provedor.

Quarto, o fim do contrato. Descreva o que é devolvido, o que é excluído e qual evidência de exclusão você consegue fornecer.

Uma regra útil: toda frase sobre dados deve ser algo que um colega consiga verificar abrindo uma tela de configurações ou um contrato. Se não dá para verificar, reescreva como o que você sabe e o que está confirmando.

Como explicar o acesso e a supervisão humana?

Acesso e supervisão são onde os avaliadores gastam mais tempo, porque definem o que acontece quando algo dá errado.

Sobre o acesso, descreva o agente como descreveria um novo funcionário com uma função restrita. Ele tem identidade própria, não um login pessoal compartilhado. Tem as permissões mínimas necessárias para o trabalho. Cada ferramenta que ele pode usar está listada, com o que ela permite: somente leitura, somente rascunho ou ação. O OWASP Authorization Cheat Sheet é uma boa referência para os princípios por trás disso, incluindo o privilégio mínimo e a checagem de permissões a cada requisição. Se a sua revisão dessas permissões é periódica, diga isso e indique a evidência. Uma rotina clara de identidade e contas próprias para o agente de IA dá a você algo concreto para descrever.

Sobre a supervisão, responda a três perguntas, nesta ordem. Quais ações o agente pode executar sozinho? Quais exigem a aprovação prévia de uma pessoa nomeada? Quem é essa pessoa e o que acontece se ela estiver indisponível? Ações com consequências, como enviar mensagens externas, alterar registros ou movimentar dinheiro, devem ficar atrás de uma aprovação, a menos que haja uma decisão deliberada em contrário.

Sobre o monitoramento, informe o que é registrado. Logs de solicitações, chamadas de ferramentas e resultados permitem reconstituir o que aconteceu. O material introdutório de observabilidade do OpenTelemetry explica traces, métricas e logs em linguagem simples e serve de vocabulário comum caso os engenheiros do cliente perguntem como você observa o sistema.

Por fim, seja franco sobre a injeção de prompt, em que um texto dentro de um documento ou de uma página web tenta desviar o comportamento do agente. É um risco reconhecido para qualquer sistema que lê conteúdo não confiável, e ninguém pode afirmar que o eliminou. A resposta defensável é que você limita o que o agente pode fazer, mantém as ações com consequências atrás de aprovação e revisa o comportamento dele. A afirmação a evitar é a de que isso não pode acontecer.

Passo a passo para montar o seu conjunto de respostas

Faça isso uma vez, com cuidado, e cada questionário seguinte vira uma tarefa de edição, não um projeto de pesquisa.

• Nomeie um responsável. Uma pessoa responde pela exatidão das respostas sobre IA, mesmo que várias contribuam.
• Liste todos os agentes e ferramentas de IA em uso que tocam dados ou trabalhos de clientes, inclusive os adotados de maneira informal por equipes individuais.
• Para cada um, escreva um perfil de uma página: função, dados a que tem acesso, ferramentas, permissões, pontos de aprovação e o provedor que processa os dados.
• Reúna os termos escritos de cada provedor e anote as posições sobre treinamento, retenção, localização e exclusão.
• Redija respostas padrão para as oito perguntas comuns acima, cada uma com uma breve nota de evidência, como o local onde ficam a lista de permissões ou a amostra de logs.
• Registre as lacunas com honestidade. Para cada uma, escreva a situação atual, a mitigação provisória e quem é responsável pela correção.
• Peça a alguém de fora da equipe que redigiu, de preferência da segurança ou do jurídico, que leia as respostas e questione qualquer frase que não consiga verificar.
• Defina um gatilho de revisão: atualize o conjunto sempre que um provedor, uma ferramenta ou uma permissão mudar, e também em intervalos regulares, mesmo que nada tenha mudado.

O gatilho de mudança é o que mais importa. Se o agente ganha uma nova ferramenta e o conjunto de respostas ainda descreve a antiga, o documento vira um risco. Vincule as atualizações à sua rotina de operação do agente de IA no dia a dia, para que as respostas mudem junto com o agente.

Como é uma resposta honesta na prática?

Cenário ilustrativo: uma pequena empresa de serviços usa um agente que redige respostas a e-mails de clientes com base em uma pasta compartilhada de correspondências anteriores. O questionário de um cliente pergunta: "A IA de vocês tem acesso aos nossos contratos?" O primeiro impulso é escrever "Não, o acesso é restrito".

Antes de responder, o responsável de operações confere as permissões reais da pasta e descobre que o acesso do agente abrange todo o drive compartilhado, que inclui os contratos desse cliente. A resposta honesta, hoje, é sim. Então a empresa restringe o acesso do agente às pastas de correspondência, registra a mudança e só depois responde que o agente pode ler a correspondência anterior com o cliente para fins de redação, não pode ler arquivos de contrato, não envia nada sem a aprovação de um funcionário e mantém um log de sua atividade. Ela acrescenta à nota de evidência da resposta a data da próxima revisão de permissões.

A lição é que o questionário funcionou como uma auditoria. Conferir a resposta melhorou o sistema. Uma empresa que tivesse escrito a resposta confortável teria arquivada uma resposta falsa, o que é pior do que uma resposta desconfortável.

Como a abordagem gerenciada da Be Human ajuda nisso?

A Be Human projeta, implanta e opera agentes de IA com identidade, memória, ferramentas e permissões mantidas sob controle humano. Cada projeto começa definindo uma função, a memória e as ferramentas de que ela precisa, os limites de aprovação e um critério de sucesso que você possa observar. Essa definição é o mesmo material que o questionário pede, então pode servir de base para as suas respostas. A operação gerenciada pode incluir monitoramento, avaliações recorrentes, revisão de permissões, manutenção de integrações e resposta a incidentes, que geram as evidências contínuas que os clientes pedem para ver. A Be Human não declara certificações nem garantias em seu nome, e as suas respostas devem descrever os seus próprios controles e os termos dos seus próprios provedores.

Perguntas frequentes

Devemos mencionar o uso de IA se o questionário não perguntar? Se o agente toca dados do cliente ou produz trabalho para ele, sim, na medida do seu envolvimento. Verifique no contrato as regras de notificação e considere uma nota curta nas suas divulgações padrão. Clientes que descobrem depois um uso de IA não informado tendem a reagir com mais força do que os que foram avisados desde cedo.

E se o cliente exigir uma certificação que não temos? Diga isso diretamente e descreva os controles que você de fato opera e as evidências por trás deles. Não sugira uma equivalência que você não consegue demonstrar. Muitos clientes aceitam controles documentados acompanhados de um plano declarado, e alguns oferecem uma revisão alternativa.

Com que frequência devemos atualizar as respostas? Atualize sempre que mudar um provedor, uma ferramenta, uma permissão ou o local dos dados, e também em um ciclo regular de revisão, mesmo sem mudanças. Um bom hábito é revisar o conjunto de respostas sempre que o próprio agente for revisado, já que os dois devem descrever o mesmo sistema.

Um agente de IA pode preencher o questionário por nós? Ele pode produzir um bom primeiro rascunho a partir da sua documentação e economizar tempo. Ainda assim, uma pessoa nomeada precisa verificar cada afirmação sobre segurança, porque o agente pode soar confiante sobre coisas que não tem como checar. Trate o resultado como um rascunho para o responsável, nunca como a resposta oficial.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.