Ir para conteúdo
be-human.ai
← Voltar ao blog

Supervisão humana

Seguro cibernético e agentes de IA: os controles que as seguradoras pedem

Seguradoras perguntam sobre agentes de IA para checar acessos, registros, limites de gasto e aprovação humana em pagamentos. Veja como preparar as provas.

Capa tipográfica do Be Human com o título: Seguro cibernético e agentes de IA: os controles que as seguradoras pedem
Ilustração conceitual criada com IA · Be Human

Subscritores de seguro cibernético que perguntam sobre agentes de IA querem evidências de três coisas: que o agente não consegue agir além do que a empresa aprovou, que suas ações podem ser reconstruídas depois e que uma pessoa autoriza movimentações de dinheiro e alterações sensíveis. As perguntas costumam se concentrar em revisão de acessos, registros de ações, aprovação humana para pagamentos e na rapidez com que um acesso pode ser revogado. Uma empresa que consegue mostrar esses controles por escrito e na prática tem muito mais margem para negociar condições do que uma que descreve o agente como um assistente geral.

Principais pontos

  • Os subscritores se importam menos com a capacidade do agente e mais com o fato de uma perda ser limitada, detectável e explicável.
  • Cada agente precisa de identidade própria, de um dono nomeado, de uma descrição de função escrita e de uma lista atualizada das ferramentas que ele alcança.
  • Revisões de acesso, registros de ações e registros de aprovação devem existir antes do questionário de renovação chegar, e não ser montados em cima da hora.
  • Ações de pagamento e movimentação de dinheiro exigem uma etapa de aprovação humana real, registrada e fora do alcance do agente.
  • A revogação é um procedimento testado, com pessoas definidas, e não uma configuração que alguém espera encontrar quando algo dá errado.

O que os subscritores querem entender

Dificilmente os subscritores perguntam se o seu agente de IA é inteligente. Eles querem saber se um incidente envolvendo o agente ficaria restrito, seria visível para a sua equipe e poderia ser explicado a um terceiro. A apólice de seguro cibernético depende de controles que já existem para pessoas e sistemas: quem tem acesso, o que cada um fez, quem aprovou ações sensíveis e com que rapidez um problema foi contido. O agente se encaixa nessas mesmas perguntas, com uma diferença. Ele pode executar muitas ações pequenas em pouco tempo, por meio de ferramentas que alguém configurou antes e que poucas pessoas na empresa ainda lembram.

Para o dono de um negócio, a forma mais útil de pensar é tratar cada agente como uma conta não humana, com função definida, permissões definidas e um responsável nomeado. Se você não consegue dizer quem é o dono, listar as ferramentas que o agente pode acionar e mostrar quando alguém revisou essas permissões pela última vez, a conversa com a seguradora vai ser mais difícil do que precisa. Para as perguntas que vale levar ao seu corretor sobre como a apólice trata ações automatizadas, veja Seguro de responsabilidade civil para agentes de IA: o que perguntam.

Revisão de acessos: o que o agente realmente consegue fazer?

Comece pela identidade. A maioria dos agentes age por meio de credenciais: um token de API, uma autorização OAuth, uma conta de serviço ou uma conexão com um canal de mensagens. Os subscritores costumam perguntar se o agente tem identidade própria ou se usa o login de um funcionário. Logins emprestados causam dois problemas. Os registros passam a mostrar o nome de uma pessoa em trabalho que ela não fez, e desligar essa pessoa pode quebrar o agente em silêncio ou deixá-lo com acessos que ninguém pretendia dar.

Uma revisão de acessos responde a uma pergunta: as permissões ainda combinam com a função? Uma revisão útil cobre os pontos abaixo:

  • A lista completa de ferramentas e fontes de dados que o agente alcança, com o motivo de negócio de cada uma.
  • Acesso de leitura separado do acesso de escrita, com a indicação de quais ações de escrita podem ser desfeitas.
  • Escopos OAuth e permissões de API comparados com o escopo mais restrito que ainda faz o trabalho.
  • Memórias compartilhadas e bases de conhecimento, incluindo quem pode incluir e quem pode apagar conteúdo.
  • A pessoa que aprovou o conjunto atual de permissões e a data da última revisão.

A OWASP Authorization Cheat Sheet é uma referência prática para o princípio por trás dessas verificações: decisões de acesso devem seguir uma política explícita, ser aplicadas em cada requisição e não depender do que a interface mostra ao usuário. Um agente que consegue chamar uma ferramenta, mesmo que nenhum menu a exiba, precisa da mesma disciplina de qualquer outra conta. A revisão periódica desse conjunto de permissões é tratada com mais detalhe em Revisão de acessos de agentes de IA: auditoria trimestral de permissões.

Registros: dá para reconstruir o que aconteceu?

Os registros transformam um incidente de uma história contestada em um conjunto de fatos. Subscritores e reguladores de sinistros querem saber o que o agente recebeu como pedido, qual contexto ele usou, quais ferramentas chamou, o que cada chamada devolveu e qual pessoa ou regra permitiu a ação final. Um registro que diz apenas que o agente enviou um e-mail não ajuda quando um cliente contesta o conteúdo da mensagem ou o motivo do envio.

Registros úteis de agentes têm algumas características em comum. Cada ação traz data e hora, a identidade que a executou, o nome da ferramenta, os parâmetros, o resultado e um vínculo com a solicitação que a disparou. Dados pessoais nos parâmetros são mascarados quando sua política exige, mas o registro continua mostrando o que aconteceu. Os logs ficam guardados onde o agente não consegue editá-los ou apagá-los, e o prazo de retenção segue uma regra escrita, e não o padrão que o fornecedor traz de fábrica.

A introdução do OpenTelemetry sobre observabilidade descreve a disciplina geral de coletar traces, métricas e logs para que o comportamento de um sistema possa ser entendido a partir do que ele produz. O mesmo raciocínio vale para agentes: instrumente os passos que o agente dá, e não apenas a resposta final. Se o rastro termina na resposta, você não consegue mostrar a um subscritor como ela foi construída.

A mensagem final no registro diz o que foi enviado. Os passos anteriores dizem se deveria ter sido.

Cenário ilustrativo: uma pequena distribuidora deixa um agente responder perguntas rotineiras de clientes sobre o status de pedidos. Numa tarde, um cliente reclama de uma data de entrega que se mostrou errada. Como cada passo foi registrado, a equipe vê que o agente leu uma tabela de frete desatualizada, identifica a data da última atualização dessa tabela e confirma que ela não deveria ser fonte para prazos. A equipe corrige a fonte, registra a mudança e consegue explicar o incidente no mesmo dia.

Aprovação humana para pagamentos e movimentação de dinheiro

Pagamentos são o ponto em que os subscritores costumam ser mais diretos. Se um agente pode iniciar uma transferência bancária, alterar os dados bancários de um fornecedor, emitir um reembolso ou gastar com o cartão corporativo, a pergunta é quem fica entre a decisão do agente e o dinheiro. A resposta usual é uma etapa de aprovação humana, e a pergunta seguinte é se essa etapa é real ou apenas formal.

Uma etapa de aprovação real tem quatro características. O aprovador vê a ação específica, o valor, o destinatário e o motivo, e não uma mensagem genérica pedindo permissão. O aprovador é uma pessoa nomeada e, em operações maiores ou de maior risco, não é a mesma pessoa que solicitou a ação. A decisão e o horário ficam registrados. O agente não consegue aprovar o próprio pedido por outra ferramenta, por um atalho salvo ou por uma instrução que o mande pular a etapa.

As repetições também importam. Agentes e os sistemas ao redor deles às vezes enviam a mesma instrução duas vezes, e um pagamento processado duas vezes é uma perda que a aprovação sozinha não impede. A documentação da Stripe sobre requisições idempotentes mostra como um provedor pode reconhecer uma requisição repetida e evitar processá-la de novo. Pergunte se cada chamada de pagamento carrega uma chave de idempotência e se o registro mostra tanto a tentativa original quanto a nova tentativa.

Algumas empresas definem níveis de aprovação diferentes conforme o valor ou o tipo de ação. Para um guia sobre quais ações exigem uma segunda pessoa, veja Aprovação humana para agentes de IA: onde as pessoas assinam. Para decidir onde as etapas de aprovação devem ficar dentro de um fluxo, veja Quando seu agente de IA deve parar e perguntar?.

Revogação: com que rapidez você consegue parar o agente?

Os subscritores perguntam com que velocidade você consegue cortar o acesso de um agente, e a resposta honesta cita passos específicos. Quais tokens são revogados? Quais canais são desconectados? Quem tem autoridade para pausar o agente e quem é o substituto? O que acontece com o trabalho que o agente deixou na fila e ainda não terminou? A revogação é um roteiro que toca vários sistemas, então não pode ser uma única configuração em um só lugar.

Quando uma pessoa que configurou ou supervisionava o agente deixa a empresa, as mesmas perguntas valem, com mais urgência. Os passos para remover o acesso dessa pessoa às ferramentas do agente estão em Desligamento de funcionário e agentes de IA: checklist do mesmo dia. Trate as credenciais próprias do agente da mesma forma: elas pertencem à empresa, devem estar listadas e devem poder ser removidas sem esperar que quem construiu o agente esteja disponível.

O procedimento de pausa deve ser testado pelo menos uma vez e o resultado deve ficar por escrito. Um teste que revela uma credencial faltando ou uma fila desconhecida tem valor, porque é muito mais barato descobrir isso numa tarde tranquila do que durante um incidente.

Um plano passo a passo para preparar as evidências

Se uma renovação ou uma nova apólice está chegando, esta sequência produz a maior parte do que um subscritor vai pedir para ver:

  • Primeiro, escreva uma descrição curta da função de cada agente e nomeie a pessoa responsável por ela.
  • Depois, liste cada ferramenta, fonte de dados e permissão que o agente possui, com o motivo de negócio de cada uma.
  • Marque todas as ações que movimentam dinheiro, alteram registros de clientes ou enviam mensagens para fora da empresa.
  • Confirme que cada ação marcada tem uma etapa de aprovação humana e que a aprovação fica registrada com o nome e o horário do aprovador.
  • Exporte uma amostra de registros recentes e verifique se cada entrada pode ser rastreada até uma solicitação, uma chamada de ferramenta e um resultado.
  • Execute uma revisão de acessos, registre o que foi removido ou restringido e guarde a aprovação.
  • Por fim, teste o procedimento de pausa e revogação e guarde o registro junto com as outras evidências.

O objetivo desse plano não é produzir um documento para uma reunião. Subscritores, auditores e a sua própria equipe vão fazer as mesmas perguntas de novo, e as respostas devem ser fáceis de atualizar.

Onde uma operação gerenciada se encaixa, e um primeiro passo

A Be Human desenha, implementa e opera agentes de IA personalizados cuja identidade, memória, canais, ferramentas, permissões e contexto operacional continuam sob controle humano. Um primeiro projeto define uma função útil, a memória e as ferramentas que essa função precisa, os limites de aprovação e um critério de sucesso que possa ser observado. A operação gerenciada pode incluir monitoramento, avaliações recorrentes, revisão de permissões, manutenção de integrações e resposta a incidentes, para que as revisões de acesso e as verificações de registros aconteçam em cronograma, e não uma vez por ano. A Be Human não promete condições de seguro nem qualquer resultado específico de subscrição. O que ela pode ajudar a empresa a produzir são os registros e controles que um subscritor vai querer ver.

Se você não tem certeza de qual tarefa deve ser a primeira a ser entregue a um agente, faça o diagnóstico gratuito de IA da Be Human para identificar a primeira tarefa que vale a pena delegar.

Perguntas frequentes

O seguro cibernético cobre perdas causadas por agentes de IA? A cobertura depende do texto da sua apólice e da seguradora, então não existe uma resposta geral que valha para todas as empresas. Pergunte diretamente ao seu corretor como a apólice trata perdas em que um sistema automatizado executou a ação, e se exclusões ou condições mencionam aprovação humana, registros ou controles de acesso. Anote as respostas e guarde-as junto com a documentação do agente.

Quais registros os subscritores costumam querer ver de um agente? Normalmente, eles querem saber o que o agente fez, quando, com qual identidade, por qual ferramenta e com qual resultado. Também querem saber qual pessoa ou regra autorizou ações sensíveis. Uma amostra de registros que pode ser rastreada da solicitação até o resultado convence mais do que uma longa descrição abstrata de como o registro funciona.

Preciso de uma pessoa para aprovar toda ação de um agente? Geralmente não, e exigir aprovação para tudo tende a tornar a aprovação sem sentido. Concentre a aprovação humana em ações que movimentam dinheiro, alteram registros sensíveis ou se comunicam com gente de fora da empresa, e deixe leituras e rascunhos de baixo risco rodarem dentro das permissões. Revise essa fronteira periodicamente, à medida que o histórico do agente e as necessidades do negócio mudam.

O que devemos preparar antes de chegar um questionário de renovação? Prepare as evidências antes que o questionário chegue: um dono para cada agente, uma lista atual de ferramentas e permissões, o registro da última revisão de acessos, uma amostra de registros rastreáveis, a lista de ações que passam por aprovação e um procedimento de pausa testado. Guarde esses documentos em um único lugar e atualize-os em cronograma. Responder com base em registros existentes é mais rápido, mais preciso e mais fácil de defender do que reconstruí-los sob pressão.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →