Seguro de responsabilidade civil para agentes de IA: o que perguntam

O seguro de responsabilidade civil para agentes de IA é a cobertura que pode responder por prejuízos financeiros ou reclamações de terceiros causados por erros de um agente de IA, como uma mensagem errada enviada a um cliente ou uma ação tomada sem autorização adequada. Para decidir se cobre esses erros e em que condições, a seguradora geralmente analisa três coisas: o que o agente pode fazer, o que ele registra e quem aprova suas ações relevantes. Antes de pedir uma cotação ao corretor, o dono da empresa deve conseguir responder por escrito a essas três perguntas.

Principais pontos

• A seguradora começa pelos limites do agente: quais sistemas ele pode ler ou alterar e quais compromissos ele pode assumir em nome da empresa.
• Um registro só é útil se permitir reconstruir uma decisão, incluindo as entradas, as chamadas de ferramentas e o estado da aprovação naquele momento.
• As regras de aprovação precisam estar ligadas a tipos específicos de ação e ser aplicadas pelo sistema, não deixadas à memória ou ao hábito.
• As condições da cobertura dependem da seguradora, da apólice e da jurisdição, então trate estas perguntas como preparação, não como um padrão publicado.
• Controles que você consegue demonstrar com registros valem mais numa conversa com o corretor do que controles descritos apenas no texto da apólice.

Por que as seguradoras perguntam sobre controles antes de falar de cobertura

A subscrição é uma avaliação de como um prejuízo poderia acontecer e de quão grande ele poderia ser. No caso de um agente de IA, essa avaliação depende da autoridade que o agente tem, dos sistemas que ele pode alterar e da rapidez com que uma ação errada seria percebida. Um agente que rascunha respostas para um funcionário enviar tem uma exposição diferente de um agente que emite reembolsos ou altera um pedido de fornecedor. Por isso, as primeiras perguntas costumam ser sobre limites e evidências, não sobre valores de prêmio ou franquia.

As práticas variam conforme a seguradora, a jurisdição e o tipo de apólice, e não existe um questionário único para agentes de IA que todas as seguradoras usem. O NIST AI Risk Management Framework é um vocabulário comum útil para nomear riscos, responsáveis e controles antes de qualquer análise começar. Use as perguntas abaixo para se preparar para uma conversa séria e peça ao seu corretor que informe quais perguntas aquela seguradora específica está fazendo neste momento.

O que o agente tem permissão para fazer?

O escopo é a primeira coisa a definir por escrito. A seguradora quer saber o que o agente consegue acessar, o que pode alterar e o que pode prometer ou gastar em nome da empresa. Espere perguntas como estas:

• Quais sistemas o agente pode ler e em quais ele pode gravar?
• Quais ações ele pode executar sem que uma pessoa revise antes?
• Quais limites se aplicam a dinheiro, compromissos, exclusões e mensagens enviadas a clientes?
• Quais credenciais ele usa, e elas estão restritas ao papel do agente em vez da conta de uma pessoa?
• Com que rapidez o acesso pode ser removido e quem tem autoridade para removê-lo?

Cada resposta deve corresponder à configuração real do sistema, e não apenas a um documento de política. Se a política escrita diz que o agente não pode emitir reembolsos, mas as credenciais dele permitem reembolsos, essa diferença é o primeiro ponto que um avaliador vai encontrar. Uma abordagem por níveis ajuda: o agente começa com acesso de leitura e permissões estreitas de escrita, e cada ampliação é uma decisão registrada, com motivo. O artigo sobre níveis de permissão para agentes de IA descreve como estruturar essas etapas.

Você consegue reconstruir o que o agente fez?

Quando algo dá errado, a primeira tarefa é reconstruir os fatos. Quem pediu a ação, quais informações o agente usou, quais ferramentas chamou e com quais parâmetros, o que cada uma devolveu e se uma pessoa aprovou. Se esses dados não puderem ser reunidos rapidamente, a empresa enfrenta uma disputa que não consegue resolver com evidências, o que enfraquece sua posição diante do regulador de sinistros e do cliente.

Bons registros de agentes seguem a mesma lógica da observabilidade de aplicações. Os rastros ligam uma solicitação a cada etapa, e os carimbos de data e hora colocam cada etapa em ordem. O material introdutório do OpenTelemetry explica esses blocos de construção em termos gerais, e eles se aplicam diretamente a um agente que chama vários sistemas em uma mesma tarefa. Para cada ação relevante, o registro deve conter:

• a solicitação ou o gatilho que iniciou a tarefa, com o horário em que chegou
• a versão das instruções e o contexto que o agente usou
• cada chamada de ferramenta, seus parâmetros e seu resultado
• a saída enviada a uma pessoa ou a outro sistema
• o registro da aprovação, incluindo quem aprovou, exatamente o que foi aprovado e quando essa aprovação expira

Os registros também contêm dados pessoais e de negócio, então a retenção e o acesso precisam de regras próprias. Guarde o suficiente para investigar uma reclamação ou um erro e limite quem pode ler esses registros.

[figure]

Quem aprovou a ação, e quando?

As seguradoras costumam procurar a distância entre a política escrita de aprovação e o que o sistema realmente impõe. Uma política que diz que um gerente deve aprovar reembolsos acima de determinado valor só é evidência se o agente não conseguir enviar esse reembolso sem que exista um registro de aprovação. Os limites de aprovação devem ser definidos por tipo de ação, não por categorias vagas como tarefas importantes. O guia sobre quando o agente de IA deve parar e perguntar mostra como posicionar esses pontos de parada dentro de um fluxo.

Três propriedades importam. O sistema precisa registrar a aprovação, a aprovação precisa cobrir uma ação específica e não uma instrução geral, e ela deve expirar ou exigir renovação quando as condições mudarem. Um agente que pede uma única permissão para fazer um lote ilimitado de alterações carrega um risco diferente de um agente que pede aprovação para cada alteração ou para um lote delimitado.

Cenário ilustrativo: uma empresa regional de manutenção deixa um agente rascunhar orçamentos de serviço para a equipe do escritório. O agente pode calcular um orçamento e salvá-lo como rascunho sem revisão. Enviar o orçamento ao cliente exige que um funcionário aprove aquele orçamento exato no sistema, e orçamentos acima de um limite definido na política também precisam da aprovação de um supervisor. Quando um cliente contesta um preço semanas depois, a empresa consegue mostrar a política, o registro de aprovação daquele orçamento e os dados de cálculo que o agente usou.

Uma lista de verificação antes de pedir cotação ao corretor

Antes da conversa com o corretor, reúna um arquivo curto de evidências. Ele não precisa ser longo, mas cada item deve apontar para algo que um avaliador consiga verificar.

• Escreva uma descrição de uma página com o papel do agente, os sistemas que ele toca e a pessoa nomeada como responsável.
• Liste cada tipo de ação que o agente pode executar, marcando se ela é permitida isoladamente, se é permitida após aprovação ou se não é permitida de forma alguma.
• Confirme que cada credencial está restrita ao papel do agente, pode ser revogada em uma única etapa e também é registrada.
• Confirme que cada chamada de ferramenta e cada saída são registradas com carimbo de data e hora e com um vínculo para a solicitação que as disparou.
• Documente como uma aprovação é solicitada, quem pode concedê-la, o que ela cobre e por quanto tempo continua válida.
• Teste o agente com casos de falha realistas, como uma instrução ambígua ou um cliente pedindo algo fora da política, e guarde os resultados.
• Nomeie a pessoa responsável pela resposta a incidentes e descreva como os clientes afetados seriam avisados.
• Inclua o agente no seu modelo de registro de riscos, com um responsável e uma data prevista de revisão.

Como a abordagem gerenciada da Be Human trata isso

A Be Human desenha e opera a camada que dá ao agente sua identidade, memória, canais, ferramentas, permissões e contexto de operação. Assim, essas perguntas são respondidas já no primeiro projeto, e não reconstruídas depois. O primeiro projeto define um papel, a memória e as ferramentas de que ele precisa, seus limites de aprovação e um critério de sucesso observável. A operação gerenciada mantém esses controles em uso por meio de monitoramento, avaliações recorrentes, revisão de permissões, resposta a incidentes e mudanças controladas, e os registros de chamadas de ferramentas e aprovações fazem parte do desenho. A Be Human não vende seguro nem decide coberturas, mas pode fornecer a documentação que o corretor ou a seguradora pedem, que costuma ser a ajuda mais útil nessa etapa.

O que o dono da empresa deve fazer em seguida?

Comece com um único papel de agente, e não com um plano geral para toda a IA. Escreva seu escopo, defina seus pontos de aprovação, confirme que seus registros conseguem responder a uma disputa e só então leve o arquivo ao corretor ou ao seu advogado. A ordem importa, porque as conversas sobre cobertura fluem melhor quando a empresa consegue mostrar o que o agente faz e o que o impede de fazer mais. Se ainda não está claro qual tarefa deve ser entregue primeiro a um agente, o diagnóstico gratuito de IA da Be Human pode ajudar a identificá-la.

Perguntas frequentes

O seguro empresarial comum cobre erros cometidos por um agente de IA? Ele pode cobrir alguns deles, mas a resposta depende do texto da apólice, das exclusões para tecnologia ou serviços profissionais e da seguradora. Peça ao seu corretor que verifique como a apólice trata ações automatizadas e se algum endosso se aplica. Não considere a cobertura garantida até que essa análise esteja por escrito.

O que as seguradoras normalmente querem ver nos registros de um agente? Elas costumam querer saber se a empresa consegue reconstruir uma decisão específica: a solicitação, as informações usadas, as ferramentas chamadas, a saída e o estado da aprovação. Registros que mostram apenas a mensagem final raramente bastam para resolver uma disputa. Mantenha registros detalhados o suficiente para investigar e controlados o suficiente para proteger dados pessoais.

Uma etapa de aprovação humana basta para tornar um agente segurável? Uma etapa de aprovação humana ajuda apenas quando o sistema registra a aprovação, ela se restringe a uma ação específica e é imposta, de modo que o agente não consiga agir sem ela. Uma regra verbal que a equipe deve seguir é difícil de comprovar depois de um incidente. A segurabilidade também depende do escopo do agente, dos registros e do processo de incidentes, e não apenas das aprovações.

Devemos contratar seguro de responsabilidade civil para IA antes de lançar um agente? Defina primeiro o escopo, os controles e as evidências do agente, porque são eles que determinam o que um corretor pode dizer sobre o risco. Depois, consulte o corretor e um advogado sobre o momento da contratação, as condições da cobertura e como a apólice se aplicaria ao seu fluxo de trabalho específico. O seguro é uma parte da gestão do risco, e não um substituto para os controles.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.