Ir para conteúdo
be-human.ai
← Voltar ao blog

Supervisão humana

Linhas vermelhas para agentes de IA: decisões que sua empresa não delega

Quais decisões ficam com pessoas responsáveis quando agentes de IA ficam mais capazes? Um método prático para escrever e testar as linhas vermelhas da empresa.

Capa tipográfica do Be Human com o título: Linhas vermelhas para agentes de IA: decisões que sua empresa não delega
Ilustração conceitual criada com IA · Be Human

Uma linha vermelha para agentes de IA é uma decisão curta e escrita que sua empresa nunca delega a um agente, por mais capaz que ele se torne. Para a maioria dos negócios, a lista inclui demissões, compromissos jurídicos vinculantes, orientação médica ou clínica, movimentação de dinheiro acima de um limite definido, mudanças de acesso e promessas feitas a clientes fora dos termos publicados. Escrever essas linhas antes da implantação dá a cada agente um limite que depende de pessoas responsáveis, e não do desempenho do agente.

Principais pontos

  • Uma linha vermelha é uma categoria de decisão que permanece com uma pessoa nomeada, independentemente do desempenho do agente.
  • A maioria das empresas precisa de uma lista curta, cobrindo normalmente demissões, compromissos jurídicos, orientação de saúde, pagamentos acima de um limite, mudanças de acesso e promessas a clientes.
  • Escreva cada linha de forma que uma pessoa consiga testar um pedido real contra ela em um ou dois minutos.
  • Agentes podem reunir fatos, redigir opções e recomendar dos dois lados da linha, mas a pessoa responsável decide e assina.
  • Revise a lista quando ferramentas, permissões ou regras aplicáveis mudarem, e leia os registros de ações tentadas que chegaram perto do limite.

O que é uma linha vermelha e o que ela não é

Uma linha vermelha não é um julgamento sobre quão inteligente o agente é. É uma declaração sobre quem é dono de uma consequência. Sua empresa já funciona assim. Um funcionário júnior pode redigir um contrato, mas não pode assiná-lo, e um atendente pode oferecer a substituição padrão, mas não pode abrir mão de uma política para uma conta grande. Implantações de agentes apagam essa distinção, porque o agente muitas vezes consegue apertar todos os botões que o software expõe. A linha vermelha restaura a diferença entre o que um sistema consegue fazer e o que a empresa autorizou que ele decida.

Linhas vermelhas também são diferentes de etapas comuns de aprovação. Uma etapa de aprovação é um ponto de checagem em um fluxo, muitas vezes usado para itens rotineiros que ainda merecem uma segunda olhada. Uma linha vermelha é uma categoria que o fluxo nunca conclui automaticamente, mesmo quando pular a aprovação seria conveniente. O texto sobre aprovação humana para agentes de IA mostra onde as pessoas assinam dentro de um fluxo. As linhas vermelhas são o subconjunto desses pontos que nunca passa para o automático, por mais tempo que o agente tenha tido bom desempenho.

Quais decisões normalmente entram na lista

Comece pelas categorias e depois ajuste cada uma ao seu negócio. A maioria das listas inclui alguma versão do que segue:

  • Demissão, medida disciplinar ou qualquer mudança na situação de emprego de alguém. O agente pode resumir registros e apontar problemas de processo, mas não recomenda nem comunica um desligamento.
  • Compromissos jurídicos vinculantes, incluindo assinar contratos, aceitar termos que criem obrigações, responder a uma notificação legal em nome da empresa ou fechar um acordo.
  • Orientação médica, clínica ou de saúde dada a pacientes, clientes ou equipe. O agente pode agendar, encaminhar e compartilhar material aprovado, mas não orienta sobre tratamento.
  • Pagamentos, reembolsos, créditos e exceções de preço acima de um limite escrito na sua política.
  • Concessão, ampliação ou restauração de acesso para pessoas, ferramentas ou dados.
  • Compromissos com clientes que não estão nos termos publicados, como prazos prometidos, garantias, exceções ou afirmações sobre conformidade.
  • Exclusão ou alteração de registros que pessoas possam precisar depois, incluindo os próprios registros e a memória do agente.

Mantenha a lista curta. Um documento com dezenas de itens será ignorado em uma semana, e as pessoas deixarão de lê-lo. Poucas linhas bem definidas fazem mais trabalho do que uma política longa que ninguém consegue aplicar no momento em que o pedido chega. Se uma categoria não corresponde a um risco que você realmente enfrenta, remova-a e registre o motivo.

Como escrever uma linha vermelha que as pessoas conseguem aplicar

Uma frase como "nenhuma decisão importante sem supervisão" falha na primeira vez que alguém precisa dela, porque ninguém consegue dizer se um pedido específico cruza a linha. Escreva cada linha vermelha com cinco partes:

  • A ação, em palavras simples, como "enviar reembolso acima do valor previsto na política de reembolso".
  • O papel responsável, nomeado por função, como "o proprietário" ou "o gerente de operações de plantão", e não "a equipe".
  • O que o agente ainda pode fazer, como localizar o pedido, calcular o valor e redigir a mensagem para o proprietário.
  • As evidências de que a pessoa precisa para decidir, como o pedido, a referência da política, o histórico do cliente e a recomendação do agente com a sua incerteza.
  • Onde a decisão e o motivo ficam guardados, e quem pode lê-los depois.

Em seguida, teste cada linha contra três casos reais do passado. Pergunte se a nova regra teria parado o agente no ponto certo e dado a uma pessoa informação suficiente para decidir. Se um caso passado teria sido resolvido automaticamente sob a nova regra, a linha está vaga demais ou o fluxo está enviando o trabalho para o lugar errado.

Um cenário ilustrativo: o reembolso que parece rotina

Cenário ilustrativo: uma pequena loja online dá ao seu agente de atendimento acesso de leitura ao histórico de pedidos e uma ferramenta de reembolso. A política escrita permite reembolsos até um valor definido sem revisão. Um cliente pede um reembolso bem acima desse valor e alega uma entrega atrasada, que o agente consegue confirmar pelos dados de rastreamento. A linha vermelha para pagamentos acima do limite significa que o agente não pode concluir o reembolso. Em vez disso, ele prepara um resumo de uma página com o pedido, os eventos de rastreamento, reembolsos anteriores para o mesmo cliente e duas opções para o proprietário. Ele informa ao cliente que uma pessoa responderá dentro do horário de atendimento indicado e não promete o reembolso. O proprietário aprova uma opção em poucos minutos, a decisão e o motivo são registrados, e o reembolso é emitido por ação do proprietário. O agente fez a preparação. A empresa tomou a decisão e consegue explicá-la depois.

Onde os agentes ainda ajudam perto da linha

Linhas vermelhas são muitas vezes lidas como proibições de envolvimento do agente. Na prática, o agente faz a maior parte do trabalho preparatório: reúne fatos, sinaliza inconsistências, confere o texto da política, redige opções e lembra a pessoa responsável dos prazos. O risco se concentra na última etapa, quando um rascunho vira compromisso. Desenhe a passagem de bastão para que a pessoa veja as evidências e a incerteza do agente, e não apenas uma recomendação. Uma passagem útil contém o pedido, a regra que se aplica, o que o agente verificou, o que não conseguiu verificar e a ação exata que está pedindo para a pessoa aprovar.

Os canais de entrada merecem cuidado especial. Um agente que lê e-mails de clientes pode encontrar texto escrito para manipulá-lo e fazê-lo tratar uma mensagem como instrução. O texto sobre injeção de prompt por e-mail em agentes de IA cobre as defesas que importam nesse caso. A folha de referência da OWASP sobre prevenção de injeção de prompt é uma fonte prática para o lado das entradas, e vale compartilhá-la com quem mantém as ferramentas do seu agente.

Fazer a lista valer nas ferramentas, não só na política

Uma linha vermelha escrita que o software não aplica é apenas uma sugestão. A aplicação vem das permissões. O agente não deve ter credencial capaz de enviar um aviso de demissão, assinar um documento ou movimentar dinheiro acima do limite, e qualquer ação que dependa do contexto deve ser encaminhada para uma fila que uma pessoa nomeada precisa liberar. O NIST AI Risk Management Framework trata governança e responsabilização como trabalho contínuo, e não como uma aprovação única, o que combina bem com esse padrão. Os Princípios de IA da OCDE também atribuem responsabilidade aos atores que desenvolvem, implantam e operam sistemas de IA.

A abordagem gerenciada da Be Human incorpora a lista já no primeiro projeto. Esse trabalho define um papel útil, a memória e as ferramentas de que ele precisa, seus limites de aprovação e um critério de sucesso observável, de modo que as linhas vermelhas apareçam nas permissões e no roteamento, e não apenas em um documento de política. A operação gerenciada inclui monitoramento, revisão de permissões e avaliações periódicas, que comparam a lista com o que o agente de fato tentou fazer. Quando algo dá errado, a abordagem de como parar um agente de IA com segurança permite interromper ações sem perder os registros nem a fila de trabalho necessária para explicar o que aconteceu.

Revisar a lista conforme ferramentas e regras mudam

Linhas vermelhas não são permanentes. Revise-as em um calendário regular e também após eventos específicos:

  • Uma nova ferramenta, canal ou fonte de dados é conectada ao agente.
  • As permissões mudam, incluindo concessões temporárias que nunca foram removidas.
  • Os registros mostram uma ação tentada que chegou perto de uma linha vermelha, mesmo que tenha sido bloqueada.
  • Uma regra muda em uma jurisdição onde você opera ou onde estão seus clientes.
  • Uma pessoa em papel responsável muda, e o novo responsável precisa aceitar a linha explicitamente.

Em cada revisão, confronte a lista com as permissões atuais e com os registros recentes, depois remova, endureça ou acrescente linhas com um motivo curto por escrito. Quem pode parar um agente de IA é uma pergunta complementar útil, porque uma linha vermelha só é tão forte quanto a pessoa que consegue aplicá-la em um dia específico. Se você não tem certeza de qual das suas tarefas atuais com agentes fica mais perto de uma linha vermelha, faça o diagnóstico gratuito da Be Human para identificar a primeira tarefa que vale entregar a um agente.

Perguntas frequentes

Um agente de IA capaz pode tomar decisões de demissão? Para a maioria das empresas, a resposta deve ser não. O agente pode resumir registros e apontar problemas de processo, mas a decisão e a comunicação pertencem a uma pessoa nomeada que consiga explicá-las e defendê-las. Registre o motivo e quem tomou a decisão.

Linhas vermelhas substituem uma política de uso de IA? Não. Uma política de uso descreve o que pessoas e agentes podem fazer de modo geral, enquanto as linhas vermelhas nomeiam as poucas decisões que nunca passam para o tratamento automático. A maioria das empresas precisa das duas coisas, e as linhas vermelhas devem ser referenciadas na política para que a equipe saiba onde estão os limites rígidos.

Quem deve ser dono da lista de linhas vermelhas? Um proprietário ou líder de operações com autoridade sobre as funções afetadas deve ser o responsável, com apoio do jurídico ou de compliance quando houver obrigações envolvidas. O responsável deve ser nomeado por escrito, e a lista deve indicar quando foi revisada pela última vez e por quem, para que não perca validade.

Quantas linhas vermelhas uma empresa pequena precisa? Comece com as poucas que correspondem aos riscos que você de fato enfrenta, em geral algumas linhas específicas. Uma lista longa empurra tudo para uma fila, atrasa o trabalho comum e ensina as pessoas a aprovar pedidos sem ler, o que anula o propósito do limite.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →