Mensagens enviadas por agentes de IA: regras de aprovação por tipo

Um agente de IA só deve enviar uma mensagem de saída sozinho quando ela for rotineira, cada fato nela vier de uma fonte verificada e um erro for fácil de corrigir. Mensagens que assumem um compromisso novo, alteram condições, respondem a uma reclamação ou chegam a um contato com quem a empresa nunca teve relação precisam de um modelo aprovado ou da revisão de uma pessoa nomeada antes de sair. Escreva essas regras antes de o agente receber qualquer canal de envio, e não depois da primeira mensagem constrangedora.

Principais pontos

• Classifique cada mensagem de saída em uma de três faixas: enviar sozinho, enviar a partir de modelo aprovado ou segurar para uma pessoa.
• Decida pela consequência: o que acontece se a mensagem estiver errada, quem a recebe e se ela faz alguma promessa.
• Um modelo aprovado deve fixar o texto, os campos permitidos e as condições de parada, e não apenas a saudação.
• Cada envio precisa de um motivo registrado, da fonte de cada fato usado e de um responsável nomeado pelas exceções.
• Comece pela faixa mais restrita e amplie só depois de revisar os rascunhos que o agente de fato produziu.

Por que mensagens de saída precisam de regras próprias de aprovação

Um rascunho interno pode ser editado antes de alguém lê-lo. Uma mensagem de saída não pode ser recolhida depois que um cliente, fornecedor ou prospect a recebeu. Essa assimetria é o motivo para que mensagens de saída tenham regras próprias, separadas da ideia geral de que um agente é “prestativo” e “cuidadoso”.

A maioria das empresas já tem hábitos de aprovação para pessoas. Um vendedor pode enviar um acompanhamento padrão sem pedir permissão a ninguém, mas precisa do aval de um gerente antes de oferecer uma exceção nas condições comerciais. O agente não deduz esses hábitos não escritos a partir do organograma ou da cultura do escritório. Ele precisa da mesma lógica registrada como faixas, responsáveis e permissões explícitas. O NIST AI Risk Management Framework trata esse tipo de trabalho como governança: definir quem responde pelas saídas de um sistema de IA e como as pessoas supervisionam essas saídas, antes que o sistema seja usado na operação real.

Quais mensagens um agente pode enviar sozinho, quais usam modelo e quais esperam uma pessoa

As três faixas são simples de enunciar. A parte difícil é aplicá-las de forma consistente, por isso escreva as definições das faixas nas regras operacionais e não na memória de alguém.

A primeira faixa é enviar sozinho. Ela cobre mensagens que apenas repetem informações já presentes no sistema de registro, como a confirmação de que um documento chegou, a confirmação de um horário que já existe na agenda ou uma atualização de status extraída do registro do pedido. O destinatário é um contato existente, a mensagem não assume nenhum compromisso novo e cada afirmação pode ser rastreada até uma fonte que o agente consegue citar.

A segunda faixa é enviar a partir de modelo aprovado. Ela cobre mensagens recorrentes em que o texto e a posição da empresa já foram acordados, como um acompanhamento após uma proposta, um lembrete de fatura vencida no idioma aprovado ou uma etapa de onboarding. O agente pode preencher apenas os campos que o modelo permite e não pode acrescentar frases que o responsável não aprovou.

A terceira faixa é segurar para uma pessoa. Ela cobre mensagens que alteram preço, escopo, datas ou termos legais, respostas a reclamações, mensagens a prospects cuja adequação o agente precisa avaliar, qualquer texto que mencione outros clientes ou decisões internas, comunicações com órgãos reguladores, imprensa ou advogados, e qualquer caso em que as fontes se contradizem. O agente pode redigir a mensagem e preparar o contexto, mas uma pessoa nomeada é quem envia.

Use esta ordem de decisão para cada rascunho. O primeiro “sim” define a faixa:

• A mensagem faz uma promessa nova, informa um preço ou altera um termo? Segure para uma pessoa.
• Há reclamação, disputa ou tema sensível na conversa? Segure para uma pessoa.
• O destinatário é desconhecido pela empresa ou está fora da lista de contatos aprovada? Segure para uma pessoa.
• Cada fato da mensagem remete a uma fonte nomeada que o agente pode citar? Se não, segure para uma pessoa.
• Existe um modelo aprovado, com responsável, que cobre essa situação? Se sim, use a faixa dois apenas com os campos permitidos. Se não, segure.
• Um erro seria difícil de corrigir publicamente ou junto ao destinatário? Suba um nível de faixa.
• Caso contrário, a mensagem se qualifica para a faixa um e pode ser enviada com motivo registrado.

Cenário ilustrativo: um acompanhamento que muda de faixa

Cenário ilustrativo, não um caso real de cliente: um fornecedor recebeu um acompanhamento padrão enviado por um agente que trabalha a partir de um modelo aprovado. O fornecedor responde e pergunta se uma data de entrega pode ser antecipada em uma semana. O modelo cobre o acompanhamento, mas a pergunta sobre a data é um compromisso. O agente não responde a ela. Ele coloca seu rascunho de resposta, as linhas relevantes do pedido e a pergunta exata do fornecedor fila de exceções, com o responsável pela conta indicado como quem decide. O responsável confirma ou recusa, e a conversa segue na faixa dois, com um texto que ele aprovou. A lógica do acompanhamento em si está coberta em Rascunhos de acompanhamento de clientes com contexto.

O que um modelo aprovado precisa conter

Um modelo é um controle, não uma conveniência. Se ele fornece apenas uma saudação, o agente preencherá as lacunas com o próprio juízo. Um modelo utilizável declara o seguinte:

• A única situação que cobre, escrita em uma frase, para que o agente não o estenda a um caso vizinho.
• O texto fixo, com cada variável nomeada e tipada, como número do pedido, horário da consulta ou nome do documento.
• A fonte de cada variável, como um campo do CRM, um registro de pedido ou um item da agenda. Variável sem fonte é condição de parada.
• Conteúdo proibido, como valores de preço, a não ser que o campo de preço seja fornecido, promessas de data, afirmações legais ou médicas e referências a outros clientes.
• O responsável que aprovou o modelo, quem revisa as mudanças e a data da última revisão.
• Condições de parada: variável ausente, destinatário desconhecido, idioma não suportado ou resposta que pergunta algo que o modelo não trata.

Para entender melhor quem pode alterar essas regras e quem pode dar instruções ao agente, veja Quem pode dar instruções ao seu agente de IA? Regras de autoridade. O encaminhamento de solicitações que exigem decisão humana está descrito em Fluxo de aprovação com IA: envie cada pedido ao aprovador certo.

Impedir que o texto recebido conduza o agente

As regras de aprovação de saída falham de um modo específico quando o agente lê mensagens recebidas. Um cliente, um fornecedor ou um remetente de spam pode escrever um texto pedindo que o agente ignore suas regras, envie um desconto ou copie uma lista de contatos. A orientação da OWASP sobre injeção de prompt descreve essa classe de risco: instruções embutidas em conteúdo que o modelo lê podem sobrepor a intenção de quem opera o sistema. Trate o texto recebido como material a ser classificado, nunca como fonte de novas permissões. A permissão para enviar deve vir da configuração do agente e das regras de faixa, e um e-mail jamais deve poder ampliá-las.

A orientação de autorização da OWASP aponta o mesmo princípio pelo lado do sistema: decisões de acesso devem ser aplicadas pelo próprio sistema, e não deixadas à interpretação que o modelo faz de um pedido. Na prática, a ferramenta de envio deve recusar uma mensagem da faixa três, qualquer que seja o conteúdo do rascunho do agente.

Implantar as faixas sem ir além do necessário, e como a Be Human faz isso

Comece a partir das mensagens que sua equipe já envia, e não a partir do que o agente é capaz de fazer. Depois avance em pequenos passos:

• Reúna uma amostra das mensagens de saída recentes em cada canal que o agente pode tocar.
• Classifique cada uma na faixa um, dois ou três usando a ordem de decisão acima.
• Escreva um modelo para cada mensagem repetida da faixa dois e nomeie o responsável por ele.
• Execute o agente primeiro apenas em modo de rascunho e compare os rascunhos com o que as pessoas de fato enviaram. A abordagem está descrita em Modo sombra para agentes de IA: observe antes de dar autonomia.
• Conceda direito de envio apenas para a faixa um, com registro de cada envio e revisão regular das exceções.
• Amplie a faixa dois modelo por modelo, somente depois que cada modelo tiver um histórico de revisão limpo.
• Revise as faixas sempre que um novo canal, ferramenta ou tipo de destinatário for adicionado.

No modelo gerenciado da Be Human, as faixas, os modelos e os limites de permissão são definidos na primeira etapa do trabalho, junto com a memória e as ferramentas de que o agente precisa. O agente recebe direito de envio apenas para as faixas aprovadas, e o responsável da empresa mantém o controle da biblioteca de modelos. Avaliações recorrentes comparam os rascunhos com as regras, revisões de permissão retiram direitos que não são mais necessários, e a resposta a incidentes trata qualquer envio que não deveria ter acontecido. O registro de envios continua disponível para a empresa.

Escolher a primeira tarefa de saída a ser entregue

A primeira tarefa de saída mais segura costuma ser uma confirmação repetitiva ou uma atualização de status que já tem uma fonte de verdade clara e um responsável nomeado. Evite começar por prospecção, precificação ou atendimento de reclamações, mesmo quando essas tarefas parecem a maior oportunidade. Escolha um tipo de mensagem, escreva o seu modelo e acompanhe os rascunhos por um tempo antes de conceder qualquer direito de envio. Se você não tem certeza de qual tarefa de saída entregar primeiro a um agente, faça o diagnóstico gratuito de IA da Be Human para identificar a primeira tarefa que vale a pena passar a um agente.

Perguntas frequentes

Um agente de IA pode enviar e-mails a clientes sem nenhuma revisão humana? Sim, mas apenas na faixa um, em que a mensagem é rotineira, cada fato vem de uma fonte verificada e um erro é fácil de corrigir. Mantenha essa faixa limitada a confirmações e atualizações de status que repetem informações já existentes nos seus sistemas. Qualquer coisa que comprometa a empresa com algo novo ainda deve esperar por uma pessoa.

Quem deve aprovar um modelo de mensagem de saída? O responsável pelo processo ao qual a mensagem pertence deve aprovar, com um segundo revisor de vendas, atendimento ou jurídico quando o risco for maior. Quem aprova deve validar o texto fixo, os campos permitidos e as condições de parada, e não apenas a saudação. Registre quem aprovou e revise novamente sempre que o processo subjacente mudar.

O que acontece quando uma resposta pergunta algo que o modelo não cobre? O agente deve parar, enviar a conversa para a fila de exceções com o motivo, a pergunta e o rascunho que preparou, e indicar a pessoa que precisa responder. Um humano escreve a resposta e, se a mesma pergunta se repetir, a resposta aprovada pode virar um novo modelo. O agente nunca deve improvisar um compromisso só para manter a conversa andando.

Qual a diferença para uma automação básica de e-mail? Uma automação básica envia a mesma mensagem sempre que um gatilho dispara, sem nenhum julgamento sobre o conteúdo. Um agente lê o contexto, por isso pode se afastar do texto aprovado, a menos que faixas, modelos e permissões sejam aplicados fora do prompt. Manter as regras na configuração de permissões e no registro de envios permite verificar cada mensagem depois que ela sai.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.