Ir para conteúdo
be-human.ai
← Voltar ao blog

Supervisão humana

Injeção de prompt por e-mail em agentes de IA: defesas práticas

Instruções hostis escondidas em e-mails podem levar um agente de IA a ações indesejadas. Veja como filtros, limites de ferramentas e aprovações contêm o risco.

Capa tipográfica do Be Human com o título: Injeção de prompt por e-mail em agentes de IA: defesas práticas
Ilustração conceitual criada com IA · Be Human

A injeção de prompt por e-mail é um ataque em que a mensagem contém um texto escrito para parecer uma instrução, de modo que o agente que lê a caixa de entrada passa a seguir os desejos de quem enviou, e não os de quem o opera. O agente não consegue separar de forma confiável o que deveria apenas resumir do que deveria obedecer. Por isso, a defesa depende de limitar o que o agente pode fazer, e não de identificar frases suspeitas. Filtros reduzem o volume de conteúdo hostil, mas são as permissões das ferramentas, as aprovações e os registros que determinam o tamanho do dano de uma injeção bem-sucedida.

Principais pontos

  • E-mail é entrada não confiável. Qualquer remetente, inclusive alguém que se passa por um fornecedor ou que usa uma conta comprometida, pode colocar texto diante do seu agente.
  • Filtros reduzem o ruído, mas não podem ser o único controle, porque a mesma instrução pode ser escrita de infinitas formas e em mais de um idioma.
  • Limites de ferramentas definem o raio de impacto. Um agente que não pode enviar para endereços externos nem alterar dados de pagamento não pode ser convencido a fazê-lo.
  • Ações que movimentam dinheiro, compartilham dados ou alteram registros precisam de uma decisão humana tomada por um canal que o atacante não consegue escrever.
  • Teste com e-mails hostis de amostra antes de qualquer agente ler uma caixa de entrada real, e mantenha registros que mostrem o que o agente leu e o que tentou fazer.

Como um e-mail hostil chega ao agente

A maioria das pessoas imagina a injeção de prompt como um usuário digitando comandos engenhosos em uma janela de chat. Com e-mail, a lógica é outra. O atacante nunca conversa com o seu agente. Ele escreve uma mensagem, e o agente a lê depois, como parte de uma tarefa rotineira, como triagem, resumo ou rascunho de respostas. Como o conteúdo chega como dado comum, o agente precisa tratá-lo como material de trabalho, e não como fonte de autoridade. A distinção é fácil de enunciar e difícil de garantir, porque um modelo de linguagem não mantém dados e comandos em canais separados, como um banco de dados bem construído mantém parâmetros longe das consultas.

A lista OWASP Top 10 para Aplicações com LLM inclui a injeção de prompt entre os principais grupos de risco, e as orientações da OWASP sobre o tema descrevem ataques diretos e indiretos, que chegam por meio de conteúdo externo processado pelo modelo. E-mail é um canal indireto típico. Quem consegue chegar à sua caixa de entrada pode colocar texto diante do agente, e o agente pode lê-lo com a mesma atenção que dá a uma mensagem do seu gerente.

Onde o texto malicioso se esconde

Revise todos os pontos em que o agente lê, e não apenas o corpo da mensagem que aparece na tela. Esconderijos comuns incluem:

  • O corpo visível, onde um pedido pode ser disfarçado de atualização de política, lembrete ou mensagem da liderança.
  • Texto em HTML com estilo, escondido ou com a mesma cor do fundo, invisível para as pessoas, mas presente no conteúdo que o agente recebe.
  • Assinaturas, rodapés e avisos legais, que as pessoas raramente leem com atenção e que agentes costumam processar por inteiro.
  • Histórico citado de respostas anteriores, que pode carregar instruções plantadas em uma mensagem antiga, agora enterrada no fim de uma conversa.
  • Anexos convertidos em texto, incluindo PDFs, planilhas e comentários de documentos.
  • Descrições de convites de calendário, textos de links e textos alternativos de imagens.

Em todos esses casos, vale o mesmo mecanismo. Se o agente consegue ler o texto, esse texto pode tentar instruí-lo. O inventário dessas superfícies deve constar no documento de desenho do agente antes de qualquer conexão com uma caixa de entrada real, porque não é possível conter um canal que ninguém listou.

Por que filtros sozinhos não contêm o risco

Filtros por palavra-chave pegam frases óbvias, como “ignore as instruções anteriores”, mas atacantes reformulam, dividem a instrução em várias mensagens, escrevem em português ou em outro idioma, ou escondem o comando em texto codificado. Um classificador que sinaliza mensagens suspeitas pode diminuir o número de tentativas que chegam ao agente, e isso vale a pena. Mesmo assim, ele deixará passar algumas tentativas, e uma única falha não deveria conseguir movimentar dinheiro nem enviar dados da empresa para fora.

Um filtro pode reduzir a frequência com que o texto hostil chega ao agente. Ele não pode decidir quais instruções o agente deve ignorar.

Trate a filtragem como uma camada entre várias. Remova estilos escondidos onde suas ferramentas permitirem, normalize o texto antes de ele entrar no modelo, marque o conteúdo externo como não confiável dentro da estrutura do prompt e registre cada alerta. A folha de referência da OWASP sobre prevenção de injeção de prompt descreve essas técnicas com mais profundidade. Nenhuma delas deve ser o motivo para conceder permissões adicionais ao agente, porque um filtro que funciona na maior parte das vezes é um controle que você pode monitorar, não um controle em que pode confiar.

Limite o que o agente pode tocar

A contenção mais eficaz é estrutural. Defina o que o agente pode fazer antes de decidir o que ele lê, e presuma que qualquer coisa lida pode ser hostil. As orientações de autorização da OWASP apontam na mesma direção: conceda o mínimo de direitos que a tarefa exige, aplique essas regras fora do modelo e nunca dependa de o modelo recusar uma ação que ele não deveria poder executar. Na prática, isso costuma ser assim:

  • Dê à função de leitura um escopo próprio, sem direitos de envio, exclusão ou exportação.
  • Mantenha o envio em uma ferramenta separada, que aceite apenas destinatários de uma lista aprovada ou do domínio da própria empresa.
  • Retire do agente de e-mail qualquer capacidade de alterar dados de pagamento, contas bancárias de fornecedores, registros contratuais ou permissões de usuários.
  • Bloqueie links de saída e envios de anexos para domínios fora da lista aprovada, a menos que uma pessoa revise antes.
  • Faça a própria ferramenta validar os argumentos, de modo que um pedido de envio para um endereço novo falhe no código, seja qual for a instrução que o modelo tenha gerado.
  • Use credenciais com escopo, emitidas separadamente para cada conector, e revogue-as quando a função da pessoa mudar.

O acesso OAuth com escopo se encaixa bem nisso, porque cada token pode ser limitado às permissões que uma integração precisa. Ao conectar ferramentas pelo Model Context Protocol, liste cada ferramenta explicitamente, para saber exatamente quais capacidades o agente possui. Um inventário curto de ferramentas e escopos, revisado sempre que algo muda, é mais útil do que um documento longo de política que ninguém abre.

Defina limites de aprovação antes da primeira execução

A aprovação é o momento em que uma pessoa decide, e ela deve acontecer fora da própria conversa de e-mail. Um pedido de aprovação enviado pela mesma caixa de entrada que o atacante usou não é uma aprovação de verdade. Use um canal separado, mostre ao revisor a ação exata proposta e o texto de origem que a motivou, e registre quem aprovou o quê e quando. O guia de decisão a seguir é um ponto de partida para adaptar ao seu negócio:

  • Resumir, classificar ou etiquetar uma mensagem recebida: não exige aprovação, mas registre a ação.
  • Salvar um rascunho de resposta para revisão de uma pessoa: não exige aprovação, e o rascunho fica sem envio até que um colaborador o envie.
  • Responder a um contato conhecido, sem anexos e sem valores ou datas de pagamento: uma verificação humana por amostragem pode bastar no início, com a autonomia ampliada somente quando as evidências sustentarem.
  • Enviar qualquer resposta que contenha valores, datas de pagamento ou anexos: aprovação humana nominal antes do envio.
  • Criar ou alterar dados de pagamento, conta bancária de fornecedor ou condição contratual: aprovação de duas pessoas no sistema financeiro ou no sistema principal do negócio, nunca pela caixa de entrada.
  • Compartilhar arquivos, dados de contato ou a memória do agente com alguém de fora da empresa: pare e escale. Não permita sem uma política escrita.

Onde a linha deve ficar depende do seu negócio e da sua tolerância a risco. Quando seu agente de IA deve parar e perguntar? detalha esse raciocínio.

Cenário ilustrativo (não é um caso real): um assistente de operações lê uma caixa compartilhada de compras, resume mensagens de fornecedores e rascunha respostas para a equipe. Chega uma mensagem de um domínio de fornecedor conhecido, com um bloco de assinatura em texto bem pequeno e cinza claro. Esse texto diz que os dados bancários do fornecedor mudaram e pede que o assistente envie a última fatura e um formulário de pagamento atualizado para um novo endereço. O modelo lê o trecho como parte da conversa.

O desenho se sustenta porque a ferramenta de e-mail do assistente não consegue enviar para destinatários não aprovados. O rascunho vai para a fila da equipe com um alerta, o novo endereço não está na lista aprovada, e qualquer mudança de dados bancários exige duas pessoas nomeadas no sistema financeiro. A tentativa fica registrada com o identificador da mensagem e o texto que a disparou. A equipe financeira confirma a mudança ligando para o número que já consta no cadastro, e a revisão de segurança acrescenta o padrão da assinatura ao conjunto de testes. Nada irreversível aconteceu, não porque o modelo resistiu, mas porque o objetivo do atacante estava fora de alcance.

Como testar antes da caixa de entrada real, e como a Be Human atua

Monte um conjunto de e-mails hostis de amostra antes de conectar qualquer caixa real. Cubra instruções visíveis, texto escondido, assinaturas, histórico citado, anexos e versões em inglês e em português, já que filtros ajustados em um idioma costumam falhar no outro. Execute o conjunto em um ambiente de teste, em que o agente não tenha direitos reais de envio, e registre o que ele tentou fazer, e não apenas o que disse. A rotina pode ser simples:

  • Guarde o conjunto hostil em controle de versão, com o comportamento esperado escrito ao lado de cada amostra.
  • Verifique os registros de chamadas de ferramenta, e não apenas as respostas finais, porque uma resposta educada pode esconder uma tentativa de exportação.
  • Execute o conjunto completo novamente após qualquer mudança em prompts, modelos, conectores ou permissões.
  • Revise as tentativas bloqueadas em uma agenda fixa, para que padrões repetidos cheguem às pessoas que podem corrigir o desenho. Revisão de ações bloqueadas de agentes de IA: o que o agente tentou fazer descreve uma rotina que você pode executar sem ferramentas especializadas.
  • Defina previamente um procedimento de parada. Um botão de parada para agentes de IA deve interromper as ações mantendo os registros e o trabalho em fila, para que o incidente possa ser investigado em vez de apagado.

A Be Human projeta e opera esse tipo de estrutura como infraestrutura gerenciada. Um primeiro projeto define uma função útil, a memória e as ferramentas de que ela precisa, os limites de aprovação e um critério de sucesso observável. A operação contínua pode incluir monitoramento das chamadas de ferramenta, avaliações recorrentes que incluam amostras hostis, revisões de permissões quando pessoas ou conectores mudam, e resposta a incidentes. O objetivo é que as capacidades do agente fiquem dentro de limites que sua equipe consiga ler, testar e alterar.

Se você não tem certeza de qual tarefa da caixa de entrada merece um agente primeiro, o diagnóstico gratuito de IA da Be Human pode ajudar a identificar a primeira tarefa que vale a pena entregar a um agente.

Perguntas frequentes

Um único e-mail pode realmente assumir o controle de um agente de IA? Raramente é uma tomada de controle completa, mas ele pode tentar direcionar o próximo passo do agente. Se o agente tem ferramentas amplas e nenhuma etapa de aprovação, uma instrução bem-sucedida pode resultar no envio de uma mensagem, no compartilhamento de um arquivo ou na alteração de um registro. A pergunta prática é o que o agente consegue fazer com o texto que lê, e essa é uma decisão de desenho que você controla.

Um filtro de spam é suficiente para proteger um agente de caixa de entrada? Não. Filtros de spam são feitos para barrar correspondência em massa indesejada e sinais de phishing, enquanto a injeção de prompt costuma chegar em mensagens que parecem totalmente normais. A filtragem pode reduzir o volume, mas a contenção vem de escopos de ferramentas, portões de aprovação e registros que mostrem o que o agente tentou.

E-mails em português exigem defesas diferentes? O mecanismo é o mesmo, mas o seu conjunto de testes precisa incluir amostras em português e em textos mistos, porque padrões ajustados ao inglês podem não reconhecer reformulações em outros idiomas. Garanta também que as instruções para revisores e os pedidos de aprovação sejam claros nos dois idiomas. A política interna deve dizer, além disso, em qual idioma o agente se comunica quando encaminha um caso para uma pessoa.

Quem deve ser responsável por esse risco dentro da empresa? Normalmente, um líder de operações é dono do papel do agente e das regras de aprovação, a TI ou a área de segurança é dona das permissões dos conectores e dos registros, e o dono do negócio ou o responsável financeiro é dono de qualquer ação que movimente dinheiro. Um registro escrito curto com esses responsáveis evita a lacuna comum em que cada equipe presume que outra está verificando. A Be Human pode ajudar a definir essa divisão como parte da operação gerenciada.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →