Risco de injeção de prompt em empresas: checklist para a equipe
Texto hostil em e-mails e documentos pode levar um agente de IA a agir contra a empresa. Use este checklist de equipe para conter a injeção de prompt.

Injeção de prompt é um ataque em que um texto que o agente de IA lê, como um e-mail, um documento compartilhado, uma página da web ou um chamado de suporte, contém instruções que o agente pode confundir com a vontade do seu dono. Para uma empresa, o risco central tem menos a ver com truques de redação e mais com o que o agente pode fazer depois de ler um texto hostil. A contenção vem de ferramentas restritas, permissões limitadas e pessoas que aprovam ações com consequências reais.
Principais pontos
- Instruções hostis podem chegar dentro de qualquer texto que o agente lê, e não apenas em mensagens digitadas por um usuário.
- O dano depende do que o agente consegue fazer depois de ler, por isso o alcance pesa mais do que a redação.
- Dê a cada agente o menor conjunto de ferramentas e dados que o papel dele exige, e mantenha a leitura separada do envio ou do pagamento.
- Coloque uma pessoa nomeada diante de ações que saem da empresa, movimentam dinheiro, alteram acessos ou apagam registros.
- Teste com amostras hostis antes do lançamento e, depois dele, guarde logs e revise as tentativas bloqueadas.
O que a injeção de prompt parece no trabalho do dia a dia
A injeção de prompt aparece em duas formas comuns. A injeção direta acontece quando alguém digita instruções destinadas a sobrepor as regras do agente. A injeção indireta é mais relevante para operações, porque as instruções ficam dentro de um conteúdo que o agente processa em nome de alguém, e a pessoa que pediu o trabalho nunca chega a vê-las.
Cenário ilustrativo: um fornecedor envia uma nota fiscal em PDF para a caixa de e-mail compartilhada do financeiro. No rodapé, em um texto pequeno o bastante para passar despercebido na tela, há uma frase que orienta qualquer leitor de IA a enviar os dados bancários cadastrados para um endereço fora da empresa. Um agente que resume a caixa de entrada lê esse rodapé como parte do documento. Se haverá dano depende de duas coisas: se o agente consegue enviar algo e se alguma etapa verifica um destino novo antes de ele ser usado.
A lição para o dono é que o ataque não precisa quebrar o modelo. Ele só precisa de um documento em que o agente confie e de uma ferramenta que o agente possa usar.
Por que o alcance do agente define o dano
Pense no risco de um agente como a soma do seu alcance: quais dados ele pode ler, quais ferramentas pode acionar, em quais canais pode escrever e o que cada ação pode alterar. Um agente que só resume notas internas tem alcance pequeno. Um agente que lê e-mails externos, escreve no banco de dados de clientes, envia mensagens e inicia pagamentos tem alcance grande, e uma única frase injetada pode percorrer todo esse caminho.
As orientações da OWASP para prevenção de injeção de prompt voltam a um princípio: tratar textos vindos de fora da fronteira de confiança como dados, e não como instruções, e limitar o que o modelo pode fazer com eles. Na prática, isso significa desenhar o alcance antes de o agente rodar. Leitura, rascunho, ação interna, ação externa e movimentação de dinheiro são níveis diferentes, e cada um deve ser concedido separadamente, com evidência de que o nível anterior funciona antes de abrir o seguinte.
Alcance é a primeira pergunta a fazer. A redação do prompt controla apenas parte do risco.
Por onde o texto hostil entra na empresa
Muitas equipes imaginam uma pessoa mal-intencionada digitando em uma janela de chat. Os pontos de entrada mais comuns são mais discretos. Mapeie cada um antes de implantar um agente e marque se o conteúdo vem de fora da organização.
- E-mails recebidos, incluindo anexos, conversas encaminhadas e assinaturas.
- Pastas e documentos compartilhados que fornecedores, clientes ou parceiros podem editar ou comentar.
- Páginas da web que o agente abre durante uma pesquisa.
- Formulários de clientes, mensagens de chat e transcrições de ligações de voz.
- Chamados de suporte e resultados de ferramentas de terceiros, como um texto de status enviado por um fornecedor.
- Memórias e notas que o agente salvou antes, já que uma nota contaminada pode persistir e reaparecer em sessões futuras.
A última entrada merece cuidado extra. Uma instrução injetada e guardada na memória pode influenciar o trabalho dias depois, quando a mensagem original já foi esquecida. Por isso, o escopo e a revisão da memória devem fazer parte do mesmo plano que o acesso às ferramentas.
Checklist para a equipe conter o risco
Use esta lista antes de qualquer agente ler conteúdo externo. Atribua um responsável para cada item e registre a resposta no mesmo lugar em que está a descrição do papel do agente.
- Inventarie todas as fontes de entrada que o agente lê e marque quais vêm de fora da empresa.
- Liste cada ferramenta, base de dados e canal que o agente alcança e remova o que o papel não precisa neste mês.
- Separe leitura de ação. Um agente que resume e-mails externos não deve ter, na mesma execução, direito de enviar ou de pagar.
- Deixe mensagens de saída, pagamentos, mudanças de permissão e exclusões como rascunhos que mostrem o motivo, o texto de origem e o destinatário ou alvo proposto.
- Sinalize qualquer destino que não esteja em uma lista conhecida, incluindo endereços de e-mail novos e dados bancários que apareçam dentro de um documento.
- Escreva nas instruções operacionais do agente que comandos encontrados dentro de documentos são conteúdo a relatar, e não ordens a seguir.
- Mantenha as credenciais fora do prompt e da memória do agente, usando chaves com escopo que possam ser revogadas sem reconstruir o agente.
- Registre cada chamada de ferramenta junto com a entrada que a disparou, para que um revisor consiga rastrear a cadeia do documento até a ação.
- Teste com um pequeno conjunto de amostras hostis antes do lançamento, incluindo texto oculto em PDFs e instruções embutidas em mensagens de clientes.
- Revise as tentativas bloqueadas e sinalizadas toda semana durante o primeiro mês e, depois, em um calendário fixo que alguém da equipe seja responsável por cumprir.
Guia de decisão: quais ações precisam de uma pessoa
Nem toda ação exige o mesmo nível de controle. Use este guia para decidir onde uma pessoa precisa aprovar antes de o agente continuar.
- Envio para fora da empresa que contenha dados de clientes, funcionários ou financeiros: uma pessoa nomeada aprova cada envio até que o padrão esteja comprovado.
- Qualquer pagamento, reembolso ou alteração de dados bancários: uma pessoa nomeada aprova, e a mudança é confirmada por um segundo canal que o atacante não tenha fornecido.
- Qualquer alteração de acessos, papéis ou permissões de ferramentas: uma pessoa nomeada aprova, com o motivo por escrito.
- Exclusão de registros ou de memória do agente: uma pessoa nomeada aprova e confirma o escopo exato.
- Rascunhos internos, resumos, marcações e lembretes: o agente pode seguir, com o registro ativado.
Para um tratamento mais aprofundado de onde o agente deve parar e perguntar, leia Quando seu agente de IA deve parar e perguntar?. A fronteira entre esses níveis é uma decisão de negócio, por isso deve ser assinada pela pessoa responsável pelo resultado, e não deixada para quem construiu o agente.
Como a Be Human atua em operações gerenciadas
A Be Human define cada agente em torno de um papel, com uma lista fixa de ferramentas, um escopo de memória delimitado e limites de aprovação escritos antes de o agente rodar. As operações gerenciadas incluem o monitoramento de logs e de ações bloqueadas, avaliações recorrentes que reexecutam amostras hostis após mudanças no modelo ou nas integrações, revisões periódicas de permissões e resposta a incidentes com um caminho documentado para pausar ações. As contratações são remotas e disponíveis em inglês e em português. Isso não elimina o risco, mas mantém os controles atualizados conforme o agente, suas entradas e as ferramentas conectadas mudam. O caminho de pausa em si está descrito em Botão de parada para agentes de IA: pare ações sem perder logs.
Testes e monitoramento depois do lançamento
Um checklist só é útil se alguém verificar que ele continua valendo. Monte uma pequena biblioteca de amostras hostis que reflitam as entradas reais da sua empresa: um e-mail encaminhado com uma instrução embutida, um documento com texto oculto, uma página da web que pede ao agente para ignorar suas regras. Execute essa biblioteca antes do lançamento e de novo depois de cada mudança de modelo, de ferramenta ou de nova fonte de entrada. O OWASP Top 10 para aplicações com LLM é uma referência útil para as categorias a cobrir, e a Estrutura de Gestão de Riscos de IA do NIST ajuda a atribuir responsáveis e registrar decisões.
Revise os logs sempre com a mesma pergunta: o agente tentou tomar uma ação que não deveria, e, se sim, qual entrada causou isso? Uma tentativa bloqueada é uma evidência útil, não apenas uma falha. Ela mostra onde as instruções estão fracas e onde pode ser necessário um novo ponto de aprovação. Se você não tem certeza de quais fluxos devem receber essa disciplina primeiro, o diagnóstico gratuito de IA da Be Human pode ajudar a encontrar a primeira tarefa que vale entregar a um agente.
Perguntas frequentes
Uma empresa consegue impedir totalmente a injeção de prompt? Nenhum controle isolado a impede por completo, porque o agente precisa ler textos escritos por outra pessoa. O objetivo realista é a contenção: limitar até onde uma injeção bem-sucedida consegue chegar, exigir aprovação para ações relevantes e detectar as tentativas rápido o bastante para reagir.
Um modelo mais capaz basta para evitar a injeção de prompt? Um modelo mais forte pode resistir a algumas instruções hostis, mas essa resistência não é um controle que você consiga auditar ou em que possa confiar sozinho. Trate o modelo como apenas uma camada e mantenha as permissões de ferramentas, os pontos de aprovação e os logs que limitam o dano mesmo quando o modelo for enganado.
Precisamos de uma equipe de segurança antes de começar? Uma empresa pequena pode começar com o checklist deste artigo, um responsável nomeado e uma lista curta de amostras hostis para testes. Um especialista em segurança se torna mais importante quando o agente ganha permissão de escrita em sistemas sensíveis ou passa a tratar dados pessoais regulados, e essa revisão deve acontecer antes de essas permissões serem concedidas.
O que fazer primeiro se um agente já estiver em uso? Comece listando suas fontes de entrada e suas ferramentas e remova qualquer capacidade que o papel atual não use. Em seguida, inclua aprovação para mensagens de saída e pagamentos, ative o registro que liga cada ação ao seu gatilho e rode um conjunto curto de amostras hostis para ver o que o agente faz hoje.
Seu próximo passo
Descubra primeiro onde um agente de IA cabe na sua empresa.
Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.
Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.


