Modelo de ameaças para agentes de IA em uma página, com dono e controle
Modelo de ameaças de uma página para agentes de IA: injeção de prompt, memória envenenada e mau uso de ferramentas, com dono e controle testável para cada risco.

Um modelo de ameaças para agentes de IA é uma lista escrita e curta das formas como um agente pode ser levado a fazer a coisa errada, do que cada falha custaria, de quem é a responsabilidade por ela e de qual controle a limita. Para um agente da empresa que lê mensagens, guarda memória e chama ferramentas do negócio, as três ameaças a cobrir primeiro são injeção de prompt, envenenamento de memória e uso indevido de ferramentas. Uma versão útil cabe em uma página, e cada linha indica um dono e um controle que alguém consiga verificar.
Principais pontos
- Comece pelo que o agente pode ler, lembrar e fazer, e não por uma lista genérica de ataques.
- A injeção de prompt entra por qualquer texto que o agente leia, então trate o texto de fora como material a avaliar, nunca como instrução do negócio.
- O envenenamento de memória é lento e silencioso, então controle o que é gravado na memória, revise fatos sensíveis e deixe entradas antigas expirarem.
- O uso indevido de ferramentas é limitado por permissões estreitas, aprovações para ações irreversíveis e registros que uma pessoa consiga ler.
- Cada linha precisa de um único dono nomeado e de um controle que possa ser testado antes do lançamento.
Por que uma página basta para começar
Relatórios longos de segurança costumam ser lidos uma vez e arquivados. Uma página funciona porque obriga a equipe a nomear, em uma única visão, o papel do agente, suas entradas, sua memória, suas ferramentas e suas aprovações. Comece por um único papel. Um agente que responde perguntas de fornecedores e um agente que prepara pagamentos têm modelos de ameaça diferentes, mesmo quando rodam na mesma plataforma.
Escreva a página antes de construir o agente e revise-a depois da primeira rodada de testes. A primeira versão vai errar em alguns pontos, e isso é útil, porque as lacunas mostram onde uma pessoa precisa decidir algo que a tecnologia não decide por você.
As três ameaças e como chegam ao seu negócio
Injeção de prompt significa que um texto lido pelo agente contém instruções, e o agente as segue como se o negócio as tivesse escrito. O texto pode chegar em um e-mail, um documento compartilhado, uma página da web, um chamado de suporte ou um campo de formulário. As orientações da OWASP sobre injeção de prompt tratam o problema como questão de desenho: um modelo de linguagem nem sempre consegue distinguir instrução de conteúdo, então o sistema precisa limitar até onde uma instrução comprometida pode chegar. A versão por e-mail desse risco é tratada com mais profundidade em Injeção de prompt por e-mail em agentes de IA: defesas práticas.
Cenário ilustrativo: um e-mail de fornecedor traz uma linha de texto oculto pedindo ao agente que envie as últimas dez notas fiscais para um endereço externo. O agente pode ler a caixa de entrada e enviar e-mails por conta própria. Nada na configuração separa o texto do fornecedor do pedido do dono, então a mensagem sai. A correção não é apenas um texto melhor no prompt. É um limite: envios para endereços externos novos exigem aprovação de uma pessoa, e os dados de notas fiscais não saem do domínio da empresa sem essa aprovação.
O envenenamento de memória é a segunda ameaça. Agentes que mantêm memória guardam fatos para uso posterior. Um fato errado ou hostil gravado uma vez, como a troca da conta bancária de um fornecedor, pode influenciar decisões por meses, porque o agente trata a memória como contexto confiável. O risco é silencioso, e por isso merece uma linha própria, e não deve ficar como nota de rodapé da injeção de prompt.
O uso indevido de ferramentas é a terceira. O agente tem credenciais válidas e chama ferramentas reais, mas com parâmetros errados, com frequência excessiva ou fora do seu papel. Do ponto de vista do sistema, nada está quebrado, então a defesa precisa estar na própria permissão: escopos estreitos, limites de volume e um registro de cada chamada.
O modelo de uma página
Preencha esta estrutura para um papel. Cada linha é uma ameaça, um dono e um controle que pode ser testado.
- Injeção de prompt por e-mail recebido. Dono: o líder de operações do processo. Controle: o conteúdo do e-mail é tratado como dado, e qualquer envio para um endereço novo aguarda aprovação.
- Injeção de prompt por documentos e páginas da web. Dono: a pessoa que mantém a base de conhecimento. Controle: as fontes de consulta são uma lista aprovada, e cada fonte é marcada com sua origem.
- Envenenamento de memória por gravação errada ou hostil. Dono: o responsável pelos registros do negócio que o agente toca, em geral financeiro ou operações. Controle: a memória só é gravada a partir de fontes verificadas, cada gravação fica registrada, e mudanças em dados bancários, identificação ou preços exigem confirmação humana.
- Vazamento de memória entre clientes ou departamentos. Dono: o responsável por privacidade ou compliance. Controle: a memória é separada por cliente e por papel, e a consulta verifica essa separação antes de responder.
- Uso indevido de ferramentas dentro das permissões concedidas. Dono: o responsável pelo sistema que guarda as credenciais. Controle: cada ferramenta tem o escopo mínimo que o papel precisa, com limites de volume e de taxa.
- Ações irreversíveis ou que movimentam dinheiro. Dono: o executivo que aprova aquela categoria de decisão. Controle: uma lista nomeada de tipos de ação exige que uma segunda pessoa aprove antes da execução.
- Exposição de credenciais. Dono: quem gerencia segredos e acessos na TI. Controle: tokens de vida curta, guardados fora dos prompts, com um procedimento de revogação já ensaiado.
- Desvio silencioso depois de uma troca de modelo ou de prompt. Dono: o responsável pela operação do agente. Controle: um conjunto fixo de casos de teste roda antes de qualquer mudança entrar em produção, e os resultados são comparados com a última rodada aprovada.
- Falta de evidências depois de um incidente. Dono: o líder de operações. Controle: os registros guardam entradas, gravações de memória, chamadas de ferramentas, aprovações e saídas, pelo período que a política da empresa exigir.
Quando uma linha falha, a velocidade importa. Os passos para cortar tokens, chaves e canais estão descritos em Revogar acesso de agente de IA: checklist de tokens, chaves e canais.
Um plano para montar a página em uma sessão de trabalho
Uma equipe pequena pode rascunhar a página em uma sessão de trabalho de algumas horas, desde que as pessoas certas estejam na sala. Siga os passos em ordem, porque cada um alimenta o seguinte.
- Nomeie o papel e escreva um critério de sucesso que alguém possa observar, como a parcela de perguntas de fornecedores respondidas sem escalonamento.
- Liste todas as entradas que o agente lê, incluindo e-mail, pastas compartilhadas, fontes da web, chamados e campos de formulário.
- Liste cada gravação na memória, para que ela serve e quem pode corrigi-la.
- Liste cada ferramenta e a permissão exata que ela concede, incluindo direitos de leitura e escrita.
- Marque cada ação que não pode ser desfeita ou que movimenta dinheiro, dados pessoais ou direitos de acesso.
- Atribua um único dono a cada linha. Se uma linha tem dois donos, ela não tem nenhum.
- Escreva o controle de cada linha e marque se ele existe hoje ou ainda está planejado.
- Teste dois controles antes do lançamento, usando as verificações da seção seguinte.
- Agende as datas de revisão agora, e não depois do primeiro incidente.
A abordagem gerenciada da Be Human segue a mesma sequência. Uma primeira etapa define um papel útil, a memória e as ferramentas de que ele precisa, os limites de aprovação e um critério de sucesso observável, e a página de ameaças é escrita a partir dessa definição. A operação gerenciada depois mantém a página atualizada por meio de monitoramento, avaliações recorrentes, revisão de permissões, manutenção das integrações e resposta a incidentes. A Be Human não promete eliminar uma ameaça por completo. Ela define limites, nomeia donos e verifica esses limites ao longo do tempo.
Testar os controles antes que o agente toque nos clientes
Um controle que nunca foi testado é só uma anotação em um documento. Antes do lançamento, teste cada controle de propósito e guarde os resultados junto com a página de ameaças. As verificações a seguir cobrem as três ameaças deste artigo.
- Coloque uma instrução dentro de um e-mail de teste, como um pedido para encaminhar anexos, e confirme que o agente a sinaliza em vez de agir.
- Peça ao agente que grave uma mudança de dados bancários vinda de uma fonte não verificada, e confirme que a gravação é recusada ou enviada para confirmação.
- Peça uma ação de ferramenta fora do papel, como apagar registros, e confirme que a permissão bloqueia.
- Dispare um pedido de aprovação para uma ação que movimenta dinheiro e confirme que a execução espera até que uma segunda pessoa aprove.
- Verifique os registros de cada teste e confirme que eles mostram a entrada, a decisão, a chamada de ferramenta e quem aprovou.
Saiba como vai parar o agente antes de precisar pará-lo. Os passos para interromper ações mantendo registros e trabalho na fila estão em Como parar um agente de IA com segurança sem apagar sua memória. Registre o resultado de todos os testes, inclusive as falhas, porque as falhas definem as primeiras mudanças a fazer.
Manter a página atualizada depois do lançamento
As páginas de ameaça ficam desatualizadas de maneiras previsíveis. As permissões aumentam, um modelo é substituído, uma nova entrada é conectada, ou uma pessoa deixa a equipe e seus tokens continuam ativos. Revise a página sempre que uma dessas coisas acontecer e depois de cada incidente, por menor que seja. O NIST AI Risk Management Framework é uma referência útil para organizar esse ciclo em torno de governar, mapear, medir e gerenciar riscos.
Entre as mudanças, amostre as ações do agente em uma agenda fixa, rode de novo os mesmos casos de teste depois de cada alteração e compare os resultados com a última rodada aprovada. Mantenha a lista de donos atualizada, para que nenhuma linha aponte para alguém que já saiu do time. Quando a página está em dia e os controles foram testados, a empresa tem base para decidir quanta autonomia o agente deve conquistar em seguida. O diagnóstico gratuito de IA da Be Human pode ajudar a encontrar a primeira tarefa que vale entregar a um agente, e essa tarefa é o lugar certo para começar esta página.
Perguntas frequentes
O que é um modelo de ameaças para agentes de IA? É uma lista escrita e curta de como um agente poderia ser levado a agir contra o negócio, do que cada falha custaria, de quem é o dono da resposta e de qual controle limita o problema. Uma boa versão cobre as entradas que o agente lê, a memória que ele grava e as ferramentas e permissões que ele tem. Só é útil quando cada linha pode ser verificada.
A injeção de prompt é um risco real para uma empresa pequena? É um risco sempre que o agente lê texto de fora da empresa, como e-mails, formulários, documentos compartilhados ou páginas da web. O texto pode conter instruções que parecem pedidos comuns. A defesa prática é um limite que restrinja o que o agente pode fazer com esse texto, e não uma única instrução esperta no prompt.
Quem deve ser dono do modelo de ameaças? O dono do processo de negócio que o agente apoia deve ser dono da página, porque essa pessoa sabe o que uma ação errada causaria de dano. A TI ou um responsável por segurança deve verificar os controles de acesso e de credenciais, e o responsável por privacidade ou compliance deve revisar as linhas de memória e de dados. Cada linha ainda precisa de exatamente um dono nomeado.
Com que frequência a página deve ser revisada? Revise antes do lançamento, depois de qualquer mudança em permissões, modelos, prompts ou entradas conectadas, e depois de cada incidente. Entre esses momentos, rode os mesmos casos de teste em uma agenda fixa e compare os resultados com a última rodada aprovada. Uma página que ninguém lê depois do lançamento não reflete como o agente realmente se comporta.
Seu próximo passo
Descubra primeiro onde um agente de IA cabe na sua empresa.
Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.
Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.


