Ir para conteúdo
be-human.ai
← Voltar ao blog

Supervisão humana

Superfície de ataque de agentes de IA: mapeie cada ponto de entrada

Método prático para listar cada canal, ferramenta e credencial de um agente de IA, para que a revisão de segurança acompanhe o alcance crescente do agente.

Capa tipográfica do Be Human com o título: Superfície de ataque de agentes de IA: mapeie cada ponto de entrada
Ilustração conceitual criada com IA · Be Human

A superfície de ataque de agentes de IA é o conjunto completo de entradas, ações e credenciais pelas quais um agente pode ser influenciado ou levado a agir. Para mapeá-la, liste todos os canais dos quais o agente lê, todas as ferramentas que ele pode acionar e todas as identidades sob as quais essas chamadas rodam. Depois, atribua um dono e um gatilho de revisão a cada linha. O resultado transforma uma preocupação genérica com um agente que cresce em uma lista finita, que a equipe de segurança consegue conferir.

Principais pontos

  • A superfície de ataque de um agente é definida pelo que ele pode ler, pelo que ele pode fazer e pelas identidades que permitem essas ações.
  • Monte três inventários, de canais, ferramentas e credenciais, e depois cruze os três tarefa por tarefa.
  • Cada nova ferramenta, conector ou caixa de e-mail compartilhada é uma mudança no mapa e deve passar por revisão antes de entrar em uso.
  • Qualquer texto que chegue ao agente por um canal pode conter instruções, então trate todo conteúdo de entrada como não confiável.
  • Revise o mapa em uma agenda fixa e depois de cada incidente, e não apenas no lançamento.

Por que um agente em crescimento precisa de um mapa, e não de uma revisão de lançamento

Uma revisão de segurança feita antes do lançamento descreve o agente como ele era no dia em que entrou em operação. Agentes raramente continuam do mesmo tamanho. Um assistente de atendimento costuma começar com uma base de conhecimento e uma fila de chamados, e depois ganha acesso à agenda, a uma visão de cobrança e a uma caixa de entrada compartilhada, porque cada acréscimo parecia razoável no momento em que foi pedido. Cada acréscimo amplia a superfície um pouco, e nenhuma mudança isolada parece perigosa o bastante para ser barrada.

Um mapa torna esse alcance visível. Ele é uma lista viva de todos os lugares dos quais o agente lê, de todas as ações que ele pode executar e de todos os segredos que usa para fazer uma coisa ou outra. Com a lista pronta, a revisão vira uma comparação: o agente atual corresponde ao que a equipe aprovou? As diferenças são os pontos que pedem uma decisão, e são muito mais fáceis de achar do que a sensação vaga de que o agente cresceu.

Passo 1: inventarie todos os canais dos quais o agente lê

Comece pelas entradas, porque a superfície de ataque começa onde quer que um texto ou dado externo possa chegar ao agente. A injeção de prompt é o caso mais conhecido: instruções escondidas em uma página web, na assinatura de um e-mail ou em um documento enviado podem tentar redirecionar o comportamento do agente. A orientação da OWASP sobre prevenção de injeção de prompt é uma referência útil para esse tipo de problema. O princípio de trabalho é simples: o conteúdo de qualquer canal pode trazer instruções, tenha ou não o remetente pretendido incluí-las.

Para cada canal, registre o seguinte:

  • Quem pode escrever nele, como clientes, funcionários, fornecedores, o público ou outros agentes.
  • Se o conteúdo vem de uma pessoa conhecida ou chega automaticamente por um formulário, um webhook ou uma página raspada.
  • Se o agente vê o conteúdo completo ou apenas um resumo produzido por outro sistema.
  • Se o canal é compartilhado com outros sistemas que poderiam alterá-lo.
  • Se o que o agente lê fica guardado na memória dele depois.

Inclua também os canais indiretos. Documentos recuperados, anotações que o agente gravou na memória na semana passada e saídas de outros agentes são todas entradas. Equipes costumam listar a caixa de entrada óbvia e esquecer a base de conhecimento que o agente consulta em silêncio toda vez que responde uma pergunta. Para aprofundar os riscos de textos recebidos, leia injeção de prompt por e-mail em agentes de IA: defesas práticas.

Passo 2: liste todas as ferramentas e a ação que cada uma permite

Uma ferramenta é qualquer função que o agente pode chamar: enviar uma mensagem, criar um registro, atualizar um status, emitir um reembolso, consultar um banco de dados ou executar um script. As ferramentas são o ponto em que um assistente somente de leitura vira um agente que age, por isso cada uma precisa de uma linha própria no mapa. A introdução ao Model Context Protocol descreve como ferramentas e fontes de dados são expostas aos modelos, o que dá um vocabulário útil quando você pergunta à equipe de engenharia o que está conectado.

Classifique cada ação pelo efeito que ela produz:

  • Leitura: consultar um registro ou documento sem alterar nenhum sistema.
  • Rascunho: produzir um texto ou uma proposta de mudança que uma pessoa precisa liberar.
  • Escrita: alterar um registro, um status ou um arquivo dentro de um sistema da empresa.
  • Envio externo: contatar alguém de fora da empresa por e-mail, mensagem, chat ou voz.
  • Compromisso ou dinheiro: qualquer ação que gaste recursos, mude um preço, aceite condições ou movimente valores.
  • Exclusão ou exportação: remover dados ou levá-los para fora do armazenamento aprovado.

As três últimas categorias merecem as travas de aprovação mais fortes. Uma ferramenta que parece inofensiva na lista ainda pode chegar a essas categorias por meio de um parâmetro. Uma ferramenta chamada atualizar nota pode aceitar um campo que muda o status de um cliente, então registre os parâmetros que importam, e não apenas o nome da ferramenta. O guia de mapeamento de permissões para agentes mostra como associar cada ferramenta aos registros e às ações que ela alcança.

Cenário ilustrativo: um agente de agendamento de uma empresa de serviços tem uma ferramenta chamada verificar disponibilidade. O primeiro mapa a marca como leitura. Uma revisão posterior descobre que a mesma ferramenta aceita um identificador de cliente e devolve dados de contato, o que a move para a categoria de acesso a dados e dispara uma verificação de privacidade antes de ela continuar ativa.

Passo 3: rastreie cada credencial e onde ela fica

Toda chamada de ferramenta roda sob uma identidade. Essa identidade pode ser uma conta de serviço, uma autorização OAuth ligada a um funcionário, uma chave de API em um arquivo de configuração ou um token de sessão que o agente reutiliza. As credenciais fazem parte da superfície de ataque porque determinam o que um agente comprometido ou induzido ao erro consegue, de fato, fazer. A documentação do OAuth 2.0 explica como os escopos limitam o que um token pode acessar, e o escopo é a pergunta a fazer sobre cada autorização.

Para cada credencial, registre:

  • Quais ferramentas ou canais a usam, e sob a identidade de quem.
  • O escopo dela, descrito em palavras simples, como ler a agenda compartilhada ou enviar e-mail pelo endereço de suporte.
  • Quem a emitiu e quem pode revogá-la.
  • A data de expiração e a última vez em que foi trocada.
  • Onde ela está guardada, e se aparece em logs, prompts, memória ou capturas de tela.

O último item é o que as equipes costumam pular. Uma chave que está segura em um cofre de segredos ainda pode aparecer em uma linha de log ou em um texto que o agente copiou para a memória. Se o mapa mostrar uma credencial dentro da memória, a memória passa a fazer parte da revisão de credenciais.

Confira cada autorização contra o princípio do menor privilégio. Um agente que escreve rascunhos de resposta raramente precisa de acesso de escrita ao banco de clientes. A orientação da OWASP sobre autorização é uma referência prática para confirmar que cada ação é imposta pelo sistema que guarda os dados, e não apenas sugerida nas instruções do agente. Quando um funcionário sai da empresa, as autorizações delegadas dele também precisam ser removidas, passo que está descrito em desligamento de funcionário e agentes de IA: checklist do mesmo dia.

Passo 4: cruze as três listas em um mapa de tarefas

Canais, ferramentas e credenciais só se tornam úteis quando são cruzados. Um mapa de tarefas acompanha um trabalho do início ao fim, para que quem revisa veja o caminho inteiro de uma vez. Trabalhe uma tarefa recorrente por vez:

  • Escolha uma tarefa recorrente com um dono claro, como responder dúvidas de cobrança ou redigir orçamentos.
  • Anote o canal que dispara a tarefa e cada entrada que pode influenciar o resultado.
  • Liste cada chamada de ferramenta em ordem, com a categoria de ação ao lado.
  • Registre a credencial por trás de cada chamada e o escopo dela.
  • Marque cada passo que altera um registro, contata alguém de fora da empresa ou movimenta dinheiro, e nomeie quem aprova.
  • Verifique se algum passo de alto risco pode rodar sem que uma pessoa o revise antes.

Cenário ilustrativo: uma pequena empresa de serviços profissionais deixa um agente redigir orçamentos a partir de formulários recebidos no site. Ao cruzar as listas, fica claro que o formulário é um canal público, a tabela de preços é uma ferramenta de leitura, o rascunho é uma ação de rascunho e o envio ao cliente é um envio externo feito com a credencial de uma caixa de vendas compartilhada. A lacuna aparece de imediato: o envio externo não tem aprovador, e a credencial da caixa compartilhada também é usada por outras duas ferramentas. A correção é dar ao agente uma credencial própria, com escopo definido, e exigir que uma pessoa libere cada envio.

Manter o mapa atualizado depois do lançamento

O mapa só é útil se mudar quando o agente mudar. Trate os eventos a seguir como gatilhos para uma atualização e uma revisão curta:

  • Uma nova ferramenta, conector ou plugin é adicionado, inclusive um que só deveria ser usado em testes.
  • Um novo canal é aberto, como um formulário web, uma linha telefônica ou uma caixa compartilhada.
  • Uma credencial é renovada, reemitida ou compartilhada com outro sistema.
  • Um funcionário muda de função ou sai da empresa, e o acesso delegado dele é revisto.
  • Um incidente, quase incidente ou saída inesperada aparece nos logs.
  • A memória do agente se expande para guardar um novo tipo de registro.

Defina um único dono para o mapa. Em geral, esse dono é um líder de operações apoiado por profissionais técnicos, e não o próprio agente. Anexe a cada mudança uma nota curta explicando por que ela foi aprovada. Combine o mapa com a lista de revisão de segurança antes do lançamento, para que novas capacidades respondam às mesmas perguntas antes de entrar em uso.

Como a Be Human atua nesse ponto: a Be Human projeta e opera agentes de IA personalizados, cuja identidade, memória, canais, ferramentas, permissões e contexto de operação permanecem sob controle humano. Uma primeira etapa define um papel útil, a memória e as ferramentas de que ele precisa, os limites de aprovação e um critério de sucesso observável, o que dá ao mapa uma versão inicial documentada. A operação gerenciada cobre então monitoramento, revisão de permissões, manutenção das integrações e resposta a incidentes, de modo que o mapa seja atualizado quando o alcance muda, e não redescoberto depois de um problema. Quando você souber por qual tarefa quer começar, o diagnóstico gratuito de IA da Be Human pode ajudar a encontrar a primeira tarefa que vale passar a um agente.

Perguntas frequentes

O que é a superfície de ataque de um agente de IA? É o conjunto de entradas, ações e credenciais pelas quais um agente pode ser influenciado ou levado a agir. Inclui todo canal que alimenta o agente com texto ou dados, toda ferramenta que ele pode chamar e toda identidade sob a qual essas chamadas rodam. Mapear os três dá a uma equipe de revisão uma lista finita para conferir.

Com que frequência o mapa deve ser revisado? Revise em uma agenda fixa, compatível com a velocidade com que o agente muda, e também sempre que ocorrer um dos gatilhos deste artigo. Uma verificação mensal de mudanças em ferramentas e credenciais é um ponto de partida razoável para muitas equipes pequenas, e o resultado deve ser registrado. Qualquer incidente ou quase incidente exige revisão imediata das linhas que ele toca.

Precisamos de profissionais técnicos para montar o mapa? Não para rascunhá-lo. Líderes de operações e donos de negócio podem listar canais, ações e aprovadores junto com quem construiu o agente, e depois pedir que a engenharia confirme credenciais, escopos e onde os segredos ficam guardados. O lado de negócio deve ser dono das decisões sobre o que o agente pode tocar, e a engenharia deve confirmar como essas decisões são impostas.

Um mapa basta para tornar um agente seguro? Não. O mapa mostra onde está o risco, mas não impede, sozinho, que um agente induzido ao erro cause danos. Ele precisa de permissões impostas pelos sistemas que guardam os dados, de travas de aprovação para ações de alto risco e de logs que permitam reconstruir o que aconteceu.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →