Ir para conteúdo
be-human.ai
← Voltar ao blog

Fundamentos de harness

Lista de ferramentas permitidas para agentes de IA: comece pequeno

Aprenda a iniciar cada agente de IA com uma lista curta e revisada de ferramentas e a ampliá-la só quando as avaliações mostrarem uma necessidade real.

Capa tipográfica do Be Human com o título: Lista de ferramentas permitidas para agentes de IA: comece pequeno
Ilustração conceitual criada com IA · Be Human

Uma lista de ferramentas permitidas é a relação explícita das ações que um agente de IA pode executar, e a forma mais segura de começar é dar a cada agente da empresa apenas as ferramentas que o seu papel único exige. Adicione uma ferramenta somente depois que uma avaliação mostrar o agente falhando em uma tarefa real por falta dessa capacidade, e remova qualquer ferramenta que fique sem uso. Assim, as permissões continuam pequenas, fáceis de revisar e rápidas de reverter enquanto o agente comprova o seu valor.

Principais pontos

  • Comece cada agente com o menor número de ferramentas que permita cumprir um papel definido.
  • Trate cada ferramenta como uma permissão delegada, com dono, escopo e regra de aprovação.
  • Adicione uma ferramenta só depois que uma avaliação mostrar uma falha específica que ela resolveria.
  • Remova as ferramentas que ficarem sem uso, porque cada uma é uma superfície extra para erro e uso indevido.
  • Registre cada mudança na lista em um histórico revisado, para poder explicá-la e revertê-la.

Por que menos ferramentas é o ponto de partida mais seguro

Cada ferramenta que um agente pode chamar é uma decisão que você delegou. Uma ferramenta que lê o cadastro de um cliente, envia uma mensagem ou emite um reembolso traz consequências que o modelo não pondera do mesmo jeito que a sua equipe. Quando um agente tem dez ferramentas para um papel que exige três, as sete restantes não são neutras. Elas ampliam o que uma execução confusa ou manipulada pode fazer, abrem caminhos mais difíceis de testar e tornam um incidente mais difícil de rastrear.

As diretrizes de segurança para aplicações com LLM já tratam desse risco. O OWASP Top 10 para Aplicações com LLM descreve a autonomia excessiva, quando um agente recebe mais funcionalidades, permissões ou autonomia do que a tarefa exige. O remédio é o princípio que orienta as pessoas na maioria das organizações: privilégio mínimo, concedido por papel e revisado com o tempo. Para uma visão mais ampla de onde os agentes se encaixam nas suas operações, o guia Guardrails para agentes de IA nas empresas: por quais começar reúne os controles que convém instalar antes da primeira execução real.

Como montar a primeira lista?

Comece pelo papel, não pelo software. Uma lista escrita antes de o papel estar claro tende a crescer para acompanhar tudo o que o fornecedor oferece. Siga os passos abaixo na ordem, e mantenha o resultado curto o bastante para que um dono de negócio consiga lê-lo de uma vez.

  • Escreva o papel em uma frase, incluindo o que o agente nunca deve fazer.
  • Liste as tarefas que esse papel executa em uma semana normal, usando as mesmas palavras que a sua equipe usa.
  • Para cada tarefa, indique a ferramenta mais simples que a completa e os campos de dados que ela lê ou grava.
  • Classifique cada ferramenta como somente leitura, rascunho ou ação, e nomeie um aprovador humano para toda ferramenta de ação.
  • Defina o escopo de cada ferramenta, como uma caixa de e-mail, um campo de status de pedido ou uma agenda compartilhada.
  • Execute o agente com casos de teste gravados em uma cópia de homologação antes de ele tocar em qualquer sistema real.
  • Revise a lista com o dono do negócio e com a pessoa que vai mantê-la, e então guarde-a como um arquivo versionado.

Na abordagem gerenciada da Be Human, o primeiro trabalho define um papel útil, a memória e as ferramentas que ele exige, os limites de aprovação e um critério de sucesso observável, de modo que a lista seja escrita antes de qualquer agente ser conectado. Depois, a operação gerenciada revisa as permissões em uma agenda recorrente, mantém as integrações por trás de cada ferramenta e trata mudanças na lista como melhorias controladas, e não como acréscimos informais.

Quando uma ferramenta merece entrar na lista?

Uma ferramenta deve merecer seu lugar por resolver uma lacuna documentada, não por parecer útil. Use as perguntas abaixo como guia de decisão quando alguém pedir uma nova capacidade.

  • Adicione a ferramenta se um caso de teste gravado falhou porque o agente não tinha exatamente aquela capacidade, e uma versão somente leitura não teria resolvido o problema.
  • Prefira uma ferramenta de leitura a uma ferramenta de ação sempre que uma leitura responder à pergunta.
  • Segure a ferramenta se um passo de rascunho com aprovação puder substituir a ação direta sem atrasar o negócio de forma relevante.
  • Segure a ferramenta se você não conseguir validar a saída com uma verificação simples de campos, porque saída não validada é difícil de confiar.
  • Recuse a ferramenta se a lacuna real for falta de informação, já que informação pertence a uma fonte de consulta governada e não a uma nova ação.

A última pergunta costuma ser a mais útil. Muitos pedidos que parecem exigir uma ferramenta nova, na verdade, revelam falta de contexto, e acrescentar contexto é mais barato e mais fácil de reverter do que acrescentar um novo poder.

Como é uma lista ampliada na prática?

Cenário ilustrativo: uma pequena oficina de reparos quer que um agente responda clientes sobre o status de pedidos. A primeira lista contém uma ferramenta de leitura que busca o pedido pela referência e devolve o status e a janela de retirada prometida. Os testes gravados mostram o agente respondendo corretamente à maioria dos pedidos, mas incapaz de dizer se uma peça já foi enviada, porque essa informação fica em outro sistema. A equipe adiciona uma ferramenta de leitura para esse sistema, limitada apenas ao status. Reembolsos, cancelamentos e alterações de preço continuam fora da lista, e a mudança fica registrada junto com os casos de teste que a justificaram.

O cenário mostra o padrão. A ampliação foi disparada por uma falha específica, acrescentou a capacidade mais estreita que resolve essa falha e deixou de fora as ações de alto impacto. Se uma equipe quiser mais poder do que o caso exige, o primeiro passo é mostrar o teste que falha.

Cada ferramenta da lista deve ser rastreável até um teste que precisou dela.

Como as avaliações devem justificar cada ampliação?

Uma avaliação é um conjunto estruturado de tarefas, com entradas e resultados esperados, executado sempre da mesma forma para que as mudanças possam ser comparadas. O guia de avaliações da OpenAI descreve essa abordagem para testar o comportamento de modelos contra critérios definidos, e a mesma disciplina vale para o uso de ferramentas por agentes. O seu conjunto de testes deve conter dois tipos de casos: tarefas que a lista atual precisa completar e pedidos que o agente deve recusar ou encaminhar porque a ferramenta não é permitida.

Antes de ampliar, verifique se a falha realmente é sobre ferramentas. Uma instrução fraca, um contrato de tarefa vago ou um exemplo ausente podem causar o mesmo sintoma, e adicionar uma ferramenta para corrigir um problema de prompt apenas transfere o risco. Quando um avaliador automático dá as notas, calibre-o primeiro contra o julgamento humano. Caso contrário, a própria avaliação pode aprovar uma mudança que ninguém revisou de fato.

Quando uma ampliação for aprovada, execute novamente o conjunto completo de testes, e não apenas os casos novos. Uma ferramenta nova pode alterar a forma como o agente trata pedidos que já resolvia bem, e os resultados de regressão fazem parte do registro da mudança.

Como aprovações, escopos e verificações mantêm a lista honesta?

Uma lista de permissões só é tão forte quanto a verificação que a aplica. As permissões devem ser checadas em cada chamada, e não apenas no momento da configuração. A Cheat Sheet de Autorização da OWASP recomenda aplicar o controle de acesso no ponto em que a ação acontece, com regras claras sobre quem pode fazer o quê. Para um agente, isso significa que o harness deve recusar uma chamada de ferramenta fora do escopo aprovado, mesmo que o modelo a solicite, e registrar a tentativa.

As regras de aprovação pertencem ao mesmo registro. Para cada ferramenta de ação, anote quem aprova, quais informações o aprovador vê e por quanto tempo um pedido pode aguardar antes de expirar. As saídas das ferramentas também merecem cuidado. Conteúdo retornado por uma página, um documento ou uma mensagem de cliente pode conter instruções que tentem redirecionar o agente, então limite o que a saída de uma ferramenta de leitura pode disparar.

Como manter a lista pequena ao longo do tempo?

Listas de permissões tendem a crescer em silêncio. Alguém adiciona uma ferramenta para um projeto pontual, o projeto termina e a permissão permanece. Evite isso com uma revisão recorrente. Em cada revisão, verifique quais ferramentas aparecem nos registros, quais nunca foram chamadas e quais escopos são mais amplos do que o papel atual exige. Remova as ferramentas sem uso, reduza os escopos que se mostraram maiores do que o necessário e registre cada remoção da mesma forma que registra as adições.

A revisão também mantém o negócio honesto sobre para que serve o agente. Se o papel mudou, reescreva primeiro a frase do papel e derive a lista novamente a partir dela. Mapear a primeira lista também é a forma mais rápida de ver quais trabalhos valem a pena ser entregues a um agente, então faça o diagnóstico gratuito de IA da Be Human para encontrar a primeira tarefa que vale a pena delegar.

Perguntas frequentes

Com quantas ferramentas um primeiro agente deve começar? Comece com o menor conjunto que completa um papel definido, que muitas vezes são apenas algumas ferramentas de leitura e, no máximo, uma ferramenta de rascunho ou ação. O número certo é o que os seus casos de teste exigem, e não um número escolhido de antemão. Se a lista parecer curta demais, o próximo passo é um teste que falha, não uma lista maior.

Qual é a diferença entre lista de permissões e lista de bloqueio para agentes? Uma lista de permissões nomeia as únicas ferramentas que o agente pode chamar, então tudo o que não está listado é recusado por padrão. Uma lista de bloqueio nomeia as ferramentas proibidas e permite todo o resto, o que significa que cada nova ferramenta é liberada até que alguém lembre de bloqueá-la. Para agentes de negócio, a lista de permissões é o padrão mais seguro, porque transforma cada nova capacidade em uma decisão explícita.

Como saber quando é seguro adicionar uma ferramenta? É razoável adicionar uma ferramenta quando um teste gravado mostra uma falha específica que só aquela capacidade resolve, quando o escopo e a regra de aprovação da ferramenta estão escritos e quando o conjunto completo de testes passa após a mudança. Trate a inclusão como uma mudança versionada, com um responsável nomeado e um plano de reversão. Se alguma dessas peças estiver faltando, a ferramenta não está pronta.

Quem deve ser o dono da lista depois que o agente entra em operação? Um dono de negócio nomeado deve responder pelo papel e pelas regras de aprovação, e uma pessoa de operações ou um serviço gerenciado deve responder pela aplicação técnica e pela agenda de revisão. Propriedade compartilhada sem uma pessoa nomeada costuma significar que ninguém revisa a lista. A responsabilidade deve estar visível no mesmo arquivo que contém a lista, para que quem a lê saiba a quem perguntar antes de qualquer mudança.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →