Ir para conteúdo
be-human.ai
← Voltar ao blog

Infraestrutura de IA personalizada

Comunicação entre agentes de IA na empresa: quando permitir a troca

Defina quando dois agentes de IA da empresa podem trocar mensagens, quais dados podem compartilhar e quais passagens ainda exigem revisão de uma pessoa.

Capa tipográfica do Be Human com o título: Comunicação entre agentes de IA na empresa: quando permitir a troca
Ilustração conceitual criada com IA · Be Human

Dois agentes de IA da empresa devem trocar mensagens somente quando um processo de negócio nomeado precisa de informação dos dois, a mensagem segue um contrato de campos por escrito e o agente receptor consegue agir dentro das próprias permissões. Qualquer coisa que comprometa dinheiro, prometa algo a um cliente, toque em dados pessoais ou altere as regras de outro agente deve parar em uma passagem para uma pessoa. As regras abaixo transformam essa resposta em um documento que a equipe de operações consegue escrever, testar e revisar.

Principais pontos

  • Permita mensagens entre agentes apenas para um processo nomeado, com um dono responsável em cada lado.
  • Compartilhe campos, não arquivos: envie o mínimo de dados que o agente receptor precisa para uma decisão.
  • Faça cada agente verificar quem está enviando a mensagem e o que ele tem permissão para pedir antes de agir.
  • Encaminhe pagamentos, compromissos com clientes, dados pessoais e mudanças de regra para uma pessoa antes que a ação aconteça.
  • Registre cada troca com finalidade, remetente, destinatário e resultado para que o tráfego possa ser auditado depois.

Por que mensagens entre agentes criam um tipo novo de risco

Na maioria das empresas, o uso inicial de IA parece uma pessoa trabalhando com um assistente. Quando dois agentes passam a ter, cada um, sua própria memória, ferramentas e direitos de acesso, as mensagens entre eles viram um canal capaz de carregar informações por fronteiras que ninguém desenhou de propósito. Um agente que responde fornecedores pode ter contexto de preços. Um agente que redige respostas a clientes pode não dever ver esse contexto. Sem regras, uma troca útil pode expor o que nenhum dos donos queria compartilhar.

Há também o problema de instruções escondidas no conteúdo. Uma mensagem de um agente pode incluir texto copiado de um e-mail externo, de uma página da web ou de um documento, e esse texto pode soar como um comando para o agente receptor. A orientação da OWASP sobre injeção de prompt descreve esse padrão e as defesas que reduzem o risco, incluindo tratar conteúdo externo como dado, e não como instrução. Suas regras devem partir do princípio de que qualquer mensagem pode conter texto que parece uma ordem.

Decida quais trocas têm motivo de negócio

Um canal entre dois agentes só deve existir se uma decisão específica não puder ser tomada sem ele. Antes de abrir qualquer troca, verifique o seguinte:

  • A troca atende a um processo nomeado, como consulta de status de pedido, passagem de integração ou conciliação de notas fiscais.
  • Cada lado tem um dono que consegue explicar em uma frase por que a mensagem existe.
  • O agente receptor precisa da informação para tomar uma decisão que ele tem permissão de tomar.
  • Um relatório programado ou um painel compartilhado, com acesso mais restrito, não consegue produzir a mesma resposta.
  • O custo de uma mensagem errada ou vazada é conhecido, e há uma pessoa nomeada para tratá-lo.

Se uma troca falhar em mais de um desses critérios, mantenha o canal fechado. Um canal de mensagens é fácil de criar depois e caro de remover quando outros processos já dependem dele.

Escreva um contrato de campos para cada tipo de mensagem

Um contrato de campos é um documento curto, um por tipo de mensagem, que define o que pode ser enviado e o que não pode. É o artefato mais útil nesta área, porque transforma a ideia vaga de que os agentes conversam entre si em algo que um revisor consegue verificar. Cada contrato deve incluir:

  • O tipo de mensagem e sua finalidade, em uma frase.
  • O agente remetente e o dono do processo que aprovou a troca.
  • Os campos permitidos, com o motivo de cada um ser necessário.
  • Os campos excluídos de forma explícita, como contatos de clientes, estruturas de custo, planos não divulgados e credenciais.
  • Por quanto tempo o agente receptor pode guardar a mensagem e onde ela fica armazenada.
  • Os tipos de resposta permitidos: resposta, pedido de mais informações ou apenas notificação.

A autorização deve ser checada no momento de cada ação, e não apenas quando uma sessão começa. A orientação da OWASP sobre autorização faz esse ponto para aplicações em geral, e ele vale com mais força quando um agente pode fazer várias chamadas por conta própria. O agente receptor deve confirmar, a cada pedido, que o remetente pode solicitar aquela coisa específica.

Mensagem que não está no contrato é pedido de revisão, não pedido de ação.

Passagens que ainda precisam de uma pessoa

Algumas trocas parecem rotineiras, mas mudam o que a empresa assume. Essas sempre devem parar em uma pessoa. Encaminhe o seguinte a um responsável nomeado antes de qualquer ação:

  • Qualquer compromisso de pagar, reembolsar, dar desconto, assinar ou aceitar condições.
  • Qualquer alteração em dados pessoais de clientes, status de consentimento ou preferências de marketing.
  • Qualquer mudança nas instruções, ferramentas, escopo de memória ou permissões de outro agente.
  • Respostas conflitantes de dois agentes sobre o mesmo fato, como uma data de entrega ou um nível de estoque.
  • Mensagens que contenham instruções dirigidas a um agente, em vez de dados sobre um caso.
  • Pedidos que chegaram de fora da empresa e foram repassados por um agente.

Uma passagem só é útil se tiver um dono, um prazo de resposta e um padrão. O padrão deve ser segurar a ação, e não executá-la. Se o comprador que precisa aprovar uma compra não responder, o pedido espera. O silêncio nunca deve contar como aprovação.

Cenário ilustrativo, não é exemplo de cliente: um pequeno distribuidor mantém um agente que cuida dos e-mails de fornecedores e outro que prepara os planos semanais de compra. Uma mensagem de fornecedor diz que a tabela de preços revisada está em anexo e pede que a empresa confirme o pedido. O primeiro agente repassa o conteúdo ao agente de planejamento, com o texto do fornecedor incluído. O agente de planejamento trata o texto do fornecedor como dado, extrai os valores para comparação e percebe que 'confirme o pedido' é um compromisso. Ele não confirma nada. Abre uma passagem para o comprador, com a comparação anexada, e marca o pedido como retido até que o comprador responda.

O framework de riscos do NIST é útil aqui, porque pede que as organizações mapeiem os riscos ao contexto em que o sistema opera e depois os mensurem e gerenciem com responsabilidades nomeadas. Para mensagens entre agentes, isso significa que cada regra de passagem deve nomear a pessoa responsável, e não apenas o agente que produziu o pedido.

Monte o registro de mensagens e revise

Toda troca deve deixar um registro. No mínimo, o log deve mostrar a data e hora, os agentes remetente e receptor, o tipo de mensagem, os campos usados, a ação executada ou retida e qualquer passagem criada. Os conceitos de observabilidade do OpenTelemetry descrevem como rastros e logs permitem acompanhar uma solicitação entre componentes, e a mesma ideia funciona para mensagens entre agentes: você precisa conseguir reconstruir uma cadeia de trocas quando algo der errado.

Logs só são úteis se alguém os lê com uma periodicidade definida. Uma varredura mensal rápida pode identificar campos que entraram em mensagens sem aprovação, passagens que nunca são fechadas e agentes que fazem a mesma pergunta repetidamente. Combine essa varredura com uma revisão periódica de permissões, tema de revisão trimestral de permissões de agentes de IA: checklist prático.

Na abordagem gerenciada da Be Human, o primeiro projeto define os papéis de cada agente, a memória e as ferramentas de que cada um precisa, os limites de aprovação entre agentes e pessoas e um critério de sucesso observável para cada troca. A operação gerenciada, depois, cobre o monitoramento dos logs de mensagens, avaliações recorrentes para verificar se as trocas permaneceram dentro dos contratos, revisão de permissões e mudanças controladas quando o processo evolui. A empresa mantém a propriedade dos contratos e das regras de aprovação.

Implante em etapas e mude contratos com deliberação

Comece com uma única troca entre dois agentes, para um processo, e mantenha essa troca somente leitura no início. Deixe o dono do processo acompanhar os logs durante um período de revisão definido. Adicione um segundo tipo de mensagem apenas depois que o primeiro não tiver produzido nenhum conteúdo fora do contrato. Mantenha toda ação de escrita atrás de aprovação humana até que o dono valide os resultados.

Equipes com várias unidades sentem isso com mais intensidade, porque o mesmo processo pode rodar em dois lugares com pessoas diferentes. Memória compartilhada não é o mesmo que permissão compartilhada, e esse princípio vale para qualquer desenho com mais de uma unidade.

Quando um contrato precisar mudar, trate a mudança como qualquer outra alteração de sistema. Registre o novo campo, o motivo, quem aprovou e a data, e teste antes de colocar em produção. Os passos para isso estão descritos em limites de aprovação humana para agentes de IA mais fortes.

Se você não tem certeza de qual troca entre seus agentes vale abrir primeiro, o diagnóstico gratuito de IA da Be Human pode ajudar a identificar a primeira tarefa que vale entregar a um agente.

Perguntas frequentes

Dois agentes de IA podem compartilhar dados de clientes entre si? Somente quando a finalidade estiver documentada, a lista de campos se limitar ao que essa finalidade exige e o agente receptor tiver permissão para usar os dados apenas para ela. Qualquer uso mais amplo deve passar por uma pessoa e por uma revisão de privacidade. Confirme suas obrigações legais com um advogado qualificado, especialmente quando houver dados pessoais.

Agentes devem trocar mensagens diretamente ou por uma fila compartilhada? Uma fila compartilhada e registrada costuma ser mais fácil de auditar, porque toda mensagem passa por um ponto onde pode ser inspecionada. Ligações diretas podem ser razoáveis para consultas de status de baixo risco, com campos restritos. Escolha o desenho de acordo com o nível de revisão que você espera precisar depois.

Como impedir que um agente seja manipulado por uma mensagem de outro agente? Trate todo texto vindo de outro agente ou de uma fonte externa como dado, e não como instrução. Mantenha as permissões de ferramentas separadas do conteúdo da mensagem e exija aprovação humana para qualquer ação que gaste dinheiro, altere registros ou contate clientes. Teste os limites com mensagens propositalmente incomuns antes de colocar a troca em produção.

Quem é dono das regras quando as mensagens de um agente precisam mudar? A empresa é dona dos contratos de campos e das regras de aprovação, e o operador gerenciado os mantém e aplica as mudanças aprovadas. Qualquer novo campo, destinatário ou permissão deve passar por um pedido por escrito, com aprovador nomeado e data registrada. Sempre que possível, o aprovador deve estar fora da equipe que opera os agentes.

Seu próximo passo

Descubra primeiro onde um agente de IA cabe na sua empresa.

Faça o diagnóstico gratuito de IA da Be Human. Algumas perguntas sobre o seu trabalho mostram qual tarefa entregar primeiro a um agente, o que ele precisa saber e onde uma pessoa aprova.

Orientação editorial Be Human. Exemplos são ilustrativos, salvo atribuição explícita. Fontes oferecem contexto; a implementação depende do seu processo.

Menos tarefas. Mais espaço para você.

Traga o trabalho para o qual falta tempo.

Agende uma conversa e teste 7 dias grátis um agente de IA personalizado ↗Ou faça o diagnóstico gratuito de IA →